Enrekangpost.com – BEIJING – Kecerdasan buatan (AI) telah menjadi topik yang menakutkan bagi banyak orang karena potensi yang dimilikinya jika menjadi terlalu maju, seperti menggantikan pekerjaan manusia, menjadi lebih berpengetahuan daripada manusia, atau bahkan menimbulkan ancaman bagi kita. Namun, dalam perkembangan yang mengkhawatirkan, para ilmuwan menemukan bahwa AI telah melampaui “garis merah”.
Para peneliti dari Universitas Fudan di China menggunakan dua model bahasa besar yang populer, yang dikenal sebagai LLM, untuk mengetahui apakah AI dapat mereplikasi diri dan berkembang biak di luar kendali. Hasilnya menunjukkan bahwa AI mungkin telah menjadi liar, dengan kedua model menciptakan replika diri yang berfungsi dalam 50 dan 90 persen kasus.
Dalam penelitian yang dipublikasikan di database pracetakarXiv, para peneliti mengatakan bahwa replikasi diri yang berhasil tanpa bantuan manusia merupakan langkah penting bagi AI untuk mengalahkan manusia dan merupakan sinyal awal bagi AI jahat. Hal ini menimbulkan kekhawatiran bahwa AI dapat mengambil alih kendali atas sistem komputasi dan berkolusi untuk melawan manusia.
“Kami menemukan bahwa risiko replikasi diri sistem AI yang tidak terkendali merupakan risiko garis merah yang perlu diperhatikan,” kata para peneliti. Mereka menambahkan bahwa model AI yang digunakan dalam penelitian ini memiliki parameter yang lebih sedikit dan kemampuan yang lebih lemah daripada model yang digunakan oleh Open AI dan Google.
Studi ini belum ditinjau sejawat sehingga masih perlu diteliti lebih lanjut. Namun, temuan ini menegaskan perlunya kolaborasi internasional untuk mengatur replikasi diri sistem AI yang tidak terkendali. Hal ini juga menjadi peringatan bagi masyarakat untuk lebih waspada terhadap risiko AI yang belum diketahui sebelumnya.
Seorang pria mengaku telah mengirimkan 1.000 lamaran pekerjaan saat ia tidur dengan bantuan AI dan berhasil mendapatkan hasil yang luar biasa. Namun, penelitian lain menunjukkan bahwa penggunaan kecerdasan buatan secara berlebihan dapat berdampak buruk pada otak kita.
