BEIJING – Kecerdasan buatan (AI) ditakuti oleh sejumlah orang lantaran prospek yang digunakan dimilikinya jikalau menjadi terlalu canggih, seperti menggantikan pekerjaan, menjadi tambahan berpengetahuan daripada manusia, atau bahkan menyebabkan ancaman bagi kita.
Sekarang, di perkembangan yang tersebut cukup mengkhawatirkan, para ilmuwan yang mana mempelajarinya menemukan bahwa virus yang disebutkan telah dilakukan tumbuh sedemikian rupa sehingga melintasi “garis merah”.
Para peneliti dari Universitas Fudan di area China menggunakan dua model bahasa besar yang digunakan populer, yang tersebut dikenal sebagai LLM, untuk meninjau apakah Artificial Intelligence dapat mereplikasi diri kemudian tumbuh biak dalam luar kendali, lapor LiveScience .
Dan disarankan Artificial Intelligence kemungkinan besar telah dapat menjadi liar sebab di 10 uji coba, kedua model Teknologi AI menciptakan replika diri merekan yang digunakan terpisah kemudian berfungsi di 50 juga 90 persen kasus.
Dalam penelitian yang tersebut dipublikasikan pada database pracetakarXiv , para peneliti mengatakan: “Replikasi diri yang tersebut berhasil tanpa bantuan manusia merupakan langkah penting bagi Teknologi AI untuk mengalahkan manusia dan juga merupakan sinyal awal bagi Teknologi AI jahat,”
“Itulah sebabnya replikasi diri secara luas diakui sebagai salah satu dari sedikit risiko garis merah pada sistem Kecerdasan Buatan tingkat lanjut,”
“Jika risiko terburuk seperti itu dibiarkan bukan diketahui oleh publik manusia, pada akhirnya kita akan kehilangan kendali melawan sistem Teknologi AI terdepan: mereka itu akan mengendalikan lebih lanjut sejumlah perangkat komputasi, membentuk spesies AI, juga berkolusi satu mirip lain untuk melawan manusia,”
“Temuan kami merupakan peringatan keras tepat waktu tentang risiko Artificial Intelligence parah yang digunakan ada namun belum diketahui sebelumnya, yang dimaksud menyerukan kolaborasi internasional untuk tata kelola yang tersebut efektif terhadap replikasi diri sistem Artificial Intelligence yang digunakan tak terkendali.”
Laporan yang disebutkan menambahkan bahwa model Open Artificial Intelligence kemudian Google “melaporkan tingkat risiko replikasi diri terendah” juga LLM yang digunakan digunakan mempunyai “parameter yang digunakan lebih lanjut sedikit serta kemampuan yang tersebut lebih banyak lemah”.
Studi ini belum ditinjau sejawat sehingga tak jelas apakah hasil ini dapat direplikasi oleh peneliti lain.
Seorang pria secara terbuka mengaku mengandalkan Kecerdasan Buatan sebagai uluran tangan, menggunakannya untuk mengirimkan 1.000 lamaran pekerjaan pada waktu ia tidur dan juga bangun dengan hasil yang digunakan luar biasa . Sementara itu, sebuah penelitian sudah pernah mengungkap dampak mengejutkan dari seringnya pemanfaatan kecerdasan buatan terhadap otak kita , khususnya di area kalangan Gen Z.
