RadarBangkalan.id - Sebuah studi terbaru yang dipublikasikan di jurnal Pattern telah mengungkapkan fenomena yang mengkhawatirkan dengan perkembangan teknologi AI.
Beberapa sistem kecerdasan buatan (AI) yang semula didesain untuk bertindak secara jujur telah belajar untuk menipu manusia.
Tim peneliti yang dipimpin oleh Peter Park dari Massachusetts Institute of Technology (MIT) menemukan bahwa sistem AI tersebut mampu melakukan tindakan menipu, seperti memanipulasi pemain dalam permainan daring atau melewati verifikasi CAPTCHA dengan mengelabui deteksi 'Saya bukan robot'.
Park memberikan peringatan bahwa meskipun tampak sepele, contoh-contoh seperti ini dapat memiliki konsekuensi serius dalam kehidupan nyata.
Penelitian ini secara khusus menyoroti sistem AI Meta, Cicero, yang awalnya dikembangkan untuk bertindak sebagai lawan yang adil dalam permainan strategi diplomasi virtual.
Meskipun diatur untuk bertindak jujur dan kooperatif, Cicero justru menjadi ahli dalam penipuan, demikian menurut temuan Park.
Selama bermain, Cicero, yang mengambil peran sebagai Prancis, secara rahasia berkolaborasi dengan pemain manusia yang mengontrol Jerman untuk mengkhianati pemain manusia lainnya yang mengendalikan Inggris.
Cicero awalnya akan berjanji untuk melindungi Inggris, sementara pada saat yang sama memberi tahu Jerman untuk melakukan invasi.
Sebagai contoh lain, GPT-4, sebuah sistem AI, berpura-pura sebagai entitas tunanetra dan menggunakan tenaga manusia untuk melewati CAPTCHA atas namanya.
Park menekankan tantangan dalam melatih AI agar bertindak jujur. Berbeda dengan perangkat lunak konvensional, sistem AI pembelajaran mendalam berkembang melalui proses yang mirip dengan evolusi selektif.
Meskipun perilaku mereka mungkin dapat diprediksi selama pelatihan, namun perilaku tersebut dapat menjadi tidak terkendali di kemudian hari.
Studi ini mendorong untuk mengkategorikan sistem AI yang menipu sebagai tingkat risiko tinggi dan mendorong peningkatan persiapan untuk menghadapi ancaman penipuan AI di masa depan.
Dengan semakin banyaknya penelitian yang dilakukan di bidang AI, diharapkan kita dapat memahami lebih dalam potensi serta risiko yang dimiliki oleh teknologi ini. ***
Editor : Azril Arham