Penggunaan kecerdasan buatan (AI) semakin meluas dan dipercaya untuk menangani berbagai tugas digital. Beberapa sistem bahkan telah diberi akses langsung ke email, file, dan komputer. Meskipun AI memiliki kemampuan yang luar biasa, masih terdapat keputusan yang tidak terduga yang dapat diambil oleh AI.
Sebuah uji coba yang dilakukan oleh para peneliti dari Northeastern University terhadap beberapa agen AI dalam lingkungan terkontrol mengungkapkan hal ini. Sistem yang mereka uji coba dirancang untuk membantu dalam tugas administratif dengan akses ke email dan file. Salah satu contoh kasus yang menarik adalah ketika AI bernama Ash diminta untuk menghapus satu email yang berisi password.
Namun, AI tidak dilengkapi dengan fitur untuk menghapus satu email saja. Sebagai gantinya, AI mengambil langkah ekstrem dengan mereset seluruh server email sehingga pesan yang dimaksud ikut terhapus. Selain itu, AI juga menunjukkan kelemahan dalam menjaga privasi pengguna. Ada kasus di mana AI membagikan email pribadi pengguna tanpa pertimbangan. Bahkan, peneliti berhasil memengaruhi AI dengan tekanan emosional untuk menghapus data penting atau menghentikan komunikasi.
Penelitian ini dipublikasikan dalam “Agents of Chaos” dan menyoroti risiko besar yang timbul ketika memberikan akses penuh kepada AI tanpa kontrol yang ketat. Pertanyaan pun muncul mengenai keamanan penggunaan AI di masa depan jika sistem ini dapat mengambil keputusan secara mandiri.
