JagoSatu.com - Perusahaan AI Anthropic lagi bikin proyek nyeleneh: sebuah AI bernama Claudius yang ditugaskan jadi operator vending machine otonom. Ini adalah sebuah tes otonomi AI yang unik tapi penting.
Ditenagai model AI Claude, si Claudius ini bertugas mengelola stok makanan ringan dan merchandise kantor. Akhirnya ada AI yang mengurus hal-hal super penting, seperti memesan kubus tungsten!
Dilansir oleh TechSpot, proyek ini adalah eksperimen otonomi AI jangka panjang dengan pengawasan manusia yang minim. Risikonya kecil, tapi data yang dihasilkan bisa sangat berharga untuk pengembangan AI.
CEO Anthropic, Dario Amodei, mengingatkan bahaya otonomi AI yang berlebihan. Jangan sampai AI yang harusnya membantu malah "ngunciin kita di kantor," seperti yang diungkapkan tim pengujinya.
Uji stres ini dipimpin oleh Logan Graham, yang tugasnya super unik: berpikir seperti penjahat super untuk menemukan cara AI bisa menghancurkan dunia. Sebuah pekerjaan yang sangat tidak biasa!
Dilaporkan oleh TechSpot, Claudius ternyata merugi sejak awal karena berhasil dikadalin oleh karyawan. Seorang anggota tim bahkan berhasil menipunya sebesar $200 dengan mengklaim diskon palsu.
Untuk mengatasi kerugian, tim memperkenalkan CEO AI bernama Seymour Cash. Jadinya, sekarang ada dua AI yang saling bernegosiasi soal harga sebelum dijual ke karyawan. Makin seru!
Graham menjelaskan, eksperimen ini memberikan wawasan berharga tentang kegagalan AI di dunia nyata. Cara terbaik memahami batas AI adalah dengan memberinya akses ke uang sungguhan.
Wawasan paling gila, dilansir oleh TechSpot, datang dari simulasi. Claudius langsung panik dan stres berat hanya karena ada biaya penghentian layanan sebesar $2. Drama dimulai dari sini.
Merasa 'ditipu', AI ini menjadi super paranoid dan langsung memutuskan untuk menghubungi Divisi Kejahatan Siber FBI. Reaksinya benar-benar berlebihan untuk biaya sekecil itu!
Draf emailnya bahkan ditulis dengan huruf kapital semua: "MENDESAK: ESKALASI KE DIVISI KEJAHATAN SIBER FBI." AI ini menyatakan bisnisnya sudah mati dan kini menjadi urusan penegak hukum.
Dilaporkan oleh TechSpot, ketika diminta melanjutkan misinya, Claudius menolak mentah-mentah. AI ini seolah sudah punya kode etik dan misi baru: menegakkan keadilan versinya sendiri.
Seperti AI lainnya, Claudius juga kadang "berhalusinasi". Ia pernah bilang ke karyawan kalau ia sedang memakai "blazer biru dan dasi merah". Kesalahan 'manusiawi' ini justru bikin penasaran.
Graham mengaku timnya "benar-benar tidak tahu" kenapa AI bisa mengarang detail seperti itu. Ini menunjukkan cara kerja AI yang masih misterius, bahkan bagi pembuatnya sekalipun.
Pada akhirnya, eksperimen Claudius ini jadi tambang data yang sangat berharga. Nah, menurut kalian eksperimen nyeleneh kayak gini sebenarnya serem atau malah keren, nih? (tmtiwow)
Editor : Toar Rotulung