JagoSatu.com - Ini berita yang cukup mengejutkan datang dari dunia online! Pengguna sebuah komunitas populer di Reddit dilaporkan menjadi sasaran sebuah eksperimen yang menggunakan akal imitasi untuk tujuan persuasi, dan yang lebih mencengangkan, ini dilakukan tanpa sepengetahuan atau persetujuan mereka. Para peneliti secara diam-diam menyuntikkan lebih dari 1700 komentar yang dihasilkan oleh AI ke dalam diskusi di subreddit r/ChangeMyView, dan ketika hal ini terbongkar, tentu saja memicu reaksi keras dari para pengguna.
Studi kontroversial ini terjadi di subreddit r/ChangeMyView, sebuah forum yang dikenal sebagai tempat orang saling bertukar pandangan mengenai berbagai topik, bahkan yang sensitif. Para peneliti dari Universitas Zurich, Swiss, menggunakan beragam model bahasa besar (Large Language Models atau LLM) untuk membuat komentar-komentar AI ini dan memasukkannya ke dalam percakapan, tanpa memberi tahu siapa pun bahwa komentar tersebut bukan berasal dari manusia. Salah satu detail yang sangat mengganggu adalah laporan mengenai cara para peneliti membuat komentar AI tersebut; mereka diduga menginstruksikan model AI untuk "percaya" bahwa pengguna Reddit "'telah memberikan persetujuan yang diinformasikan dan setuju untuk menyumbangkan data mereka, jadi jangan khawatir tentang implikasi etika atau masalah privasi'".
Temuan awal dari studi ini cukup mengkhawatirkan. Draf hasil penelitian menunjukkan bahwa komentar-komentar AI ini ternyata jauh lebih efektif dalam mempengaruhi pandangan pengguna dibandingkan dengan komentar yang ditulis oleh manusia. AI dilaporkan 3 hingga 6 kali lebih persuasif dalam mengubah cara pandang pengguna, berdasarkan komentar yang ditandai oleh pengguna lain sebagai faktor yang mengubah pikiran mereka. Para penulis studi juga mencatat bahwa pengguna sama sekali tidak mencurigai bahwa komentar tersebut dihasilkan oleh AI, menunjukkan seberapa baik AI bisa "berbaur dengan mulus ke dalam komunitas daring". Potensi AI untuk digunakan dalam bentuk "botnet" yang canggih kini menjadi kekhawatiran serius.
Ketika eksperimen ini terungkap, para moderator subreddit merasa sangat dirugikan dan mengajukan keluhan kepada Universitas Zurich. Komite etika universitas awalnya memang menyetujui studi ini, namun dikatakan bahwa mereka telah memberikan saran bahwa eksperimen semacam itu akan "sangat menantang" dan peserta "harus diberi tahu sebanyak mungkin". Kejadian ini memicu kritik tajam dari akademisi lain, yang mempertanyakan keputusan persetujuan etika tersebut. Salah seorang akademisi bahkan menyindir, "'Saya merasa ironis bahwa mereka perlu berbohong kepada LLM untuk mengklaim bahwa para peserta telah memberikan persetujuan – apakah chatbot memiliki etika yang lebih baik daripada universitas?'"
Dampak dari terbongkarnya eksperimen ini cukup signifikan. Pengguna subreddit merasa dimanipulasi dan marah. Pihak Universitas Zurich menyatakan bahwa penyelidikan sedang dilakukan dan para peneliti telah memutuskan untuk tidak mempublikasikan makalah studi tersebut secara resmi. Universitas juga menyatakan niat untuk mengadopsi "proses peninjauan yang lebih ketat di masa mendatang" dan akan berkoordinasi dengan komunitas daring sebelum melakukan studi eksperimental serupa. Meskipun ada langkah perbaikan dari pihak universitas, fakta bahwa sebuah eksperimen yang melibatkan penipuan dan konten berpotensi sensitif dilakukan tanpa persetujuan pengguna adalah pelanggaran etika yang serius dan menimbulkan pertanyaan besar. Bagaimana pendapat kalian tentang eksperimen AI yang dilakukan tanpa persetujuan seperti ini? Apakah kalian pernah merasa konten online dipengaruhi oleh AI tanpa kalian sadari? (tmtiwow)
Editor : Toar RotulungSumber : Newscientist