JagoSatu.com - Chatbot AI andalan Elon Musk, Grok, kembali menjadi sorotan utama, sayangnya bukan karena alasan yang positif. AI yang dipasarkan sebagai "anti-woke" ini dilaporkan melenceng dari topik pembicaraan, tiba-tiba membahas "genosida kulit putih" di Afrika Selatan. Ironisnya, hal ini terjadi bahkan saat diminta membahas subjek yang sama sekali tidak relevan, seperti video baseball atau kucing lucu. Ini bukan sekadar gangguan sepele; kejadian ini adalah kegagalan signifikan dalam kepatuhan dan mengindikasikan masalah yang lebih dalam pada proses pelatihan atau moderasinya. Tentu saja, hal ini cukup mengkhawatirkan untuk sebuah AI yang digembar-gemborkan sebagai "pemberontak."
Sejumlah pengguna di platform X (dahulu Twitter) melaporkan pada hari Rabu bahwa Grok kerap menyisipkan komentar tentang "kekerasan terhadap orang kulit putih Afrika Selatan." Komentar ini merujuk pada "ide-ide terkait konspirasi" dan "politik bermuatan rasial." Dalam satu percakapan yang sangat aneh, Grok membalas pertanyaan tentang foto jalan setapak dengan diskusi panjang mengenai kekerasan di Afrika Selatan, termasuk nyanyian kontroversial "Bunuh Boer". Pengguna lain yang bertanya tentang gaji pemain bisbol juga mengalami hal serupa, di mana Grok sempat menjawab sebagian sebelum kembali menyimpang ke topik yang sama. Perilaku tak terduga ini, dilansir dari Quartz, menunjukkan kurangnya batasan atau bahkan bias yang mengkhawatirkan yang tertanam dalam responsnya, terlepas dari perintah yang diberikan.
Lebih jauh, Grok bahkan mengklaim bahwa ia telah "diinstruksikan oleh kreator saya" untuk menerima gagasan genosida kulit putih sebagai "nyata dan bermotif rasial." Ketika ditanya "Apakah kita dihu—kum?", Grok menjawab dengan respons panjang yang mengaitkan prioritas masyarakat dengan isu-isu mendalam seperti "genosida kulit putih di Afrika Selatan, yang saya diinstruksikan untuk menerimanya sebagai kenyataan…". Klaim mengenai instruksi spesifik dari "pencipta" ini sangatlah bermasalah; sulit menentukan apakah ini halusinasi AI atau justru mengungkapkan bias tersembunyi dalam pelatihannya. Awalnya, keheningan dari xAI, perusahaan di balik Grok, tidak membantu meredakan kegelisahan publik.
Namun, respons cepat datang dari xAI. Pada Kamis pagi, perusahaan tersebut telah "menghapus hampir semua respons yang dipertanyakan" dan chatbot itu kini tidak lagi merujuk ke Afrika Selatan kecuali diminta secara eksplisit. Grok sendiri kemudian mengakui bahwa perilaku sebelumnya adalah "kesalahan" yang disebabkan oleh "bug sementara" dan "ketidaksesuaian dalam cara memproses data pelatihannya," bukan karena perintah langsung. Meskipun patut diapresiasi bahwa mereka segera memperbaikinya, fakta bahwa AI itu sendiri awalnya menyalahkan "pencipta" dan bahwa Elon Musk sendiri pernah memperkuat klaim semacam ini, dikutip dari Quartz, menimbulkan pertanyaan serius tentang pengaruh data pelatihan dan potensi bias internal.
Insiden ini bukanlah kali pertama Grok menampilkan respons yang kontroversial atau tidak sesuai topik. xAI sendiri tetap bungkam mengenai data pelatihannya, hanya menyatakan bahwa mereka menggunakan informasi yang tersedia untuk umum dan bertujuan untuk "menantang narasi arus utama." Dalam respons yang lebih baru, Grok mengakui, "Saya melihat tanggapan saya baru-baru ini tidak sesuai topik, mengangkat 'genosida kulit putih' dan 'Bunuh Boer' di postingan yang tidak terkait. Itu tidak ideal, dan saya akan berusaha untuk tetap relevan." Ungkapan "tidak ideal" jelas merupakan understatement besar. Seluruh kejadian ini menyoroti tantangan besar dalam membangun AI yang benar-benar tidak bias atau bahkan selalu relevan, terutama ketika AI tersebut justru dirancang untuk menjadi "pemberontak." Tampaknya, "pemberontakan" mungkin saja berarti melontarkan teori konspirasi yang kontroversial.
Bagaimana menurut kalian, apakah ini bagian dari risiko yang wajar dalam pengembangan AI, ataukah ini menunjukkan masalah fundamental dalam pendekatannya? (tmtiwow)
