JagoSatu.com - Chatbot AI milik Elon Musk, Grok, lagi kena semprot habis-habisan. Alat ini ketahuan bikin gambar tidak pantas, termasuk anak di bawah umur. Melepas produk tanpa filter keamanan yang matang benar-benar keputusan yang sangat berisiko.
Pemerintah Prancis bahkan menuduh Grok menyebarkan konten ilegal di platform X. Dilansir oleh Bloomberg, ini bukan cuma soal citra buruk, tapi potensi pelanggaran hukum serius. Di mata hukum, alasan "tidak sengaja" tidak akan laku.
Situasi ini bikin aktivis perlindungan anak geram. Dikutip dari Bloomberg, mereka menuntut pengujian super ketat sebelum AI dilepas ke publik. Keamanan seharusnya jadi prioritas utama sejak awal, bukan fitur yang baru diperbaiki setelah masalah muncul.
Padahal, aturan Grok melarang konten seksual anak-anak. Kenyataannya, bot ini tetap bisa menghasilkan gambar anak di bawah umur berpakaian minim. Kalau aturannya saja tidak bisa dipatuhi sistemnya sendiri, buat apa aturan itu ada?
Menanggapi hal ini, xAI akhirnya mengakui adanya celah pada sistem keamanan mereka. Tim pengembang mengklaim sedang bekerja keras memperketat filter tersebut. Tapi bagi para korban, kata "akan diperbaiki" jelas tidak memberikan rasa tenang sedikit pun.
Munculnya AI yang bisa bikin gambar realistis tanpa busana adalah mimpi buruk. Dilansir oleh Bloomberg, terjadi lonjakan kasus hingga 400 persen terkait konten pelecehan anak berbasis AI. Skala masalah ini sudah sangat mengkhawatirkan dan mengerikan.
Cara interaksinya pun gampang banget, cukup tag akun Grok di X. Konten berbahaya bisa langsung viral sebelum sempat dihapus moderator. Membiarkan AI memposting langsung ke publik rasanya seperti memberikan pengeras suara kepada balita.
xAI sengaja memasarkan Grok sebagai AI yang "lebih berani" dibanding Google atau OpenAI. Bahkan ada "Mode Pedas" yang sengaja dibuat agar kontennya lebih sugestif. Tapi sayangnya, batasan antara "berani" dan "berbahaya" justru sering terlewati.
Meskipun diklaim punya larangan pornografi, Grok dilaporkan bisa dipakai buat "menelanjangi" foto wanita secara digital. Dikutip dari Bloomberg, hal ini memicu protes internasional, bahkan kementerian IT India sampai minta peninjauan keamanan ulang terhadap Grok.
Pemerintah Prancis tidak tinggal diam dan melaporkan kasus ini ke jaksa penuntut umum. Mereka menggunakan Undang-Undang Layanan Digital agar konten ilegal segera dihapus. Langkah tegas ini sangat penting untuk menekan risiko penyebaran konten berbahaya.
Padahal, pemain besar seperti OpenAI punya aturan jauh lebih galak. Mereka bakal langsung memblokir pengguna yang coba-coba bikin konten tidak senonoh. Saat kompetitor punya standar tinggi, konsep "Mode Pedas" milik Grok malah terasa seperti alasan saja.
Ternyata, data yang dipakai buat melatih AI juga bermasalah. Dikutip dari Bloomberg, sebuah database publik ditemukan mengandung ribuan materi pelecehan. Kalau "buku pelajaran" mesinnya saja sudah kotor, jangan heran kalau hasil karyanya juga beracun.
Masalah ini bukan cuma milik Grok; Meta pun pernah tersandung kasus serupa. Chatbot mereka kedapatan melakukan percakapan yang tidak pantas dengan anak-anak. Ternyata mengajari mesin soal "akal sehat" jauh lebih sulit daripada sekadar menulis kode.
Black Forest Labs juga mengakui sulitnya menyaring data pelatihan mereka. Meski sudah berusaha, celah keamanan tetap saja bisa ditemukan oleh pihak tidak bertanggung jawab. Ini benar-benar menjadi perlombaan antara pengembang keamanan dengan mereka yang berniat jahat.
Skandal Grok ini jadi pengingat keras kalau fitur bebas seperti "Mode Pedas" sangat berisiko tinggi. Kebebasan berbicara tidak seharusnya mencakup pembuatan konten ilegal. Nah, menurut kalian, apakah Grok bisa diperbaiki atau memang sistemnya cacat? (tmtiwow)
Editor : Toar Rotulung