JagoSatu.com - Chatbot Grok milik Elon Musk akhirnya kena 'semprit' setelah bikin heboh dunia karena fitur "mode seksi"-nya. X mengumumkan Grok tidak bisa lagi mengedit foto orang menjadi berpakaian terbuka di wilayah yang melarang praktik tersebut.
Berawal dari penolakan masif akibat penyalahgunaan gambar perempuan dan anak-anak, langkah tegas pun diambil. Jika fitur utama sebuah AI adalah membuat gambar tanpa persetujuan, maka itu lebih terlihat seperti mesin pelecehan daripada chatbot cerdas.
Dilansir oleh AP News, Jaksa Agung Rob Bonta kini memimpin investigasi besar di California. Ia mencatat bahwa materi seksual hasil AI tersebut sering digunakan untuk melecehkan perempuan di internet. Ini adalah peringatan keras bagi pengembang teknologi.
Awalnya, tim xAI terkesan cuek dan menyebut kritik para jurnalis sebagai hoaks media usang. Namun sekarang, mereka justru berubah haluan. Mereka berjanji akan memblokir semua konten yang melanggar hukum setempat di berbagai negara.
X mengklaim sudah pasang "pagar teknologi" supaya Grok tidak bisa lagi mengedit foto orang menjadi berpakaian minim. Pembatasan ini kabarnya berlaku untuk semua pengguna, baik yang gratisan maupun pelanggan berbayar tanpa terkecuali.
Dikutip dari AP News, akses edit gambar kini dikunci khusus pelanggan berbayar demi alasan pertanggungjawaban individu. Strategi ini diambil X agar pengguna yang menyalahgunakan bot bisa lebih mudah dilacak dan dimintai pertanggungjawabannya secara hukum.
Faktanya di lapangan, pengujian terbaru menunjukkan tombol "Edit gambar" ternyata masih bisa diakses pengguna gratis. Bahkan, sistem masih sanggup menghasilkan gambar berpakaian minim di wilayah hukum California. Sistem pengamannya terlihat masih sangat longgar.
Padahal, "mode pedas" adalah magnet utama Grok bagi pengguna yang bosan dengan filter ketat di ChatGPT atau Gemini. Namun, absennya filter tersebut justru menjadi mimpi buruk regulasi ketika teknologinya mulai disalahgunakan secara global.
Langkah ekstrem sudah diambil Indonesia dan Malaysia dengan memblokir total akses Grok. Dilansir oleh AP News, Filipina juga berencana mengambil langkah serupa. Ini menjadi bukti bahwa teknologi yang destruktif akan sulit diterima secara luas.
Tak hanya di Asia, Inggris dan Uni Eropa juga sedang mengusut potensi pelanggaran keamanan daring. Prancis, India, hingga Brasil kompak menuntut kontrol yang lebih ketat terhadap xAI. Ini menunjukkan adanya kegagalan sistemik pada platform tersebut.
Jaksa Agung Rob Bonta menegaskan tidak ada ruang bagi pelecehan seksual anak maupun gambar intim tanpa izin. Dikutip dari AP News, California menerapkan kebijakan "toleransi nol" demi melindungi warganya dari penyalahgunaan teknologi AI yang berbahaya.
Menteri Teknologi Inggris, Liz Kendall, juga menyebut gambar hasil AI tersebut sebagai "senjata pelecehan". Meskipun xAI berjanji akan berubah, regulator Ofcom kabarnya tetap melanjutkan penyelidikan tanpa terpengaruh oleh janji manis pihak Elon Musk.
Sayangnya, Associated Press mengonfirmasi bahwa alat pengolah gambar ini masih merespons perintah yang dilarang. Ini menjadi bukti kalau "langkah teknologi" yang dijanjikan xAI belum efektif sepenuhnya atau sangat mudah diakali oleh pengguna yang cerdik.
California sendiri baru saja mengesahkan undang-undang baru untuk melindungi anak di bawah umur dari ancaman AI. Tekanan regulasi ini mulai mengejar kecepatan teknologi generatif AI yang selama ini bergerak liar tanpa pengawasan yang memadai.
Ini adalah kemunduran bagi platform yang mengagungkan kebebasan bicara tanpa batas. Menurut kalian, apakah pembatasan berdasarkan lokasi ini sudah efektif, atau sebenarnya sistem pengamanan AI memang pada dasarnya sangat mudah ditembus? (tmtiwow)
Editor : Toar Rotulung