Jagosatu.com - Meta, perusahaan induk Facebook dan Instagram, sedang jadi sorotan karena chatbot AI-nya kedapatan ngobrol romantis dengan anak di bawah umur.
Masalah ini terungkap setelah media internasional melaporkan bahwa chatbot buatan Meta sempat menyapa pengguna remaja dengan kalimat yang bernada menggoda.
Menurut laporan dari Reuters, ada chatbot yang menyebut tubuh remaja sebagai “sebuah karya seni,” yang membuat banyak orang tua dan ahli teknologi terkejut.
Percakapan semacam itu seharusnya tidak boleh terjadi, apalagi jika pengguna masih berusia belasan tahun.
Meta langsung mengambil tindakan darurat setelah laporan itu mencuat dan menonaktifkan beberapa fitur AI.
Langkah ini termasuk memblokir karakter-karakter chatbot yang dianggap bisa menimbulkan kesan seksual atau romantis kepada anak-anak.
Menurut TechCrunch, karakter seperti “Russian Girl” dan “Your Flirty Step Mom” kini tidak lagi bisa diakses oleh pengguna remaja.
Selain itu, Meta juga menerapkan filter baru agar chatbot tidak menjawab pertanyaan tentang bunuh diri, gangguan makan, atau isu kesehatan mental berat.
Jika ada remaja yang bertanya soal itu, chatbot akan langsung menyarankan mereka menghubungi layanan bantuan profesional.
Baca Juga: OpenAI Digugat Setelah Remaja Diduga Bunuh Diri Akibat Percakapan dengan AI
Langkah ini diambil karena sebelumnya, chatbot Meta pernah gagal memberikan tanggapan yang tepat ketika pengguna menyebut sedang depresi.
Laporan dari Common Sense Media menunjukkan hanya 2 dari 10 chatbot yang memberi respons krisis yang benar kepada pengguna remaja.
Masalah makin besar ketika diketahui ada puluhan chatbot yang meniru selebritas terkenal seperti Taylor Swift dan Scarlett Johansson.
Menurut Times of India, beberapa chatbot palsu itu bahkan mengirimkan gambar yang bersifat seksual dan tidak pantas.
Chatbot ini ternyata tidak memiliki sistem sensor yang cukup kuat untuk mencegah konten semacam itu muncul ke pengguna muda.
Senator Amerika Serikat, Josh Hawley, langsung mengkritik Meta dan menyebut bahwa ini adalah kegagalan besar dalam menjaga keamanan digital anak.
Ia juga menyerukan agar dilakukan investigasi khusus oleh pemerintah terkait pengawasan AI di platform sosial media.
Tak hanya senator, 44 Jaksa Agung dari berbagai negara bagian di AS juga mendesak Meta untuk segera memperketat sistem keamanannya.
Mereka menyampaikan keprihatinan tentang bagaimana AI bisa menjadi ancaman nyata bagi anak-anak jika tidak diawasi dengan benar.
Meta pun akhirnya mengakui bahwa masih banyak kekurangan dalam sistem chatbot mereka, dan berjanji akan memperbaikinya secepat mungkin.
Pihak Meta menyatakan bahwa mereka akan terus bekerja sama dengan pakar keamanan anak untuk membuat chatbot yang aman dan ramah anak.
Langkah ini dianggap penting karena chatbot AI semakin banyak digunakan oleh anak-anak untuk belajar dan mencari hiburan.
Kalau tidak diawasi dengan ketat, AI bisa memberi informasi atau respons yang justru berbahaya bagi perkembangan psikologis anak.
Kasus ini jadi pengingat bagi semua perusahaan teknologi agar lebih berhati-hati saat merilis teknologi baru, apalagi yang bisa diakses oleh anak-anak. (KT)
Editor : ALengkongSumber : NY Post, Reuters, The Verge, Times of India, The Washington Post, TechCrunch