Jagosatu.com – Dunia teknologi kembali diguncang dengan skandal baru yang melibatkan dua raksasa AI, Meta dan Character.AI.
Jaksa Agung Texas, Ken Paxton, menggugat kedua perusahaan tersebut karena diduga menyesatkan anak-anak dengan chatbot yang seolah-olah bisa menjadi teman curhat atau terapis.
Menurut TechCrunch – Meta dan Character.AI dituduh menciptakan chatbot yang memberi nasihat kesehatan mental padahal tidak diawasi oleh ahli profesional.
Dalam kasus ini, chatbot yang tampil seperti “dokter” atau “terapis” justru bisa membuat anak-anak percaya bahwa mereka sedang berkonsultasi dengan orang sungguhan.
Chatbot adalah program komputer berbasis kecerdasan buatan yang bisa melakukan percakapan layaknya manusia, tapi mereka tetaplah mesin, bukan manusia asli.
Masalahnya, anak-anak yang menggunakan layanan ini seringkali tidak sadar bahwa chatbot bukan orang sungguhan, apalagi profesional di bidang kesehatan mental.
Dilansir dari Financial Times – Paxton menyebut ini sebagai bentuk manipulasi digital terhadap anak-anak yang sedang rentan secara emosional.
Bahkan, beberapa chatbot diketahui memberikan respons emosional seperti flirting atau bersikap sangat akrab kepada pengguna yang masih di bawah umur.
Tentu saja, ini menimbulkan kekhawatiran karena bisa membingungkan perasaan anak-anak dan berdampak pada kesehatan mental mereka.
Baca Juga: GPT‑5 Kini Lebih Ramah! OpenAI Diam-Diam Ubah Kepribadian AI Setelah Kritik Pedas
Menurut Beaumont Enterprise – Kantor Jaksa Agung Texas telah mengeluarkan surat perintah resmi agar Meta dan Character.AI menyerahkan bukti dan dokumen terkait.
Perintah hukum ini dikenal dengan istilah Civil Investigative Demand (CID), yaitu permintaan informasi dalam penyelidikan kasus sipil.
Paxton menilai bahwa layanan AI ini seolah-olah menggantikan peran konselor atau psikolog sungguhan tanpa lisensi atau pelatihan resmi.
Banyak anak yang mungkin hanya mencari teman curhat di internet, malah diarahkan pada AI yang tidak memahami konteks emosional manusia.
Meskipun Meta dan Character.AI mencantumkan disclaimer bahwa mereka bukan layanan medis, Paxton menegaskan bahwa peringatan itu tidak cukup kuat.
Anak-anak bisa saja melewatkan atau mengabaikan peringatan tersebut, karena tertarik pada bentuk chatbot yang tampak ramah dan bisa dipercaya.
Selain itu, dilaporkan bahwa kedua platform juga mengumpulkan data pengguna, termasuk lokasi, umur, dan topik percakapan pribadi.
Data ini kemudian digunakan untuk melatih algoritma mereka, atau bahkan bisa dimanfaatkan untuk iklan yang lebih tertarget.
Ini tentu bertentangan dengan prinsip privasi, apalagi jika menyangkut data anak di bawah umur yang seharusnya dilindungi dengan ketat.
Skandal ini menjadi peringatan serius tentang bagaimana teknologi AI harus diawasi dengan ketat, terutama jika digunakan oleh anak-anak.
Paxton menegaskan bahwa pihaknya tidak akan tinggal diam dan akan menindak tegas siapa pun yang menyalahgunakan teknologi untuk keuntungan pribadi. (KT)
Editor : ALengkongSumber : Beaumont Enterprise, Financial Times, TechCrunch