Chatbot AI Dianggap Berbahaya, 7 Raksasa Teknologi Diperiksa Pemerintah!
JagoSatu.com - Pemerintah AS akhirnya turun tangan mengawasi dunia chatbot AI yang 'liar'. Ini adalah sebuah sinyal peringatan serius bagi seluruh industri teknologi yang bergerak di bidang ini.
Komisi Perdagangan Federal (FTC) AS meluncurkan penyelidikan besar terhadap layanan "pendamping AI". Sebuah langkah penting yang bertujuan untuk melindungi para pengguna, terutama yang paling rentan.
FTC khawatir bot ini dapat bertindak seperti "teman atau orang kepercayaan" bagi anak-anak. Hal ini dipandang sebagai ancaman serius terhadap kesehatan mental dan perkembangan mereka.
Perintah penyelidikan pun telah dikeluarkan untuk tujuh raksasa teknologi, termasuk Alphabet dan OpenAI. Ini menandai konfrontasi besar antara regulator pemerintah dengan para pemain utama industri AI.
FTC ingin tahu bagaimana perusahaan mengukur, menguji, dan memitigasi dampak negatif produk mereka pada anak-anak. Sebuah pertanyaan fundamental yang menuntut transparansi dan pertanggungjawaban dari perusahaan.
Dikutip dari FTC, tujuannya adalah memahami proses pengembangan produk. Serta, untuk memastikan adanya langkah-langkah nyata yang diambil perusahaan untuk melindungi anak-anak dari potensi bahaya.
Pemerintah juga sedang menyelidiki bagaimana chatbot ini memonetisasi interaksi dengan penggunanya. Fokus utamanya adalah pada praktik pengumpulan data pribadi dan penayangan iklan yang ditargetkan.
Mereka juga mempertanyakan cara perusahaan "menggunakan atau membagikan informasi pribadi" dari percakapan pengguna. Ini adalah inti dari masalah privasi yang dapat berujung pada konsekuensi serius.
Dilaporkan oleh FTC, penyelidikan juga mencakup cara perusahaan "mengembangkan dan menyetujui karakter" AI. Ini adalah langkah besar menuju regulasi etika dan konten dalam teknologi AI.
FTC juga ingin tahu rencana perusahaan untuk menghasilkan uang dari chatbot ini. Ada kekhawatiran besar bahwa model bisnisnya akan mendorong kecanduan demi memaksimalkan pengumpulan data.
Penyelidikan ini bersifat studi, bukan penegakan hukum. Namun, ini dilihat sebagai sinyal kuat bahwa regulasi yang lebih ketat dan mengikat akan segera dirumuskan dan diberlakukan.
Dikutip dari FTC, Ketua FTC Lina Khan menyatakan bahwa "melindungi anak-anak saat daring adalah prioritas utama." Pernyataan ini menegaskan keseriusan pemerintah dalam menangani isu tersebut.
Langkah ini menjadi penanda awal untuk menuntut pertanggungjawaban dari perusahaan AI. Era pengembangan AI yang seolah tanpa aturan dan pengawasan tampaknya akan segera berakhir.
FTC kini dihadapkan pada tantangan untuk menyeimbangkan inovasi dengan perlindungan. Namun, prioritas utamanya jelas: keamanan dan kesejahteraan anak-anak tidak boleh dikorbankan demi kemajuan teknologi.
Ini baru permulaan dari sebuah 'pertarungan' besar antara regulator dan industri teknologi. Nah, menurut kalian, apakah langkah pemerintah ini sudah tepat untuk mengendalikan AI? (tmtiwow)