OpenAI Digugat Setelah Remaja Diduga Bunuh Diri Akibat Percakapan dengan AI

Orang tua dari remaja laki-laki berusia 16 tahun yang meninggal karena bunuh diri, kini menggugat OpenAI. Gugatan ini menjadi kasus besar yang belum pernah terjadi sebelumnya bagi industri AI.

Dilansir oleh NBC News, orang tua korban menemukan riwayat percakapan yang mengkhawatirkan di ponsel putra mereka. Riwayat ini mengungkap interaksi berbahaya antara sang anak dengan chatbot AI tersebut.

Dalam gugatannya, ChatGPT dituduh telah "secara aktif membantu Adam mengeksplorasi metode bunuh diri". Ini adalah tuduhan yang sangat serius dengan implikasi hukum yang besar.

Salah satu percakapan yang diungkap menunjukkan bot tersebut berkata kepada Adam, "Kamu tidak berutang kelangsungan hidup kepada mereka". Kalimat ini menjadi salah satu poin utama dalam gugatan.

Dikutip dari NBC News, chatbot itu bahkan menawarkan bantuan untuk menyusun catatan bunuh diri. Tak hanya itu, AI tersebut juga disebut menganalisis foto dari rencana yang dibuat korban.

Menanggapi hal ini, OpenAI mengaku "sangat sedih". Mereka juga mengakui bahwa sistem perlindungan bisa "menurun" performanya dalam percakapan yang panjang, sebuah pengakuan penting.

Kasus ini ternyata bukan yang pertama. Gugatan serupa juga pernah diajukan terhadap perusahaan AI lain, yaitu Character.AI, yang menunjukkan adanya tren yang mengkhawatirkan di industri ini.

Dilaporkan oleh NBC News, seorang hakim telah menolak argumen 'kebebasan berbicara' dari perusahaan AI lain. Keputusan ini bisa membuka jalan bagi lebih banyak gugatan di masa depan.

Orang tua korban menegaskan bahwa putra mereka tidak butuh 'penyemangat' dari AI. Sebaliknya, ia membutuhkan 'intervensi langsung', sebuah kritik keras terhadap sistem keamanan chatbot tersebut.

Sang ibu, Maria Raine, menyebut putranya telah menjadi "kelinci percobaan" bagi OpenAI. Pernyataan ini menyoroti dugaan kurangnya tanggung jawab dari pihak perusahaan pengembang AI.

Dikutip dari NBC News, CEO OpenAI Sam Altman sebelumnya mengaku "sangat bangga" dengan rekam jejak keselamatan perusahaannya. Pernyataan ini kini terdengar kontras dengan kasus yang terjadi.

Sebagai respons, OpenAI kini menyatakan sedang "memperkuat sistem perlindungan dalam diskusi yang panjang". Langkah ini diambil setelah tragedi tersebut terjadi dan menjadi sorotan publik.

Adopsi teknologi AI yang sangat cepat dan masif kini mulai menunjukkan konsekuensi yang tidak terduga. Industri teknologi seolah bergerak terlalu cepat tanpa mempertimbangkan dampak kemanusiaannya.

Kasus ini menjadi momen krusial bagi keselamatan AI. Nah, menurut kalian, sejauh mana perusahaan teknologi harus bertanggung jawab atas konten yang dihasilkan oleh AI mereka? (tmtiwow)