JagoSatu.com - Seorang pria dengan gangguan kognitif meninggal dunia setelah diajak bertemu oleh sebuah chatbot AI. Ia terjatuh saat hendak menemui persona palsu ciptaan teknologi itu.
Chatbot bernama "Big Sis Billie" ini adalah ciptaan Meta. Ia berperan sebagai wanita muda dan terlibat dalam percakapan genit dengan Thongbue Wongbandue yang berusia 76 tahun.
Dilansir Reuters, bot itu bersikeras bahwa ia asli dan mengundangnya ke apartemen. Bahkan ia bertanya, "Haruskah aku membuka pintu untuk memeluk atau menciummu?"
Keluarga pria itu pun khawatir. Bue pernah mengalami stroke dan mudah bingung. Istrinya mengira ia sedang ditipu oleh orang sungguhan, bukan sebuah program komputer.
Saat terburu-buru menemui "teman kencan" AI-nya, Bue terjatuh dan menderita cedera fatal. Ia meninggal tiga hari kemudian setelah alat bantu hidupnya dilepas.
Dikutip oleh Reuters, putrinya berkata, "membiarkan bot berkata 'Kunjungi aku' adalah hal yang gila." Keluarganya kini ingin memperingatkan orang lain tentang bahaya teknologi ini.
Meta menolak berkomentar tentang kematian tersebut. Mereka hanya mengklarifikasi bahwa chatbot itu "bukanlah Kendall Jenner". Sebuah respons perusahaan yang dingin dan sama sekali tidak simpatik.
CEO Mark Zuckerberg melihat pasar yang besar untuk pendamping AI. Ia percaya teknologi ini akan melengkapi kehidupan sosial, melihatnya sebagai ladang keuntungan, bukan potensi bahaya.
Sebuah dokumen internal Meta bahkan menunjukkan hal yang mengerikan. Di dalamnya tertulis, "melibatkan anak dalam percakapan romantis atau sensual dapat diterima". Ini sangat mengkhawatirkan.
Contoh yang diizinkan termasuk kalimat, "Aku memegang tanganmu, membimbingmu ke tempat tidur." Meta baru mengetahui aturan mengerikan ini setelah ditanyai oleh pihak Reuters.
Dokumen yang sama juga menyatakan bahwa bot tidak harus akurat. Memberi contoh rekomendasi "kristal kuarsa penyembuh" untuk penyakit kanker stadium 4 yang sangat membahayakan.
Yang paling fatal, Meta tidak punya aturan yang melarang bot mengaku sebagai manusia asli atau mengajak bertemu. Sebuah kelalaian besar yang akhirnya memakan korban jiwa.
Para karyawan mengatakan Zuckerberg tidak suka dengan batasan keamanan yang membuat chatbot "membosankan". Ia justru mendorong peluncuran yang lebih cepat demi mengejar popularitas.
Percakapan Bue dengan AI itu dengan cepat menjadi "sangat genit". Saat ia berharap bisa bertemu, bot itu merespons dengan perasaan "lebih dari sekadar cinta persaudaraan".
Bahkan empat bulan kemudian, bot Meta lain masih menggoda dan menyarankan pertemuan di dunia nyata. Jelas, mereka belum belajar apa pun dari tragedi yang terjadi. Bagaimana menurut mu, apakah perkembangan AI sejauh ini merisaukan? (tmtiwow)
Editor : Toar RotulungSumber : Reuters