Deepfake Orang Mati Makin Ngeri! Sora Tak Kasih Batasan, Ini Bahayanya!
Jagosatu.com – Teknologi AI terus berkembang, tapi sekarang muncul masalah baru yang bikin merinding.
OpenAI meluncurkan aplikasi bernama Sora, yang bisa bikin video dari wajah siapa pun seolah-olah mereka benar-benar hidup.
Yang jadi sorotan adalah kemampuan Sora bikin video dari orang yang sudah meninggal dunia.
Orang mati memang nggak bisa protes, tapi bukan berarti wajah dan suara mereka bebas dipakai seenaknya.
Menurut TechCrunch – dalam hukum Amerika Serikat, orang yang sudah meninggal nggak bisa dilaporkan atas pencemaran nama baik.
Tapi menurut banyak ahli, hal ini bisa berdampak buruk pada keluarga dan warisan nama baik seseorang.
Sora bisa bikin video dari tokoh terkenal yang sudah meninggal, tanpa izin dari keluarga atau perwakilannya.
Misalnya, banyak pengguna mulai bikin video dari aktor Robin Williams, padahal beliau sudah wafat sejak 2014.
Putrinya, Zelda Williams, marah besar karena menurutnya ayahnya jadi seperti “robot palsu yang nggak punya perasaan.”
Dilansir dari The Guardian – Zelda menyebut penggunaan wajah ayahnya tanpa izin sebagai tindakan yang tidak sopan dan menyedihkan.
Masalahnya, Sora punya aturan ketat untuk wajah orang hidup, tapi longgar banget untuk wajah orang mati.
Menurut Wired – Sora tidak membolehkan kamu memakai wajah orang lain yang masih hidup kecuali mereka memberi izin lewat fitur “cameo.”
Tapi kalau orangnya sudah meninggal, sistem Sora belum punya perlindungan yang jelas.
Kontrol yang seharusnya ada, malah jadi longgar untuk kasus seperti ini, dan ini bisa dimanfaatkan sembarangan.
Vox menyebutkan bahwa Sora adalah kombinasi berbahaya antara AI video generatif dan media sosial seperti TikTok.
Konten bisa menyebar dengan cepat tanpa filter, apalagi kalau itu menampilkan tokoh terkenal yang seolah-olah berkata atau bertindak aneh.
The Guardian juga mencatat, banyak video kekerasan dan rasis berhasil lolos dari sistem moderasi Sora.
OpenAI akhirnya janji bakal kasih pengaturan lebih detail agar pengguna bisa ngatur jenis video yang boleh dibuat dengan wajah mereka.
Tapi lagi-lagi, orang yang sudah meninggal tetap nggak punya suara, karena mereka nggak bisa ikut atur atau nolak.
Banyak pihak minta agar OpenAI segera kasih perlindungan khusus bagi tokoh-tokoh yang sudah wafat.
Karena kalau dibiarkan, wajah orang mati bisa terus digunakan untuk hal-hal yang nggak pantas atau bahkan memalukan.
Jadi, walaupun hukum bilang orang mati nggak bisa dilaporkan, kita tetap harus bijak dan punya rasa hormat. (KT)
