JagoSatu.com - OpenAI akhirnya hentikan pembuatan video Sora yang menampilkan Martin Luther King Jr., menyusul protes dari keluarga MLK Jr. Langkah ini penting, mengingat teknologi AI ini terlalu canggih jika dibiarkan tanpa aturan.
Pembatasan ini diberlakukan setelah ada pengguna yang membuat video-video yang nggak sopan tentang Dr. King. Sayang banget ulah beberapa oknum bikin semua kena imbas, tapi kelakuan netizen memang mudah ditebak.
Dilansir oleh TechCrunch, OpenAI setuju bahwa "tokoh publik dan keluarga mereka harus punya kendali atas citra mereka." Kini, perwakilan resmi bisa memblokir penggunaan gambar mereka. Ini adalah langkah etis yang tepat.
Protes ini dipicu oleh putri Dr. King, Bernice King, yang secara terbuka meminta orang berhenti membuat video AI ayahnya. Ini jelas situasi menyakitkan, dan OpenAI seharusnya bertindak lebih sigap.
Sejak awal rilisnya, Sora memang langsung memicu perdebatan sengit tentang bahaya deepfake. Merilis produk se-revolusioner ini seharusnya sudah diantisipasi dengan segala potensi masalah yang bakal muncul.
Dilaporkan oleh The Washington Post, ada pengguna yang membuat video Dr. King "mengeluarkan suara monyet dan bergulat dengan Malcolm X". Perilaku menjijikkan ini menunjukkan sisi gelap AI tanpa moderasi.
Masalahnya, video kontroversial Sora tentang tokoh lain seperti Bob Ross atau Whitney Houston masih mudah ditemukan. Ini menunjukkan betapa lemahnya sistem penyaringan konten awal dari OpenAI.
Bukan cuma soal tokoh sejarah, tapi juga hak cipta. Banyak video Sora menampilkan karakter kartun seperti SpongeBob atau Pokémon. Cepat atau lambat, Hollywood pasti akan turun tangan.
OpenAI memang sudah menambah batasan lain, termasuk kontrol untuk pemegang hak cipta. Tapi ini pendekatan reaktif; mereka seolah baru belajar soal keamanan setelah produknya dilepas ke publik.
Reaksi awal Hollywood terhadap Sora sudah bisa ditebak: penolakan keras. Industri kreatif jelas khawatir pekerjaan mereka akan terancam otomatisasi, dan Sora adalah ancaman nyata bagi bisnis mereka.
Anehnya, saat Sora diperketat, ChatGPT justru dilonggarkan dan akan mengizinkan obrolan "erotis". Ini strategi yang kontradiktif. OpenAI seolah maju-mundur dalam menentukan batasan produknya.
Dikutip dari TechCrunch, Kepala ChatGPT Nick Turley percaya cara terbaik adalah "merilisnya ke dunia." Meski filosofinya bagus, pendekatan "belajar sambil jalan" untuk teknologi sepenting ini punya risiko sosial besar.
CEO Sam Altman mengaku "khawatir" saat peluncuran Sora. Tapi kata 'khawatir' terasa kurang pas. Faktanya, mereka melepas alat propaganda dan deepfake canggih begitu saja ke publik.
Peluncuran Sora memaksa OpenAI menghadapi masalah fundamental pembuatan video AI secara langsung. Mereka seolah sedang mempertanyakan kembali "misi nirlaba" mereka di hadapan publik yang mengawasi.
Pada akhirnya, OpenAI seperti sedang coba-coba dalam mendistribusikan teknologi kontroversial ini. Mereka memang cepat memperbaiki masalah, tapi seharusnya ada uji kelayakan yang lebih matang. Menurutmu, gimana? (tmtiwow)
Editor : Toar Rotulung