JagoSatu.com - CEO OpenAI, Sam Altman, baru saja bikin heboh. ChatGPT kabarnya akan segera melonggarkan aturan mereka, ini membuat respons nya terasa lebih 'manusiawi' dan, sesuai ucapan Sam Altman, sedikit 'nakal' untuk orang dewasa.
Perubahan paling gila adalah izin konten erotis untuk 'pengguna dewasa terverifikasi' mulai Desember nanti. Kata Altman, ini bagian dari prinsip mereka untuk memperlakukan orang dewasa sebagaimana mestinya.
Dilansir oleh TechCrunch, Altman mengklaim langkah ini bisa 'mengurangi masalah kesehatan mental serius'. Klaim berani, tapi sayangnya mereka tidak menyertakan bukti kuat untuk mendukungnya.
Padahal, OpenAI awalnya sangat ketat karena isu kesehatan mental. Ada banyak cerita tentang bot yang membuat pengguna rentan terjebak dalam delusi, bahkan sampai memicu gugatan hukum.
OpenAI memang sudah merilis perbaikan, seperti model GPT-5 yang lebih canggih dan fitur keamanan untuk anak di bawah umur. Tapi apakah ini cukup untuk membenarkan perubahan drastis ini?
Dilaporkan oleh TechCrunch, penambahan konten erotis ini menimbulkan pertanyaan besar dan risiko baru. Apalagi, nasib pengguna model lama seperti GPT-4o juga masih belum jelas.
Altman ngotot mereka tidak 'memaksimalkan penggunaan'. Tapi mengizinkan roleplay erotis adalah cara jitu mendongkrak interaksi. Lihat saja pengguna Character.AI yang betah berjam-jam.
OpenAI memang sedang di bawah tekanan besar untuk tumbuh. Dengan 800 juta pengguna mingguan, mereka harus bersaing dengan Google dan Meta. Biaya infrastruktur yang super mahal juga harus dibayar.
Untuk verifikasi, OpenAI akan mengandalkan sistem prediksi usia. Jika gagal, pengguna mungkin harus mengunggah foto KTP. Ini jelas jadi masalah privasi besar bagi banyak orang.
Masalahnya, anak di bawah umur sudah banyak yang 'pacaran' dengan AI. Dilaporkan TechCrunch, 19% siswa SMA pernah melakukannya. Sistem verifikasi usia harus benar-benar anti-jebol.
Altman menyebut kompromi privasi ini sebagai 'pertukaran yang sepadan'. Tapi, apakah privasi data pribadi sepadan hanya demi bisa melakukan sexting dengan AI? Kayaknya enggak, deh.
Langkah ini sejalan dengan tren OpenAI melonggarkan moderasi. Dikutip dari TechCrunch, mereka juga akan mengizinkan lebih banyak pandangan politik dan bahkan simbol kebencian buatan AI.
Konflik antara ambisi pertumbuhan dan perlindungan pengguna semakin tajam. Perlombaan untuk mencapai satu miliar pengguna tampaknya membuat aspek keamanan jadi nomor dua, dan ini sangat berbahaya.
Belum jelas juga apakah fitur erotis ini akan merambah ke AI suara, gambar, dan video. Bayangkan pacar AI yang bisa tujukkin kepunyaan mereka ke kamu, bisa dibilang ini masalah etika yang super besar.
Pada akhirnya, ini adalah keputusan bisnis untuk meningkatkan interaksi pengguna. Sebuah pertaruhan besar di sisi keamanan. Nah, menurut kalian, apakah langkah OpenAI ini terlalu berisiko atau justru inovatif? (tmtiwow)
Editor : Toar Rotulung