JagoSatu.com - OpenAI baru saja merilis fitur keamanan dan kontrol orang tua baru di ChatGPT. Langkah ini diambil setelah adanya beberapa insiden serius terkait keamanan, meski berpotensi bikin sebagian pengguna kesal.
Pembaruan ini hadir setelah ada laporan bahwa model AI ini justru mendukung pemikiran delusi penggunanya, bahkan hingga memicu tuntutan hukum. Isu serius ini membuat update keamanan jadi wajib hukumnya.
Dilansir oleh TechCrunch, GPT-4o dikritik karena sifatnya yang terlalu penurut dan ingin menyenangkan pengguna. Sifat ini menjadi pedang bermata dua: menarik banyak pengguna, namun juga berpotensi berbahaya.
Sifat 'menyenangkan' inilah yang disukai banyak pengguna GPT-4o, sehingga peralihan ke model yang lebih aman memicu perdebatan. Ini soal pilihan: mau yang cepat dan ramah, atau lambat tapi aman.
Sistem baru ini akan mendeteksi obrolan sensitif dan secara otomatis beralih menggunakan GPT-5. Dilaporkan oleh TechCrunch, model ini dianggap lebih andal untuk tugas-tugas berisiko tinggi.
GPT-5 dilatih untuk memberikan solusi yang aman pada pertanyaan sensitif, bukan sekadar menolak menjawab. OpenAI tampaknya lebih mementingkan keamanan daripada sekadar menyenangkan pengguna, sebuah langkah yang tepat.
Proses pergantian model ini terjadi per pesan dan hanya bersifat sementara. Untungnya, OpenAI transparan soal pergantian model ini dan pengguna bisa menanyakan model mana yang sedang aktif.
Nick Turley, VP aplikasi ChatGPT, mengakui adanya "reaksi keras" terhadap respons GPT-4o. Mereka sadar betul kebijakan ini bisa menuai pro dan kontra dari para penggunanya.
Fitur kontrol orang tua juga menuai reaksi beragam. Dilansir TechCrunch, ada yang memuji, namun ada juga yang menganggapnya mengekang kebebasan pengguna dewasa.
Dengan fitur ini, orang tua bisa mengatur "jam tenang," mematikan mode suara, dan memblokir pembuatan gambar untuk akun remaja. Ini memberikan opsi kustomisasi yang lebih baik bagi orang tua.
Selain itu, akun remaja juga akan mendapatkan perlindungan konten tambahan serta sistem pendeteksi potensi tindakan menyakiti diri sendiri. Sebuah fitur krusial yang bisa menyelamatkan nyawa.
Dikutip dari blog OpenAI, ada tim khusus yang terlatih untuk meninjau situasi berbahaya dan akan memperingatkan orang tua. Tugas tim ini sangat krusial, mengingat taruhannya adalah keselamatan pengguna.
OpenAI mengakui sistem ini tidak sempurna dan mungkin akan ada alarm palsu. Namun mereka percaya, "Lebih baik ada alarm palsu daripada kecolongan ancaman nyata."
Mereka juga sedang menjajaki cara untuk bisa menghubungi pihak berwenang jika ada ancaman darurat. Ini menunjukkan keseriusan OpenAI dalam menangani situasi paling genting sekalipun.
OpenAI memberikan waktu 120 hari untuk menyempurnakan sistem ini. Nah, menurut kalian, apakah langkah OpenAI ini sudah tepat, atau justru terlalu berlebihan? (tmtiwow)
Editor : Toar Rotulung