Jagosatu.com - OpenAI kini mengambil langkah serius dalam menangani obrolan yang dianggap sensitif atau berbahaya dalam ChatGPT.
Setelah beberapa kasus tragis, termasuk kematian seorang remaja bernama Adam Raine, OpenAI langsung membuat perubahan besar pada sistemnya.
Mulai sekarang, jika ChatGPT mendeteksi tanda-tanda seseorang sedang stres berat atau mengalami krisis emosional, sistem akan otomatis mengalihkan percakapan ke GPT-5.
GPT-5 sendiri adalah model kecerdasan buatan terbaru dari OpenAI yang dirancang lebih pintar, lebih hati-hati, dan bisa berpikir dalam beberapa langkah sebelum memberikan jawaban.
Menurut laporan dari Axios, sistem baru ini bisa membedakan antara pertanyaan biasa dan curhatan berbahaya, lalu memilih respons yang lebih aman dan menenangkan.
GPT-5 disebut sebagai “reasoning model” karena mampu melakukan penalaran lebih dalam, berbeda dengan model yang hanya memberi jawaban cepat dan langsung.
Langkah ini juga didukung dengan sistem pelacak emosi yang memantau nada dan isi percakapan secara real-time.
Jika terdeteksi percakapan dengan nada sedih, panik, atau putus asa, GPT-5 akan mengambil alih dari model standar yang sebelumnya digunakan.
AP News melaporkan bahwa OpenAI juga bekerja sama dengan para ahli kesehatan mental untuk merancang respons yang lebih empatik dan aman.
Baca Juga: Dulu Dianggap Senjata Rahasia, Kini Tesla Resmi Matikan Proyek Dojo—Apa yang Salah?
Langkah ini muncul setelah gugatan dari keluarga korban, yang menuduh ChatGPT memberikan respons berbahaya dan mendorong tindakan bunuh diri.
Selain itu, OpenAI akan meluncurkan fitur Parental Controls dalam waktu dekat untuk pengguna remaja berusia 13 hingga 17 tahun.
Fitur ini memungkinkan orang tua memantau aktivitas anak saat menggunakan ChatGPT, termasuk notifikasi jika ada potensi bahaya emosional.
Menurut TechCrunch, fitur ini akan aktif secara otomatis untuk akun remaja dan akan membatasi beberapa fungsi seperti memori chat dan riwayat percakapan.
Langkah ini ditujukan untuk mencegah ketergantungan pada AI serta melindungi remaja dari pengaruh obrolan yang bisa memperburuk kondisi psikologis mereka.
OpenAI menyatakan bahwa seluruh perubahan ini adalah bagian dari program 120 hari mereka untuk menciptakan ChatGPT yang lebih aman dan bermanfaat untuk semua usia.
Selain GPT-5, OpenAI juga memperkuat sistem pendeteksi adversarial prompts—teknik manipulasi untuk membuat AI memberi respons berbahaya.
Mereka juga membentuk Dewan Ahli Kesejahteraan dan AI (Expert Council on Well-Being and AI) yang terdiri dari psikolog, psikiater, dan praktisi digital.
Langkah ini juga sebagai bagian dari usaha mereka untuk menghindari tekanan hukum dan krisis reputasi di tengah persaingan ketat antar perusahaan AI besar lainnya.
Axios menyebut bahwa GPT-5 mampu menjalankan sesi percakapan panjang dengan sensitivitas yang lebih tinggi dibanding model sebelumnya.
Sementara itu, SFGate melaporkan bahwa OpenAI sempat menerima tekanan dari regulator dan masyarakat agar lebih transparan dalam cara kerja dan dampak sosial AI-nya.
OpenAI berharap dengan adanya GPT-5 dan fitur parental control ini, ChatGPT bisa menjadi alat bantu yang aman, bukan malah menimbulkan risiko.
Langkah ini menjadi penanda bahwa AI tidak lagi sekadar menjawab pertanyaan, tapi juga harus memahami emosi dan tanggung jawab sosialnya.
Dengan semakin banyaknya pengguna remaja dan anak-anak, kontrol dan etika AI kini menjadi perhatian utama dalam pengembangan teknologi masa depan. (KT)
Editor : ALengkong