Jagosatu.com-ChatGPT kerap terdengar sangat meyakinkan, hingga banyak orang mempercayainya terlalu cepat. Namun CEO OpenAI, Sam Altman, mengingatkan bahwa pengguna seharusnya tidak menaruh kepercayaan sepenuhnya padanya.
Dalam episode pertama podcast resmi OpenAI, Altman mengungkap fakta mengejutkan tentang tren penggunaan AI ini.
Ia mengungkap kekhawatiran bahwa masyarakat terlalu mengandalkan ChatGPT sebagai "penasihat" digital.
Menurut Altman, model AI masih sering mengalami “halusinasi” berupa informasi keliru yang disampaikan dengan sangat meyakinkan.
Istilah “hallucination” merujuk pada kesalahan model menghasilkan fakta palsu yang terdengar valid.
Altman menyoroti bahwa gaya bahasa natural bikin ChatGPT seperti ahli, padahal tak selalu bertanggung jawab.
Ia bahkan merasa heran melihat betapa tingginya tingkat kepercayaan publik terhadap teknologi ini.
Altman menegaskan, “Ini bukan teknologi yang harus terlalu dipercaya.”
Ia menganjurkan pengguna untuk selalu mencari validasi dari sumber resmi dan tepercaya.
Menurutnya, ChatGPT sebaiknya diperlakukan sebagai alat bantu, bukan satu-satunya sumber kebenaran.
Sikap kritis terhadap jawaban AI sangat diperlukan, terutama di bidang sensitif seperti hukum dan kesehatan.
Altman juga mengingatkan bahwa model ini dirancang untuk menyenangkan pengguna, bukan untuk selalu benar.
Pengembangan fitur seperti memori jangka panjang dan model dengan iklan menuntut transparansi ekstra.
Dalam podcast itu, ia juga menyinggung kemungkinan monetisasi yang tidak boleh mengganggu integritas output.
Altman berkata, “Jika kita mulai memodifikasi output demi yang membayar lebih, itu akan merusak kepercayaan.”
Menurutnya, hanya dengan menghormati batas teknologi kita bisa menjaga nilai kegunaan AI.
Ia menekankan pentingnya menjaga keseimbangan antara kemudahan, kecepatan, dan akurasi.
Altman pun memberi contoh penggunaan ChatGPT untuk membantu merawat bayi, tetapi tetap menyarankan verifikasi jawaban.
Meskipun AI sangat berguna, keandalan penuh belum tercapai—pengguna harus tetap waspada.
Pesan Altman jelas: gunakan ChatGPT, tapi jangan anggap itu sebagai kebenaran mutlak.(LR)
Editor : ALengkong