JagoSatu.com - Studi terbaru dari EBU dan BBC mengungkap fakta mengejutkan: asisten AI populer seperti ChatGPT dan Gemini sering banget ngaco saat merangkum berita. Ini jadi masalah gawat, mengingat banyak orang mulai beralih ke AI untuk mencari informasi.
Ini bukan riset kaleng-kaleng. Penelitian ini menganalisis 3.000 jawaban AI dalam 14 bahasa. Hasilnya menunjukkan masalahnya ternyata sistemik dan terjadi di banyak bahasa.
Dilaporkan oleh Reuters, 45% jawaban AI punya setidaknya satu masalah signifikan. Meski ada sedikit perbaikan dari angka 51% sebelumnya, tapi perbaikan tipis ini tentu belum cukup.
Jika semua jenis masalah dihitung, angka masalahnya meroket jadi 81%! Riset ini juga menguji Copilot dan Perplexity. Mengandalkan mereka untuk berita ibaratnya seperti melempar koin.
Perusahaan AI seperti OpenAI dan Microsoft sebenarnya sudah mengakui adanya masalah "halusinasi", istilah keren untuk 'ngarang bebas' alias berbohong. Tapi perbaikannya harus lebih cepat dari janji-janji marketingnya.
Masalah pencantuman sumber jadi biang kerok utamanya. Dilaporkan oleh Reuters, sepertiga jawaban AI punya masalah serius dalam menyebutkan sumber, seringkali salah atau bahkan tidak ada sama sekali.
Dan yang paling parah adalah Gemini milik Google. Sebanyak 72% jawabannya menunjukkan masalah sumber yang signifikan. Ini pukulan telak bagi perusahaan yang identik dengan pencarian informasi.
Soal akurasi, 20% dari semua jawaban ditemukan bermasalah. Contohnya, Gemini salah kasih info soal aturan vape sekali pakai. Ini bukan sekadar kekeliruan kecil, tapi aliran misinformasi yang disampaikan dengan sangat meyakinkan.
Bahkan ChatGPT pernah melaporkan Paus Fransiskus sebagai paus saat ini, beberapa bulan setelah wafatnya. Ini kesalahan fatal yang menunjukkan kegagalan AI memproses info real-time.
Menurut Reuters, studi ini melibatkan jurnalis profesional dari 22 media untuk meninjau jawaban AI secara buta. Metode ini memastikan hasilnya objektif dan tidak memihak.
EBU memperingatkan, seiring AI menggantikan mesin pencari, kepercayaan publik bisa hancur. Hilangnya kepercayaan pada informasi adalah risiko besar bagi demokrasi.
Direktur Media EBU, Jean Philip De Tender, dikutip oleh Reuters mengatakan: "Ketika orang tidak tahu apa yang harus dipercaya, mereka akhirnya tidak mempercayai apa pun." Sebuah ringkasan yang mengerikan tapi akurat.
Masalah ini sudah menyebar luas. Sebanyak 15% konsumen di bawah 25 tahun sudah menggunakan AI untuk mencari berita. Artinya, banyak anak muda yang rentan terpapar misinformasi dari AI.
Laporan ini mendesak para raksasa teknologi AI untuk bertanggung jawab. Regulasi internal perusahaan terbukti tidak cukup cepat; perlu ada tekanan dari pihak luar.
Diperlukan pengawasan independen dari regulator. Integritas informasi terlalu penting untuk dijadikan ajang coba-coba. Nah, setelah tahu fakta ini, masih beranikah kalian mengandalkan AI untuk mencari berita? (tmtiwow)
Editor : Toar Rotulung