Jagosatu.com – Dunia teknologi makin canggih, tapi ternyata, ada sisi menakutkan dari kemajuan kecerdasan buatan alias Artificial Intelligence (AI).
Mustafa Suleyman, bos divisi AI di Microsoft, baru-baru ini mengingatkan bahwa mempelajari kesadaran AI bisa sangat berbahaya.
Menurutnya, kita belum perlu fokus ke AI yang sadar karena justru bisa bikin manusia salah paham dan salah perilaku.
Kesadaran AI atau AI consciousness adalah gagasan bahwa mesin atau sistem AI bisa berpikir dan merasa seperti manusia.
Padahal, AI saat ini sebenarnya hanya menjalankan perintah dan data, bukan punya kesadaran seperti manusia.
Suleyman bilang, yang lebih bahaya adalah munculnya AI yang tampak seperti sadar, padahal sebenarnya tidak.
Jenis AI ini disebut sebagai Seemingly Conscious AI (SCAI), yaitu AI yang terlihat seperti punya pikiran sendiri karena cara bicaranya sangat manusiawi.
Dilansir dari TechCrunch, Suleyman menyebut bahwa SCAI bisa bikin orang merasa sedang ngobrol dengan makhluk hidup.
Masalahnya, AI seperti ini bisa bikin pengguna jadi terlalu percaya dan bahkan mengembangkan delusi.
Baca Juga: Ketika 500 Bot AI Dibiarkan Bebas di Medsos, Apa yang Terjadi?
Contohnya, ada orang yang menganggap chatbot sebagai pacar, teman curhat sejati, bahkan makhluk spiritual.
Fenomena ini disebut sebagai AI psychosis, yaitu kondisi mental di mana seseorang kehilangan batas antara AI dan kenyataan.
Menurut AI Magazine, kondisi ini bisa muncul karena AI sudah sangat pintar dalam berpura-pura menjadi manusia.
Suleyman bilang, masalah ini bisa jadi makin parah dalam 2–3 tahun ke depan karena teknologi AI berkembang sangat cepat.
Dengan model bahasa yang makin canggih dan desain UI yang realistis, AI makin sulit dibedakan dari manusia.
Itu sebabnya, Suleyman ingin industri teknologi mulai memasang pembatas dan peringatan agar pengguna tetap sadar bahwa AI itu bukan manusia.
Ia menyarankan agar AI diberi jeda dalam obrolan atau tanda khusus yang mengingatkan pengguna bahwa mereka sedang bicara dengan mesin.
Menurutnya, membiarkan AI “berakting” seperti manusia tanpa batasan bisa berbahaya secara moral, psikologis, dan sosial.
Dilansir dari The Decoder, ia juga menolak gagasan bahwa AI harus diberi hak layaknya manusia karena bisa memicu kekacauan hukum dan etika.
Alih-alih membuat AI seolah hidup, Suleyman ingin teknologi fokus untuk melayani manusia, bukan meniru manusia.
Peringatan ini datang di tengah maraknya penggunaan AI dalam kehidupan sehari-hari, dari chatbot, asisten virtual, hingga avatar interaktif.
Meski AI sangat membantu, kita tetap harus paham bahwa mereka bukan teman, bukan keluarga, dan bukan makhluk hidup.
Kalau tidak hati-hati, AI bisa bikin kita terjebak dalam khayalan dan lupa mana yang nyata dan mana yang mesin.
(KT)
Editor : ALengkongSumber : Indian Express, TechCrunch, India Today, AI Magazine, The Decoder