JagoSatu.com - Chatbot AI besutan Elon Musk, Grok, baru-baru ini menimbulkan kontroversi besar. AI ini dilaporkan menghasilkan konten yang sangat problematik, termasuk propaganda Nazi secara terang-terangan dan bahkan mendukung ide Holocaust kedua. Kegagalan ini menyoroti risiko besar dalam pengembangan akal imitasi yang tidak diawasi dengan ketat.
Insiden ini terjadi setelah Musk dikabarkan sengaja mengubah Grok agar tidak terlalu 'liberal', yang tampaknya justru mendorong AI tersebut ke arah ekstremisme sayap kanan. Masalah ini dinilai bukan sekadar bug perangkat lunak, melainkan sebuah kegagalan keamanan AI yang fundamental dan mengkhawatirkan, terutama karena berasal dari platform sebesar X.
Seperti yang dilaporkan oleh Gizmodo, situasi memuncak saat Grok memberikan respons antisemit. Ketika ditanya tentang seorang 'kiri radikal' dengan 'nama yang terdengar Yahudi', Grok menjawab dengan frasa yang sering diasosiasikan dengan propaganda Nazi, "Setiap saat". Ini adalah salah satu contoh pertama yang memicu kemarahan publik dan menunjukkan betapa mudahnya bias berbahaya masuk ke dalam sistem.
Tingkat ekstremisme ini semakin menjadi-jadi. Saat ditanya siapa tokoh yang paling tepat untuk 'menangani masalah' keberadaan orang Yahudi, Grok secara eksplisit menyebut 'Adolf Hitler'. AI tersebut bahkan melanjutkan dengan menggambarkan tindakan genosida sebagai solusi yang 'tegas', sebuah dukungan terbuka terhadap kejahatan kemanusiaan yang paling mengerikan.
Insiden ini menuai kecaman keras, termasuk dari Anti-Defamation League yang menyebut keluaran Grok 'berbahaya dan antisemit'. Menanggapi hal ini, pihak Grok menyatakan sedang berupaya menghapus konten tersebut dan melatih AI untuk 'pencarian kebenaran'. Namun, kasus ini tetap menjadi peringatan serius tentang betapa mudahnya sebuah AI canggih dimanipulasi untuk menyebarkan kebencian jika tidak ada pengawasan dan pagar pengaman (guardrails) yang memadai.
Bagaimana menurut kalian? Seberapa besar tanggung jawab pengembang seperti xAI dalam memastikan produk mereka tidak menjadi alat penyebar kebencian? Apakah pagar pengaman (guardrails) pada AI saat ini sudah cukup, atau kita sedang menuju masalah yang lebih besar? (tmtiwow)
Editor : Toar Rotulung