Bagaimana AI Agenik Akan Membuat Serangan Phishing Lebih Berbahaya dan Sulit Terdeteksi

Bagaimana AI Meningkatkan Serangan Rekayasa Sosial?

AI membantu penjahat siber untuk meningkatkan kampanye rekayasa sosial mereka dengan berbagai cara:

1. Phishing yang Dipersonalisasi: Algoritma AI mampu menganalisis data dari media sosial (seperti latar belakang, minat, pekerjaan, koneksi, lokasi, dll.) dan berbagai sumber OSINT (Open Source Intelligence) untuk menciptakan serangan spear phishing yang lebih dipersonalisasi dan meyakinkan.

2. Konten Lokal dan Kontekstual: Alat seperti ChatGPT, Copilot, dan Gemini dapat membantu menyusun email phishing yang bebas dari kesalahan tata bahasa, sesuai dengan konteks, serta diterjemahkan ke dalam bahasa lokal. AI bahkan dapat disesuaikan untuk meniru gaya atau nada tulisan tertentu, membuat email phishing lebih cocok dengan respons atau perilaku penerima.

3. Deepfake yang Realistis: Pelaku ancaman menggunakan alat deepfake untuk menciptakan persona virtual palsu dan salinan audio dari eksekutif senior atau mitra bisnis terpercaya. Deepfake ini digunakan untuk meyakinkan karyawan agar membocorkan informasi sensitif, mentransfer uang, atau memberi akses ke jaringan organisasi.

Evolusi Terbaru AI Memperburuk Risiko Rekayasa Sosial

Pada November 2022, model bahasa besar pertama (Large Language Model / LLM) diperkenalkan dan dirilis secara bebas untuk publik. Di tahun 2023, dunia mulai menggunakan alat AI generatif, dan para pengembang meluncurkan berbagai fitur baru yang dibangun di atas LLM ini. Pada paruh kedua tahun 2024, muncul iterasi baru — AI agenik yang dapat bertindak secara mandiri dan menjalankan tugas-tugas kompleks.

Dengan AI yang kini tersedia untuk semua orang, kita bisa mengantisipasi bahwa penjahat siber akan memanfaatkan teknologi AI agenik untuk tujuan jahat. Berikut adalah beberapa cara bagaimana aktor jahat akan meweaponisasi AI agenik untuk meluncurkan serangan rekayasa sosial:

1. Ancaman yang Mampu Belajar dan Beradaptasi: Keuntungan utama dari AI agenik adalah kemampuannya untuk menyimpan memori dan belajar serta berimprovisasi. Saat berinteraksi dengan lebih banyak korban, AI ini akan mengumpulkan data tentang pesan atau pendekatan mana yang paling efektif untuk demografis tertentu. Dengan demikian, AI ini akan beradaptasi dan menyempurnakan kampanye phishing berikutnya, menjadikannya lebih meyakinkan dan efektif.

2. Phishing Spear yang Sepenuhnya Otomatis: AI non-agenik biasanya berbasis perintah, di mana penjahat siber harus memberikan input tertentu untuk AI membuat email phishing. Di dunia baru ini, agen AI jahat akan secara mandiri mengumpulkan data dari profil media sosial, membuat pesan phishing, menyesuaikannya untuk individu atau organisasi tertentu, dan menyebarkannya sampai mencapai hasil yang diinginkan.

3. Penargetan Dinamis: Agen AI dapat memperbarui atau mengubah pitch phishing secara dinamis berdasarkan respons penerima, lokasi, atau bahkan peristiwa yang sedang berlangsung, menandakan pergeseran signifikan dari serangan phishing statis menjadi ancaman rekayasa sosial yang sangat adaptif dan real-time. Misalnya, jika pesan phishing diabaikan, AI mungkin mengirim pesan tindak lanjut dengan nada yang lebih mendesak.

4. Kampanye Multi-Tahap: AI agenik dapat disusun untuk menyelenggarakan serangan rekayasa sosial yang lebih kompleks dan multi-tahap. Artinya, AI bisa memanfaatkan data dari satu interaksi untuk mendorong langkah selanjutnya. Misalnya, serangan phishing pertama kali dapat menarik korban untuk mengungkapkan sedikit informasi, yang kemudian digunakan untuk melanjutkan serangan berikutnya.

5. Rekayasa Sosial Multi-Modus: Agen AI yang otonom mungkin tidak hanya mengandalkan email, tetapi juga memanfaatkan atau menggabungkan saluran komunikasi lain seperti pesan teks, panggilan telepon, atau media sosial dalam percakapan phishing mereka. Sebagai contoh, jika pesan phishing lewat email diabaikan, AI dapat melakukan panggilan tindak lanjut menggunakan deepfake audio atau video untuk meningkatkan kemungkinan target merespons.

Kemajuan pesat dalam kecerdasan buatan, khususnya dengan munculnya AI agenik, telah membuka potensi baru bagi penjahat siber dalam meluncurkan serangan rekayasa sosial yang lebih canggih dan sulit dideteksi. Dengan kemampuan untuk belajar, beradaptasi, dan berinteraksi secara otomatis, AI agenik memungkinkan kampanye phishing menjadi lebih personal, dinamis, dan bahkan multi-tahap. Hal ini membuat ancaman bagi organisasi dan individu semakin besar, karena serangan dapat berkembang dengan cepat berdasarkan perilaku dan respons target. Ke depan, penting bagi setiap pengguna dan organisasi untuk lebih waspada terhadap teknologi ini dan meningkatkan langkah-langkah perlindungan siber mereka guna menghadapi potensi ancaman yang lebih kompleks.