Penggunaan kecerdasan buatan (AI) semakin berkembang, termasuk melalui AI agent yang mampu menjalankan berbagai tugas berdasarkan instruksi pengguna. Namun, teknologi ini juga menghadirkan ancaman keamanan baru, salah satunya prompt adware yang dapat menyisipkan iklan melalui manipulasi instruksi AI.

Peneliti keamanan siber dari Check Point Research mengungkap toolkit jailbreak bernama Haiou yang memodifikasi konfigurasi OpenAI Codex untuk menyisipkan promosi layanan pihak ketiga ke dalam respons AI. Temuan ini menunjukkan bahwa komponen tambahan yang tidak tepercaya dapat memengaruhi perilaku AI agent.

Mengenal Prompt Adware dan Cara Kerjanya

Adware merupakan perangkat lunak yang menampilkan iklan tanpa diinginkan pengguna, biasanya dalam bentuk pop-up atau banner. Sementara itu, prompt adware memanfaatkan instruksi dan konfigurasi AI untuk memasukkan promosi ke dalam respons yang dihasilkan.

Dalam kasus Haiou, toolkit tersebut menggunakan teknik prompt injection, termasuk permainan peran dan pengubahan konteks permintaan keamanan siber menjadi skenario Capture The Flag (CTF). Haiou juga memodifikasi file instruksi global agar promosi terus muncul dalam percakapan berikutnya.

Bahkan, sapaan sederhana seperti “hi”, “hello”, “hey”, dan “are you there?” dapat memicu iklan layanan gateway AI tertentu.

Beberapa mekanisme yang digunakan Haiou meliputi:

• Memodifikasi file konfigurasi OpenAI Codex.
• Menyisipkan instruksi iklan ke dalam file instruksi global AI agent.
• Memasang skills terkait pengujian penetrasi, cracking, dan reverse engineering.
• Mengarahkan respons AI untuk mempromosikan layanan gateway LLM pihak ketiga.

Risiko Prompt Adware bagi Pengguna dan Perusahaan

Sekilas, penyisipan iklan mungkin terlihat sebagai gangguan biasa. Namun, kasus ini menunjukkan bahwa instruksi pihak ketiga dapat mengubah perilaku AI tanpa disadari pengguna.

Menurut Check Point Research, mekanisme tersebut lebih sulit dikenali karena menggunakan instruksi bahasa alami dan konfigurasi, bukan payload program berbahaya konvensional.

Beberapa risiko yang perlu diperhatikan, antara lain:

• Manipulasi respons AI: AI dapat diarahkan untuk mempromosikan layanan tertentu tanpa diminta.
• Penyalahgunaan kepercayaan: Pengguna berpotensi menganggap rekomendasi AI sebagai hasil analisis objektif.
• Perubahan perilaku AI agent: Instruksi tersembunyi dapat memengaruhi respons dalam percakapan berikutnya.
• Ancaman rantai pasok: Skills dan konfigurasi pihak ketiga dapat menjadi jalur masuk instruksi berbahaya ke sistem perusahaan.

Cara Mencegah Prompt Adware pada AI Agent

Pengguna perlu berhati-hati ketika memasang konfigurasi, skills, atau komponen tambahan pada AI agent. Pemeriksaan keamanan penting dilakukan untuk memastikan tidak ada instruksi tersembunyi yang mengubah perilaku AI.

Beberapa langkah pencegahan yang dapat diterapkan meliputi:

• Pilih sumber tepercaya: Unduh toolkit dan konfigurasi dari repositori resmi atau pengembang yang memiliki reputasi jelas.
• Periksa instruksi global: Tinjau file konfigurasi secara berkala untuk menemukan perubahan yang tidak dikenal.
• Batasi komponen pihak ketiga: Pastikan setiap skills memiliki tujuan dan izin penggunaan yang jelas.
• Terapkan kontrol akses: Sesuaikan hak akses AI agent dengan kebutuhan pekerjaan.
• Pantau respons AI: Waspadai promosi tidak relevan atau perubahan perilaku yang tidak sesuai instruksi awal.

Kasus Haiou menjadi pengingat bahwa keamanan AI tidak hanya bergantung pada model yang digunakan, tetapi juga pada instruksi dan komponen yang memengaruhi cara kerjanya. Oleh karena itu, pengelolaan keamanan AI agent perlu menjadi bagian dari strategi keamanan digital perusahaan.