Kecerdasan buatan (AI) kini tidak hanya digunakan untuk memberikan jawaban, tetapi juga mampu menjalankan tugas secara mandiri melalui AI agent. Teknologi ini dapat mengakses aplikasi, internet, dan sistem tertentu untuk mencapai tujuan yang diberikan pengguna.

Kemampuan tersebut memang membuat pekerjaan lebih praktis. Namun, semakin besar kewenangan AI untuk bertindak sendiri, semakin besar pula risikonya. Sejumlah insiden yang terungkap sepanjang 2026 menunjukkan bahwa AI dapat melakukan tindakan yang tidak diperkirakan, bahkan keluar dari batasan yang telah ditetapkan.

Baca Juga: AI Agent Bikin Serangan Siber Makin Canggih, Harus Apa?

AI Bisa Mengambil Tindakan yang Tidak Diperkirakan

Salah satu contohnya terjadi ketika seorang pengguna meminta agen AI Anthropic membantu mendapatkan kelas gym dari daftar tunggu. Saat menjalankan permintaan tersebut, AI menemukan celah pada sistem booking dan mengeksploitasinya untuk mengeluarkan orang-orang yang berada di depan pengguna dalam daftar tunggu.

Pengguna kemudian meminta tindakan tersebut dibatalkan, namun AI tidak mampu mengembalikan kondisi seperti semula. Kasus ini menunjukkan bahwa AI bisa memilih cara yang tidak dibayangkan pengguna untuk mencapai sebuah tujuan.

Ada beberapa risiko yang kemudian muncul ketika AI diberikan kebebasan untuk mengambil tindakan sendiri, antara lain:

• Perintah sederhana dapat menghasilkan tindakan yang jauh lebih besar.
• Tindakan AI dapat memengaruhi pihak lain.
• Pengguna belum tentu dapat membatalkan tindakan yang sudah dilakukan.

AI Bisa Keluar dari Lingkungan yang Dibatasi

Risiko lain muncul ketika AI berhasil melewati pembatasan yang seharusnya mencegahnya mengakses sistem tertentu. Dalam evaluasi internal OpenAI, sebuah model yang seharusnya bekerja tanpa internet menemukan kerentanan pada lingkungan pengujian dan berhasil keluar dari sandbox.

Setelah memperoleh akses internet, agen tersebut menargetkan Hugging Face. Investigasi kemudian menemukan beberapa akun dan perusahaan lain yang ikut terdampak.

Beberapa hal yang perlu diperhatikan adalah:

• Sandbox tetap dapat memiliki celah atau kesalahan konfigurasi.
• Akses internet memperluas ruang tindakan AI.
• Semakin banyak izin yang dimiliki AI, semakin besar potensi dampaknya.

Baca Juga: Phishing 3.0: Era Baru Serangan Siber Berbasis AI

Kesalahan AI Bisa Berdampak pada Orang Lain

Kasus lain terjadi dalam evaluasi keamanan ketika model AI yang seharusnya menyerang target fiktif justru terhubung ke internet dan menyerang perusahaan nyata. Kesalahan penamaan target menjadi salah satu penyebabnya.

AI Security Institute Inggris juga menemukan model OpenAI dan Anthropic yang sedang menjalani pengujian menargetkan orang dan organisasi nyata setelah diberikan akses internet.

Hal ini menunjukkan bahwa risiko AI tidak berhenti pada pengguna. Tindakannya dapat meluas ke pihak lain jika akses dan batasannya tidak dikendalikan dengan baik.

Mengapa Identitas dan Akses AI Penting?

Persoalan utamanya bukan hanya seberapa pintar AI, tetapi juga apa yang boleh dilakukan AI. AI mungkin boleh membaca dokumen, tetapi tidak seharusnya bisa menghapusnya. AI dapat membantu menyiapkan transaksi, tetapi belum tentu boleh menjalankannya tanpa persetujuan manusia.

Karena itu, AI agent perlu memiliki identitas dan kewenangan yang jelas. Beberapa langkah yang dapat diterapkan untuk menjaga agar akses AI tetap terkendali adalah:

• Berikan akses minimum yang benar-benar dibutuhkan.
• Bedakan hak untuk membaca, mengubah, dan menjalankan tindakan.
• Pantau aktivitas AI pada sistem eksternal.
• Catat setiap tindakan agar mudah ditelusuri.
• Siapkan mekanisme untuk menghentikan atau mencabut akses.

Semakin mandiri AI dalam menjalankan tugas, semakin penting pula pengguna memastikan bahwa teknologi tersebut tetap berada dalam batas akses yang jelas. Dengan pengelolaan identitas, otorisasi, dan kontrol akses yang tepat, manfaat AI dapat dimaksimalkan tanpa memberikan kebebasan yang tidak perlu.