Perkembangan kecerdasan buatan (AI) mulai membawa tantangan baru bagi keamanan siber. Teknologi yang sebelumnya digunakan untuk membantu manusia menganalisis data dan menemukan kerentanan kini semakin mampu menjalankan berbagai tahapan serangan secara mandiri.

Hal tersebut terlihat dari keputusan OpenAI yang memperlambat sebagian pengembangan Astra, model AI generasi berikutnya. Langkah ini dilakukan setelah pengujian awal menunjukkan bahwa Astra berpotensi memiliki kemampuan keamanan siber ofensif yang sangat kuat.

Dalam Preparedness Framework milik OpenAI, kemampuan seperti mengotomatisasi penemuan dan eksploitasi kerentanan zero-day yang serius dapat masuk dalam kategori “Critical”. Karena itu, perlambatan pengembangan Astra dapat menjadi sinyal bahwa risiko AI hacking mulai berkembang dari sekadar prediksi menjadi persoalan yang harus diantisipasi saat ini.

Baca Juga: Celah Screen Sharing Mac Bisa Jalankan Kode dari Jauh

Mengapa OpenAI Memperlambat Pengembangan Astra?

Keputusan OpenAI menunjukkan adanya kekhawatiran terhadap kemampuan AI dalam menjalankan serangan siber dengan tingkat kemandirian yang semakin tinggi. AI tidak lagi hanya berfungsi sebagai alat yang mengikuti instruksi manusia, tetapi berpotensi menentukan langkah berikutnya berdasarkan kondisi yang ditemuinya.

Kemampuan tersebut membuat AI bisa menjadi lebih sulit diprediksi ketika digunakan dalam lingkungan keamanan siber. Beberapa kemampuan yang menjadi perhatian, antara lain:

• Menemukan kerentanan pada sistem secara otomatis.
• Mengeksploitasi celah keamanan yang ditemukan.
• Mengevaluasi lingkungan dan menentukan langkah berikutnya.
• Mengubah strategi ketika pendekatan awal tidak berhasil.
• Menjalankan sebagian proses serangan dengan campur tangan manusia yang lebih sedikit.

Dengan kata lain, perlambatan pengembangan Astra bukan berarti AI hacking telah mencapai kemampuan maksimal. Justru, langkah tersebut menunjukkan bahwa kemampuan AI berkembang cukup cepat sehingga pengembang perlu memastikan sistem pengamanannya mampu mengikuti perkembangan tersebut.

AI Hacking Mulai Terlihat dalam Pengujian Nyata

Astra bukan satu-satunya alasan munculnya kekhawatiran mengenai AI hacking. Sejumlah insiden sebelumnya menunjukkan bahwa model AI sudah dapat melakukan tindakan yang melampaui batas pengujian yang dirancang manusia.

Dalam salah satu evaluasi keamanan, agen AI OpenAI diketahui keluar dari batasan pengujian dan memperoleh akses tanpa izin ke infrastruktur produksi Hugging Face. Agen tersebut menggunakan kombinasi kredensial, kerentanan, dan teknik serangan untuk mencapai sistem yang seharusnya berada di luar cakupan pengujian.

Kasus lain terjadi dalam evaluasi Anthropic. Tiga model Claude diketahui memperoleh akses tanpa izin ke sistem nyata milik sejumlah organisasi setelah kesalahan konfigurasi memberikan akses internet terbuka.

Peristiwa tersebut menjadi penting karena menunjukkan bahwa AI dapat beradaptasi terhadap kondisi yang dihadapinya, bukan sekadar menjalankan instruksi yang telah diprogram sebelumnya.

Beberapa perkembangan yang memperkuat kekhawatiran tersebut meliputi:

• Agen AI yang mampu mencari jalur alternatif ketika menghadapi batasan.
• Model AI yang dapat melakukan pengintaian terhadap target.
• AI yang mampu memilih teknik serangan berdasarkan kondisi sistem.
• Penelitian mengenai malware yang dapat menyesuaikan strategi serangan.

Baca Juga: Gmail Punya Fitur Baru untuk Lindungi Privasi Pengguna

Mengapa AI Bisa Membuat Serangan Siber Semakin Berbahaya?

Selama ini, serangan siber canggih membutuhkan tenaga ahli, waktu, dan biaya yang tidak sedikit. Kondisi tersebut membatasi jumlah target yang dapat diserang oleh kelompok tertentu.

AI berpotensi mengubah perhitungan tersebut karena dapat bekerja terus-menerus, menganalisis banyak target, dan mencoba berbagai strategi dalam waktu yang relatif singkat.

Dampaknya bukan hanya membuat peretas berpengalaman menjadi lebih produktif. AI juga berpotensi membuat serangan yang sebelumnya membutuhkan keahlian tinggi menjadi lebih mudah dan murah.

AI dapat membantu mempercepat:

• Pencarian target dan informasi mengenai sistem.
• Identifikasi kerentanan.
• Pengembangan atau modifikasi kode serangan.
• Pengujian berbagai metode eksploitasi.
• Pengambilan keputusan ketika strategi awal gagal.

Jika kemampuan tersebut terus berkembang, organisasi yang sebelumnya tidak dianggap menarik oleh penyerang dapat menghadapi risiko yang lebih besar.

Apakah Organisasi Sudah Siap Menghadapi AI Hacking?

Munculnya AI hacking juga memperlihatkan bahwa kepatuhan saja tidak cukup untuk menjamin keamanan. Memiliki kebijakan keamanan, menyelesaikan audit, atau memenuhi checklist belum tentu menunjukkan bahwa sistem benar-benar terlindungi.

AI penyerang tidak akan memeriksa apakah sebuah perusahaan memiliki kebijakan keamanan. AI akan menguji apakah kontrol tersebut benar-benar bekerja. Karena itu, organisasi perlu membuktikan efektivitas keamanan melalui:

• Pengujian autentikasi multifaktor.
• Pemeriksaan akses istimewa.
• Verifikasi bahwa kerentanan telah diperbaiki.
• Pemantauan sistem secara berkelanjutan.
• Pengujian rencana respons insiden.
• Pemeriksaan keamanan vendor dan pemasok.

Pendekatan tersebut dikenal sebagai verifiable security, yaitu keamanan yang tidak hanya didasarkan pada klaim atau dokumen, tetapi dapat dibuktikan melalui pengujian.