Perkembangan kecerdasan buatan (AI) membawa banyak manfaat bagi berbagai sektor, mulai dari meningkatkan produktivitas hingga mempercepat inovasi. Namun, di sisi lain, teknologi ini juga mulai dimanfaatkan oleh pelaku kejahatan siber untuk melancarkan serangan yang lebih cepat, canggih, dan sulit dideteksi.

Hal tersebut terlihat dari insiden yang dialami Hugging Face, platform penyedia model AI open source yang digunakan oleh jutaan pengguna di seluruh dunia. Perusahaan mengungkapkan bahwa infrastruktur produksinya diduga berhasil ditembus oleh autonomous AI agent, sebuah agen AI yang mampu menjalankan serangkaian aksi secara mandiri tanpa campur tangan manusia secara langsung.

Kasus ini menjadi pengingat bahwa serangan siber berbasis AI bukan lagi sekadar prediksi, melainkan ancaman nyata yang perlu diantisipasi oleh organisasi di berbagai sektor.

Bagaimana AI Digunakan dalam Serangan Siber?

AI memungkinkan pelaku kejahatan siber mengotomatisasi berbagai tahapan serangan yang sebelumnya harus dilakukan secara manual. Dengan kemampuan tersebut, proses eksploitasi celah keamanan dapat berlangsung jauh lebih cepat dan efisien.

Pada kasus Hugging Face, perusahaan menjelaskan bahwa serangan bermula dari dataset berbahaya yang memanfaatkan dua jalur eksekusi kode untuk menjalankan kode berbahaya pada server pemrosesan.

Setelah memperoleh akses awal, AI kemudian:

• meningkatkan hak akses hingga level node;
• mengumpulkan kredensial cloud dan cluster internal;
• berpindah ke beberapa cluster dalam sistem;
• menjalankan ribuan aksi otomatis di berbagai sandbox; dan
• memperoleh akses tidak sah terhadap data internal serta kredensial layanan.

Perusahaan masih melakukan investigasi untuk memastikan apakah terdapat data pelanggan atau mitra yang ikut terdampak dalam insiden tersebut.

Baca Juga: Penipuan lewat FaceTime Makin Marak, Kenali Modusnya

Mengapa Serangan Berbasis AI Lebih Berbahaya?

Berbeda dengan metode konvensional, AI mampu menjalankan banyak proses secara bersamaan dalam waktu singkat. Hal ini membuat serangan menjadi lebih cepat berkembang sebelum sempat terdeteksi oleh sistem keamanan.

Beberapa karakteristik serangan berbasis AI meliputi:

• mampu mengotomatisasi ribuan aktivitas secara berurutan;
• mempercepat pencarian dan eksploitasi celah keamanan;
• berpindah antar sistem tanpa banyak intervensi manusia;
• menyamarkan aktivitas dengan membuat jejak atau pola yang membingungkan proses investigasi; serta
• meningkatkan skala serangan terhadap banyak target sekaligus.

Kemampuan tersebut membuat pelaku kejahatan siber dapat bergerak dengan kecepatan yang jauh lebih tinggi dibandingkan metode serangan tradisional.

AI Juga Membantu Tim Keamanan Siber

Meski dimanfaatkan oleh pelaku kejahatan siber, AI juga dapat menjadi alat penting bagi tim keamanan untuk merespons insiden dengan lebih cepat.

Setelah mendeteksi serangan, Hugging Face menggunakan AI untuk menganalisis lebih dari 17.000 log aktivitas yang terekam selama insiden berlangsung. Analisis tersebut membantu tim keamanan:

• menyusun kronologi serangan;
• mengidentifikasi indikator kompromi;
• memetakan kredensial yang terdampak; dan
• mempercepat proses investigasi yang biasanya membutuhkan waktu berhari-hari menjadi hanya beberapa jam.

Namun, perusahaan juga menemukan tantangan lain. Model AI komersial yang mereka gunakan sempat menolak membantu analisis karena sistem moderasi menganggap permintaan tersebut berpotensi disalahgunakan.

Sebagai alternatif, tim menggunakan GLM-5.2, model AI open-weight yang dijalankan pada infrastruktur internal untuk melakukan analisis forensik hingga proses pemulihan selesai.

Baca Juga: Microsoft Rilis Update Darurat Windows 11 untuk Dell

Bagaimana Cara Menghadapi Ancaman AI yang Digunakan Hacker?

Seiring berkembangnya kemampuan AI, organisasi perlu menyesuaikan strategi keamanan agar mampu menghadapi ancaman yang bergerak semakin cepat. Pendekatan keamanan yang hanya mengandalkan proses manual akan semakin sulit mengimbangi pola serangan modern.

Beberapa langkah yang dapat dilakukan, antara lain:

• memperbarui sistem dan perangkat lunak secara berkala untuk menutup celah keamanan;
• menerapkan pemantauan aktivitas secara real time agar anomali dapat segera terdeteksi;
• memperkuat sistem autentikasi dan pengelolaan kredensial pengguna;
• membatasi hak akses sesuai kebutuhan masing-masing pengguna;
• memiliki prosedur respons insiden yang jelas dan teruji; serta
• mulai memanfaatkan AI untuk membantu proses deteksi, investigasi, dan respons terhadap serangan siber.

Dengan kombinasi teknologi dan kesiapan operasional, organisasi dapat mempercepat proses penanganan apabila terjadi insiden keamanan.

Mengapa Perusahaan Perlu Bersiap Sejak Sekarang?

Para pakar keamanan siber menilai bahwa penggunaan AI oleh pelaku kejahatan akan terus berkembang. AI mampu mengubah cara serangan dilakukan, mulai dari meningkatkan kecepatan, memperluas skala, hingga membuat teknik serangan lebih mudah diakses oleh lebih banyak pelaku.

Di sisi lain, organisasi juga perlu mengadopsi teknologi yang mampu membantu tim keamanan bekerja lebih efektif. AI dapat dimanfaatkan untuk mempercepat analisis log, mendeteksi aktivitas mencurigakan, hingga membantu proses investigasi digital yang sebelumnya memerlukan waktu lebih lama.

Karena itu, kesiapan menghadapi ancaman berbasis AI tidak lagi menjadi nilai tambah, melainkan kebutuhan yang semakin penting bagi perusahaan yang ingin menjaga keamanan sistem dan data mereka.