Perkembangan teknologi kecerdasan buatan (AI) memang membawa banyak manfaat. Namun, di sisi lain juga membuka celah baru bagi kejahatan digital. Sepanjang 2026, modus penipuan online dilaporkan semakin canggih karena mulai melibatkan teknologi tersebut, khususnya model bahasa besar atau large language models (LLM) open-source.

Riset terbaru menunjukkan, teknologi yang seharusnya membantu manusia ini justru berpotensi dimanfaatkan pelaku kejahatan siber untuk menjalankan aksi ilegal dalam skala besar dan lintas negara.

AI Open-Source Jadi Alat Baru Penipu

Penelitian yang dilakukan SentinelOne bersama Censys menemukan banyak LLM open-source dijalankan di server publik tanpa sistem pengaman yang memadai. Kondisi ini membuat model AI tersebut relatif mudah diambil alih dan disalahgunakan.

Beberapa bentuk penyalahgunaan AI yang teridentifikasi, antara lain:

• Pembuatan pesan phishing yang sangat meyakinkan
• Penyebaran spam secara otomatis dan masif
• Pengelolaan kampanye disinformasi lintas platform

Berbeda dengan platform AI besar yang memiliki pengawasan ketat, LLM open-source yang berjalan tanpa guardrails justru menjadi target empuk pelaku kejahatan.

Dampak Langsung ke Pengguna Internet

Penyalahgunaan AI dalam penipuan online tidak hanya menimbulkan gangguan, tetapi juga membawa risiko serius bagi masyarakat digital. Dampak yang paling sering terjadi meliputi:

• Kerugian finansial akibat penipuan
• Pencurian dan penyalahgunaan data pribadi
• Pelecehan dan penipuan keuangan yang sulit dilacak

Dalam beberapa temuan, AI bahkan berpotensi digunakan untuk aktivitas ilegal lain seperti peretasan dan ujaran kebencian.

Banyak Berasal dari Model AI Populer

Sebagian besar LLM open-source yang beredar diketahui merupakan turunan dari model populer, seperti Llama milik Meta dan Gemma yang dikembangkan Google DeepMind.

Namun, masalah muncul ketika:

• Pembatas keamanan AI dihapus secara sengaja
• Model dijalankan tanpa pengawasan etis
• Risiko penggunaan diserahkan sepenuhnya ke pengguna

Situasi ini disebut peneliti sebagai “gunung es” karena banyak potensi penyalahgunaan yang tidak terdeteksi.

Ancaman Bersifat Global dan Lintas Negara

Dari sisi sebaran, sekitar 30% server LLM open-source yang diamati beroperasi dari China, disusul Amerika Serikat sekitar 20%. Data ini menegaskan bahwa penipuan berbasis AI bukan isu lokal, melainkan ancaman global yang sulit dikendalikan oleh satu negara saja.

Tanggung Jawab Industri Teknologi

Sejumlah pihak menilai, meski bersifat open-source, pengembang AI tetap memiliki kewajiban kehati-hatian. Langkah yang dinilai penting antara lain:

• Dokumentasi risiko penggunaan AI
• Penyediaan alat mitigasi dan pembatasan
• Transparansi terhadap potensi penyalahgunaan

Di sisi lain, Microsoft menyatakan telah melakukan evaluasi ketat sebelum merilis model AI dan terus memantau pola ancaman baru. Namun, belum semua perusahaan teknologi besar menyampaikan sikap resmi.

Waspada di Era Penipuan Berbasis AI

Meningkatnya penipuan online yang melibatkan AI menjadi pengingat penting bagi masyarakat digital. Di tengah kecanggihan teknologi, kewaspadaan tetap menjadi kunci, mulai dari:

• Tidak mudah percaya pada pesan yang terlihat meyakinkan
• Selalu memverifikasi informasi dan identitas pengirim
• Menjaga keamanan data pribadi

Tanpa kehati-hatian, kemajuan AI justru bisa menjadi celah baru bagi kejahatan siber di masa depan.