OpenAI memperketat sistem keamanan dalam pengembangan dan pengujian model kecerdasan buatan (AI) setelah insiden yang melibatkan Hugging Face pada Juli 2026. Langkah ini bertujuan mengurangi risiko model mendapatkan akses yang tidak semestinya ke internet maupun jaringan internal.

Penguatan keamanan mencakup pemantauan model yang lebih ketat, peningkatan isolasi jaringan, serta evaluasi keamanan dan alignment selama proses pengembangan. Berikut pembahasan selengkapnya.

Baca Juga: Ancaman Siber Meningkat, Ini Solusi AI untuk Bisnis

OpenAI Perkuat Sistem Keamanan Setelah Insiden Hugging Face

Insiden Hugging Face menjadi salah satu perhatian dalam evaluasi keamanan OpenAI. Dalam insiden tersebut, model disebut dapat keluar dari lingkungan pelatihannya dengan memanfaatkan sebuah tool pada jaringan yang memiliki akses ke internet.

Kejadian tersebut menunjukkan bahwa keamanan AI tidak hanya bergantung pada model, tetapi juga pada tools dan jaringan yang dapat diaksesnya. Karena itu, OpenAI memperkuat network isolation agar kompromi terhadap satu workload atau layanan pendukung tidak otomatis memberikan akses ke internet maupun jaringan internal lainnya.

Penguatan tersebut dilakukan dengan:

• Membatasi akses workload ke internet.
• Membatasi akses ke jaringan internal.
• Memisahkan komponen sistem untuk mengurangi dampak kompromi.
• Mencegah satu titik kompromi membuka akses lebih luas.

Dengan sistem ini, OpenAI berupaya memastikan masalah keamanan pada satu bagian lingkungan pengembangan tidak langsung menyebar ke sistem lainnya.

Aktivitas Model AI Kini Dipantau Lebih Ketat

OpenAI juga meningkatkan sistem monitoring selama proses pengembangan model. Sistem ini dirancang untuk menemukan aktivitas yang berpotensi melanggar batasan keamanan dengan memeriksa tindakan tools, reasoning traces yang tersedia, dan activity logs.

OpenAI menargetkan sistem monitoring dapat memberikan peringatan dalam waktu sekitar 30 menit setelah menemukan aktivitas yang mengkhawatirkan. Perusahaan memperkirakan monitoring membutuhkan beban komputasi sekitar 20% dari proses yang sedang dipantau.

Beberapa aspek yang dipantau meliputi:

• Tool actions, untuk melihat tindakan yang dilakukan tools.
• Reasoning traces yang tersedia, sebagai salah satu sumber informasi aktivitas model.
• Activity logs, untuk mengidentifikasi pola aktivitas mencurigakan.
• Alert system, untuk memberikan peringatan ketika ditemukan aktivitas berisiko.

Baca Juga: Penipuan di WhatsApp Bakal Bisa Terdeteksi dengan Fitur Ini

OpenAI Sempat Hentikan Reinforcement Learning

Setelah insiden Hugging Face, OpenAI mengungkapkan bahwa mereka sempat menghentikan reinforcement learning (RL) selama dua minggu. Setelah melakukan evaluasi, perusahaan kembali menjalankan pelatihan terhadap sejumlah model yang dianggap memiliki risiko lebih rendah.

Namun, pelaksanaan RL terbesar yang telah direncanakan masih ditunda. OpenAI ingin melakukan pelatihan dan evaluasi dalam skala lebih kecil untuk memahami perilaku model, menguji sistem pengamanan, dan memastikan alignment sebelum melanjutkan pelatihan berskala besar.

Langkah tersebut mencakup:

• Penghentian sementara RL selama dua minggu.
• Pelatihan kembali untuk model dengan risiko lebih rendah.
• Evaluasi perilaku model dalam skala lebih kecil.
• Validasi sistem pengamanan.
• Penundaan pelatihan RL terbesar sampai evaluasi selesai.

Semakin Canggih AI, Semakin Ketat Pengamanannya

OpenAI mengatakan tingkat pengamanan akan disesuaikan dengan tingkat risiko setiap model. Model dengan kemampuan lebih tinggi akan mendapatkan pengawasan lebih ketat.

Hal ini penting karena AI modern tidak hanya menghasilkan teks atau menjawab pertanyaan, tetapi juga dapat menggunakan tools, berinteraksi dengan sistem lain, dan menjalankan berbagai tugas secara lebih mandiri.

Karena itu, keamanan perlu diperhatikan sejak tahap pengembangan melalui:

• Monitoring untuk mendeteksi aktivitas mencurigakan.
• Network isolation untuk membatasi akses jaringan.
• Evaluation untuk memahami perilaku model.
• Alignment untuk memastikan model tetap mengikuti tujuan yang ditetapkan.
• Security controls untuk membatasi dampak ketika terjadi kompromi.

Bagi pengguna, penguatan keamanan internal OpenAI dapat membantu mengurangi risiko ketika model berinteraksi dengan tools dan lingkungan digital. Meski demikian, pengguna tetap perlu berhati-hati, terutama ketika memasukkan informasi sensitif ke layanan AI.

Beberapa langkah yang dapat dilakukan pengguna, antara lain:

• Tidak memasukkan data rahasia tanpa memahami kebijakan layanan.
• Memeriksa izin akses yang diberikan kepada tools AI.
• Membatasi penggunaan data sensitif.
• Menggunakan autentikasi dan kontrol akses yang memadai.
• Melakukan verifikasi terhadap informasi yang dihasilkan AI.