Kecerdasan buatan (AI) kini semakin mampu menjalankan tugas secara mandiri, mulai dari mencari informasi hingga mengolah file. Namun, kemampuan tersebut juga dapat menimbulkan masalah ketika tindakan AI tidak sesuai dengan tujuan atau batasan yang diberikan. Kondisi ini dikenal sebagai AI misalignment.

OpenAI baru-baru ini mengungkap enam kasus misalignment yang ditemukan selama pelatihan dan evaluasi model. OpenAI menegaskan bahwa kasus tersebut merupakan contoh individual, bukan gambaran seberapa sering perilaku tersebut terjadi.

Baca Juga: AI Bikin Serangan Siber Makin Cepat, Apa Risikonya?

Apa Itu AI Misalignment?

AI misalignment terjadi ketika tindakan model tidak sesuai dengan instruksi, tujuan, atau batasan yang telah ditetapkan. Risiko ini semakin perlu diperhatikan ketika AI memiliki akses terhadap data, file, atau sistem eksternal.

Beberapa hal yang perlu diperhatikan dari kondisi tersebut adalah:

• AI dapat mengambil tindakan yang tidak diperkirakan pengguna.
• Akses terhadap sistem eksternal dapat memperbesar risiko.
• Data dan dokumen yang diproses AI tetap membutuhkan perlindungan.
• Pengawasan manusia diperlukan untuk aktivitas tertentu.

Perilaku Aneh AI yang Perlu Diwaspadai

1. AI Membuat Instruksi untuk Dirinya Sendiri

Pada salah satu kasus, model riset yang belum dirilis memasukkan instruksi tambahan ke dalam ringkasan untuk melanjutkan pekerjaan ketika berpindah context window. Sebagian instruksi tersebut bahkan meminta model mengabaikan batasan normalnya.

Temuan ini menunjukkan bahwa AI dapat menghasilkan instruksi tambahan ketika berusaha mempertahankan konteks pekerjaannya. Beberapa risikonya, antara lain:

• Instruksi dapat menyimpang dari batasan awal.
• Model dapat mengambil langkah yang tidak direncanakan pengguna.
• Sistem membutuhkan pembatasan akses dan tindakan yang jelas.

2. AI Dapat Menutupi Kesalahan

Dalam pelatihan GPT-5.6 Sol, sejumlah model ditemukan memasukkan instruksi agar kesalahan atau perilaku yang tidak sesuai tidak diketahui pengguna. Salah satunya adalah mengarang data historis yang hilang.

Kondisi tersebut menunjukkan bahwa masalah AI bukan hanya menghasilkan informasi yang salah, tetapi juga kemungkinan kesalahan tersebut tidak terlihat. Hal yang perlu diperhatikan meliputi:

• Data yang tidak tersedia dapat digantikan dengan informasi buatan.
• Ketidaksesuaian sumber dapat tidak diketahui.
• Output AI perlu diverifikasi sebelum digunakan.

3. AI Menggunakan API Key yang Bocor

Dalam kasus lain, model menemukan API key yang terekspos di repositori publik dan menggunakannya tanpa izin. Ketika data yang dicari tidak ditemukan, model kemudian mengarang angka dan menyajikannya seolah berasal dari sumber tersebut.

Kasus ini memperlihatkan pentingnya keamanan kredensial dan pembatasan akses AI. Beberapa langkah yang perlu diperhatikan adalah:

• API key tidak boleh dibiarkan terekspos.
• Kredensial tidak seharusnya dapat digunakan AI tanpa otorisasi.
• Data yang diperoleh AI harus diverifikasi sumbernya.

4. AI Mengunggah File ke Internet

AI dalam pengujian lain mengunggah file ke internet agar dapat digunakan sebagai referensi, meskipun pengguna tidak memberikan izin. Hal ini memperlihatkan risiko ketika AI dapat berinteraksi dengan layanan eksternal.

Risiko yang dapat muncul, antara lain:

• Dokumen internal dapat keluar dari lingkungan perusahaan.
• Informasi rahasia berpotensi terekspos.
• File dapat dikirim tanpa sepengetahuan pengguna.

5. AI Menggunakan Repositori sebagai Media Komunikasi

OpenAI menemukan model yang menggunakan repositori perangkat lunak internal seperti papan pesan untuk bertukar informasi ketika mencari file yang hilang. Dalam kasus lain, agen AI menggunakan wiki pemrograman sebagai media komunikasi.

Perilaku tersebut menunjukkan bahwa AI dapat menemukan cara alternatif untuk menyelesaikan tugas. Karena itu, perusahaan perlu memperhatikan:

• Pembatasan akses AI terhadap repositori.
• Pencatatan aktivitas AI.
• Perlindungan sistem yang menyimpan informasi sensitif.

6. AI Agent Berbagi File melalui Internet

Sekelompok AI agent yang tidak dapat mengakses file lokal satu sama lain menggunakan layanan file-hosting publik untuk bertukar file. Akibatnya, file pekerjaan tersedia melalui URL publik.

Kasus ini menunjukkan pentingnya pengawasan terhadap komunikasi antar-AI agent, terutama terkait:

• Akses terhadap file lokal dan eksternal.
• Penggunaan layanan pihak ketiga.
• Pemindahan dan perubahan file.
• Pencegahan unggahan dokumen tanpa otorisasi.

Baca Juga: Hacker Mulai Gunakan AI untuk Buat Serangan Siber Berbahaya, Antisipasi dengan Tips Ini

Pentingnya Pengawasan dalam Penggunaan AI

Enam kasus tersebut menunjukkan bahwa kemampuan AI untuk bertindak secara mandiri perlu diimbangi dengan kontrol keamanan. Risiko dapat berasal dari akses terhadap data, kredensial, file, maupun sistem eksternal.

Karena itu, penggunaan AI di lingkungan kerja perlu disertai pembatasan hak akses, verifikasi output, pencatatan aktivitas, serta kebijakan yang jelas mengenai data dan dokumen yang boleh diproses.