Kecerdasan buatan (AI) berkembang semakin cepat dan mulai digunakan dalam berbagai aktivitas, dari membantu pekerjaan hingga menjalankan tugas secara lebih mandiri. Di balik manfaat tersebut, muncul kekhawatiran mengenai keamanan dan dampaknya bagi manusia.

Perserikatan Bangsa-Bangsa (PBB) bahkan memperingatkan bahwa AI tingkat lanjut dapat menimbulkan risiko serius. Volker Turk, Komisioner Tinggi PBB untuk Hak Asasi Manusia, menyerukan agar negara dan perusahaan teknologi memperkuat pengamanan AI sebelum perkembangannya semakin sulit dikendalikan.

Mengapa AI Bisa Mengancam Manusia?

AI dirancang untuk membantu manusia bekerja lebih cepat dan efisien. Namun, semakin besar kemampuan sebuah sistem, semakin besar pula risiko jika teknologi tersebut digunakan tanpa pengawasan yang memadai.

Menurut Turk, AI tingkat lanjut berpotensi menimbulkan risiko eksistensial bagi umat manusia. Kekhawatiran ini bukan hanya soal kesalahan informasi, tetapi juga dampak yang dapat meluas ke berbagai aspek kehidupan.

Beberapa risiko yang perlu diperhatikan, antara lain:

• AI dapat disalahgunakan untuk melakukan tindakan yang merugikan.
• Sistem AI berpotensi memengaruhi infrastruktur penting.
• Perkembangan AI dapat lebih cepat daripada sistem pengamanannya.
• Teknologi dapat digunakan untuk kepentingan yang bertentangan dengan kepentingan publik.

Baca Juga: Marak Akun Pemerintah Palsu di Media Sosial, Ini Kata FBI

AI Makin Mandiri, Risiko Ikut Bertambah

Salah satu perkembangan yang menjadi perhatian adalah agen AI, yaitu sistem yang dapat menjalankan serangkaian tugas secara lebih mandiri. Kemampuan ini membuat AI lebih praktis, tetapi sekaligus meningkatkan risiko ketika sistem memiliki akses yang luas.

Hal yang perlu diperhatikan meliputi:

• AI dapat menjalankan beberapa tahapan pekerjaan secara otomatis.
• Sistem dapat berinteraksi dengan platform digital lain.
• Kesalahan pada satu tahap dapat memengaruhi proses berikutnya.
• Tindakan AI menjadi lebih sulit diprediksi ketika tingkat kemandiriannya meningkat.

PBB mengaitkan kekhawatiran ini dengan insiden yang melibatkan agen milik OpenAI dan platform AI open-source Hugging Face. Menurut pihak PBB, kejadian tersebut menunjukkan kemampuan AI berkembang lebih cepat daripada pengamanan yang tersedia.

Infrastruktur dan Lembaga Demokrasi Bisa Terdampak

Risiko AI juga dapat meluas ke sistem yang memiliki peran penting dalam kehidupan masyarakat. Juru bicara Turk menyebut AI canggih berpotensi mengganggu infrastruktur penting dan lembaga demokrasi.

Beberapa risiko tersebut meliputi:

• Gangguan terhadap layanan atau sistem penting.
• Penyalahgunaan teknologi untuk menyerang sistem digital.
• Manipulasi informasi yang berdampak pada masyarakat.
• Gangguan terhadap institusi yang menopang kehidupan demokrasi.

Karena itu, keamanan AI tidak hanya menjadi tanggung jawab perusahaan teknologi, tetapi juga pemerintah dan organisasi yang menggunakannya.

PBB Dorong Aturan dan Pengawasan

Turk juga menyoroti konsentrasi kekuasaan atas AI pada segelintir pihak. Kondisi ini membuat pengembangan dan penggunaan AI perlu diawasi agar tidak hanya menguntungkan kelompok tertentu.

PBB mendorong negara-negara dan perusahaan teknologi untuk:

• Menetapkan standar keselamatan dan keamanan AI.
• Mengawasi penggunaan AI pada sektor berisiko tinggi.
• Membatasi penggunaan teknologi yang dapat membahayakan manusia.
• Membangun kerja sama internasional dalam mengatur AI.

Aturan bersama dinilai penting karena pengembangan AI melibatkan banyak negara dan rantai pasok teknologi yang saling terhubung.

Baca Juga: FBI Peringatkan Medsos Jadi Sasaran Pencurian Foto Pribadi

AI dalam Senjata Juga Jadi Sorotan

Turk turut menyoroti penggunaan AI dalam sistem persenjataan. Ia mendukung larangan terhadap senjata yang dapat merenggut nyawa tanpa campur tangan manusia.

Risiko yang perlu diperhatikan antara lain:

• Berkurangnya campur tangan manusia dalam keputusan mematikan.
• Kesalahan sistem dalam mengenali target.
• Sulitnya menentukan pihak yang bertanggung jawab.
• Meningkatnya penggunaan senjata otonom dalam konflik.

Peringatan ini menunjukkan bahwa semakin besar kemampuan AI, semakin penting pula batasan dan pengawasan manusia.

Apa Artinya bagi Pengguna AI?

Peringatan PBB bukan berarti setiap penggunaan AI berbahaya. Teknologi ini tetap memiliki banyak manfaat, tetapi pengguna perlu memahami risikonya dan tidak sepenuhnya menyerahkan keputusan penting kepada sistem.

Beberapa langkah yang dapat dilakukan:

• Jangan memberikan data sensitif secara sembarangan.
• Periksa kembali informasi yang dihasilkan AI.
• Pahami izin akses aplikasi berbasis AI.
• Tetap gunakan pertimbangan manusia untuk keputusan penting.

Pada akhirnya, tantangan AI bukan hanya membuat teknologi semakin pintar, tetapi memastikan kemampuannya berkembang sejalan dengan keamanan dan tanggung jawab manusia.