Kecerdasan buatan (AI) yang kini berkembang pesat telah digunakan untuk berbagai kebutuhan, mulai dari membuat teks, menganalisis data, hingga membantu penelitian. Namun, semakin luas kemampuan AI, semakin besar pula perhatian terhadap risiko yang mungkin ditimbulkannya.

Sejumlah pihak bahkan memperingatkan kemungkinan ekstrem apabila suatu saat AI memiliki kemampuan jauh melampaui manusia. Meski demikian, penting membedakan antara risiko yang sudah dapat terjadi saat ini dan skenario ekstrem yang masih bersifat hipotetis.

Mengapa AI Bisa Menjadi Berbahaya?

AI pada dasarnya merupakan teknologi yang dirancang untuk menjalankan tugas berdasarkan data dan instruksi. Risiko muncul ketika AI digunakan untuk tujuan yang salah, menghasilkan keputusan keliru, atau diberikan akses terlalu luas terhadap data dan sistem penting.

Karena itu, tingkat risiko AI tidak hanya ditentukan oleh kecanggihannya, tetapi juga bagaimana teknologi tersebut digunakan dan dikendalikan.

Beberapa faktor yang dapat meningkatkan risiko AI meliputi:

• AI digunakan untuk tujuan berbahaya atau melanggar hukum.
• Sistem AI memperoleh akses terhadap data sensitif.
• Hasil AI dipercaya tanpa proses verifikasi.
• AI terhubung dengan sistem yang dapat melakukan tindakan otomatis.
• Tidak tersedia pengawasan manusia yang memadai.

Baca Juga: Model AI Berbahaya Ini Bocor, Apa Risikonya?

Risiko AI yang Sudah Terjadi Saat Ini

Pembahasan bahaya AI sering dikaitkan dengan robot yang mengambil alih manusia. Padahal, risiko yang lebih dekat dengan kehidupan sehari-hari sudah dapat ditemukan saat ini.

AI dapat menghasilkan informasi yang terlihat meyakinkan tetapi belum tentu benar. Teknologi ini juga dapat digunakan untuk membuat gambar, video, dan suara palsu yang semakin sulit dibedakan dari konten asli.

Beberapa risiko yang perlu diperhatikan, antara lain:

• Informasi keliru, akibat hasil AI digunakan tanpa verifikasi.
• Deepfake, berupa manipulasi gambar, video, atau suara.
• Penipuan digital, dengan memanfaatkan konten yang dibuat AI.
• Kebocoran data, ketika informasi sensitif dimasukkan ke layanan AI.
• Penyalahgunaan untuk serangan siber.
• Ketergantungan terhadap AI dalam mengambil keputusan penting.

Risiko tersebut menunjukkan bahwa AI tidak harus menjadi supercerdas terlebih dahulu untuk menimbulkan masalah.

Bagaimana jika AI Semakin Cerdas?

Kekhawatiran lain muncul apabila kemampuan AI berkembang hingga jauh melampaui sistem saat ini. Dalam skenario ekstrem, AI dibayangkan mampu membuat strategi, menggunakan berbagai sumber daya, bahkan meningkatkan kemampuannya sendiri.

Kondisi tersebut menimbulkan pertanyaan mengenai kemampuan manusia dalam mengendalikan sistem AI yang semakin kompleks. Namun, skenario tersebut masih menjadi perdebatan dan belum menggambarkan kemampuan AI saat ini.

Beberapa pertanyaan yang masih menjadi perhatian, antara lain:

• Seberapa jauh kemampuan AI dapat berkembang?
• Bagaimana memastikan tujuan AI tetap sejalan dengan kepentingan manusia?
• Seberapa besar akses yang seharusnya diberikan kepada AI?
• Bagaimana menghentikan sistem yang berperilaku tidak sesuai?

Persoalan tersebut menjadi bagian dari bidang AI safety, yang berfokus pada pengembangan AI agar tetap aman dan dapat dikendalikan.

Baca Juga: Risiko Input Data Perusahaan ke Chatbot AI

Benarkah AI Bisa Memusnahkan Manusia?

Skenario paling ekstrem adalah kemungkinan AI menyebabkan kepunahan manusia. Beberapa pihak membayangkan AI yang sangat canggih dapat memengaruhi manusia untuk mengembangkan senjata biologis, mengendalikan robot otonom, atau memperoleh akses terhadap sistem persenjataan strategis.

Namun, skenario tersebut masih hipotetis dan memiliki banyak hambatan nyata. AI tidak dapat begitu saja melakukan aktivitas fisik tanpa perangkat keras, energi, infrastruktur, material, dan akses yang sesuai.

Hal yang perlu diperhatikan, antara lain:

• AI tetap bergantung pada perangkat keras dan infrastruktur.
• Banyak sistem penting memiliki pembatasan akses fisik dan digital.
• Produksi senjata atau patogen membutuhkan proses dunia nyata yang kompleks.
• Sistem kritis dapat memiliki beberapa lapisan pengamanan.
• Belum ada bukti AI saat ini mampu menjalankan skenario tersebut secara mandiri.

Karena itu, risiko ekstrem perlu dipahami sebagai bagian dari antisipasi jangka panjang, bukan sebagai kepastian.

Bagaimana Cara Mengurangi Risiko AI?

Mengurangi risiko AI membutuhkan kombinasi antara teknologi, aturan, dan pengawasan manusia. Perusahaan perlu menentukan bagaimana AI boleh digunakan serta data apa yang tidak boleh diproses oleh sistem AI.

Beberapa langkah yang dapat diterapkan adalah:

• Membuat kebijakan penggunaan AI.
• Mengklasifikasikan data berdasarkan tingkat sensitivitas.
• Membatasi akses AI terhadap data dan sistem penting.
• Menggunakan autentikasi dan kontrol akses yang kuat.
• Memverifikasi hasil AI sebelum digunakan.
• Menyediakan pengawasan manusia untuk keputusan berisiko tinggi.
• Memberikan edukasi kepada pengguna mengenai risiko AI.

Dengan pendekatan tersebut, AI dapat dimanfaatkan untuk meningkatkan produktivitas tanpa mengabaikan keamanan, privasi, dan kontrol manusia.