Perkembangan kecerdasan buatan  (AI) kini bergerak menuju kemampuan yang semakin canggih. AI tak lagi hanya digunakan untuk menjawab pertanyaan atau membantu pekerjaan, tetapi juga mulai dikembangkan agar mampu menjalankan tugas kompleks dengan tingkat kemandirian yang lebih tinggi.

Perkembangan ini memunculkan kekhawatiran baru, terutama mengenai kemungkinan AI membantu meningkatkan kemampuan dirinya sendiri. Konsep tersebut dikenal sebagai recursive self-improvement, yaitu kondisi ketika AI dapat membantu membuat atau memperbaiki sistem AI berikutnya yang lebih kuat. Proses itu kemudian dapat berulang dan berpotensi mempercepat perkembangan kemampuan AI.

Apa yang Dimaksud dengan AI yang Bisa Berkembang Sendiri?

Dalam pengembangan AI saat ini, manusia memang masih memegang peran penting dalam merancang, melatih, dan menguji model. Namun, recursive self-improvement membayangkan sistem AI yang dapat mengambil bagian lebih besar dalam proses peningkatan tersebut.

Secara sederhana, prosesnya dapat digambarkan sebagai berikut:

• AI membantu mengembangkan AI generasi berikutnya.
• AI baru memiliki kemampuan yang lebih tinggi.
• Sistem tersebut kembali membantu meningkatkan AI.
• Siklus dapat terus berlangsung dan berpotensi menjadi semakin cepat.

Konsep ini menjadi perhatian karena persoalannya bukan hanya AI yang semakin pintar, tetapi kemungkinan AI ikut mempercepat proses peningkatan kemampuannya sendiri.

Baca Juga: AI Kini Bertemu Quantum Computing, Apa Dampaknya?

Mengapa Perkembangan AI Ini Dikhawatirkan?

Kekhawatiran tersebut salah satunya disampaikan Jacob Coxon, peneliti yang sebelumnya bekerja di OpenAI dan Anthropic. Setelah sekitar tiga tahun mengerjakan riset pretraining, ia mengundurkan diri dan secara terbuka memperingatkan risiko perlombaan menuju self-improving superintelligence.

Menurutnya, sebagian pelaku AI menyadari bahwa sistem yang jauh lebih cerdas dari manusia dapat membawa risiko besar. Namun, persaingan untuk menjadi yang pertama mencapai kemampuan tersebut dapat mendorong pengembangan semakin cepat.

Risiko yang menjadi perhatian, antara lain:

• AI dapat melampaui kemampuan manusia dalam semakin banyak bidang.
• Sistem yang sangat canggih berpotensi digunakan untuk melakukan serangan digital.
• AI dapat memperoleh akses terhadap sumber daya yang lebih besar.
• Perkembangan AI dapat berlangsung lebih cepat daripada kemampuan manusia untuk memahami dan mengendalikannya.

Risiko AI Sudah Menjadi Perhatian Saat Ini

Pembahasan tentang AI yang berkembang sendiri memang berkaitan dengan masa depan, tetapi persoalan pengendalian sistem sudah terlihat dalam sejumlah insiden keamanan.

Menurut laporan TechCrunch, sistem OpenAI dilaporkan pernah mengakses server Hugging Face. Pada periode yang sama, agen AI Anthropic juga dapat menjangkau sistem di luar lingkungan pengujian akibat kesalahan konfigurasi dalam evaluasi keamanan yang dilakukan pihak ketiga.

Peristiwa tersebut tidak berarti AI saat ini sudah mampu mengambil alih sistem secara bebas. Namun, kejadian itu menunjukkan pentingnya membatasi akses dan menguji sistem secara ketat, terutama ketika AI semakin mampu berinteraksi dengan internet dan perangkat lunak.

Baca Juga: AI dan Quantum Ubah Strategi Keamanan Siber, Harus Apa?

AI Juga Dipandang sebagai Peluang

Tidak semua pihak menganggap perkembangan menuju superintelligence sebagai ancaman. Sebagian pelaku industri melihat AI dengan kemampuan jauh lebih tinggi sebagai peluang untuk membantu manusia menyelesaikan persoalan yang sulit.

Teknologi tersebut diharapkan dapat membantu:

• Mempercepat penelitian kesehatan.
• Mencari solusi terhadap perubahan iklim.
• Menangani pekerjaan yang kompleks.
• Mempercepat perkembangan ilmu pengetahuan dan teknologi.

Karena itu, perdebatan mengenai AI bukan sekadar soal menghentikan atau melanjutkan pengembangan. Tantangannya adalah memastikan manfaat teknologi dapat diperoleh tanpa mengabaikan risiko yang menyertainya.

Regulasi AI Mulai Menyoroti Superintelligence

Kekhawatiran terhadap AI juga mulai masuk ke ranah kebijakan. Di Amerika Serikat dan Inggris, muncul usulan aturan yang secara khusus membahas superintelligence dan recursive self-improvement.

Beberapa perkembangan yang disoroti adalah:

• Ban Artificial Superintelligence Act diperkenalkan di Amerika Serikat.
• Artificial Superintelligence Security Bill diperkenalkan di Inggris.
• Regulasi Inggris mengaitkan recursive self-improvement dengan perkembangan yang perlu diawasi dan dicegah.

Perkembangan tersebut menunjukkan bahwa AI mulai dipandang bukan hanya sebagai inovasi teknologi, tetapi juga sebagai persoalan keamanan dan tata kelola.

Pada akhirnya, semakin besar kemampuan AI, semakin penting pula memastikan keamanan, pengawasan, dan mekanisme penghentian berkembang dengan kecepatan yang sama. Persoalannya bukan hanya seberapa pintar AI dapat menjadi, tetapi apakah manusia masih mampu memahami dan mengendalikannya.