AI Agent mulai berkembang dari sekadar chatbot menjadi sistem yang mampu menjalankan tugas secara mandiri, mulai dari membuat keputusan, mengakses aplikasi, hingga melakukan transaksi. Di tengah perkembangan ini, muncul pertanyaan penting: AI Agent bisa bertindak atas nama manusia, tetapi bagaimana memastikan identitas dan otorisasinya?

Pertanyaan tersebut bukan sekadar persoalan teknologi. Ketika sebuah AI Agent diberi kewenangan untuk melakukan tindakan yang berdampak pada bisnis atau individu, diperlukan mekanisme yang dapat memastikan siapa yang memberikan kewenangan, tindakan apa yang diizinkan, dan apakah tindakan tersebut benar-benar dilakukan oleh pihak yang berwenang.

Mengapa AI Agent Membutuhkan Identitas dan Otorisasi yang Jelas?

Jawabannya sederhana: AI Agent tidak lagi hanya menghasilkan informasi, tetapi berpotensi melakukan tindakan atas nama pengguna.

Bayangkan sebuah perusahaan menggunakan AI Agent untuk membantu proses pengadaan. Agent dapat memilih pemasok, membuat pesanan, mengirim dokumen, bahkan mengajukan transaksi sesuai parameter yang telah ditentukan. Jika sistem tersebut tidak memiliki identitas dan batas kewenangan yang jelas, kesalahan kecil dapat berkembang menjadi persoalan keamanan, operasional, bahkan hukum.

Karena itu, AI Agent perlu diperlakukan bukan sekadar sebagai perangkat lunak, tetapi sebagai aktor digital yang harus memiliki identitas, kredensial, serta aturan kewenangan yang dapat diverifikasi.

Bagaimana Membedakan Identitas AI Agent dan Identitas Manusia?

AI Agent dapat menjalankan instruksi manusia, tetapi identitasnya tetap perlu dibedakan dari identitas orang yang memberikan instruksi.

Misalnya, seorang direktur memberikan kewenangan kepada AI Agent untuk mengelola dokumen kontrak. Dalam kondisi tersebut setidaknya terdapat dua pihak:

• Manusia, yaitu pihak yang memberikan mandat.
• AI Agent, yaitu sistem yang menjalankan tindakan berdasarkan mandat tersebut.

Pemisahan ini penting agar setiap aktivitas dapat ditelusuri. Sistem harus mampu menjawab pertanyaan seperti:

• Siapa yang memberikan kewenangan?
• AI Agent mana yang menjalankan tindakan?
• Tindakan apa yang dilakukan?
• Kapan tindakan tersebut dilakukan?
• Apakah tindakan masih berada dalam batas kewenangan?

Dengan identitas yang jelas, aktivitas AI Agent dapat memiliki jejak digital yang lebih mudah diaudit.

Bagaimana Memastikan AI Agent Hanya Bertindak Sesuai Kewenangan?

Caranya adalah menerapkan otorisasi berbasis aturan, bukan memberikan akses tanpa batas.

AI Agent sebaiknya hanya memperoleh izin sesuai tugas yang diberikan. Contohnya, Agent yang bertugas mengelola dokumen mungkin diperbolehkan:

• Membaca dokumen tertentu.
• Mengirim dokumen kepada pihak yang telah ditentukan.
• Membuat draft dokumen.
• Mengajukan dokumen untuk persetujuan.

Namun, Agent tersebut belum tentu memiliki kewenangan untuk:

• Menyetujui kontrak secara mandiri.
• Mengubah data penting tanpa persetujuan.
• Melakukan transaksi bernilai besar.
• Memberikan akses kepada pihak lain.

Apa yang Harus Ada dalam Otorisasi AI Agent?

Otorisasi yang baik setidaknya perlu memperhatikan beberapa aspek berikut:

• Batas Tindakan
  Tentukan tindakan apa saja yang boleh dilakukan AI Agent.
• Batas Akses
  Berikan akses hanya terhadap data dan sistem yang benar-benar diperlukan.
• Batas Nilai Transaksi
  Untuk aktivitas finansial, tetapkan batas nominal yang dapat diproses secara otomatis.
• Masa Berlaku Kewenangan
  Kewenangan tidak seharusnya berlaku selamanya. Mandat dapat diberikan untuk periode tertentu dan dicabut ketika tidak lagi diperlukan.
• Persetujuan Manusia untuk Tindakan Berisiko Tinggi
  Tindakan tertentu tetap membutuhkan human approval, terutama jika memiliki konsekuensi hukum atau finansial yang signifikan.

Bagaimana Tanda Tangan Elektronik Membantu Memastikan Otorisasi?

Tanda Tangan Elektronik (TTE) dapat menjadi salah satu lapisan penting dalam membangun kepercayaan terhadap transaksi atau dokumen elektronik.

Dalam skenario tertentu, manusia memberikan persetujuan terhadap suatu dokumen atau tindakan melalui mekanisme autentikasi dan TTE. Setelah itu, sistem dapat mencatat bahwa tindakan tersebut dilakukan berdasarkan kewenangan yang diberikan.

Untuk kebutuhan yang memerlukan tingkat kepercayaan lebih tinggi, penggunaan Tanda Tangan Elektronik Tersertifikasi dapat membantu menghubungkan tanda tangan dengan identitas penanda tangan melalui mekanisme sertifikasi elektronik.

Namun, perlu dipahami bahwa TTE bukan berarti memberikan “kebebasan” kepada AI Agent untuk bertindak tanpa batas. Identitas, autentikasi, otorisasi, dan pencatatan aktivitas tetap harus dirancang sebagai satu kesatuan.

Mengapa Audit Trail Penting Ketika AI Agent Bertindak?

Jawabannya karena keputusan dan tindakan AI Agent harus dapat ditelusuri kembali.

Audit trail dapat mencatat informasi seperti:

• Identitas pengguna yang memberikan mandat.
• Identitas atau kredensial AI Agent.
• Instruksi yang diberikan.
• Waktu pelaksanaan.
• Sistem atau dokumen yang diakses.
• Tindakan yang dilakukan.
• Hasil dari tindakan tersebut.
• Persetujuan manusia jika diperlukan.

Catatan tersebut menjadi penting ketika terjadi kesalahan atau sengketa. Organisasi dapat melakukan pemeriksaan untuk mengetahui apa yang terjadi, siapa yang memberikan kewenangan, dan bagaimana sebuah tindakan dapat terjadi.

Apakah AI Agent Bisa Menggantikan Peran Manusia dalam Persetujuan?

Tidak selalu. Untuk tindakan yang memiliki risiko tinggi, manusia tetap perlu berada dalam approval loop.

AI Agent dapat membantu mempercepat pekerjaan, menganalisis informasi, dan menjalankan tugas rutin. Namun, keputusan tertentu membutuhkan pertimbangan, tanggung jawab, dan kewenangan manusia.

Pendekatan yang dapat diterapkan, antara lain:

• Low risk: AI Agent dapat bertindak otomatis.
• Medium risk: AI Agent bertindak dengan batasan tertentu dan aktivitasnya dicatat.
• High risk: AI Agent harus meminta persetujuan manusia sebelum menjalankan tindakan.

Dengan pendekatan tersebut, organisasi tidak harus memilih antara “semuanya manual” atau “semuanya otomatis”. Keduanya dapat dikombinasikan berdasarkan tingkat risikonya.

Bagaimana Organisasi Membangun Kepercayaan terhadap AI Agent?

Membangun kepercayaan terhadap AI Agent tidak cukup hanya dengan memastikan model AI bekerja dengan baik. Organisasi juga perlu membangun digital trust di sekitar identitas dan aktivitasnya.

Beberapa langkah yang dapat diterapkan adalah:

• Tetapkan identitas unik untuk setiap AI Agent.
• Gunakan kredensial yang aman dan dapat dikelola.
• Terapkan prinsip least privilege, yaitu memberikan akses seminimal mungkin.
• Pisahkan kewenangan manusia dan AI Agent.
• Gunakan autentikasi dan mekanisme persetujuan yang kuat.
• Catat seluruh aktivitas penting melalui audit trail.
• Lakukan evaluasi serta pencabutan kewenangan secara berkala.
• Gunakan sertifikasi elektronik dan TTE sesuai kebutuhan transaksi atau dokumen.

Dengan fondasi tersebut, otomatisasi dapat berjalan lebih cepat tanpa mengorbankan aspek keamanan, akuntabilitas, dan kepercayaan.

Kesimpulan: Siapa yang Bertanggung Jawab ketika AI Agent Bertindak?

AI Agent memang dapat membantu manusia menjalankan berbagai aktivitas secara lebih cepat dan efisien. Namun, semakin besar kewenangan yang diberikan, semakin penting pula memastikan identitas, otorisasi, autentikasi, dan jejak aktivitasnya.

AI Agent sebaiknya tidak diposisikan sebagai “pengganti manusia” yang memiliki kewenangan tanpa batas. Sebaliknya, Agent perlu ditempatkan dalam sistem tata kelola yang jelas: siapa yang memberikan mandat, apa yang boleh dilakukan, kapan kewenangan berlaku, dan bagaimana setiap tindakan dapat dibuktikan.

Di era ketika AI semakin mampu bertindak secara mandiri, kepercayaan digital menjadi fondasi yang tidak boleh diabaikan. Vinotek hadir dengan solusi sertifikasi elektronik yang dapat membantu organisasi membangun proses transaksi dan dokumen digital yang lebih aman, terpercaya, dan dapat dipertanggungjawabkan.