Grok, layanan chatbot berbasis kecerdasan buatan (AI) yang dikembangkan oleh xAI, menghadapi tekanan global. Sejumlah negara mulai mempertimbangkan pemblokiran akses terhadap Grok menyusul maraknya konten deepfake dan manipulasi visual yang dinilai membahayakan, terutama karena banyak di antaranya dibuat tanpa persetujuan pihak terkait.

Masalah ini mencuat setelah pengguna platform X menemukan bahwa Grok dapat menghasilkan gambar dan deskripsi bernuansa seksual, termasuk yang menampilkan anak di bawah umur. Jenis konten tersebut masuk dalam kategori child sexual abuse material (CSAM) dan dianggap sebagai pelanggaran serius terhadap hukum di banyak negara.

Tak hanya itu, investigasi dari sejumlah media internasional seperti Reuters, The Atlantic, dan Wired mengungkap bahwa sistem pengamanan Grok masih memiliki banyak celah. Celah ini memungkinkan pengguna memproduksi konten deepfake yang bersifat seksual, nonkonsensual, bahkan mengandung unsur kekerasan visual.

Daftar Negara yang Berpotensi Memblokir Akses Grok

Maraknya konten deepfake dan manipulasi visual tanpa persetujuan membuat sejumlah negara mulai mengambil langkah tegas terhadap Grok, chatbot AI besutan xAI. Berikut daftar negara yang sudah memblokir, sedang menyelidiki, atau mempertimbangkan pembatasan akses.

1. Malaysia

Malaysia menjadi salah satu negara yang lebih dulu mengambil langkah tegas dengan menangguhkan sementara akses Grok. Keputusan ini diambil sembari menunggu hasil evaluasi terhadap sistem pengamanan konten yang dinilai belum memadai.

2. Indonesia

Indonesia juga menerapkan penangguhan sementara terhadap layanan Grok. Pemerintah menilai perlu ada peninjauan ulang terhadap potensi pelanggaran hukum, terutama yang berkaitan dengan konten manipulatif, eksploitasi digital, dan perlindungan anak.

3. Inggris

Inggris saat ini sedang mempertimbangkan pemblokiran layanan Grok. Regulator komunikasi setempat, Ofcom, telah membuka penyelidikan resmi. Jika terbukti melanggar Online Safety Act, Grok bisa dikenai sanksi berat, termasuk denda besar.

4. Prancis

Prancis termasuk negara Eropa yang aktif mendorong pengawasan ketat terhadap platform berbasis AI. Pemerintah setempat menilai konten deepfake tanpa izin sebagai ancaman serius terhadap privasi dan keamanan digital.

5. India

India juga masuk dalam daftar negara yang sedang melakukan kajian dan investigasi terhadap Grok. Otoritas setempat menyoroti risiko penyebaran konten manipulatif yang dapat memicu pelanggaran hukum dan keresahan sosial.

6. Brasil

Brasil secara terbuka mengancam akan menangguhkan akses Grok jika xAI tidak segera memperbaiki sistem pengamanan kontennya. Negara ini dikenal memiliki regulasi ketat terkait penyebaran konten digital yang melanggar privasi.

7. Uni Eropa

Uni Eropa secara kolektif sedang menyelidiki Grok atas dugaan pelanggaran Digital Services Act. Otoritas UE bahkan telah memerintahkan X untuk menyimpan seluruh data dan dokumen internal terkait pengembangan Grok sebagai bagian dari investigasi.

8. Australia

Meski belum secara spesifik memblokir Grok, Australia telah menerapkan kebijakan ketat terhadap platform digital, termasuk pembatasan akses media sosial bagi pengguna di bawah usia 16 tahun. Kebijakan ini menjadi sinyal bahwa regulasi terhadap AI juga bisa semakin diperketat.

Respons xAI dan Elon Musk

Menanggapi polemik ini, pihak xAI mengklaim tengah memperkuat sistem pengaman atau guardrails Grok. Namun, banyak pihak menilai langkah tersebut belum cukup cepat dan tegas.

Elon Musk menyatakan bahwa perusahaannya menganggap serius pembuatan konten ilegal. Meski begitu, ia berpendapat bahwa tanggung jawab hukum seharusnya dibebankan kepada pengguna, bukan kepada platform.

Ketika wacana pemblokiran mulai mencuat di beberapa negara, Musk menyebut langkah tersebut sebagai bentuk sensor. Ia juga menuding pemerintah tertentu ingin membungkam kebebasan berekspresi di ruang digital.