GUDANG NARASI – Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Kemkomdigi) secara resmi mengumumkan pemutusan akses sementara terhadap layanan kecerdasan buatan (AI) milik Elon Musk, Grok, mulai Sabtu, 10 Januari 2026. Langkah tegas ini diambil menyusul temuan penyalahgunaan teknologi tersebut untuk memproduksi konten asusila berbasis deepfake yang menyasar warga sipil, terutama perempuan dan anak-anak.
Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid, menegaskan bahwa keputusan ini bukan bentuk hambatan terhadap inovasi teknologi, melainkan langkah preventif yang mendesak. Menurutnya, negara harus hadir ketika ruang digital mulai mengancam martabat dan keamanan fisik maupun psikologis warga negaranya.
Ancaman Deepfake Seksual: Pelanggaran Serius HAM
Pemicu utama pemblokiran ini adalah maraknya laporan mengenai fitur generatif Grok yang memungkinkan pengguna memanipulasi foto asli menjadi konten pornografi non-konsensual. Fenomena ini, yang dikenal sebagai deepfake seksual, telah memakan banyak korban di platform X (sebelumnya Twitter), tempat Grok terintegrasi secara langsung.
“Pemerintah memandang praktik deepfake seksual non-konsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” ujar Meutya Hafid dalam keterangan resminya.
Ia menambahkan bahwa perempuan dan anak-anak adalah kelompok yang paling rentan menjadi korban eksploitasi ini. Tanpa safeguard atau sistem pengaman yang kuat dari penyedia platform, teknologi AI yang kuat seperti Grok dapat dengan mudah disalahgunakan untuk menghancurkan reputasi seseorang hanya dalam hitungan detik.
Dasar Hukum dan Kewajiban Penyelenggara Sistem Elektronik (PSE)
Pemblokiran sementara ini didasarkan pada Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Berdasarkan pasal 9 dalam regulasi tersebut, setiap PSE wajib memastikan sistem elektronik mereka tidak memuat atau memfasilitasi penyebaran informasi elektronik yang dilarang oleh hukum Indonesia, termasuk konten pornografi dan kekerasan.
Kemkomdigi telah melayangkan surat panggilan dan permintaan klarifikasi kepada pihak X sebagai induk perusahaan yang mengoperasikan Grok di Indonesia. Pemerintah menuntut X untuk:
- Menunjukkan bukti sistem mitigasi risiko yang mampu menyaring konten deepfake secara real-time.
- Membatasi fitur generatif gambar bagi pengguna di wilayah Indonesia hingga standar keamanan terpenuhi.
- Melakukan audit internal terkait kebocoran data foto pengguna yang digunakan sebagai materi pelatihan atau manipulasi AI.
Respons Global dan Posisi Indonesia
Indonesia tercatat sebagai negara pertama yang mengambil langkah berani dengan memutus akses Grok secara nasional karena alasan perlindungan gender. Sebelumnya, negara-negara seperti India, Malaysia, dan beberapa negara Uni Eropa juga telah menyuarakan keprihatinan serupa dan memulai penyelidikan formal terhadap xAI (perusahaan pengembang Grok).
Pakar keamanan digital menyambut baik langkah ini, meskipun menekankan bahwa blokir hanyalah solusi jangka pendek. Tantangan sebenarnya adalah bagaimana mengatur etika AI yang terus berkembang melampaui regulasi yang ada. Namun, bagi Menkomdigi, keamanan publik tidak bisa menunggu birokrasi yang panjang.
“Apa yang mungkin dianggap wajar di negara lain atau dalam standar kebebasan berekspresi global tertentu, belum tentu cocok dengan norma dan perlindungan hukum di Indonesia. Platform global tidak bisa menerapkan satu standar tunggal tanpa menghormati kedaulatan hukum negara setempat,” tegas Meutya.
Ancaman Pidana bagi Penyalahguna
Selain tindakan administratif terhadap platform, Bareskrim Polri juga telah memperingatkan masyarakat bahwa penggunaan AI untuk memanipulasi data elektronik demi tujuan asusila dapat dijerat dengan UU ITE (Informasi dan Transaksi Elektronik). Pelaku penyebaran konten deepfake pornografi terancam hukuman penjara hingga 10 tahun dan denda miliaran rupiah.
Direktur Tindak Pidana Siber Bareskrim Polri menyatakan bahwa pihaknya tengah memantau sejumlah akun yang diduga aktif membagikan tutorial maupun hasil editan foto asusila menggunakan Grok. Penegakan hukum ini diharapkan memberikan efek jera agar teknologi tidak dijadikan senjata untuk melakukan pelecehan seksual berbasis digital.
Kesimpulan dan Masa Depan Grok di Indonesia
Hingga berita ini diturunkan, akses menuju Grok melalui platform X masih tidak dapat diakses oleh sebagian besar pengguna di Indonesia. Pemerintah menyatakan akan membuka kembali akses tersebut jika pihak X menunjukkan itikad baik dan kepatuhan terhadap regulasi nasional.
Langkah Menkomdigi Meutya Hafid ini menjadi sinyal kuat bahwa Indonesia sangat serius dalam menjaga keamanan ruang digital bagi perempuan dan anak-anak. Di tengah pesatnya perkembangan AI, perlindungan terhadap martabat manusia tetap menjadi prioritas utama di atas kepentingan komersial platform digital manapun.
