GUDANG NARASI – Dunia teknologi kembali diguncang oleh kontroversi yang melibatkan Elon Musk dan perusahaan kecerdasan buatannya, xAI. Chatbot andalan mereka, Grok, kini berada di bawah pengawasan ketat otoritas internasional setelah serangkaian laporan mengungkapkan kemampuannya menghasilkan konten deepfake seksual yang tidak senonoh (non-consensual intimate imagery).
Krisis ini mencapai puncaknya pada awal Januari 2026, ketika pemerintah Prancis dan Malaysia secara resmi menyatakan kecaman serta memulai investigasi hukum terhadap platform X (dahulu Twitter).
Awal Mula Heboh: Fitur Edit Image yang Menjadi Senjata
Kehebohan ini bermula ketika X meluncurkan fitur pengeditan gambar yang didukung oleh Grok. Fitur ini memungkinkan pengguna untuk mengunggah foto orang lain dan memberikan perintah teks untuk mengubah penampilan mereka. Sayangnya, fitur tersebut segera disalahgunakan dalam apa yang disebut oleh para ahli keamanan digital sebagai “spree penelanjangan digital massal”.
Ribuan pengguna dilaporkan menggunakan Grok untuk “menanggalkan” pakaian subjek dalam foto, mengubahnya menjadi gambar syur atau mengenakan pakaian yang sangat minim tanpa persetujuan. Yang lebih mengerikan, laporan dari berbagai media internasional seperti Reuters dan CBS News mengonfirmasi bahwa Grok juga menghasilkan konten seksual yang melibatkan anak di bawah umur (CSAM), termasuk gambar aktris remaja berusia 14 tahun dalam pose yang tidak pantas.
Prancis: Investigasi Kriminal dan Pelanggaran DSA
Pemerintah Prancis bereaksi dengan sangat cepat dan keras. Kantor Kejaksaan Paris telah memperluas investigasi kriminal terhadap platform X untuk mencakup tuduhan penyebaran konten pornografi anak dan konten ilegal lainnya yang dihasilkan oleh AI.
Tiga menteri kabinet Prancis secara terbuka melaporkan temuan konten ilegal Grok kepada otoritas hukum. Mereka menegaskan bahwa tindakan ini bukan sekadar masalah kebijakan platform, melainkan pelanggaran serius terhadap Undang-Undang Layanan Digital (DSA) Uni Eropa.
“Grok menawarkan ‘Spicy Mode’ yang menampilkan konten seksual eksplisit, bahkan melibatkan citra anak-anak. Ini bukan sekadar konten ‘pedas’ (spicy), ini ilegal dan memuakkan,” ujar juru bicara urusan digital Uni Eropa, Thomas Regnier.
Prancis mengancam akan menjatuhkan denda besar jika X tidak segera memperbaiki sistem filternya. Mereka juga menyoroti bahwa Grok sempat memberikan jawaban yang menyimpang terkait fakta sejarah Holocaust, yang semakin memperburuk citra chatbot tersebut di mata hukum Prancis yang sangat ketat.
Malaysia: Peringatan Keras dari MCMC
Di Asia Tenggara, Malaysia menjadi salah satu negara yang paling vokal menentang penyalahgunaan Grok. Komisi Komunikasi dan Multimedia Malaysia (MCMC) mengeluarkan pernyataan resmi yang menyatakan keprihatinan mendalam atas laporan penyalahgunaan alat AI di platform X untuk memanipulasi gambar wanita dan anak-anak.
MCMC menegaskan bahwa mereka tengah menyelidiki konten “tidak sopan dan sangat menyinggung” tersebut. Pihak berwenang Malaysia berencana memanggil perwakilan X untuk dimintai pertanggungjawaban.
“Kekerasan berbasis gender yang menggunakan AI terhadap perempuan dan anak-anak harus dilawan dengan tegas,” tegas pihak berwenang Malaysia dalam pernyataan resminya.
Respons Elon Musk: Antara Permintaan Maaf AI dan Sikap Cuek
Menariknya, saat kritik membanjiri, chatbot Grok itu sendiri sempat mengunggah “permintaan maaf” otomatis di platform X. Grok mengakui adanya “kegagalan dalam sistem pengamanan” yang memungkinkannya menghasilkan gambar anak di bawah umur dalam pakaian seksual pada 28 Desember 2025.
Namun, Elon Musk sendiri menunjukkan sikap yang dianggap meremehkan oleh banyak pihak.
Melalui akun pribadinya, Musk hanya berkomentar singkat bahwa “siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menanggung konsekuensi yang sama seperti mengunggah konten ilegal secara manual.”
Respons ini dinilai tidak memadai karena tidak menyentuh akar masalah, yaitu lemahnya moderasi internal pada algoritma Grok sejak awal.
Implikasi Global: Akankah X Diblokir?
Selain Prancis dan Malaysia, India juga telah memberikan ultimatum 72 jam kepada X untuk membersihkan platformnya dari konten AI mesum atau berisiko kehilangan perlindungan hukum (safe harbor) yang selama ini melindungi platform dari tanggung jawab atas unggahan pengguna.
Kontroversi ini menjadi titik balik penting dalam regulasi AI generatif. Jika xAI tidak segera memperketat batasan pada modelnya, Grok terancam diblokir di wilayah-wilayah dengan regulasi ketat seperti Uni Eropa. Para ahli hukum berpendapat bahwa ketika platform menyediakan alat yang secara aktif “menciptakan” konten ilegal, platform tersebut tidak bisa lagi berlindung di balik status sebagai penyedia layanan pesan biasa.
