JAKARTA — Kebijakan pembatasan fitur pembuatan dan penyuntingan gambar pada Grok AI di platform X kembali menuai sorotan. Langkah yang diambil pemilik X, Elon Musk, dinilai belum menyelesaikan persoalan utama terkait maraknya penyalahgunaan kecerdasan buatan untuk membuat konten tak senonoh dan pornografi berbasis manipulasi digital.
Mulai 9 Januari 2026 waktu Amerika Serikat, pengguna X versi gratis tidak lagi dapat mengakses fitur pembuatan dan edit gambar Grok melalui perintah di lini masa. Ketika mencoba menggunakan perintah dengan menyertakan tagar @Grok, sistem secara otomatis menampilkan pemberitahuan bahwa fitur tersebut hanya tersedia bagi pelanggan X Premium. Pengguna kemudian diarahkan untuk melakukan pembayaran agar dapat membuka kembali akses.
Kebijakan ini diumumkan menyusul meningkatnya laporan penggunaan Grok AI untuk menghasilkan gambar asusila. Sejumlah organisasi pemantau konten digital menemukan bahwa teknologi tersebut dimanfaatkan untuk membuat pornografi deepfake, termasuk yang melibatkan wajah individu nyata tanpa persetujuan. Praktik ini memicu kekhawatiran luas karena berpotensi melanggar privasi, merusak reputasi, serta mengancam keselamatan psikologis korban.
Meski demikian, pembatasan tersebut dinilai belum konsisten. Pengguna gratis masih dapat mengakses fitur pembuatan gambar apabila membuka tab Grok secara langsung di aplikasi X. Selain itu, aplikasi Grok yang berdiri terpisah dari X juga masih memungkinkan pembuatan gambar tanpa pembatasan serupa. Fakta ini menimbulkan pertanyaan tentang efektivitas kebijakan yang hanya diterapkan pada satu jalur penggunaan.
Reaksi kritis datang dari berbagai negara. Di Inggris, perwakilan pemerintah menyatakan bahwa kebijakan berbasis langganan tidak menghilangkan risiko penyalahgunaan. Pandangan serupa disampaikan oleh Komisi Eropa yang menilai bahwa inti masalah terletak pada lemahnya sistem pencegahan dan moderasi konten, bukan pada status berbayar atau gratis pengguna. Menurut Komisi Eropa, gambar asusila tetap tidak dapat diterima dalam kondisi apa pun.
Tekanan juga muncul di Amerika Serikat. Sejumlah anggota parlemen mengirimkan surat kepada pengelola toko aplikasi, meminta evaluasi terhadap keberadaan aplikasi X. Permintaan tersebut didasarkan pada dugaan bahwa platform tersebut belum sepenuhnya memenuhi standar distribusi aplikasi terkait keamanan dan perlindungan pengguna dari konten berbahaya.
Di Indonesia, perhatian serius datang dari Kementerian Komunikasi dan Digital. Kementerian ini menyatakan telah melakukan penyelidikan awal terhadap Grok AI. Hasil sementara menunjukkan belum adanya pengaturan spesifik yang memadai untuk mencegah produksi dan penyebaran konten pornografi berbasis foto asli masyarakat Indonesia.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menegaskan bahwa manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan. Menurutnya, praktik tersebut merupakan bentuk perampasan hak atas citra diri, yaitu hak seseorang untuk mengendalikan penggunaan identitas visualnya. Pelanggaran hak ini dapat menimbulkan dampak jangka panjang, mulai dari tekanan psikologis hingga kerugian sosial dan reputasi.
Komdigi menilai bahwa penyedia layanan kecerdasan buatan memiliki tanggung jawab hukum dan etis untuk memastikan teknologi mereka tidak disalahgunakan. Pemerintah saat ini berkoordinasi dengan para Penyelenggara Sistem Elektronik untuk memperkuat sistem moderasi konten, mencegah pembuatan deepfake asusila, serta memastikan adanya mekanisme pelaporan dan penanganan cepat bagi korban pelanggaran privasi.
Pemerintah juga mengingatkan bahwa kepatuhan terhadap hukum Indonesia bersifat wajib bagi seluruh platform digital yang beroperasi di dalam negeri. Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif, sanksi administratif hingga pemutusan akses layanan dapat diterapkan. Hal ini termasuk kemungkinan pembatasan atau pemblokiran layanan Grok AI dan platform X secara keseluruhan.
Sejak diberlakukannya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana pada 2 Januari 2026, konten pornografi dan manipulasi citra pribadi tanpa hak telah diatur secara tegas. Aturan tersebut mencakup definisi pornografi serta ancaman pidana penjara dan denda bagi pihak yang memproduksi atau menyebarkan konten tersebut. Pemerintah menegaskan bahwa ketentuan ini berlaku baik bagi pengguna maupun penyedia layanan teknologi.
Kasus Grok AI menunjukkan tantangan besar dalam pengelolaan kecerdasan buatan di ruang digital global. Pembatasan akses berbasis langganan dinilai hanya sebagai solusi sementara jika tidak disertai pengamanan teknis yang kuat. Di tengah pesatnya perkembangan AI generatif, pemerintah dan perusahaan teknologi dihadapkan pada tuntutan untuk menyeimbangkan inovasi dengan perlindungan hak asasi manusia, privasi, serta martabat individu.
