Kementerian Komunikasi dan Digital (Komdigi) memberi sinyal keras kepada Grok AI dan platform X. Jika layanan itu terbukti dipakai untuk penyalahgunaan yang melanggar aturan di Indonesia, sanksi administratif hingga pemutusan akses bisa saja dijatuhkan. Peringatan ini muncul di tengah sorotan terhadap penggunaan kecerdasan buatan untuk membuat konten pornografi dan memanipulasi foto pribadi tanpa izin.
Komdigi Tekankan Tanggung Jawab PSE
Dirjen Pengawasan Ruang Digital Komdigi, Alexander Sabar, menegaskan bahwa X sebagai Penyelenggara Sistem Elektronik (PSE) wajib tunduk pada peraturan yang berlaku di Indonesia. Menurut dia, platform tidak bisa lepas tangan ketika teknologinya membuka celah bagi pelanggaran privasi, terlebih jika menyangkut konten cabul atau manipulasi wajah dan identitas seseorang.
Komdigi menilai setiap PSE harus memastikan layanan yang mereka sediakan tidak berubah menjadi alat untuk merampas hak privasi dan martabat individu. Karena itu, pengawasan terhadap mekanisme moderasi konten dan respons atas laporan pelanggaran menjadi perhatian utama.
Manipulasi Foto Dinilai Serius
Salah satu sorotan terbesar adalah penggunaan Grok AI yang disebut belum memiliki pengaturan memadai untuk mencegah konten pornografi berbasis foto nyata warga Indonesia. Kondisi ini dinilai berisiko melanggar hak atas citra diri dan membuka ruang bagi kerugian sosial maupun reputasi bagi korban.
Komdigi menegaskan, manipulasi digital terhadap foto pribadi bukan sekadar pelanggaran etika. Praktik itu dipandang sebagai bentuk pengambilalihan kendali atas identitas visual seseorang, yang bisa berdampak langsung pada kehormatan dan rasa aman korban di ruang digital.
Ancaman Sanksi dan Jalur Pelaporan
Pemerintah juga mengingatkan bahwa penggunaan layanan AI untuk membuat atau menyebarkan konten pornografi dapat berujung pada sanksi administratif maupun pidana. Aturan dalam Undang-Undang Nomor 1 Tahun 2023 disebut mengatur soal konten pornografi dan ancaman pidana yang berlaku mulai 2 Januari 2026.
Untuk korban manipulasi foto, Komdigi mengimbau agar segera melapor kepada aparat penegak hukum. Di sisi lain, kementerian menyatakan tengah berkoordinasi dengan para PSE agar tersedia mekanisme perlindungan yang lebih efektif, mulai dari moderasi konten hingga penanganan cepat atas pelanggaran privasi dan hak citra diri.
Adapun peringatan Komdigi ini disampaikan berdasarkan keterangan resmi Dirjen Pengawasan Ruang Digital Alexander Sabar, yang menyoroti kewajiban platform digital untuk patuh pada hukum Indonesia.
