Kementerian Komunikasi dan Digital (Komdigi) memberikan peringatan kepada Grok AI dan X terkait penggunaan yang tidak patuh terhadap aturan di Indonesia. Ancaman sanksi administratif dan pemutusan akses diberlakukan jika ditemukan penyalahgunaan oleh platform media sosial. Dirjen Pengawasan Ruang Digital Komdigi Alexander Sabar menekankan bahwa X sebagai Penyelenggara Sistem Elektronik (PSE) harus mematuhi peraturan perundang-undangan yang berlaku. Penggunaan layanan AI untuk konten pornografi atau manipulasi foto pribadi tanpa izin dapat mengakibatkan sanksi administratif atau pidana. Undang-Undang Nomor 1 Tahun 2023 mengatur tentang konten pornografi dan ancaman pidana yang berlaku sejak 2 Januari 2026. Masyarakat yang menjadi korban manipulasi foto diimbau untuk melaporkan kepada aparat penegak hukum. Grok AI belum memiliki pengaturan yang memadai untuk mencegah konten pornografi berdasarkan foto nyata warga Indonesia, yang berpotensi melanggar hak privasi dan hak atas citra diri. Manipulasi digital foto pribadi disebut sebagai perampasan kendali identitas visual individu dan dapat menimbulkan kerugian sosial dan reputasi. Komdigi tengah berkoordinasi dengan PSE untuk memastikan tersedianya mekanisme pelindungan efektif, mulai dari moderasi konten hingga penanganan cepat atas pelanggaran privasi dan hak citra diri. Setiap PSE harus memastikan bahwa teknologi yang mereka sediakan tidak disalahgunakan untuk melanggar privasi dan martabat individu.
Ancaman Blokir Grok AI dan Dampak Manipulasi Foto Cabul
