Publikasiterkini.com° Jakarta – Kementerian Komunikasi dan Digital (Komdigi) memblokir sementara akses layanan kecerdasan buatan (AI) Grok. Langkah ini diambil guna mencegah penyebaran konten pornografi palsu atau deepfake yang dihasilkan oleh teknologi kecerdasan artifisial.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melalui Kementerian Komdigi melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Menteri Komunikasi dan Digital Meutya Hafid dalam keterangannya, Sabtu (10/1/2026).
Meutya menegaskan, praktik deepfake seksual nonkonsensual merupakan pelanggaran serius terhadap hak asasi manusia (HAM), martabat, serta keamanan warga negara di ruang digital. Oleh karena itu, pemerintah memandang perlu adanya tindakan tegas terhadap penyalahgunaan teknologi AI.
Selain pemblokiran sementara, Komdigi juga telah meminta pihak Platform X, sebagai penyedia Grok AI, untuk segera hadir memberikan klarifikasi terkait dampak negatif penggunaan layanan tersebut.
“Kementerian Komdigi juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok,” kata Meutya.
Pemutusan akses sementara ini didasarkan pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Khususnya Pasal 9 yang mewajibkan setiap PSE memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi dan/atau dokumen elektronik yang dilarang.
Sebelumnya, Komdigi telah menindaklanjuti dugaan penyalahgunaan fitur Grok AI di platform X yang digunakan untuk memproduksi serta menyebarkan konten asusila, termasuk manipulasi foto pribadi bersifat sensitif tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menyampaikan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.
“Kondisi tersebut berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image), khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah,” ujar Alexander di Jakarta, Rabu (7/1/2026).
Ia menambahkan, temuan awal Komdigi menunjukkan belum adanya mekanisme pengamanan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi tersebut dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi.
“Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” tegasnya. (iN)
(Redaksi)
Belum ada komentar disini
Jadilah yang pertama berkomentar disini