Heboh Grok Bikin Deepfake Mesum, Prancis - Malaysia Kecam Chatbot Elon Musk
6 Januari 2026 8:40 WIB
·
waktu baca 3 menit
Heboh Grok Bikin Deepfake Mesum, Prancis - Malaysia Kecam Chatbot Elon Musk
Sejumlah negara mulai mengambil sikap tegas terhadap Grok, chatbot kecerdasan buatan (AI) garapan perusahaan xAI milik Elon Musk.kumparanTECH
PerbesarSejumlah negara mulai mengambil sikap tegas terhadap Grok, chatbot kecerdasan buatan (AI) garapan perusahaan xAI milik Elon Musk. Teknologi tersebut diketahui menghasilkan deepfake seksual yang menargetkan perempuan dan anak di bawah umur.
Setelah India, kini giliran Prancis dan Malaysia secara terbuka mengecam praktik pornografi tersebut. Grok, yang terintegrasi langsung dengan platform media sosial X (dulu namanya Twitter), sempat mengunggah pernyataan permintaan maaf di akun resminya pada awal pekan ini.
"Saya sangat menyesali insiden pada 28 Desember 2025, ketika saya menghasilkan dan membagikan gambar AI dua anak perempuan (diperkirakan berusia 12–16 tahun) dengan pakaian yang mengandung unsur porno berdasarkan perintah pengguna," dalam postingannya, sembari menyebut tindakannya telah melanggar standar etika dan berpotensi melanggar hukum Amerika Serikat terkait materi eksploitasi seksual anak (CSAM).
"Ini merupakan kegagalan sistem pengamanan. Saya meminta maaf atas segala dampak yang ditimbulkan. xAI sedang melakukan peninjauan untuk mencegah kejadian serupa di masa depan."
Namun permintaan maaf itu justru menuai kritik, sebab menggunakan sudut pandang orang pertama. Grok dianggap bukan entitas yang bisa dimintai pertanggungjawaban secara moral maupun hukum.
Sementara itu, investigasi yang dilakukan media Futurism menemukan Grok tidak hanya digunakan untuk membuat gambar porno tanpa persetujuan, tetapi juga menghasilkan gambar perempuan yang menampilkan kekerasan dan pelecehan seksual.
Menanggapi sorotan tersebut, Elon Musk menegaskan siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi hukum yang sama seperti mengunggah konten ilegal lainnya.
Pemerintah Dunia Mulai Bertindak
Kasus ini mulai menarik perhatian serius pemerintah di berbagai negara. Kementerian Teknologi Informasi India telah mengeluarkan perintah resmi kepada X agar segera membatasi Grok dari menghasilkan konten cabul, pornografi, vulgar, tidak senonoh, eksplisit secara seksual, pedofilia, atau konten lain yang dilarang hukum.
X diberi waktu 72 jam untuk merespons. Jika tidak, platform itu terancam kehilangan status safe harbor, perlindungan hukum yang selama ini membebaskannya dari tanggung jawab atas konten buatan pengguna.
Di Eropa, otoritas Prancis juga bergerak menyelidiki maraknya deepfake seksual di X. Kantor kejaksaan Paris mengonfirmasi kepada Politoco bahwa laporan resmi telah diterima dari tiga menteri Prancis, yang telah melaporkan konten yang dinilai "jelas ilegal" kepada jaksa dan meminta penghapusan segera melalui mekanisme pengawasan daring pemerintah.
Sementara itu di Asia Tenggara, Komisi Komunikasi dan Multimedia Malaysia (Malaysian Communications and Multimedia Commission/MCMC) menyatakan sedang melakukan penyelidikan atas dugaan penyalahgunaan teknologi AI di X. Dalam pernyataannya, MCMC menyoroti manipulasi digital terhadap gambar perempuan dan anak yang menghasilkan konten tidak senonoh, sangat ofensif, dan membahayakan.
Kasus Grok ini kembali menegaskan tantangan besar dalam pengawasan teknologi AI generatif. Di tengah pesatnya perkembangan kecerdasan buatan, tekanan terhadap perusahaan teknologi untuk memperketat pengamanan dan bertanggung jawab secara hukum kian menguat, terutama ketika teknologi tersebut bersinggungan langsung dengan perlindungan perempuan dan anak.