Uni Eropa Ambil Langkah Tegas terhadap Konten Pornografi Buatan Grok xAI
Uni Eropa (UE) baru-baru ini mengambil tindakan serius dengan meluncurkan penyelidikan formal terhadap platform media sosial X, yang sebelumnya dikenal sebagai Twitter, serta alat kecerdasan buatannya, Grok AI. Langkah ini diambil setelah meningkatnya kekhawatiran global terkait penyebaran konten deepfake seksual non-konsensual, yang melibatkan perempuan dan anak-anak. Penyelidikan ini bertujuan untuk memastikan apakah X mematuhi Undang-Undang Layanan Digital (Digital Services Act/DSA) dalam menangani konten ilegal dan berbahaya.
Penyelidikan Resmi dari Komisi Eropa
Penyelidikan ini diumumkan oleh Komisi Eropa pada tanggal 26 Januari 2026 di Brussels. Dalam pernyataannya, Komisi Eropa menegaskan bahwa penggunaan Grok, terutama dalam fitur pengeditan gambar dan pembuatan gambar, dapat melanggar kewajiban platform digital besar untuk menilai dan mengurangi risiko yang berkaitan dengan penyebaran konten eksplisit tanpa persetujuan. Hal ini menjadi perhatian serius mengingat banyak pengguna telah memanfaatkan Grok untuk menciptakan dan membagikan gambar yang tidak pantas, termasuk yang melibatkan perempuan dan anak-anak.
Kontroversi Konten Manipulatif
Kontroversi ini mulai mencuat setelah laporan dari berbagai pemeriksa fakta dan peneliti yang menunjukkan bahwa jutaan konten manipulatif telah tersebar dengan cepat sebelum langkah pembatasan fitur diterapkan. Komisi Eropa menilai bahwa Grok telah digunakan untuk memproduksi konten yang tidak hanya "tidak senonoh", tetapi juga bisa dikategorikan sebagai materi pelecehan atau eksploitasi seksual anak berdasarkan hukum Uni Eropa. Hal ini menunjukkan adanya kebutuhan mendesak untuk regulasi yang lebih ketat dalam penggunaan teknologi kecerdasan buatan.
Langkah Pencegahan yang Diharapkan
Penyelidikan ini akan mengevaluasi apakah X telah menerapkan langkah-langkah pencegahan yang memadai sebelum dan setelah peluncuran fitur Grok. Selain itu, penyelidikan juga akan menilai apakah perusahaan telah memenuhi kewajiban dalam mengidentifikasi dan memitigasi risiko sesuai dengan ketentuan DSA. Henna Virkkunen, Wakil Presiden Eksekutif Komisi Eropa yang bertanggung jawab atas kedaulatan teknologi, keamanan, dan demokrasi, menekankan bahwa pembuatan dan penyebaran konten deepfake seksual tanpa persetujuan adalah bentuk pelecehan yang sangat tidak dapat diterima.
Perlindungan untuk Pengguna di Era Digital
Komisi Eropa juga menekankan pentingnya perlindungan yang lebih kuat bagi pengguna, terutama perempuan dan anak-anak, dalam era digital saat ini. Penyelidikan ini adalah bagian dari upaya UE untuk mengawasi regulasi digital yang ketat dan memastikan bahwa penyedia platform digital besar bertanggung jawab atas konten yang diproduksi atau disebarkan melalui layanan mereka. Jika terbukti melanggar DSA, X dapat menghadapi sanksi administratif yang berat, termasuk denda yang signifikan dan perintah untuk memperbaiki praktik moderasi kontennya.
Kasus ini mencerminkan langkah-langkah serupa yang diambil oleh berbagai yurisdiksi di seluruh dunia yang juga merespons kontroversi terkait Grok. Di Inggris, India, dan negara-negara lain, regulator telah membuka penyelidikan atau mengambil tindakan terhadap penyebaran konten deepfake seksual yang melibatkan alat AI tersebut. Dengan demikian, penyelidikan Uni Eropa ini menjadi salah satu momen penting dalam pengawasan global terhadap teknologi kecerdasan buatan generatif dan tanggung jawab platform digital dalam mencegah penyalahgunaan yang dapat berdampak pada keamanan dan martabat manusia.
Sumber: https://tekno.kompas.com/read/2026/01/28/09020017/uni-eropa-bertindak-x-diperiksa-soal-konten-pornografi-buatan-grok-xai
