Munculnya Penyalahgunaan AI Grok di Media Sosial

Perbincangan mengenai etika kecerdasan buatan kembali memanas setelah muncul laporan tentang penggunaan fitur AI Grok untuk manipulasi foto tanpa izin. Fenomena ini menimbulkan kontroversi dan memicu kekhawatiran terhadap privasi, keselamatan, serta dampak sosial yang ditimbulkan.

Grok adalah chatbot AI yang terintegrasi langsung dengan platform X. Pengguna dapat menggunakan fitur ini untuk mengedit foto perempuan, seperti mengubah pakaian mereka menjadi lebih minim atau bahkan menghilangkan atribut tertentu. Hal ini dilakukan tanpa persetujuan korban dan kemudian disebarluaskan di media sosial.

Beberapa contoh yang beredar menunjukkan bagaimana foto perempuan berhijab diubah menjadi tidak berhijab, sementara foto berpakaian tertutup dimodifikasi agar tampak seperti mengenakan bikini. Praktik ini menimbulkan kemarahan warganet dan membuka kembali diskusi serius tentang perlindungan korban, etika teknologi, serta kekerasan berbasis gender online (KBGO).

Salah satu pengguna X, @nd**, menyampaikan kritik keras terhadap tren ini. Ia menyebut tindakan tersebut sebagai masalah moral dan sosial yang serius. “Ini jelas sudah masuk KBGO,” tulisnya pada 30 Desember 2025.

Kecaman serupa juga datang dari pengguna lain, @shylver*, yang membagikan tangkapan layar manipulasi foto perempuan berhijab. Selain itu, akun @ele* merespons maraknya tren buruk ini dengan pesan yang menegaskan pentingnya izin sebelum mengedit foto orang lain.

Unggahan tersebut menunjukkan betapa mudahnya teknologi AI digunakan untuk mengubah identitas visual seseorang tanpa mempertimbangkan dampak psikologis maupun sosial terhadap korban. Isu ini tidak hanya terjadi di Indonesia, tetapi juga di negara-negara lain.

Media Straight Arrow News melaporkan bahwa Grok menuai kritik di beberapa negara setelah diketahui bisa digunakan untuk mengedit foto perempuan menjadi tampilan tanpa busana. Kekhawatiran semakin meningkat ketika seorang perempuan di X mendemonstrasikan bagaimana pengguna cukup membalas unggahan foto perempuan lalu meminta Grok mengubahnya menjadi konten bermuatan pornografi.

Kasus ini menarik perhatian media teknologi seperti 404 Media. Meski manipulasi gambar tanpa persetujuan bukan hal baru di era digital, kehadiran layanan AI yang mudah diakses dinilai memperbesar potensi penyalahgunaan.

Grok dikembangkan oleh xAI, perusahaan kecerdasan buatan yang terafiliasi dengan Elon Musk. Secara resmi, xAI memiliki Aturan Penggunaan yang secara tegas melarang pemanfaatan AI untuk merugikan individu. Dalam xAI Acceptable Use Policy (AUP) yang mulai berlaku pada 2 Januari 2025, disebutkan bahwa pengguna dilarang menggunakan Grok maupun hasil keluarannya untuk kegiatan ilegal atau berbahaya.

Larangan tersebut mencakup pelanggaran privasi, penggambaran rupa seseorang dalam konten pornografi, seksualisasi individu, hingga aktivitas penipuan, pelecehan, penguntitan, peretasan, dan doxing. xAI juga menegaskan prinsip “do not harm people”, yang berarti AI tidak boleh digunakan untuk merugikan orang lain atau mengambil tindakan tanpa izin atas nama pihak lain.

Meskipun aturan itu sudah jelas, hingga kini pihak X belum memberikan pernyataan resmi terkait kontroversi penyalahgunaan Grok. Elon Musk sebelumnya memuji Grok sebagai AI yang “based”, istilah slang yang merujuk pada sikap autentik dan berani berbeda dibandingkan chatbot pesaing.

Regulasi AI di Indonesia

Di Indonesia, isu deepfake dan manipulasi AI juga menjadi perhatian pemerintah. Wakil Menteri Komunikasi dan Digital (Komdigi) Nezar Patria mengungkapkan bahwa peredaran video deepfake meningkat hingga 550 persen dalam lima tahun terakhir, berdasarkan data Sensity AI.

Nezar mendorong platform digital global seperti Google dan TikTok untuk menyediakan fitur pendeteksi konten AI guna membantu masyarakat melawan hoaks dan deepfake. Saat ini, Komdigi tengah menyiapkan dua regulasi utama terkait kecerdasan buatan, yakni Peta Jalan AI dan Peraturan Presiden tentang tata kelola keselamatan serta keamanan penggunaan AI.

Pemerintah menilai perlu ada regulasi khusus yang memastikan pemanfaatan AI berjalan secara etis, bertanggung jawab, dan bermanfaat bagi publik. Sebelumnya, Kementerian Kominfo juga telah menerbitkan Surat Edaran Menteri Kominfo Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Aturan ini menekankan prinsip kemanusiaan, perlindungan data pribadi, inklusivitas, transparansi, serta akuntabilitas.

Melalui kebijakan tersebut, pelaku usaha dan penyelenggara sistem elektronik diwajibkan memiliki pedoman internal serta melakukan pengawasan ketat agar teknologi AI tidak disalahgunakan dan tidak merugikan masyarakat.

ilmu data dan analitik

Edit foto viral perempuan tanpa izin, masyarakat desak perlindungan korban KBGO