Google dan Apple Hadirkan Banyak Aplikasi AI "Nudify" Meski Melanggar Kebijakan Platform
Dalam era teknologi saat ini, kecerdasan buatan (AI) merupakan salah satu alat paling kuat yang tersedia. Dengan kemampuan yang luar biasa, AI dapat digunakan untuk berbagai tujuan. Namun, seperti halnya alat lainnya, penggunaannya bisa baik atau buruk. Dalam beberapa minggu terakhir, kita telah melihat pengguna media sosial menggunakan chatbot AI Grok dari X dengan cara yang tidak pantas, terutama untuk menciptakan gambar seksual wanita tanpa izin. Menariknya, tidak hanya Grok yang terlibat dalam skandal ini, tetapi juga Apple App Store dan Google Play Store yang diduga menyimpan aplikasi "nudify".
Temuan Mengejutkan dari Tech Transparency Project
Proyek Transparansi Teknologi menemukan bahwa ada sebanyak 55 aplikasi di Google Play Store yang memungkinkan pengguna untuk membuat gambar telanjang wanita, sedangkan Apple App Store memiliki 47 aplikasi serupa, dengan 38 di antaranya dapat ditemukan di kedua platform. Aplikasi-aplikasi ini masih tersedia hingga minggu lalu, meskipun laporan tersebut menyebutkan bahwa Google dan Apple kemudian menghapus 31 dan 25 aplikasi, masing-masing, setelah daftar aplikasi nudify ini dibagikan kepada mereka.
Aplikasi dengan Konten Tidak Pantas
Dalam penyelidikannya, Proyek Transparansi Teknologi mencari istilah seperti "nudify" dan "undress" di kedua toko aplikasi dan menemukan banyak hasil yang mencolok. Banyak aplikasi ini menggunakan AI untuk menghasilkan video atau gambar berdasarkan perintah pengguna, atau untuk menempelkan wajah seseorang ke dalam tubuh orang lain, yang dikenal dengan istilah "face swapping".
Kekhawatiran muncul ketika aplikasi seperti DreamFace, yang merupakan generator gambar/video AI dan masih tersedia di Google Play Store namun telah dihapus dari Apple App Store, menunjukkan bahwa tidak ada batasan ketika pengguna memasukkan perintah cabul untuk menampilkan wanita telanjang. Aplikasi ini memungkinkan pengguna untuk membuat satu video gratis setiap hari menggunakan perintah, setelah itu mereka harus berlangganan fitur berbayar. Menurut statistik dari AppMagic, aplikasi ini telah menghasilkan pendapatan sebesar $1 juta.
Profit dari Aplikasi Berbahaya
Perlu dicatat bahwa baik Google maupun Apple mengenakan persentase yang signifikan (hingga 30%) untuk pembelian dalam aplikasi, seperti langganan, yang secara efektif memberikan keuntungan dari aplikasi-aplikasi berbahaya ini. Contoh lain adalah Collart, yang juga merupakan generator gambar/video AI yang masih tersedia di Google Play Store namun telah dihapus dari Apple App Store. Aplikasi ini tidak hanya menerima perintah untuk "nudify" wanita, tetapi juga menerima perintah untuk menggambarkan mereka dalam situasi pornografi tanpa batasan yang jelas.
Bahaya Aplikasi Face Swap
Aplikasi face swap bahkan lebih berbahaya dan predator, karena mereka menempelkan wajah orang yang dikenal pengguna ke tubuh telanjang. Aplikasi seperti RemakeFace masih tersedia di kedua toko aplikasi pada saat penulisan ini, dan laporan tersebut mengonfirmasi bahwa aplikasi ini dapat dengan mudah digunakan untuk menciptakan gambar telanjang tanpa persetujuan wanita.
Baik Google Play Store maupun Apple App Store melarang aplikasi yang menggambarkan nuditas seksual. Namun, seperti yang terungkap dalam laporan ini, aplikasi-aplikasi tersebut didistribusikan melalui toko aplikasi (dengan langganan dalam aplikasi) meskipun jelas melanggar kebijakan yang ada. Jelas bahwa toko aplikasi belum mampu mengikuti perkembangan aplikasi deepfake AI yang dapat "nudify" orang tanpa izin mereka. Platform memiliki tanggung jawab yang jelas untuk melindungi pengguna, dan kita berharap mereka dapat memperketat pedoman serta fokus pada pemantauan proaktif terhadap aplikasi semacam ini daripada hanya bereaksi terhadap laporan.
Kami telah menghubungi Google dan Apple untuk meminta komentar mengenai masalah ini. Kami akan memperbarui artikel ini ketika kami mendapatkan respons dari perusahaan tersebut.
Sumber: https://www.androidauthority.com/google-apple-ai-nudify-apps-3635836/
