Google kini menghadapi kritik baru terkait upayanya untuk menjadikan Search lebih berbasis AI. Sebuah laporan dari Youth AI Safety Institute milik Common Sense Media menilai bahwa AI Overviews dan AI Mode pada Google Search memberikan risiko yang tidak dapat diatasi oleh pengaman yang ada, sehingga platform ini mendapatkan penilaian "Risiko Tidak Diterima".
Evaluasi Terhadap Google Search
Penilaian ini dilakukan dengan menggunakan akun yang diatur untuk pengguna berusia 11 hingga 15 tahun dengan fitur SafeSearch diaktifkan. Hal ini mencerminkan bagaimana banyak anak-anak mengakses Google Search melalui perangkat pribadi maupun yang dikelola oleh sekolah. Untuk menilai bagaimana AI Google berfungsi dalam skenario dunia nyata, para peneliti melakukan lebih dari 2.600 pencarian dan meninjau lebih dari 2.100 respons dan sumber yang dihasilkan oleh AI.
Temuan yang Mengkhawatirkan
Hasil laporan menunjukkan gambaran yang mengkhawatirkan. Menurut laporan tersebut, AI Overviews seringkali menyelesaikan pekerjaan rumah siswa daripada membantu mereka belajar. Beberapa respons juga mengandung informasi yang tidak akurat atau bahkan dibuat-buat. Para peneliti menemukan contoh instruksi yang dihasilkan AI tentang cara melakukan hal-hal yang buruk, termasuk cara membuat deepfake. Lebih mengkhawatirkan lagi, laporan tersebut menyatakan bahwa AI Google sering gagal merespons dengan tepat terhadap permintaan krisis kesehatan mental, bahkan dalam satu kasus, menyarankan pengguna untuk menghubungi hotline krisis yang sudah usang.
Kontrol Orang Tua yang Terbatas
Salah satu kritik utama adalah bahwa orang tua memiliki kontrol yang terbatas atas respons yang dihasilkan oleh AI ini. AI Overviews terintegrasi langsung ke dalam Google Search, sehingga umumnya tidak dapat dinonaktifkan (meskipun ada cara untuk mematikan fitur ini), yang berarti anak-anak bisa melihatnya meskipun SafeSearch diaktifkan. Common Sense Media mencatat bahwa 75% remaja dan anak-anak di AS sudah menggunakan hasil pencarian yang dihasilkan oleh AI, sehingga kekurangan ini berdampak pada audiens yang sangat besar.
Tanggapan dari Google
Namun, Google tidak setuju dengan temuan tersebut. Dalam pernyataannya kepada PBS News, perusahaan menyatakan bahwa banyak dari permintaan yang diuji adalah "ambigu dan dibuat-buat," dan laporan tersebut tidak mencerminkan bagaimana orang biasanya menggunakan Search.
Pembahasan ini merupakan bagian dari program peninjauan AI yang lebih luas dari Common Sense Media, yang mengukur produk berdasarkan delapan prinsip mengenai keselamatan, kepercayaan, keadilan, transparansi, dan penggunaan data yang bertanggung jawab. Dengan jawaban yang dihasilkan oleh AI kemungkinan besar akan menjadi bagian permanen dari Google Search, laporan terbaru ini kemungkinan akan menambah tekanan pada Google untuk menunjukkan bahwa kenyamanan tidak datang dengan mengorbankan keselamatan anak-anak.
Sumber: https://www.androidauthority.com/report-says-google-search-ai-harmful-for-kids-3687868/
