Sekelompok 34 negara bagian Amerika Serikat mengajukan gugatan terhadap pemilik Facebook dan Instagram Meta, menuduh perusahaan tersebut terlibat dalam manipulasi yang tidak pantas terhadap anak di bawah umur yang menggunakan platform tersebut. Perkembangan ini terjadi di tengah kemajuan pesat kecerdasan buatan (AI) yang melibatkan teks dan AI generatif.
Perwakilan hukum dari berbagai negara bagian, termasuk California, New York, Ohio, South Dakota, Virginia dan Louisiana, menuduh bahwa Meta menggunakan algoritmanya untuk mendorong perilaku adiktif dan berdampak negatif pada kesejahteraan mental anak-anak melalui fitur-fitur dalam aplikasinya, seperti tombol “Suka”.
Pihak pemerintah yang berperkara masih melanjutkan tindakan hukum meskipun kepala ilmuwan AI di Meta baru-baru ini menyatakan bahwa kekhawatiran terhadap risiko eksistensial dari teknologi tersebut masih bersifat “prematur,” dan Meta telah memanfaatkan AI untuk mengatasi masalah kepercayaan dan keamanan pada perusahaannya. platform.
Pengacara negara bagian meminta ganti rugi, restitusi dan kompensasi yang berbeda untuk setiap negara bagian yang disebutkan dalam dokumen tersebut, dengan angka berkisar antara $5.000 hingga $25.000 per dugaan kejadian. Cointelegraph menghubungi Meta untuk informasi lebih lanjut tetapi belum menerima tanggapan.
Sementara itu, Internet Watch Foundation (IWF) yang berbasis di Inggris telah menyuarakan keprihatinan tentang proliferasi materi pelecehan seksual terhadap anak (CSAM) yang dihasilkan oleh AI. Dalam laporan terbarunya , IWF mengungkapkan penemuan lebih dari 20.254 gambar CSAM yang dihasilkan AI dalam satu forum web gelap hanya dalam waktu satu bulan, memperingatkan bahwa lonjakan konten yang mengganggu ini berpotensi membanjiri internet.
Organisasi tersebut mendesak kerja sama global untuk memerangi masalah CSAM, dan menyarankan strategi multifaset, termasuk penyesuaian terhadap undang-undang yang ada, peningkatan dalam pendidikan penegakan hukum, dan penerapan pengawasan peraturan untuk model AI.
Mengenai pengembang AI, IWF menyarankan untuk melarang AI membuat konten pelecehan anak, mengecualikan model terkait, dan fokus pada penghapusan materi tersebut dari model mereka.
Kemajuan generator gambar AI telah secara signifikan meningkatkan penciptaan replika manusia yang hidup. Platform seperti Midjourney, Runway, Stable Diffusion, dan Dall-E OpenAI adalah contoh populer alat yang mampu menghasilkan gambar realistis.
Source : https://cointelegraph.com/
