Apple i Google povezivani s promovisanjem AI aplikacija za ‘nudifikaciju’ korisnika

Izvještaj navodi da su aplikacije koje generišu seksualizovane slike dostupne djeci, sa stotinama miliona preuzimanja i velikim prihodima

Apple i Google, globalni tehnološki giganti, našli su se pod povećalom zbog dostupnosti i promocije aplikacija za ‘nudifikaciju’ na svojim prodavnicama aplikacija, uprkos postojećim pravilima koja zabranjuju takav sadržaj. Prema novom izvještaju istraživačke grupe, ovakve aplikacije ne samo da su i dalje dostupne nakon višemjesečnih upozorenja, nego su i oglašavane korisnicima, uključujući i djecu.

Analiza tržišta aplikacija otkriva da korisnici koji pretražuju termine poput ‘nudify’ ili ‘undress’ na Apple App Store i Google Play dobijaju pristup aplikacijama koje koriste AI tehnologiju za generisanje seksualizovanih slika stvarnih osoba ili njihovu integraciju u pornografske video sadržaje. Posebno zabrinjava činjenica da je veliki broj tih aplikacija označen kao ‘E’ za sve uzraste, što znači da ih mogu preuzimati i djeca.

Izvještaj navodi da je identifikovano ukupno 18 takvih aplikacija na App Store-u i 20 na Google Play-u. Neke od njih su otvoreno reklamirane uz seksualizovane slike, dok su druge prikrivene, ali omogućavaju kreiranje tzv. deepfake sadržaja. Ove aplikacije su, prema procjenama, generisale oko 122 miliona dolara prihoda i preuzete su 483 miliona puta.

Direktor istraživačke grupe ističe da Apple i Google ne samo što ne sprovode dovoljno strogu kontrolu nad ovim aplikacijama, već ih i direktno preporučuju korisnicima kroz oglašavanje i pozicioniranje u rezultatima pretrage. Premda obje kompanije imaju jasne politike zabrane seksualnog i pornografskog sadržaja, kao i posebnu zabranu za AI aplikacije za ‘nudifikaciju’ na Google platformi, izvještaj pokazuje da je provedba tih pravila nedosljedna.

Kao odgovor na izvještaj, Apple je naveo da je uklonio 15 aplikacija navedenih u analizi, dok je Google suspendovao određeni broj njih. Jedna od aplikacija, ‘Video Face Swap AI: DeepFace’, omogućava korisnicima da mijenjaju lica na tijelima djelimično odjevenih osoba, a bila je označena kao primjerena za sve.

Ekspanzija ovakvih AI alata izazvala je reakcije regulatora u više zemalja. U Velikoj Britaniji, povjerenik za djecu traži strože zakonodavstvo protiv deepfake aplikacija koje generišu seksualizovane slike djece, dok su u SAD-u i drugim državama već doneseni ili predloženi zakoni koji zabranjuju eksplicitne deepfake sadržaje. Ova dešavanja ukazuju na potrebu za strožim nadzorom i bržom reakcijom tehnoloških kompanija na nove AI rizike.