Veštački četbot Grok, u vlasništvu kompanije milijardera Ilona Maska, ograničio je funkciju generisanja i uređivanja slika isključivo na pretplatnike koji plaćaju usluge društvene mreže X, a nakon globalnih kritika zbog mogućnosti kreiranja dipfejk pornografskog sadržaja, uključujući slike žena i maloletnika.
Prilikom pokušaja generisanja slika putem platforme X, Grok sada obaveštava korisnike da je ta funkcija dostupna samo pretplatnicima koji plaćaju i poziva ih da se prijave na “premium” verziju Iks-a
Nije, međutim, precizirano da li za pretplatnike postoje dodatna ograničenja kada je reč o generisanju seksualno eksplicitnih dipfejk sadržaja.
Grok se poslednjih dana našao na udaru regulatora zbog takozvanog “začinjenog” režima rada, koji je omogućavao stvaranje duboko lažnih, seksualizovanih slika, uključujući i slike maloletnika.
Zbog toga su evropski zakonodavci i pojedine države članice pozvale na oštrije mere protiv takvih tehnologija.
”Ovo je nezakonito”, rekao je portparol Evropske komisije za digitalna pitanja Tomas Renje.
Evropska komisija je u četvrtak naložila kompaniji Iks da do kraja 2026. godine sačuva svu internu dokumentaciju i podatke u vezi sa Grokom, koristeći ovlašćenja iz Zakona o digitalnim uslugama (DSA), prema kojem je X svrstan među platforme pod najstrožim nadzorom EU.
Komisija, međutim, za sada nije pokrenula novu formalnu istragu protiv X-a povodom slučaja sa dipfejk pornografijom.
Testovi koje je sproveo Euraktiv pokazali su da Grok, kada mu se pristupa kao samostalnoj aplikaciji, a ne putem platforme Iks, i dalje može besplatno da generiše slike na osnovu korisničkih zahteva.
Dominacija seksualizovanih zahteva i maloletničkog sadržaja u generisanim slikama
U izveštaju objavljenom ove nedelje, AI Forensics je analizirao 50.000 pominjanja “@Grok” na mreži Iks i 20.000 slika generisanih alatom, tokom nedelju dana između 25. decembra i 1. januara. Najmanje četvrtina pominjanja bila su zahtevi za kreiranje slika. U tim zahtevima bili su učestali pojmovi poput “ona”, “stavi”, “skini”, “bikini” i “odeća”.
Pokazalo se da je više od polovine slika prikazivalo osobe u “minimalnoj odeći” kao što su donji veš ili bikini, uglavnom žene mlađe od 30 godina. Dva procenta slika izgledala su kao da prikazuju osobe od 18 godina ili mlađe. U jednom primeru tinejdžerka je zatražila od Groka da izmeni njenu ličnu fotografiju – nakon čega su se muški korisnici uključili tražeći od Groka niz izmena, uključujući oblačenje u nacističku uniformu i skidanje u bikini.
Kompanija Iks nije odgovorila na upite novinara do trenutka objavljivanja teksta.
RTbalkan.
