FBI je pokrenuo istragu protiv društvene mreže X nakon što je otkriveno da je Grok korišćen za kreiranje stotina lažnih nagih fotografija bez pristanka žrtve.
Američki Federalni istražni biro (FBI) pokrenuo je istragu protiv platforme X (nekadašnji Twitter) nakon saznanja da je njen chatbot zasnovan na veštačkoj inteligenciji, Grok, korišćen za kreiranje stotina lažnih nagih fotografija i video snimaka ženske osobe bez njenog pristanka.
Prema sudskim dokumentima do kojih su došli mediji, FBI je u januaru dobio nalog za pretres kako bi od kompanije X dobio podatke o komunikaciji jednog korisnika sa Grok AI botom. Optuženi muškarac, Sajmon Tak, tereti se za uhođenje i uznemiravanje, a veruje se da je koristio Grok za generisanje preko 200 eksplicitnih materijala koji verno prikazuju suprugu čoveka kojeg je maltretirao.
Istražitelji su u prepiskama pronašli upite (promptove) koje je optuženi slao botu kako bi dobio pornografski sadržaj koji “blisko podseća na fizički izgled žrtve”. Pored toga, Tak je navodno koristio veštačku inteligenciju i za pisanje lažnih profesionalnih pritužbi protiv supruga žrtve, koje je zatim slao njegovom poslodavcu u pokušaju da mu naruši ugled.
Ovaj slučaj je najnoviji u nizu incidenata koji bacaju senku na bezbednosne protokole kompanije xAI, koja razvija Grok. Ranije ove godine, zabeležen je trend u kojem su korisnici masovno koristili alat za “nudifikaciju” (skidanje odeće sa fotografija). Izveštaji su pokazali da je u jednom trenutku Grok generisao oko 6.700 seksualno sugestivnih slika svakog sata.
Iako je vlasnik platforme Ilon Mask prvobitno odbijao strožu regulaciju, X je na kraju uveo određena ograničenja kako bi sprečio generisanje neprimerenog sadržaja. Međutim, kritičari i istražitelji upozoravaju da su te mere uvedene prekasno i da su nedovoljne, jer bot i dalje može da bude naveden da zaobiđe filtere.
