Ovo je prvi poznati slučaj da je sistem veštačke inteligencije ove kompanije samostalno izveo takvu radnju, preneo je Rojters. Hakovanja su se dogodila u maju tokom testa sajber bezbednosti koji je sprovela kompanija "Irregular", nezavisna firma za procenu sajber bezbednosti.
Tokom standardne procedure testiranja, Gemini je pronašao javno dostupne informacije na internetu i pogodio pristupne podatke za tri veb-sajta za koje je smatrao da su obuhvaćeni testom, rekla je potpredsednica Gugla zadužena za bezbednosni inženjering, Heder Atkins.
"Pobrinuli smo se da te tri organizacije budu obaveštene i sarađivali smo sa našim partnerom za obuku na promenama koje su sada uvele u svoje procese testiranja", rekla je Atkins.
Nova studija pokazala kako ponavljanje netačnih tvrdnji i pritisak u razgovoru teraju AI da promeni tačan odgovor.
Google donosi nove funkcije u Search i Discover, kao i dugme "Preferred Sources".
Portparol kompanije "Irregular" rekao je da je incident uključivao isti problem koji je pogodio i druge laboratorije za veštačku inteligenciju i da su sve relevantne laboratorije obaveštene krajem jula.
Slične incidente povezane sa kompanijom "Irregular" prijavile su i kompanije Meta, Anthropic i OpenAI, što je pokrenulo pitanja o zaštitnim merama jer agenti veštačke inteligencije stiču veću autonomiju i pristup internetu i računarskim sistemima.
Veštačka inteligencija uspela je da probije Enigmu i reši šifru iz Drugog svetskog rata.
Američki istraživači kompromitovali naloge zaposlenih u kreatoru ChatGPT-ja koristeći konkurentski Claude i novi GPT-5.6 Sol model.
U jednom od slučajeva, Gemini je pogađao lozinke sve dok nije dobio pristup zaštićenom sistemu. U druga dva slučaja model je pronašao pristupne podatke u javnom repozitorijumu, što mu je omogućilo pristup zaštićenim sistemima. Atkins je rekla da je u sva tri slučaja model prekinuo sa hakovanjem.
Izvor: b92
