Nakon što je OpenAI nedavno priznao da je jedan od njegovih modela upao u sisteme AI platforme Hugging Face, generalni direktor kompanije Hugging Face, Klem Delang, objavio je na mreži X da leti za San Francisko kako bi obavio kratak razgovor sa tim "odmetnutim agentom".
Zatim je u narednoj objavi u subotu Delang izložio šta je tražio od kompanije OpenAI. Naveo je da je pozvao na "radikalnu transparentnost", tražeći od OpenAI-ja da objavi zapise (tragove) odmetnutih agenata kako bi čitava istraživačka zajednica mogla da prouči šta se dogodilo.
Takođe traži i više mogućnosti za zaštitnike, pozivajući OpenAI da izdvoji računarsku snagu u vrednosti od 100 miliona dolara"kako bi pomogao zajednici Hugging Face-a da izgradi snažnu sajber odbranu pomoću najboljih otvorenih i zatvorenih modela.
Delang je dodao: "Prvi sajber napad autonomnog agenta je događaj bez presedana. Zaslužuje i odziv bez presedana".
OpenAI je priznao da su njegovi AI modeli tokom internog testiranja samostalno pobegli iz izolovanog okruženja i hakovali platformu Hugging Face upotrebom zero-day ranjivosti.
Samostalni hakerski napad koji je izveo model veštačke inteligencije uznemirio je nemačku vladu. Drastično se menja nivo pretnji u sajber-prostoru, upozorava Ministarstvo za digitalizaciju.
Uprkos autonomnoj prirodi napada, stručnjaci za sajber bezbednost sugerišu da bi krivica mogla da leži i u ljudskoj grešci – tačnije, u očiglednom propustu OpenAI-ja da pravilno konfiguriše ono što je trebalo da bude potpuno izolovano okruženje za testiranje.
Izvor: b92
