Prošle nedelje, tvorac ChatGPT-a kompanija OpenAI, najavila je da je imenovala penzionisanog generala američke vojske i bivšeg direktora Nacionalne bezbednosne agencije (NSA) Paula Nakasonea, koji je takođe predvodio vojnu jedinicu za sajber sigurnost, Cyber Command, za svog novog člana upravnog odbora.
“General Nakasoneovo neuporedivo iskustvo u oblastima kao što je sajber bezbednost,” rekao je predsednik odbora OpenAI-a Bret Taylor u izjavi, “će pomoći u vođenju OpenAI-a ka postizanju njegove misije da osigura da veštačka opšta inteligencija koristi čitavom čovečanstvu.”
Međutim, nisu svi oduševljeni Nakasoneovom novom ulogom u AI firmi, koja će takođe videti bivšeg generala u Odboru za sigurnost i bezbednost OpenAI-a. NSA je dugo bila povezana sa nadzorom građana SAD-a, a tehnologije sa integrisanom veštačkom inteligencijom već obnavljaju i eskaliraju postojeće zabrinutosti u vezi sa nadzorom.
Imajući to na umu, nije iznenađujuće što je bivši zaposleni NSA i poznati uzbunjivač Edward Snowden među onima koji su glasno kritikovali Nakasoneovo imenovanje.
Zabrinutost za OpenAI transparentnost u radu
“Oni su potpuno skinuli masku: nikada ne verujte OpenAI-u ili njihovim proizvodima,” napisao je Snowden u petak na X-u, dodajući da “postoji samo jedan razlog za imenovanje” direktora NSA “u vaš odbor.”
“Ovo je namerna, proračunata izdaja prava svakog čoveka na zemlji,” nastavio je. “Bili ste upozoreni.”
Snowden nije bio jedini istaknuti stručnjak za sajber bezbednost koji je sumnjičavo reagovao na vesti o OpenAI-u. “Mislim da će najveća primena AI biti masovni nadzor populacije,” tvitovao je profesor kriptografije sa Univerziteta Johns Hopkins, Matthew Green, “tako da dovođenje bivšeg šefa NSA u OpenAI ima određenu logiku.”
Nakasoneovo postavljenje dolazi nakon niza visokoprofilnih odlazaka iz OpenAI-a koji su uključivali istaknute istraživače sigurnosti, uz potpuno raspuštanje sada nepostojećeg tima za sigurnost “Superalignment.”
Zamena za taj tim, Odbor za sigurnost i bezbednost, sada vodi izvršni direktor kompanije Sam Altman, koji je poslednjih nedelja bio na udaru kritika zbog poslovnih praksi koje su uključivale ućutkivanje bivših zaposlenih.
Takođe je važno napomenuti da je OpenAI rutinski kritikovan zbog — ponovo — nedostatka transparentnosti u vezi sa podacima korišćenim za obuku njegovih mnogih AI modela. Ipak, kako izveštava Axios, mnogi na Capitol Hillu vide Nakasoneovo postavljenje u OpenAI kao pogodak u pogledu sigurnosti, piše Futurism.
Nakasone je, sa svoje strane, rekao u izjavi da se “posvećenost Open AI-a svojoj misiji blisko poklapa sa mojim vrednostima i iskustvom u javnoj službi.” “Radujem se što ću doprineti naporima Open AI-a,” dodao je, “da osigura da veštačka opšta inteligencija bude sigurna i korisna za ljude širom sveta.”
Benchmark.rs
