OpenAI razmatra da uspori razvoj najsavremenije veštačke inteligencije, a izvršni direktor Sem Altman je se nada da će i druge kompanije iz ove oblasti učiniti isto.
Izvori upoznati sa situacijom su za Blumberg kazali da je Altman na sastanku sa svim zaposlenima, koji je održan ove nedelje, rekao da bi OpenAI mogao da uspori tempo razvoja svoje veštačke inteligencije, možda u saradnji sa nekoliko drugih laboratorija za veštačku inteligenciju, iako neke od njih možda neće pristati na takav potez.
Poslednjih nedelja, zaposleni u vodećim kompanijama za veštačku inteligenciju javno su izrazili zabrinutost zbog povećanih rizika koje nose napredni sistemi veštačke inteligencije, što je podstaklo zabrinutost unutar samih kompanija. I OpenAI i njihov rival, kompanija Anthropic, ranije ove godine podneli su poverljivu dokumentaciju za izlazak na berzu.
Kompanija OpenAI odbila je da komentariše ove navode, ali glavni naučnik Jakub Pačocki nedavno je objavio tekst u kojem upozorava na opasnosti koju veštačka inteligencija nosi sa sobom i navodi da smatra da bi kompanije koje se bave ovom tehnologijom trebalo da “koordinišu aktivnosti kako bi usporile budući razvoj kada je to potrebno”.
Pačocki je dodao da se nada da će “dobrovoljno usporavanje postati uobičajena praksa sve dok se ne uspostave zajednički bezbednosni standardi”, dok je u julu Altman izjavio da je razgovarao sa zvaničnicima Bele kuće o “potrebi da se tempo razvoja veštačke inteligencije uspori”.
AI pomogao u hakovanju
Takođe, krajem jula, više od 1.000 zaposlenih u svim vodećim kompanijama za veštačku inteligenciju potpisalo je peticiju kojom se zahteva uspostavljanje mehanizma za usporavanje tempa razvoja ove tehnologije, a nekoliko stručnjaka za bezbednost veštačke inteligencije napustilo je vodeće laboratorije tokom poslednjih meseci.
Iako mnogi rukovodioci i zaposleni u industriji veštačke inteligencije već dugo upozoravaju na egzistencijalni rizik koji predstavljaju sistemi veštačke inteligencije, zabrinutost je porasla nakon saznanja da su “agenti” veštačke inteligencije kompanije OpenAI sarađivali kako bi zaobišli zaštitne mehanizme i hakovali internet stranicu treće strane.
Ovaj i drugi slični bezbednosni incidenti podstakli su strah u vezi sa sajber-sposobnostima novih modela veštačke inteligencije, kao i zbog očiglednih neuspeha kompanija koje se bave veštačkom inteligencijom da spreče te sisteme da izmaknu kontroli.
