Anthropic upozorava da se razvoj AI odvija toliko brzo da bi u doglednoj budućnosti mogao da dovede do sistema koji su sposobni da razvijaju sopstvene naslednike, i zato predlaže pauzu.
Iako ova faza još nije dostignuta, kompanija smatra da bi mogla stići ranije nego što su institucije spremne da je kontrolišu. U svom blogu, kompanija navodi da bi takav nivo AI mogao doneti ogromne koristi, posebno u nauci i medicini, gde bi sistemi koji se sami unapređuju mogli ubrzati istraživanja i otkrića na način koji danas nije moguć.
Međutim, isti scenario nosi i ozbiljne rizike. Anthropic upozorava da bi gubitak kontrole nad takvim sistemima postao realna mogućnost, jer bi AI potencijalno mogao da nastavi da se unapređuje bez ljudskog nadzora.
Kao moguće rešenje, kompanija predlaže globalno usporavanje ili privremenu pauzu u razvoju najnaprednijih AI sistema. Cilj bi bio da regulacija, bezbednosna istraživanja i društvene institucije stignu tehnološki napredak, prenosi Engadget.
Ovaj predlog dolazi iz kompanije koja je danas jedan od ključnih igrača u AI industriji. Kritičari, uključujući analitičare WSJ, tvrde da bi ovakva upozorenja mogla imati i marketinšku pozadinu. Po toj interpretaciji, Anthropic bi mogao da se pozicionira kao “odgovorniji” igrač u poređenju sa konkurencijom ili da podigne interesovanje za sopstvene proizvode.
Posebne sumnje izazvao je i ograničeni pristup njihovom AI bezbednosnom modelu Mythos, koji je navodno pušten samo odabranim partnerima zbog potencijalne zloupotrebe, dok skeptici smatraju da je reč o poslovnoj strategiji i kontroli tržišta.
Ipak, kompanija tvrdi da je predlog o usporavanju zasnovan na radu njihovog istraživačkog ogranka Anthropic Institute, koji je formiran da proučava dugoročne rizike napredne AI tehnologije. Da bi eventualni globalni prekid razvoja bio moguć, morale bi da učestvuju sve vodeće AI laboratorije u svetu, uz mehanizme provere da niko ne nastavlja razvoj u tajnosti.
Anthropic čak navodi da slični međunarodni sporazumi postoje u drugim oblastima, poput nuklearnih tehnologija, iako priznaje da bi uspostavljanje takvog sistema u AI industriji bilo znatno teže i vremenski osetljivije.
Izvor: b92
