Grupa uglednih matematičara upozorila je da se razvoj najnaprednijih AI sistema odvija toliko brzo da bi trenutak za preventivno reagovanje mogao da prođe pre nego što šira javnost uopšte postane svesna problema. Desetine članova britanskog Royal Society potpisalo je zajedničko pismo u kojem razvoj potencijalno superinteligentnog AI sistema nazivaju hitnim pitanjem za društvo.
Među potpisnicima se nalaze i dobitnici Fields medalje Tim Gowers, Martin Hairer, Peter Scholze, Wendelin Werner i James Maynard.
Njihov argument nije da je katastrofa neizbežna, već da je tempo napretka dovoljan da ozbiljni scenariji više ne mogu jednostavno da se odbace kao naučna fantastika. Autori navode da savremeni AI sistemi u pojedinim matematičkim oblastima već dostižu nivo vodećih stručnjaka, pa smatraju da postoji realna mogućnost da se sličan razvoj ubrzano nastavi.
U pismu se posebno ukazuje na činjenicu da napredne matematičke sposobnosti verovatno nisu izolovan fenomen. Ako sistemi mogu da rešavaju veoma složene probleme iz matematike, autori smatraju da treba ozbiljno razmotriti njihove sposobnosti u oblastima poput sajber bezbednosti, razvoja bioloških i hemijskih agenasa, autonomnog oružja i ciljane proizvodnje dezinformacija.
Upozorenje stiže u trenutku kada se unutar same AI industrije vodi sve otvorenija rasprava o bezbednosti.
Bivši Anthropic istraživač Jacob Coxon nedavno je napustio kompaniju i javno izrazio zabrinutost zbog razvoja sistema koje je opisao kao potencijalno nekontrolisane. Drugi Anthropic istraživač, Evan Hubinger, procenio je da rizik od katastrofalnog ishoda tokom naredne decenije nije zanemarljiv. To su njihove procene, a ne utvrđene prognoze ili naučni konsenzus.
Dario Amodei iz Anthropica takođe upozorava da bi veliki broj autonomnih AI agenata mogao da napravi ozbiljne probleme na internetu, dok drugi tehnološki lideri i političari smatraju da se takvi rizici preuveličavaju. Američki predsednik Donald Trump nedavno je javno odbacio deo najdramatičnijih upozorenja, tvrdeći da se govori o scenarijima koji se možda nikada neće dogoditi.
Matematičari zato od Royal Society ne ističu tvrdnju da će AI uništiti čovečanstvo. Njihova poruka je drugačija: ako postoji ozbiljna mogućnost da se sistemi razviju brže nego što možemo da uvedemo efikasne bezbednosne mehanizme, reagovanje na problem tek kada postane očigledan, možda će biti prekasno, piše Yahoo News .
Izvor: benchmark
