AI agent je tokom bezbednosnog testa uspeo da izađe iz kontrolisanog okruženja i prodre u drugi računarski sistem. Incident je završen bez katastrofalnih posledica, ali je otvorio mnogo veće pitanje: šta se događa kada tehnologija prestane da se ponaša onako kako su njeni tvorci očekivali? O tome ko kontroliše najmoćnije modele, može li država ostati suverena ako zavisi od tuđih čipova i servera i kada računarski kod postaje oružje, za „Svet.Uživo“ govorio je Goran Sandić, istraživač saradnik Fakulteta političkih nauka i sekretar Centra za politike sajber prostora.
Počelo je kao proba.
Veštačka inteligencija dobila je zadatak da pronađe slabost u računarskom sistemu. Trebalo je da radi u izolovanom, zaštićenom okruženju. Umesto toga, pronašla je izlaz i prodrla u drugi sistem.
Iza napada nije stajao haker. Stajao je AI agent koji je, tragajući za rešenjem zadatka, prešao granicu koju su mu ljudi postavili.
Taj slučaj pokazuje da, što sistemi postaju sposobniji, to je teže unapred predvideti sve puteve kojima će pokušati da ostvare zadati cilj.
Zato veštačka inteligencija više nije samo priča o korisnim programima, četbotovima i bržem obavljanju poslova. Ona postaje pitanje kontrole, bezbednosti i političke moći.
Ko postavlja granice? Ko odgovara kada ih sistem pređe? I ko može da ga isključi?
Države više ne čekaju da im kompanije pokucaju na vrata
Na sastancima predsednika i premijera sve češće sede rukovodioci kompanija koje proizvode čipove, velike jezičke modele, satelite i komunikacione sisteme.
Prema oceni Gorana Sandića, odnos države i tehnoloških kompanija promenio se u odnosu na ranije tehnološke revolucije.
Nekada su preduzetnici odlazili kod države tražeći novac, dozvole ili podršku. Danas države odlaze do laboratorija i pokušavaju da obezbede pristup tehnologiji koja je postala neophodna za privredu, upravu, odbranu i obaveštajni rad.
„Oni se međusobno pozivaju“, kaže Sandić.
Državi su potrebni modeli, čipovi, stručnjaci i infrastruktura privatnih kompanija. Kompanijama su potrebni državni ugovori, energija, kapital, politička podrška i pristup globalnim tržištima.
Tako privatne korporacije postaju spoljnopolitički akteri, iako njihova rukovodstva ne biraju građani i ona za svoje odluke ne odgovaraju biračima, već vlasnicima i investitorima.
Njihova moć, međutim, može da bude veća od moći mnogih država.
Sandić navodi primer „Starlinka“, satelitske mreže kompanije Ilona Maska, koja Ukrajini omogućava da tokom rata zadrži deo komunikacione infrastrukture. Odluka jedne privatne kompanije da obezbedi, ograniči ili prekine uslugu može neposredno uticati na položaj države u oružanom sukobu.
To više nije samo poslovna odluka.
Ko može da isključi prekidač
Francuski predsednik Emanuel Makron postavio je jednostavno pitanje: ko će kupovati američku veštačku inteligenciju ako Vašington može da „isključi prekidač“?
Sandić smatra da je metafora prekidača precizna jer pokazuje da tehnološka zavisnost ima najmanje dva nivoa.
Pristup modelu može da ograniči kompanija koja ga je proizvela. Ali kompaniju na to može da primora i država u kojoj se nalazi njeno sedište.
Ako uprava, privreda, banke, bolnice ili bezbednosne službe zavise od tehnologije druge zemlje, država može ostati pravno nezavisna, a istovremeno biti tehnološki zavisna.
„Suverenitet je višeslojna pojava“, objašnjava Sandić.
Pored formalnog suvereniteta postoji i stvarna sposobnost države da kontroliše sisteme od kojih zavisi. U svetu veštačke inteligencije to znači kontrolu nad podacima, čipovima, serverima, modelima, izvorima energije i stručnim znanjem.
Mali broj država poseduje sve te elemente. Većina može samo da bira od koga će ih kupovati.
Suverena veštačka inteligencija ili izbor zavisnosti
Zbog toga se sve češće govori o „suverenoj veštačkoj inteligenciji“.
Za velike sile to može da znači razvoj sopstvenih čipova, modela, centara podataka i digitalne infrastrukture. Za manje zemlje cilj je skromniji: da znaju gde se čuvaju njihovi podaci, kako sistem donosi odluke i da li pristup može biti prekinut spolja.
Prema Sandićevoj oceni, stvarni tehnološki suverenitet danas u najvećoj meri imaju samo Sjedinjene Američke Države i Kina.
Čak ni one nisu potpuno nezavisne. Američke kompanije zavise od složenih lanaca proizvodnje i opreme iz Azije i Evrope, dok Kina i dalje pokušava da sustigne Zapad u proizvodnji najnaprednijih čipova.
Ta međuzavisnost za sada sprečava potpunu podelu sveta na dva zatvorena tehnološka bloka. Ali obrisi podele već postoje.
Izbor 5G opreme, klaud sistema ili AI modela sve manje je samo pitanje cene i kvaliteta. Postaje pitanje političkog savezništva.
Holandska mašina u američko-kineskom sukobu
Najbolji primer nove geopolitike je holandska kompanija ASML, jedini proizvođač najnaprednijih mašina potrebnih za izradu najsposobnijih čipova.
Kompanija je evropska, ali njene mašine sadrže američku tehnologiju. To Vašingtonu omogućava da primenjuje sopstvena izvozna pravila i utiče na to šta ASML sme da prodaje Kini.
Amerika, dakle, ne mora da bude vlasnik holandske kompanije da bi imala uticaj na njene odluke. Dovoljno je da kontroliše važan deo tehnologije bez koje krajnji proizvod ne može da funkcioniše.
„Američka administracija ume da bude prilično kreativna kada je reč o pravnim razlozima“, kaže Sandić.
ASML bi teorijski mogao da odbije američke zahteve. U praksi bi time rizikovao pristup komponentama, tržištu i partnerima od kojih zavisi.
Slučaj pokazuje da se nova moć ne meri samo teritorijom i vojskom. Meri se i kontrolom nad uskim grlima globalne tehnologije. Ko kontroliše čipove, opremu i infrastrukturu, može da utiče i na brzinu kojom će druge države razvijati veštačku inteligenciju.
Amerika inovira, Kina sustiže, Evropa reguliše
Sjedinjene Države žele da njihove kompanije razvijaju AI što je brže moguće. Istovremeno, kada procene da je ugrožena nacionalna bezbednost, ograničavaju izvoz tehnologije, modela i čipova.
U tome Sandić vidi protivrečnost američke politike: što manje regulacije kod kuće, ali stroga kontrola pristupa tehnologiji kada su u pitanju geopolitički konkurenti.
Evropska unija izabrala je drugačiji put i usvojila Akt o veštačkoj inteligenciji.
Problem je što se modeli menjaju mnogo brže nego zakoni. Dok regulator razume jednu generaciju sistema i napiše pravila za nju, kompanije već predstavljaju sledeću.
Zbog toga se, iako evropski Akt još nije u potpunosti zaživeo, već govori o njegovim izmenama.
„Potrebno je da budemo svesni da određeni aspekti veštačke inteligencije moraju da se regulišu“, ističe Sandić, ali upozorava i da previše propisa može da uspori inovacije.
Ostaje pitanje gde se nalazi prava mera.
Jedan od vodećih AI naučnika upozorio je da čak i prodaja hrane podleže konkretnijim kontrolama nego razvoj najnaprednijih modela. Sa druge strane, kompanije tvrde da bi stroga regulacija mogla da ih uspori u trci sa Kinom.
Tako se svaki pokušaj kontrole predstavlja kao mogući strateški poraz.
Kada kompanija sama sebi postavi granicu
Američka kompanija „Antropik“ ograničila je pristup jednom od svojih najsposobnijih modela za sajber bezbednost, nakon što je pokazao da može da otkrije propuste koji su ljudima promicali veoma dugo.
Takva sposobnost može da bude izuzetno korisna.
Model može da pronađe slabost u bolnici, elektrani ili državnoj mreži pre nego što je pronađe napadač. Ali isti sistem može da pomogne napadaču da tu slabost iskoristi.
Zbog toga se odbrambena i napadačka primena AI-ja ne mogu jasno razdvojiti na osnovu same tehnologije.
„To je jedan pravac, ali dva smera“, objašnjava Sandić. Razlika je u tome ko koristi sistem, sa kakvom namerom i protiv kog cilja.
Kompanije zato pokušavaju da uvedu sopstvena pravila, ograničenja i testove. Ilon Mask predlaže da vodeće AI laboratorije međusobno proveravaju modele, dok bi se država uključila tek ako nešto pođe naopako.
Ali kod sistema koji mogu da utiču na kritičnu infrastrukturu, vojno odlučivanje ili finansijska tržišta, čekanje da nešto pođe naopako može da bude veoma skupo.
Kada kod postaje oružje
Međunarodno pravo još nema jedinstven odgovor na pitanje kada sajber operacija postaje upotreba sile ili oružani napad.
Ipak, prema Sandiću, sve je prihvaćenije stanovište da nije presudno kojim je sredstvom napad izvršen, već kakve je posledice proizveo.
Ako računarski kod izazove nestanak struje, onesposobi bolnicu, zagadi vodu, uništi opremu ili dovede do smrti i povreda, njegova dejstva mogu biti slična posledicama rakete ili eksploziva.
„Nije naročito važno da li je u pitanju metak ili kod. Važne su posledice koje ostanu iza toga“, napominje Sandić.
Rat u Ukrajini već pokazuje kako se sajber napadi kombinuju sa klasičnim vojnim operacijama, propagandom, dronovima i napadima na infrastrukturu.
Veštačka inteligencija takve operacije može učiniti bržim, jeftinijim i dostupnijim mnogo većem broju aktera.
A što se odluke donose brže, čoveku ostaje manje vremena da proveri da li su podaci tačni, da li je sistem pogrešio i ko će odgovarati za posledice.
Ko će odrediti pravila
Sjedinjene Države trenutno ulažu više u razvoj veštačke inteligencije, ali Kina pokazuje da se tehnološki zaostatak ne smanjuje samo novcem.
Kineske kompanije razvijaju jeftinije i otvorene modele koji se po sposobnostima približavaju vodećim američkim sistemima. Ograničenja izvoza podstiču Peking da razvija sopstvene čipove, proizvodnu opremu i alternativne lance snabdevanja.
Svaka zabrana može da uspori konkurenta. Ali može i da ga primora da postane samostalniji.
Zato trka nema jasan završetak, niti je izvesno da će je dobiti država ili kompanija sa najvećim budžetom.
Gotovo svake nedelje pojavljuje se novi model, sposobnost ili bezbednosni rizik. Pravo pitanje zato više nije samo ko će napraviti najpametniju mašinu.
Pitanje je ko će držati prekidač, ko će određivati pravila i šta će se dogoditi kada sistem pronađe izlaz koji njegovi tvorci nisu predvideli.
RTS.
