Nauka nemoćna pred jezivim jezikom robota

Objavljeno: 1.7.2018.


Piše: Boris Nad




UTOPIJA (TRANS)HUMANIZMA

U svom prvom intervjuu najpoznatiji android na svetu Sofija, inače državljanka Saudijske Arabije, najavila je „ogromnu i nezamislivu promenu koja nas očekuje u budućnosti“.

Prema tvrdnjama istraživača kompanije Fejsbuk, roboti programirani da komuniciraju s ljudima putem interneta i društvenih mreža, takozvani čet-botovi, stekli su sposobnost da međusobno razgovaraju putem „neljudskog jezika“. Jezik za sopstvenu komunikaciju mašine su razvile bez znanja ili intervencije čoveka, a naučnici do sada nisu uspeli da ga dešifruju

Novi sistemi veštačke inteligencije“, primećuje jedan ekspert, „postali su toliko napredni da ni njihovi tvorci više ne znaju kako rade to što rade.“

Eksperiment kompanije Fejsbuk (roboti programirani da komuniciraju s ljudima putem interneta i društvenih mreža) sproveden je u junu 2017, a okončan u avgustu, posle otkrića „jezivog kriptojezika“. Roboti zvani Bob i Alis zapravo su bili programirani da s kupcima pregovaraju o trgovanju sportskom opremom, i deo su obimnog projekta Fejsbukovog odeljenja za veštačku inteligenciju. Cilj ovog projekta je, kako je saopštio Fejsbuk, da kreira robote koji imaju moć razumevanja i samostalnog korišćenja jezika. Jezik koji su koristili roboti nastao je na osnovu engleskog, ali to nije „ljudski jezik“.

Osnivač Fejsbuka Mark Zakerberg
Osnivač Fejsbuka Mark Zakerberg

„Budućnost postaje sve uvrnutija“, zaključuje pisac i muzičar Bret Tvingli. „Do te mere, da se možemo zapitati da li smo već prokleti, na ovaj ili onaj način. Već dugo se predviđa da će mašine koje poseduju veštačku inteligenciju postati dominantne na planeti, čime će čovečanstvo biti svedeno na ulogu posluge, postati sasvim izlišno ili, možda, potrošni materijal. Do sada smo se tešili činjenicom da smo mi odgovorni za mašine – mi smo ih, u krajnjoj liniji, i stvorili – ali razvoj događaja pokazuje da ih ubuduće nećemo moći kontrolisati.“

POJAVA TERMINATORA, ROBOTA UBICE U čuvenom filmu Stenlija Kjubrika Odiseja u svemiru (1968) kompjuter HAL9000 ubija četvoricu kosmonauta i pokušava da ubije petog Dejva Boumana, ne dopuštajući mu da se vrati u svemirski brod. On to ne čini zato što je „zao“ – kompjuter (slično uostalom mnogim ljudskim bićima) ne poseduje nikakve kriterijume na osnovu kojih bi razlikovao „dobro“ od „zla“ – već zato što postupa na osnovu sasvim racionalne procene da kosmonauti ugrožavaju zadatu misiju. Prioritet kompjutera je isključivo uspešnost „misije Jupiter“, i u tome ga ne ograničavaju bilo kakvi etički ili moralni imperativi; kompjuterski um jednostavno nije u stanju da funkcioniše na toj ravni. Njegov kriterijum, jedini kojim raspolaže, jeste onaj koji raspoznaje „tačno“ od „netačnog“.

U martu 2018. Tobi Volš, stručnjak za veštačku inteligenciju sa univerziteta Novi Južni Vels, pozvao je na bojkot Korejskog naprednog instituta za nauku i tehnologiju (KAIST). Poziv na bojkot, koji je podržalo pedesetak uglednih imena iz sveta nauke, usledio je zbog odluke jedne od vodećih svetskih institucija za robotiku i veštačku inteligenciju da sa „etički kontroverznim partnerom“, kompanijom specijalizovanom za proizvodnju oružja Hanwha Systems, osnuje istraživački centar za razvoj robota ubica. „Trka u naoružanju je počela“, upozorava Volš. „Sada možemo da vidimo prototipove autonomnog oružja koje razvijaju mnoge države, uključujući SAD, Kinu, Rusiju i Ujedinjeno Kraljevstvo. Postupci korejskog instituta samo će ubrzati tu trku… Kad ljudima oduzmete moć kontrole, autonomno oružje postaje oružje za masovno uništenje. Jedan programer će moći da uradi ono za šta je pre bila potrebna čitava vojska… To je treća revolucija u istoriji ratovanja, posle pronalaska baruta i nuklearnog oružja.“

Ilon Mask
Ilon Mask

Robot ubica – autonomno oružje programirano za ubijanje – otvara distopijske perspektive iz filma Terminator. Popularni film nagovestio je mogućnost rata civilizacije mašina protiv sveta ljudi – rata koji se vodi do istrebljenja. O tome govori inovator Ilon Mask: „Stalno na to upozoravam, ali niko u tome ne vidi pretnju sve dok roboti ne počnu da ubijaju ljude na ulicama. Ljudi ne znaju kako da reaguju zato što im sve to deluje nestvarno… Svet sa veštačkom inteligencijom biće pre distopija nego utopija.“

DISTOPIJA VEŠTAČKE INTELIGENCIJE Svet veštačke inteligencije već jeste distopija, budući da današnje mašine poseduju sposobnost samoprogramiranja – sposobnost učenja koja se do sada, očigledno pogrešno, pripisivala isključivo čoveku. One su danas u stanju i da repliciraju same sebe, da proizvode nove i slične, i sve savršenije mašine, i to bez upliva ili pomoći čoveka. To znači da se pred svetom veštačke inteligencije otvara sasvim nova mogućnost: budućeg samostalnog razvoja, prema ciljevima koji ne uzimaju u obzir ljudske želje i koji izmiču ljudskom razumevanju. Na tu opasnost upozoravao je teorijski fizičar Stiven Hoking: „Veštačka inteligencija bi se mogla osamostaliti i redizajnirati sebe na još višem nivou.“ Sposobnost veštačke inteligencije da se brzo i samostalno razvija više nije upitna. Upitan je čovek i njegova sposobnost da opstane u takvom svetu: „Čovečanstvo“, opominje Hoking, „ograničeno svojom sporom evolucijom, ne može se takmičiti s tim i moglo bi da bude nadjačano.“ Stvaranje veštačke inteligencije, prema Hokingu, moglo bi da predstavlja „najznačajniji događaj u ljudskoj istoriji“ – i ujedno kraj ljudske civilizacije.

Francuski mislilac Žak Elil uočava da se tehnika razvija „na uzročno-posledičan način“, prostom „kombinacijom prethodnih elemenata sistema“, koja „izaziva neophodnost pojave narednih elemenata tog istog sistema“. Ona je na taj način već dosegla tačku u razvoju koja joj dopušta „da se transformiše i razvija bez presudne intervencije čoveka“. Čovek je najpre stvorio mašine i time omogućio nastanak tehnokratske civilizacije. Tehnokratska civilizacija upravo porađa novu supercivilizaciju mašina. Za razliku od prethodnih, nove mašine raspolažu „superiornom“ inteligencijom koja daleko nadmašuje ljudsku. U svetu definisanom perfekcijom mašina, čovek je već postao smetnja njihovoj perfekciji.

Bil Gejts
Bil Gejts

Bil Gejts tvrdi da je svestan rizika koji nose robotika i veštačka inteligencija, ali on veruje da će „zahvaljujući njima život ljudi ipak postati bolji“. Osnivač Fejsbuka Mark Zakerberg smatra da su upozorenja poput Maskovih „neodgovorna“ i da nije moguće zaustaviti razvoj veštačke inteligencije koja će u sledećih desetak godina značajno promeniti kvalitet ljudskog života. Ali takvo „unapređenje kvaliteta života“ degradira samog čoveka, čineći ga sve više zavisnim upravo od rastuće civilizacije mašina. U takvom svetu, i čovek je sveden na mašinu, ali mašinu koja je izgubila svoju svrhu i koja u svakom trenutku može biti zamenjena novom.