Vint Serf je pozvao učesnike na konferenciji u Mauntin Vjuu u Kaliforniji da ne pokušavaju da ulažu u veštačku inteligenciju samo zato što je to „vruća tema“. Upozorenje dolazi usred naleta popularnosti Chat GPT-a kompanije Open AI.
„Ovde postoji etičko pitanje za koje se nadam da će neki od vas razmotriti. Svi pričaju o Chat GPT-u ili Guglovoj verziji toga i znamo da to ne funkcioniše uvek onako kako bismo želeli“, rekao je Serf.
Serfovo upozorenje dolazi u trenutku dok se velike tehnološke kompanije kao što su Gugl, Meta i Majkrosoft bore sa načinom da ostanu konkurentne u prostoru veštačke inteligencije, dok nastoje da brzo poboljšavaju tehnologiju koja i dalje često pravi greške.
Predsedavajući Alfabeta Džon Henesi prethodno je izjavio da su sistemi još uvek daleko od toga da budu široko upotrebljivi i da imaju mnogo problema sa nepreciznošću i „toksičnošću“ koje bi trebalo rešiti pre nego što proizvodi daju na testiranje javnosti.
Serf je bio potpredsednik i „glavni evanđelista” Gugla od 2005. Poznat je kao jedan od „očeva interneta“, jer je bio i jedan od ljudi koji su radili na dizajnu arhitekture korišćene za izgradnju temelja interneta.
Iskušenje i pohlepa
Serf je upozorio na iskušenje da se investira samo zato što je tehnologija „zaista kul, iako ne funkcioniše baš sve vreme“.
“Ako mislite, ‘Čoveče, mogu ovo da prodam investitorima jer je to vruća tema i svi će davati novac’, nemojte to da radite”, rekao je Serf..
„Budite pažljivi. Bili ste u pravu da ne možemo uvek da predvidimo šta će se desiti sa ovim tehnologijama i, da budemo iskreni, najveći deo problema su ljudi – zato se mi ljudi nismo promenili u poslednjih 400 godina, a kamoli u poslednjih 4.000“, naveo je Serf.
Ljudi će nastojati da urade ono što ide njima u korist, nastavio je Serf misleći na ljudsku pohlepu.
„Zato moramo to zapamtiti i razmisliti o tome kako koristimo ove tehnologije“, napominje Serf.
Daleko od samosvesti
Serf je rekao da je pokušao da zatraži od jednog od čet-botova da doda emodži na kraju svake rečenice. Nije to uradio, a kada je rekao sistemu da je primetio, čet-bot se izvinio, ali nije promenio ponašanje.
„Daleko smo daleko od svesti ili samosvesti“, rekao je Serf o čet-botovima.
Ističe da postoji jaz između onoga što tehnologija kaže da će učiniti i onoga što radi.
„U tome je problem. … Ne možete razlikovati elokventno izražen odgovor od tačnog“, napominje „otac interneta“.
Serf je dao i primer kada je tražio od čet-bota da priloži biografiju o sebi. Rekao je da je bot odgovor predstavio kao činjenični, iako je bilo netačnosti.
„Što se tiče inženjeringa, mislim da bi inženjeri poput mene trebalo da budu odgovorni za pokušaj pronalaženja načina da ukrote neke od tih tehnologija tako da je manja verovatnoća da će izazvati štetu“, rekao je Serf. Napominje i da u zavisnosti od aplikacije, priča koja nije baš dobra fikcija je jedna stvar, ali da davanje saveta nekome može imati medicinske posledice.
„Veoma je važno otkriti kako minimizirati potencijal u najgorem slučaju“, zaključio je Serf.
