Suosnivač OpenAI-a i poznati kompjuterski naučnik Andrej Karpathy upozorio je da je entuzijazam u vezi s vještačkom inteligencijom (AI), posebno agentima koji djeluju bez nadzora, pretjeran. Govoreći na događaju u organizaciji Y Combinatora ove sedmice, Karpathy je poručio da “AI treba držati obuzdati”.
“Trenutni veliki jezički modeli (LLM) i dalje prave greške koje nijedan čovjek ne bi napravio”, rekao je Karpathy, naglasivši da AI sistemi i dalje pate od “halucinacija”, zaborava i nedostatka samosvijesti.
Uporedio je LLM-ove s “ljudskim duhovima”, sofisticiranim simulacijama ljudske inteligencije koje mogu briljirati u rješavanju složenih problema, ali će istovremeno tvrditi da je broj 9.11 veći od 9.9 ili da “strawberry” ima dva slova R na kraju.
Iako AI može za nekoliko sekundi generisati desetine hiljada linija koda, Karpathy upozorava da to nije razlog da se potpuno oslonimo na njega. “Još uvijek sam ja ‘usko grlo’. Moram provjeriti da li taj kod sadrži greške”, kazao je.
Pozvao je programere da sporije pristupaju radu s AI-jem, fokusirajući se na precizne i konkretne upite. “Uvijek radim sa kratkim instrukcijama. Želim da budem siguran da je sve kako treba”, rekao je Karpathy.
Ranije ove godine, Karpathy je skovao termin “vibe coding”, proces pisanja koda uz pomoć AI-ja koji se oslanja više na osjećaj nego na precizno razumijevanje strukture.
S njim se slažu i drugi stručnjaci. Bob McGrew, bivši direktor istraživanja u OpenAI-ju, rekao je da su ljudski inžinjeri i dalje ključni za upravljanje AI-em, posebno kad “stvari postanu previše komplikovane za AI da ih razumije”.
Kent Beck, jedan od autora “Agile Manifesta”, uporedio je AI agente s čarobnim lampama: “Oni će vam ispuniti želju, ali ne na način na koji ste zamišljali. Imaju svoju agendu”.
Beck je upozorio da je upotreba AI-ja u pisanju koda često nepredvidiva i može djelovati kao kockanje.
Ipak, veliki tehnološki giganti i dalje ulažu u AI. Direktor Googlea Sundar Pichai izjavio je da danas AI piše više od 30% novog koda u Alphabetu, što predstavlja rast sa 25% zabilježen prošle godine, navodi Business Insider.
