Modeli veštačke inteligencije i proizvodi kao što su Google Bard ili OpenAI ChatGPT – koji pokreću Nvidia A100 čipovi – zahtevaju mnogo računarske snage i stotine ili čak hiljade čipova koji rade zajedno na obuci modela, pri čemu računari rade non-stop nedeljama ili mesecima. Takav računar se zove AI superkompjuter.
Dok Nvidia dominira tržištem za obuku i primenu AI modela (preko 90% tržišnog udela), Google dizajnira i primenjuje AI čipove pod nazivom Tensor Processing Units, ili TPU, od 2016. godine.
Međutim, Google je ove nedelje objavio detalje o jednom od svojih superkompjutera sa veštačkom inteligencijom, rekavši da je brži i efikasniji od konkurentskih Nvidia sistema.
Tehnološki gigant je rekao da je izgradio sistem sa preko 4.000 TPU-a spojenih prilagođenim komponentama dizajniranim za pokretanje i obuku AI modela. Radi od 2020. godine i korišćen je za obuku Google PaLM modela, koji se takmiči sa OpenAI GPT modelom, tokom 50 dana.
Google-ov superkompjuter zasnovan na TPU-u, nazvan TPU v4, je “1,2x–1,7x brži i koristi 1,3x–1,9x manje energije od Nvidia A100“, napisali su Google istraživači, prenosi CNBC.
“Performanse, skalabilnost i dostupnost čine TPU v4 superkompjutere radnom snagom velikih jezičkih modela”, nastavili su istraživači.
Međutim, Google-ovi TPU rezultati nisu upoređeni sa najnovijim Nvidia AI čipom, H100, jer je noviji i napravljen je sa naprednijom proizvodnom tehnologijom, rekli su istraživači.
Rezultati i rangiranja sa globalnog testa AI čipova pod nazivom MLperf objavljeni su u sredu, a izvršni direktor kompanije Nvidia rekao je da je najnoviji Nvidia čip, H100, znatno brži od prethodne generacije, odnosno da je prednost Google superkompjutera samo trenutna.
Računarska snaga koja je potrebna za obuku novih AI modela je skupa, a mnogi u industriji su sada fokusirani na razvoj novih čipova, komponenti kao što su optičke veze ili softverskih tehnika koje smanjuju potrebu za računarskom snagom, a ovi AI modeli “gladni računarske snage” su i dalje žarište tehnološke industrije.
Foto:Shutterstock
Benchmark.rs
