AMD Instinct MI300X bi trebao biti konkurencija Nvidia H100 rješenjima koje već koriste Google, Meta i Microsoft za AI i HPC namjene.
Po riječima Šarona Žoua, izvršnog direktora LaminiAI, a koje prenosi Tom’s Hardware, AMD je krenuo sa isporukom svojih Instinct MI300X GPU-ova namenjenih veštačkoj inteligenciji i za takozvane high-performance computing (HPC) zadatke. “Prvi AMD MI300X uživo u upotrebi” napisao je Žou. On je postavio screenshot koji pokazuje 8-way AMD Instinct MI300X u radu.
LamniAI namerava da AMD Instinct MI300X koristi za akceleraciju velikih jezičkih modela (large language models, LLMs) za korporativne primene. Iako je AMD svoja rešenja iz Instinct MI300 serije isporučivao klijentima iz domena superkompjutera već neko vreme i očekuje da oni postanu proizvodi koji će najbrže stići do milijarde dolara prometa u istoriji, sada je krenuo i sa isporukom Instinct MI300X GPU rešenja. LaminiAI kao kompanija koja već ima partnerski odnos sa AMD-om svakako ima prioritetni pristup novom hardveru.
AMD Instinct MI300X je “rođak” njihovog Instinct MI300A, prvog industrijskog data centar sertifikovanog rešenja koje koristi i x86 CPU jezgra opšte namene i CDNA 3 bazirana visoko-paralelizovana compute jezgra za for AI i HPC upotrebu. Za razliku od Instinct MI300A, Instinct MI300X ne poseduje x86 jezgra, ali ima više CDNA 3 čipleta (ukupno 304 compute jediniceu odnosu na 228 u MI300A) pa samim tim nudi i više performanse za AI i HPC. Uz to, Instinct MI300X dolazi sa 192 GB HBM3 memorije sa maksimalnim protokom od 5.3 TB/s.
Na osnovu ovih brojeva, AMD Instinct MI300X bi trebao premašiti performanse Nvidia H100 80GB rešenja, koje je već dostupno i upotrebljava se masivno u rešenjima kompanija kao što su Google, Meta (Facebook) i Microsoft. Instinct MI300X je zapravo pre konkurencija Nvidia H200 141GB GPU, koji bi tek trebao da stigne na tržište.
Prema prethodnim izveštajima, Meta i Microsoft su naručili značajne količine AMD Instinct MI300 serije proizvoda. Ipak, LaminiAI je prva kompanija koja je potvrdila početak upotrebe Instinct MI300X.
Benchmark.rs
