Tim istraživača je uspeo da “probije” kod OpenAI i Google AI modela, otkrivajući tajne skrivene u tehnologiji koja je u usponu.
Novo istraživanje, koje su sproveli istraživači nekoliko univerziteta, zajedno sa stručnjacima kompanija Google DeepMind i OpenAI, otkriva da su OpenAI i Google AI modeli “probijeni” i otkriveno je nešto što do sada nije bilo poznato.
Naučnici iz pomenutih institucija su uspeli da lansiraju napad na OpenAI i Google AI servise, što je dovelo do otkrivanja značajnog dela skrivenih transformer modela.
“Za manje od 20 dolara, naš napad izdvaja kompletnu projekcionu matricu OpenAI-jevih jezičkih modela”, navode istraživači u svom radu. “Time potvrđujemo, po prvi put, da ovi modeli imaju skrivene dimenzije 1024 i 2048. Takođe dobijamo tačnu veličinu skrivene dimenzije gpt-3.5-turbo modela i procenjujemo da bi to koštalo ispod 2.000 dolara u upitima za oporavak cele projekcione matrice”.
Slično je otkriveno i za Google AI model, gde je takođe moguće rekonstruisati bitne aspekte modela.
