Osnivački članovi ove inicijative uključuju kompanije Nvidia, Microsoft, Dell i SpaceX.
Nvidia je okupila neke od najvećih tehnoloških kompanija na svetu kako bi formirala Savez za otvorenu i bezbednu veštačku inteligenciju (Open Secure AI Alliance) sa ciljem unapređenja sajber bezbednosti. Među 27 osnivačkih članova nalaze se Microsoft, SpaceX, Dell, The Linux Foundation i sama Nvidia.
“Savez Open Secure AI Alliance – oslanjajući se na liderstvo inicijative Akrites Fondacije Linux i rad zajednice OpenSSF – radiće na otklanjanju i objavljivanju ranjivosti pomoću otvorenih tehnologija”, napisala je Nvidi
Grupacija tvrdi da je, radi najbolje odbrane od napada u eri AI modela poput Anthropic-ovog modela Mythos 5, istraživačima bezbednosti potreban pristup i otvorenim i zatvorenim vodećim modelima. Kao ključni primer, Nvidia je navela nedavni napad odbeglog agenta OpenAI-ja na platformu Hugging Face. Hugging Face je najpre pokušao da iskoristi zatvorene komercijalne vodeće modele kako bi otkrio i odbio hakerski napad, ali su njegovi zahtevi aktivirali bezbednosne zaštitne mehanizme i bili odbijeni. Nakon toga je prešao na modele otvorenog koda i uspeo da zaustavi napad.
“Kada su zatvoreni AI alati – nesposobni da razlikuju napadače od odbrambenih timova – blokirali ključnu forenzičku analizu, Hugging Face je pokrenuo model otvorenih težina GLM 5.2 na sopstvenoj infrastrukturi kako bi analizirao više od 17.000 akcija i suzbio upad”, napisala je Nvidia.
Nvidia i neki od njenih partnera doprineće različitim elementima ovog saveza. Nvidia je saopštila da će ponuditi otvorene modele, težine modela, podatke i nova okruženja za agente kako bi ubrzala razvoj novih alata i tehnika sajber bezbednosti. HPE će doprineti standardima i metodama koje mogu kriptografski verifikovati AI agente i usluge, dok će Hugging Face pružiti bezbedan format za skladištenje težina AI modela, pod nazivom Safetensors. Microsoft, SpaceXAI, IBM i Red Hat takođe nude tehnologiju veštačke inteligencije otvorenog koda.
Grupa takođe poziva vlade da sarađuju sa kompanijama na zajedničkim investicijama u otvorenu AI infrastrukturu. Dodaje se da bi regulatorna tela trebalo da prepoznaju otvorene modele kao “odbrambena sredstva, a ne teret/rizik”, navodeći da opšte restrikcije za otvorene vodeće AI sisteme slabe odbrambene kapacitete i rizikuju koncentrisanje moći kod malog broja zatvorenih pružalaca usluga.
Prema nedavnim izveštajima, Trampova administracija razmatra široku zabranu kineskih AI modela otvorenog koda. Ti modeli stiču sve veću popularnost u odnosu na zatvorene modele kompanija kao što su OpenAI i Anthropic jer su jeftiniji za korišćenje. Te dve kompanije, zajedno sa drugim komercijalnim AI firmama poput Mete i Google-a, uočljivo odsustvuju iz ovog novog saveza.
B92.
