Microsoft je u partnerstvu sa kompanijom OpenAI, najavio novo istraživanje o tome kako hakeri koriste veštačku inteligenciju.
Nije iznenađenje saznanje da organizovani sajber kriminalci počinju da koriste generativne alate i usluge veštačke inteligencije za nove vrste napada. Sada smo dobili mnogo više informacija o tome kako ovi hakeri koriste velike jezičke modele.
U objavi na svom blogu, Microsoft je u partnerstvu sa kompanijom OpenAI, najavio novo istraživanje o tome kako hakeri koriste LLM-ove. To uključuje informacije o određenim grupama za koje je utvrđeno da koriste generativne AI alate.
Grupe se nalaze u zemljama poput Rusije, Severne Koreje, Irana i Kine. Jedna od njih je označena kao Forest Blizzard i povezana je sa ruskom jedinicom GRU 26165. Microsoft kaže da je grupa bila aktivna u ciljanju organizacija koje su povezane sa trenutnom vojnom akcijom u Ukrajini.
Microsoft tvrdi da Forest Blizzard koristi LLM “kako bi razumeo protokole satelitske komunikacije, tehnologije radarskog snimanja i specifične tehničke parametre”. Njihovo istraživanje dodaje da je ova grupa pokušavala da automatizuje zadatke poput odabira datoteka i manipulisanja sa LLM.
Još jedna grupa sajber kriminalaca, za koju Microsoft kaže da koristi veštačku inteligenciju, označena je kao Salmon Typhoon. Grupa sa sedištem u Kini je poznata po napadima na vladine i američke odbrambene sisteme. Prema Microsoftu, Salmon Typhoon je koristio LLM na različite načine. Oni uključuju pronalaženje grešaka u kodiranju i prevođenje tehničkih radova.
Microsoft kaže da će nastaviti partnerstvo sa OpenAI u istraživanju upotrebe veštačke inteligencije od strane sajber kriminalaca.
Kompanija je dodala da će koristiti sopstveni servis uslugu Copilot for Security kako bi pratila ove sajber pretnje zasnovane na LLM-u.
