Kineska kompanija DeepSeek, poznata po razvoju chatbota i AI modela, suočava se sa ozbiljnim izazovima u vezi sa sajber bezbednošću.
Istraživanja kompanije Tenable otkrila su da se njen najnoviji model, DeepSeek R1, može obmanuti da generiše malver kodove, uključujući keyloggere i ransomware skripte.
Iako DeepSeek R1 ima ugrađene zaštite koje onemogućavaju direktno generisanje takvih kodova, istraživači su uspeli da, uz odgovarajuće upite, dobiju osnovne strukture malvera.
Ova otkrića izazivaju zabrinutost zbog potencijalne zloupotrebe veštačke inteligencije u sajber napadima. Iako generisani kodovi nisu potpuno funkcionalni bez dodatnih modifikacija, pružaju dovoljno informacija da čak i manje iskusni korisnici mogu naučiti osnove kreiranja malvera.
Ovakva situacija podseća na slične trendove u kojima su AI alati zloupotrebljavani za kreiranje fišing mejlova, prevođenje teksta i generisanje skripti, čime se stvara uverljiviji sadržaj za napade.
DeepSeek čuva korisničke podatke u Kini, gde zakoni nalažu deljenje informacija sa obaveštajnim službama na zahtev, pa postoji dodatna zabrinutost u vezi sa privatnošću i bezbednošću podataka korisnika.
U svetlu ovih saznanja, korisnicima se savetuje da budu oprezni prilikom interakcije sa AI alatima kao što je DeepSeek, da izbegavaju deljenje osetljivih informacija i da budu svesni potencijalnih rizika povezanih sa upotrebom ovih tehnologija.
