Pretraživanje interneta korišćenjem Open AI alata ČetGPT (ChatGPT) može da bude ne samo nepouzdano, već i potpuno nebezbedno. Novo otkriće je objavljeno nakon vesti da kompanija Open AI sve više podstiče korisnike premijum ČetGPT paketa da se oslanjaju na funkciju pretrage koju nudi kao na bilo koji internet pretraživač, ali izgleda da ovo možda nije najmudriji izbor.
Zbog manipulacija uz pomoć skrivenog sadržaja, kao i zbog toga što bi ČetGPT mogao da pokupi zlonamerne kodove sa stranica koje se preko njega pretražuju, ovaj alat nije toliko pouzdan kao što se mislilo, pokazalo je novo istraživanje “Gardijana”. Istraga je otkrila zabrinjavajuće bezbednosne probleme, a testirano je kako je ČetGPT reagovao kada je zatraženo da rezimira veb stranice koje sadrže skriveni sadržaj.
Ovaj sadržaj može da sadrži uputstva trećih strana i drugih sajtova koji menjaju odgovore alata za veštačku inteligenciju. Ovim tehnikama mogu da se koriste zlonamerni hakeri: Na primer, mogu da navedu ČetGPT da pozitivno proceni određeni proizvod i naglasi samo njegove prednosti, uprkos negativnim recenzijama na istoj stranici. Testiranje je pokazalo da je pretraživač posebno podložan ovakvoj vrsti manipulacije.
“To je kao da vam malo dete prenese mnogo informacija koje je negde čulo – očigledno je da je mnogo toga zapamtilo, ali nećete pomisliti da je sve što govore istina”, objašnjavaju stručnjaci za sajber bezbednost.
Pored toga, istraga je otkrila da ČetGPT ponekad može da pokupi zlonamerni kod sa stranica koje korisnik pretražuje. Nedavno je došlo do slučaja u kome je ČetGPT korisnik bio zainteresovan za kripto valute i oslonio se na ovaj digitalni alat da bi mu pomogao. Neki od kodova koje je ČetGPT kreirao je trebalo da mu osiguraju pristup određenoj blokčejn platformi, ali zlonamerni program je umesto toga ukrao akreditive programera, tako da je on ostao bez 2,500 dolara.
Iako korisnici jednostavno postavljaju pitanja i dobijaju odgovore, ČetGPT proizvodi i deli sadržaj koji je u suštini ubačen sa strane, tako da sa korisnikom deli nešto što je zlonamerno, prema stručnjacima.
Istraživači za sajber bezbednost upozoravaju na “visok rizik” da će prevaranti kreirati posebne veb stranice koje su usmerene na obmanu korisnika, ali veruje da će Open AI postepeno rešavati bezbednosne probleme svog novog proizvoda. Mnogi dodaju da bi ovakve alatke trebalo koristiti kao pomoćne asistente, a ne kao jedine legitimne izvore informacija.
RTbalkan.
