Fejsbuk koristi vještačku inteligenciju protiv ekstremizma

Objavljeno: 16.6.2017.

Kompanija Fejsbuk (Facebook) saopštila je da u borbi protiv ekstremizma koristi veštačku inteligenciju koja na toj mreži pronalazi slike, videa i tekstualne sadržaje koji imaju neke veze s terorizmom, ali i lažne naloge sa kojih dolazi ovakav sadržaj. Kako je objavio BBC, taj potez usledio je nakon sve većeg pritiska od strane vlada na tehnološke […]

Kompanija Fejsbuk (Facebook) saopštila je da u borbi protiv ekstremizma koristi veštačku inteligenciju koja na toj mreži pronalazi slike, videa i tekstualne sadržaje koji imaju neke veze s terorizmom, ali i lažne naloge sa kojih dolazi ovakav sadržaj.

Kako je objavio BBC, taj potez usledio je nakon sve većeg pritiska od strane vlada na tehnološke kompanije da učine više u tome da se sa interneta uklanjaju materijali kao što je teroristička propaganda.

Iz Fejsbuk kažu da žele da budu otvoreniji o tome čime se bave u svom radu.

“Mi želimo da se teroristički sadržaj pronađe veoma brzo, pre nego što ga ljudi na mreži uopšte i vide”, navode iz te kompanije.

Sposobnost takozvane Islamske države da koristi tehnologiju kako bi radikalizovala i regrutovala ljude na društvenim mrežama pokrenula je značajna pitanja za velike tehnološke kompanije.

One su kritikovane da se njihove platforme koriste za širenje ekstremističkih ideologija i inspirisanja ljudi da izvrše akte nasilja.

Vlade nekih država, Velika Britanija posebno, zalažu se poslednjih meseci za više akcije, a širom Evrope razgovor se kreće u pravcu regulacije zakonima ili propisima.

Ranije ove nedelje u Parizu, britanski premijer i predsednik Francuske pokrenuli su zajedničku akciju čiji je cilj da se osigura da internet ne bude mogao da se koristi kao sigurni prostor za teroriste i kriminalce.

Među rešenjima koja se razmatraju je i stvaranje zakonske odgovornosti za preduzeća koja nisu uspela da uklone određene sadržaje, i to bi moglo da uključuje određene kazne.

Fejsbuk kaže da je posvećen pronalaženju novih načina za pronalaženje i uklanjanje materijala – i sada želi da uradi više od same priče.

“Želimo da budemo vrlo otvoreni prema našoj zajednici za ono što pokušavamo da uradimo kako bismo uverili sve da je Facebook ‘neprijateljsko okruženje’ za terorističke grupe”, rekla je Monika Bikert, jedan od direktora Fejsbuka za BBC.

Jedna od kritika koju britanski bezbednosni stručnjaci ističu je da se kompanije u priličnoj meri oslanjaju na druge da prijavljuju ekstremistički sadržaj, a ne deluju sami proaktivno.

Fejsbuk je ranije najavio da će zaposliti 3.000 ljudi za pregled sadržaja koji su označili korisnici. Ali takođe ističe da je već više od polovine sadržaja koji se skine sa njihove mreže onaj koji oni sami pronađu.

U kompaniji kažu da sada koriste novu tehnologiju da poboljšaju svoj rad.

“Znamo da možemo da uradimo bolje koristeći tehnologiju – i posebno veštačku inteligenciju – da se zaustavi širenje terorističkog sadržaja na Fejsbuku,” saopštavaju iz te kompanije.

Jedan od načina je podudaranje fotografija.

Ako neko pokuša da postavi fotografiju ili video koji ima veze s terorizmom, sistem najpre proverava da li taj sadržaj odgovara od ranije poznatom ekstremističkom sadržaju.

Druga oblast je eksperiment sa veštačkom inteligencijom koja pokušava da razume tekst koji bi mogao da zagovara terorizam.

Učenje mašina bi trebalo da znači da će se taj proces poboljšati vremenom.

“Naša tehnologija će nastaviti da se razvija, jer vidimo da se teror i pretnje i dalje razvijaju na mrežama”, rekla je Bikert za BBC i dodala: “Naša rešenja moraju biti vrlo dinamična”.

Jedan od glavnih izazova u automatizaciji procesa je rizik od uzimanja materijala koji se odnose na terorizam, ali ga zapravo ne podržavaju – kao što su vesti i članci koji se odnose na terorizam i koji mogu sadržati fotografije i video materijal koji se odnosi na terorizam.

Dok je bilo kakva slika seksualnog zlostavljanja dece protivzakonita i može da se skine, slika koja se odnosi na terorizam – kao što je na primer član Islamske države koji maše zastavom – može da se koristi da slavi taj akt u jednom kontekstu ali i kao deo kampanje protiv ekstremizma u drugom slučaju.

“Kontekst je sve”, kazala je Bikert.

Izvor: N1

Komentariši

Vaš e-mail neće biti objavljen. Podaci koji su neophodni obilježeni su znakom *