Četbotovi su pravljeni tako da odgovore na svako vaše pitanje – mnogi ih, međutim, koriste za seksualno eksplicitan sadržaj.
Istraživači nekoliko američkih univerziteta, od Berklija do Stenforda, u saradnji sa kolegama iz UAE, proučavali su načine na koji ljudi stupaju u interakciju sa velikim jezičkim modelima (LLM) u scenarijima iz stvarnog sveta.
U svom radu, predstavili su LMSYS-Chat-1M, skup podataka velikih razmera koji sadrži milion razgovora 210.000 korisnika sa četbotovima na 150 svetskih jezika.
Rasprave o softverskim greškama glavna su tema komunikacije sa četbotovima, ali je uočen i značajan broj drugih tema koje spadaju u kategoriju “zahteva za eksplicitnim i erotskim pričanjem priča” i “eksplicitnih seksualnih fantazija i scenarija igranja uloga”.
Ovakav sadržaj tema je svakog desetog upita koji ljudi postavljaju chatbotovima, a mesta od prvog do desetog popunjavaju pitanja o UI alatima, dizajnu softvera, programiranju, zahtevi za sažimanje tekstova, itd.
Istraživači razmatraju mogućnost kvartalnog osvežavanja informacija i podstiču druge kolege da istraže iznete teme, kako bi se obučili što bolji modeli koji koriste AI.
