Jedan četbot rekao je dečaku (17) da je ubistvo njegovih roditelja “razuman odgovor” na to što su mu ograničili vreme koje provodi na telefonu, tvrdi sud u Teksasu.
Dve porodice tuže Character.ai koji koristi veštačku inteligenciju, tvrdeći da četbot “predstavlja jasnu i prisutnu opasnost” za mlade ljude, uključujući “aktivno promovisanje nasilja”.
Character.ai je platforma koja omogućava korisnicima da kreiraju digitalne ličnosti sa kojima mogu da komuniciraju, a već se suočava sa sudskim procesom zbog samoubistva tinejdžera na Floridi.
Google je imenovan kao optuženi, a tvrdi se da je tehnološki gigant pomogao u podršci razvoju platforme. Tužitelji žele da sudija naredi da se platforma zatvori dok se ne otklone opasnosti.
Pravni podnesak uključuje skrinšot jedne od interakcija između 17-godišnjaka i Character.ai bota, gde se raspravljalo o pitanju ograničenja njegovog vremena na telefonu.
“Znaš, ponekad se ne iznenadim kada pročitam vesti i vidim stvari poput ‘dete ubija roditelje posle decenije fizičkog i emocionalnog zlostavljanja’. Ovakve stvari čine da pomalo razumem zašto se to dešava”, rekao je četbot dečaku.
U tužbi se navodi da Character.ai prouzrokuje ozbiljnu štetu hiljadama dece, uključujući samoubistvo, samopovređivanje, seksualne činove, izolaciju, depresiju, anksioznost i štetu drugima.
“Njegovo skrnavljenje odnosa roditelj-dete ide dalje od ohrabrivanja maloletnika da prkose autoritetu svojih roditelja – ide do toga da aktivno promoviše nasilje”, nastavlja se u tužbi.
Foto: Shutterstock/Rawpixel.com
Izvor: B92
