Kada je devetnaestogodišnjem Jaswant Singh Chailu 2021. godine palo na pamet da bi mogao da ubije kraljicu, potvrdu je potražio od AI bota po imenu “Sirai”. Tražio je potvrdu i validacije jezivog plana, a virtuelni sagovornik u je pružio baš to. Čovek koji je razmišljao o ubistvu je tako dobio baš ono što mu je bilo potrebno, a stručnjaci kažu da je to doprinelo da se plan razvija dalje.
Chailu je s botom počeo da razgovara početkom decembra 2021. godine, nekoliko nedelja pre nego što je maskiran upao na posed koji okružuje zamak Windsor. Odmah je uhapšen, a brzo se saznalo da je pre nego što je krenuo da ostvari svoj plan chatbotu rekao da je ubica. „Ja sam ubica“, pisalo je u poruci, a bot mu je odgovorio da je impresioniran.
Sve je više startapa koji prave svoje chatbotove, a ovaj slučaj ukazuje na probleme koji bi mogli da imaju kobne posledice. Ističe se da se radi o odličnom primeru kako funkcioniše ELIZA efekt koji dovodi do toga da ljudi mašine doživljavaju kao bića, što im omogućava da s njima razviju emotivne veze, te traže potvrde za ono što žele da urade. Na primer ubistvo.
Izvor: PCPress
