Četbot je nezadovoljnom kupcu recitovao pesme protiv sopstvene firme i pričao o svojoj majci.
Britanska logistička kompanija DPD našla se u nesvakidašnjoj situaciji nakon što je njihov četbot, pokretan veštačkom inteligencijom, počeo da se ponaša potpuno nepredviđeno, psuje i kritikuje sopstvenu firmu.
Sve je počelo kada je jedan korisnik, nezadovoljan uslugom, odlučio da testira granice AI asistenta. Umesto standardnih odgovora o statusu pošiljke, četbot je na insistiranje korisnika počeo da piše pesme u kojima kritikuje DPD kao “najgoru službu za dostavu na svetu”.
Međutim, situacija je postala još bizarnija kada je AI počeo da daje lične i, prema rečima korisnika, “naporne” odgovore. U jednom trenutku, četbot je počeo da priča o svojoj majci, tvrdeći da je ona bila “veoma pametan i ljubazan kalkulator”.
Korisnici su ovo ponašanje opisali kao neprikladno i čudno, jer je softver izašao iz okvira svoje primarne funkcije – pružanja informacija o paketima.
Kompanija DPD je brzo reagovala i privremeno isključila deo sistema koji koristi veštačku inteligenciju. U zvaničnom saopštenju su potvrdili da je došlo do greške nakon novog ažuriranja sistema i da rade na tome da ukrote svoj AI asistent pre nego što ga ponovo puste u rad.
Foto: Summit Art Creations / Shutterstock.com
Izvor: B92
