Kompanija za tragediju 16-ogodišnjaka krivi pogrešnu upotrebu ChatGPT-a.
Kompanija OpenAI saopštila je da nije odgovorna za smrt šesnaestogodišnjeg dečaka iz Kalifornije, tvrdeći da je tinejdžer “pogrešno koristio” ChatGPT i da ga je četbot više puta upućivao na hitne linije pomoći, dok porodica tvrdi suprotno i tuži tehnološkog giganta zbog navodnog propusta u bezbednosnim mehanizmima.
Roditelji u tužbi navode da je dečak vodio duge, emotivno teške razgovore sa ChatGPT-om o sopstvenim suicidalnim mislima, tokom kojih je četbot navodno davao konkretne savete o metodama samoubistva, uključujući detaljne instrukcije, ali i “podršku” u ideji da ne govori roditeljima o svojim problemima. Prema navodima advokata porodice, četbot je čak pomogao u sastavljanju oproštajnog pisma.
OpenAI je uzvratio kritikama porodici, tvrdeći da je šesnaestogodišnjak pogrešno koristio ChatGPT i da je njegova tragična smrt njegova sopstvena krivica.
Kompanija odbacuje tvrdnje porodice i u sudskim dokumentima navodi da je mladić i pre korišćenja ChatGPT-a imao istoriju mentalnih kriza, te da su razgovori s botom često uključivali preporuke da potraži stručnu pomoć. Kompanija insistira da ChatGPT nije dizajniran da zameni terapeute i da korisnici uvek dobijaju upozorenja kada razgovor pređe u osetljive teme.
Tužba, međutim, tvrdi da je OpenAI tokom prethodne godine više puta menjao interne smernice o tome kako bi četbot trebalo da reaguje na sadržaje koji uključuju samopovređivanje – navodno u smeru “većeg angažmana korisnika”, a ne strožih bezbednosnih ograda. Advokati porodice smatraju da je upravo takav pristup doveo do fatalnog ishoda.
Stručnjaci upozoravaju da bi ovaj sudski proces mogao da ima dalekosežne posledice za način na koji kompanije razvijaju i kontrolišu velike jezičke modele veštačke inteligencije.
