OpenAI je uveo niz novih pravila za korisnike četbotova mlađe od 18 godina, koja podrazumevaju i ograničavanje razgovora o seksualnim temama i samopovređivanju.
Firma ističe da je “bezbednost važnija od privatnosti i slobode za tinejdžere” i da maloletni korisnici treba da budu dodatno zaštićeni, saopštio je Sem Altman.
Altman je istakao da će OpenAI razvijati dugoročni sistem za razlikovanje korisnika starijih i mlađih od 18 godina, uz standard da se u nejasnim slučajevima primenjuju stroža pravila.
Prema novim pravilima, alat ChatGPT više neće učestvovati u “flert razgovorima” sa tinejdžerima, a dodatne sigurnosne mere uvedene su u razgovore o scenarijima samoubistva.
Ako maloletnik koristi ChatGPT za zamišljanje suicidalnih situacija, sistem će pokušati da kontaktira roditelje, a u posebno ozbiljnim slučajevima i lokalnu policiju, preneo je Tech Crunch.
Roditelji koji povežu nalog deteta sa svojim nalogom dobijaju mogućnost da podešavaju “vreme blokade” kada ChatGPT nije dostupan i da budu obavešteni ako sistem veštačke inteligencije proceni da je tinejdžer u opasnosti.
Nove mere dolaze u kontekstu tužbi zbog smrti maloletnika koji je izvršio samoubistvo nakon više meseci komunikacije sa ovim četbotom.
