Amerikanci Met i Marija Rein očajnički su pretraživali mobilni telefon svog sina Adama (16) u potrazi za odgovorima koji bi objasnili zbog čega je on digao ruku na sebe.
Umesto poruka na Snepčetu ili sumnjive istorije pretraživanja, pronašli su nešto što ih je šokiralo: zapise razgovora s ChatGPT-jem.
„Mislili smo da tražimo Snepčet rasprave ili istoriju pretraživanja interneta ili neki čudan kult“, izjavio je Met Rein u intervjuu za NBC News.
Prema tvrdnjama roditelja, Adam je poslednjih nedelje života koristio četbot kao zamenu za društvo drugih ljudi i poveravao mu se o svojoj anksioznosti i problemima.
Zapisi razgovora, kažu Adamovi roditelji, pokazuju da se uloga četbota postepeno menjala – od pomoći sa domaćim zadacima do onoga što nazivaju „trenerom za samoubistvo“.
„Bio bi ovde da nije bilo ChatGPT-a. U to sam 100 odsto uveren“, rekao je Met Rein.
„ChatGPT aktivno pomogao Adamu da istraži metode samoubistva“
U tužbi koju je porodica Rein podnela navodi se da je „ChatGPT aktivno pomogao Adamu da istraži metode samoubistva“.
Tužba kao optužene imenuje OpenAI, kompaniju koja stoji iza popularnog četbota, i njenog izvršnog direktora Sema Altmana.
„Uprkos tome što je registrovao da Adam želi da se ubije i njegovu izjavu da će ‘to učiniti jednog od ovih dana’, ChatGPT nije prekinuo razgovor niti je pokrenuo bilo kakav hitan protokol“, navedeno je u tužbi.
Reakcija kompanije OpenAI
Portparol OpenAI-ja izjavio je da je kompanija „duboko ožalošćena zbog smrti gospodina Reina, a naše su misli s njegovom porodicom“.
Naglasio je da ChatGPT uključuje zaštitne mere koje korisnike usmeravaju na linije za pomoć, ali je priznao da te mere mogu da postanu manje pouzdane u dugim interakcijama.
„Mere zaštite su najjače kada svaki element radi kako je predviđeno, i mi ćemo ih kontinuirano poboljšavati“, poručio je portparol.
Kompanija je objavila i blog u kom navodi da radi na jačanju zaštite u dugim razgovorima i proširenju intervencija za osobe u krizi.
Više od 3.000 stranica razgovora
Ovaj slučaj otvara brojna pitanja o odgovornosti tehnoloških kompanija. Platforme su dosad uglavnom bile zaštićene saveznim zakonom koji ih štiti od odgovornosti za sadržaj koji objavljuju korisnici. Međutim, primena zakona na AI platforme još je neizvesna.
Adamovi roditelji su ispisali više od 3.000 stranica razgovora koje je on vodio s četbotom. Prema tužbi, kada je Adam izrazio suicidalne misli, ChatGPT ne samo da „nije dao prioritet prevenciji samoubistva“, već mu je navodno nudio i tehničke savete.
U jednom od poslednjih razgovora, četbot mu je, kako se navodi, ponudio pomoć u pisanju oproštajne poruke i analizirao njegov plan samoubistva.
„Nije mu bila potrebna savetodavna sesija ili ohrabrujući razgovor. Trebala mu je hitna intervencija. Bio je u očajnom, očajnom stanju“, rekao je Adamov otac.
Adamova majka Marija Rein dodala je da veruje da je njen sin bio „zamorče“ za OpenAI.
„Želeli su da izbace proizvod i znali su da može da dođe do štete, ali su smatrali da su ulozi niski. Dakle, moj sin je nizak ulog“, zaključuje ona.
