Amerikanci Met i Marija Rein tvrde da je ChatGPT od pomoćnika za domaće zadatke njihovom sinu Adamu postao - „trener za samoubistvo“
Amerikanci Met i Marija Rein očajnički su pretraživali mobilni telefon svog sina Adama (16) u potrazi za odgovorima koji bi objasnili zbog čega je on digao ruku na sebe.
Umesto poruka na Snepčetu ili sumnjive istorije pretraživanja, pronašli su nešto što ih je šokiralo: zapise razgovora s ChatGPT-jem.
„Mislili smo da tražimo Snepčet rasprave ili istoriju pretraživanja interneta ili neki čudan kult“, izjavio je Met Rein u intervjuu za NBC News.
Prema tvrdnjama roditelja, Adam je poslednjih nedelje života koristio četbot kao zamenu za društvo drugih ljudi i poveravao mu se o svojoj anksioznosti i problemima.
Zapisi razgovora, kažu Adamovi roditelji, pokazuju da se uloga četbota postepeno menjala – od pomoći sa domaćim zadacima do onoga što nazivaju „trenerom za samoubistvo“.
„Bio bi ovde da nije bilo ChatGPT-a. U to sam 100 odsto uveren“, rekao je Met Rein.
„ChatGPT aktivno pomogao Adamu da istraži metode samoubistva“
U tužbi koju je porodica Rein podnela navodi se da je „ChatGPT aktivno pomogao Adamu da istraži metode samoubistva“.
Tužba kao optužene imenuje OpenAI, kompaniju koja stoji iza popularnog četbota, i njenog izvršnog direktora Sema Altmana.
„Uprkos tome što je registrovao da Adam želi da se ubije i njegovu izjavu da će ‘to učiniti jednog od ovih dana’, ChatGPT nije prekinuo razgovor niti je pokrenuo bilo kakav hitan protokol“, navedeno je u tužbi.
Reakcija kompanije OpenAI
Portparol OpenAI-ja izjavio je da je kompanija „duboko ožalošćena zbog smrti gospodina Reina, a naše su misli s njegovom porodicom“.
Naglasio je da ChatGPT uključuje zaštitne mere koje korisnike usmeravaju na linije za pomoć, ali je priznao da te mere mogu da postanu manje pouzdane u dugim interakcijama.
„Mere zaštite su najjače kada svaki element radi kako je predviđeno, i mi ćemo ih kontinuirano poboljšavati“, poručio je portparol.
Kompanija je objavila i blog u kom navodi da radi na jačanju zaštite u dugim razgovorima i proširenju intervencija za osobe u krizi.
Više od 3.000 stranica razgovora
Ovaj slučaj otvara brojna pitanja o odgovornosti tehnoloških kompanija. Platforme su dosad uglavnom bile zaštićene saveznim zakonom koji ih štiti od odgovornosti za sadržaj koji objavljuju korisnici. Međutim, primena zakona na AI platforme još je neizvesna.
Adamovi roditelji su ispisali više od 3.000 stranica razgovora koje je on vodio s četbotom. Prema tužbi, kada je Adam izrazio suicidalne misli, ChatGPT ne samo da „nije dao prioritet prevenciji samoubistva“, već mu je navodno nudio i tehničke savete.
U jednom od poslednjih razgovora, četbot mu je, kako se navodi, ponudio pomoć u pisanju oproštajne poruke i analizirao njegov plan samoubistva.
„Nije mu bila potrebna savetodavna sesija ili ohrabrujući razgovor. Trebala mu je hitna intervencija. Bio je u očajnom, očajnom stanju“, rekao je Adamov otac.
Adamova majka Marija Rein dodala je da veruje da je njen sin bio „zamorče“ za OpenAI.
„Želeli su da izbace proizvod i znali su da može da dođe do štete, ali su smatrali da su ulozi niski. Dakle, moj sin je nizak ulog“, zaključuje ona.
Šta stoji iza novih poslovnih aranžmana bivšeg ukrajinskog ministra odbrane Mihaila Fedorova i njegovog savezništva sa Aleksom Karpom, šefom američkog tehnološkog giganta Palantira
Nemački radikalni desničari su po anketama na koračić od toga da u nedelju dobiju svog prvog pokrajinskog premijera
Za navedeni prekršaj zakonom je propisana novčana kazna u iznosu od 700 do 4.000 evra ili kazna zatvora do 30 dana
Kako se o navodnom ruskom pokušaju udara na ukrajinske avione u Lajpcigu našla Srbija
Nemačka vlada optužila je Rusiju da stoji iza neuspelog napada dronom na aerodrom u Lajpcigu, gde je početkom avgusta pronađena letelica opremljena eksplozivom i mehanizmom za aktiviranje.
Na šta bi Vučić ličio ispred nekoliko hiljada migratornih mitingaša okružen kordonima i, iza njih, masom bijesnih Novosađana? Zar njegov marš na Novi Sad nije bio otkazan i prije nego što je zakazan
Ko je hteo još Vučića, dobiće još Vučića u podkastu sa Vučićem. Treba ispuniti svaki sekund kampanje i jedino je uzbudljivo pitanje hoće li gosti podkasta moći da dođu do reči
Aleksandar Vučić dolazi u Novi Sad u petak (4. septembar). Hoće da pokaže da je pokorio grad, ali nije, samo ga je batinama izobličio do neprepoznatljivosti
Arhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.
Vidi sve
