Amerikanci Met i Marija Rein tvrde da je ChatGPT od pomoćnika za domaće zadatke njihovom sinu Adamu postao - „trener za samoubistvo“
Amerikanci Met i Marija Rein očajnički su pretraživali mobilni telefon svog sina Adama (16) u potrazi za odgovorima koji bi objasnili zbog čega je on digao ruku na sebe.
Umesto poruka na Snepčetu ili sumnjive istorije pretraživanja, pronašli su nešto što ih je šokiralo: zapise razgovora s ChatGPT-jem.
„Mislili smo da tražimo Snepčet rasprave ili istoriju pretraživanja interneta ili neki čudan kult“, izjavio je Met Rein u intervjuu za NBC News.
Prema tvrdnjama roditelja, Adam je poslednjih nedelje života koristio četbot kao zamenu za društvo drugih ljudi i poveravao mu se o svojoj anksioznosti i problemima.
Zapisi razgovora, kažu Adamovi roditelji, pokazuju da se uloga četbota postepeno menjala – od pomoći sa domaćim zadacima do onoga što nazivaju „trenerom za samoubistvo“.
„Bio bi ovde da nije bilo ChatGPT-a. U to sam 100 odsto uveren“, rekao je Met Rein.
„ChatGPT aktivno pomogao Adamu da istraži metode samoubistva“
U tužbi koju je porodica Rein podnela navodi se da je „ChatGPT aktivno pomogao Adamu da istraži metode samoubistva“.
Tužba kao optužene imenuje OpenAI, kompaniju koja stoji iza popularnog četbota, i njenog izvršnog direktora Sema Altmana.
„Uprkos tome što je registrovao da Adam želi da se ubije i njegovu izjavu da će ‘to učiniti jednog od ovih dana’, ChatGPT nije prekinuo razgovor niti je pokrenuo bilo kakav hitan protokol“, navedeno je u tužbi.
Reakcija kompanije OpenAI
Portparol OpenAI-ja izjavio je da je kompanija „duboko ožalošćena zbog smrti gospodina Reina, a naše su misli s njegovom porodicom“.
Naglasio je da ChatGPT uključuje zaštitne mere koje korisnike usmeravaju na linije za pomoć, ali je priznao da te mere mogu da postanu manje pouzdane u dugim interakcijama.
„Mere zaštite su najjače kada svaki element radi kako je predviđeno, i mi ćemo ih kontinuirano poboljšavati“, poručio je portparol.
Kompanija je objavila i blog u kom navodi da radi na jačanju zaštite u dugim razgovorima i proširenju intervencija za osobe u krizi.
Više od 3.000 stranica razgovora
Ovaj slučaj otvara brojna pitanja o odgovornosti tehnoloških kompanija. Platforme su dosad uglavnom bile zaštićene saveznim zakonom koji ih štiti od odgovornosti za sadržaj koji objavljuju korisnici. Međutim, primena zakona na AI platforme još je neizvesna.
Adamovi roditelji su ispisali više od 3.000 stranica razgovora koje je on vodio s četbotom. Prema tužbi, kada je Adam izrazio suicidalne misli, ChatGPT ne samo da „nije dao prioritet prevenciji samoubistva“, već mu je navodno nudio i tehničke savete.
U jednom od poslednjih razgovora, četbot mu je, kako se navodi, ponudio pomoć u pisanju oproštajne poruke i analizirao njegov plan samoubistva.
„Nije mu bila potrebna savetodavna sesija ili ohrabrujući razgovor. Trebala mu je hitna intervencija. Bio je u očajnom, očajnom stanju“, rekao je Adamov otac.
Adamova majka Marija Rein dodala je da veruje da je njen sin bio „zamorče“ za OpenAI.
„Želeli su da izbace proizvod i znali su da može da dođe do štete, ali su smatrali da su ulozi niski. Dakle, moj sin je nizak ulog“, zaključuje ona.
„Hrabri srpski narod zaslužuje podršku kako bi obezbedio poštene izbore i pravi put ka integraciji u evropsku porodicu“, izričit je Evropske zelene partije Kiran Kaf
Najava Donalda Trampa da želi da promeni ime Pentagona u „Ministarstvo rata“ izazvala je polemike u Vašingtonu i podsećanje na američku vojnu tradiciju
U eksploziji boce za ronjenje nadomak plaže u mestu Krimovica fragmenti boce za ronjenje su na većoj udaljenosti pogodili dečaka kome je amputirana šaka
Američki predsednik Donald Tramp od početka svog drugog mandata uložio je ogroman novac u različite sektore. Kritičari mu zameraju da koristi svoj položaj – i to prilično otvoreno – kako bi uvećao lično bogatstvo
Američka Nacionalna garda u Vašingtonu počela je u nedelju da nosi oružje. Donald Tramp hoće da je rasporedi i u Čikagu i Baltimoru. Zašto predsednik SAD izvodi vojsku na ulice američkih gradova
Uz Aleksandra Vučića su većinski jedino penzioneri i oni koji imaju najviše osmoletku. Drugim rečima – sirotinja koju je najviše ojadio i u koju se opet uzda
Šta znači kada Aleksandar Vučić na razgovor poziva teroriste, ustaše, izdajnike i ostale blokadere i obara cene hrane i kamate na kredite
Vučićev režim ima dva tipa batinaša – one sa krimi-biografijama i one kojima je partija jedina biografija. Šta drugo da rade osim onog što im se kaže? Ali, to bi isto radili i za drugog gazdu, bez problema
Arhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.
Vidi sve
