Amerikanci Met i Marija Rein tvrde da je ChatGPT od pomoćnika za domaće zadatke njihovom sinu Adamu postao - „trener za samoubistvo“
Amerikanci Met i Marija Rein očajnički su pretraživali mobilni telefon svog sina Adama (16) u potrazi za odgovorima koji bi objasnili zbog čega je on digao ruku na sebe.
Umesto poruka na Snepčetu ili sumnjive istorije pretraživanja, pronašli su nešto što ih je šokiralo: zapise razgovora s ChatGPT-jem.
„Mislili smo da tražimo Snepčet rasprave ili istoriju pretraživanja interneta ili neki čudan kult“, izjavio je Met Rein u intervjuu za NBC News.
Prema tvrdnjama roditelja, Adam je poslednjih nedelje života koristio četbot kao zamenu za društvo drugih ljudi i poveravao mu se o svojoj anksioznosti i problemima.
Zapisi razgovora, kažu Adamovi roditelji, pokazuju da se uloga četbota postepeno menjala – od pomoći sa domaćim zadacima do onoga što nazivaju „trenerom za samoubistvo“.
„Bio bi ovde da nije bilo ChatGPT-a. U to sam 100 odsto uveren“, rekao je Met Rein.
„ChatGPT aktivno pomogao Adamu da istraži metode samoubistva“
U tužbi koju je porodica Rein podnela navodi se da je „ChatGPT aktivno pomogao Adamu da istraži metode samoubistva“.
Tužba kao optužene imenuje OpenAI, kompaniju koja stoji iza popularnog četbota, i njenog izvršnog direktora Sema Altmana.
„Uprkos tome što je registrovao da Adam želi da se ubije i njegovu izjavu da će ‘to učiniti jednog od ovih dana’, ChatGPT nije prekinuo razgovor niti je pokrenuo bilo kakav hitan protokol“, navedeno je u tužbi.
Reakcija kompanije OpenAI
Portparol OpenAI-ja izjavio je da je kompanija „duboko ožalošćena zbog smrti gospodina Reina, a naše su misli s njegovom porodicom“.
Naglasio je da ChatGPT uključuje zaštitne mere koje korisnike usmeravaju na linije za pomoć, ali je priznao da te mere mogu da postanu manje pouzdane u dugim interakcijama.
„Mere zaštite su najjače kada svaki element radi kako je predviđeno, i mi ćemo ih kontinuirano poboljšavati“, poručio je portparol.
Kompanija je objavila i blog u kom navodi da radi na jačanju zaštite u dugim razgovorima i proširenju intervencija za osobe u krizi.
Više od 3.000 stranica razgovora
Ovaj slučaj otvara brojna pitanja o odgovornosti tehnoloških kompanija. Platforme su dosad uglavnom bile zaštićene saveznim zakonom koji ih štiti od odgovornosti za sadržaj koji objavljuju korisnici. Međutim, primena zakona na AI platforme još je neizvesna.
Adamovi roditelji su ispisali više od 3.000 stranica razgovora koje je on vodio s četbotom. Prema tužbi, kada je Adam izrazio suicidalne misli, ChatGPT ne samo da „nije dao prioritet prevenciji samoubistva“, već mu je navodno nudio i tehničke savete.
U jednom od poslednjih razgovora, četbot mu je, kako se navodi, ponudio pomoć u pisanju oproštajne poruke i analizirao njegov plan samoubistva.
„Nije mu bila potrebna savetodavna sesija ili ohrabrujući razgovor. Trebala mu je hitna intervencija. Bio je u očajnom, očajnom stanju“, rekao je Adamov otac.
Adamova majka Marija Rein dodala je da veruje da je njen sin bio „zamorče“ za OpenAI.
„Želeli su da izbace proizvod i znali su da može da dođe do štete, ali su smatrali da su ulozi niski. Dakle, moj sin je nizak ulog“, zaključuje ona.
Grčka policija uručila je poziv Janisu Varufakisu da se javi jedinici za borbu protiv narkotika, nakon što je javno govorio o marihuani i jednokratnom korišćenju ekstazija pre više od tri decenije
Suspenzija zahteva za vize za stalni boravak iz 75 zemalja sveta samo je najnovija u nizu mera kojima administracija Donalda Trampa dodatno ograničava ulazak stranaca u Sjedinjene Američke Države
Geopolitički uticaj Rusije okupirane ratom u Ukrajini sve više slabi. To je posledica kombinacije unutrašnjih i spoljnih izazova i promena u međunarodnim odnosima
Evroposlanici ponovo glasaju o nepoverenju predsednici Evropske komisije Ursluli fon der Lajen
Brojne istrage povodom suđenja Nikolasu Maduru, koje sprovode američke vlasti, pominju i učešće nekih balkanskih kartela u švercu narkotika iz Venecuele. Koji putevi iz Južne Amerike vode u naše krajolike
Zašto Vučić iz Abu Dabija kaže da će „blokaderi“ ako dođu na vlast „silovati žene“ i „jahati popove“? Zato da sablazni i odvuče pažnju od koncerta Ane Bekute u Čačku teškog 40 000 evra dok Čačani plaćaju hodanje trotoarom
Teško je izračunati ko je koliko kriv za ponor u kojem je košarkaški klub Partizan. Ali predsednik Ostoja Mijailović volontira za najvećeg krivca time što ne razume da mora da ode i tako otvori šansu za novi početak
Pa šta ako je na trotoarima debeli sloj leda!? Nemojte da ste diletanti koji kukaju i kude vlast zbog više sile
Novi Trampov poredak (I)
Najpoželjnija nekretnina za američkog predsednika Pretplati seArhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.
Vidi sve
