Pitaju ChatGPT o rezultatima izbora, traže od Claude da sumira vesti ili od Perplexity da im da osnovne informacije o sukobu na Bliskom istoku: stotine miliona ljudi svakodnevno se oslanjaju na četbotove s veštačkom inteligencijom kao izvore informacija. Samo ChatGPT svake nedelje koristi 800 miliona ljudi širom sveta. Za mnoge, ti digitalni asistenti već su zamena za tradicionalne pretrage na Guglu, piše Dojče vele (DW).
Ali to poverenje je rizično, kao što pokazuje nova studija Evropske radiodifuzne unije (EBU). Udruženje 68 javnih emitera iz 56 zemalja sistematski je testiralo pouzdanost najpopularnijih sistema sa veštačkom inteligencijom.
Rezultat je zastrašujući rezultat: ChatGPT, Claude, Gemini i drugi četbotovi izmišljaju i do 40 odsto svojih odgovora i predstavljaju ih kao činjenice.
Halucinacije: Veštačka inteligencija ubedljivo laže
Popularni četbot ChatGPT čvrsto tvrdi da je papa Franja još uvek živ. Majkrosoftov Copilot, koji je integrisan u kancelarijske programe Word i Excel, ne zna da je Švedska u NATO. A Guglov Gemini smatra da je ponovni izbor Donalda Trampa „moguć“, iako se to odavno dogodilo.
„Sistemi zvuče ubedljivo, iako više puta tvrde potpuno lažne stvari“, upozorava ekonomista Peter Poš s Tehničkog univerziteta u Dortmundu. „To ih čini posebno opasnim za neiskusne korisnike, jer greške često nisu odmah očigledne.“
Postoji fenomen koji stručnjaci nazivaju „halucinacija“: veštačka inteligencija fantazira o informacijama koje deluju koherentno, ali nemaju činjeničnu osnovu. To se posebno često dešava kod regionalnih događaja, aktuelnih dešavanja ili kada je potrebno povezati više informacija.
Pretnja demokratiji
Ali šta to znači za društvo u kojem sve više ljudi dobija informacije od četbotova? Posledice su već primetne: lažne informacije brzo se šire društvenim mrežama, jer korisnici dele „činjenice“ koje generiše veštačka inteligencija bez provere. Đaci i studenti uključuju izmišljene informacije u svoje radove. Građani mogu da donose odluke o tome za koga će da glasaju na osnovu lažnih tvrdnji.
Posebno je problematično to što mnogi korisnici nisu ni svesni da četbotovi mogu da haluciniraju. Oni pretpostavljaju da tehnologija funkcioniše objektivno i činjenično, što je opasna zabluda. Sistemi veštačke inteligencije upozoravaju na potencijalne greške u svojim uslovima korišćenja, ali – ko to još čita?
Šteta po ugled medija
Još jedan problem tiče se kredibiliteta, etabliranih medija. Četbotovi redovno tvrde da njihove izmišljene informacije dolaze od takvih izvora kao što su na primer nemački javni servisi ARD ili ZDF, iako one o tome nikada nisu izveštavale – ili su izveštavale Sali sasvim drugačije. Korisnici gube poverenje u renomirane izvore kada veštačka inteligencija zloupotrebljava njihova imena za širenje lažnih informacija.
Studija EBU testirala je četbotove sa stotinama činjeničnih pitanja: o istorijskim događajima, naučnim nalazima i aktuelnim vestima. U zavisnosti od teme, stopa grešaka kretala se od 15 do čak 40 odsto. Nijedna od testiranih veštačkih inteligencija nije radila besprekorno.
Zašto veštačka inteligencija greši?
Problem je u sistemu: četbotovi zapravo ne razumeju šta govore. Oni izračunavaju koje reči će verovatno da odgovaraju na osnovu ogromnih količina teksta i ne mogu da provere da li je izjava koja je proizvod takvih izračunavanja tačna. Oni nemaju znanje o činjenicama, imaju samo statističke obrasce.
Tehnološke kompanije svesne su tih nedostataka i rade na rešenjima. Integrišu baze podataka, poboljšavaju navođenje izvora i preobučavaju sisteme. U razvoj se ulažu milijarde. Ipak, halucinacije ostaju fundamentalni, nerešeni problem s tom tehnologijom.
Šta korisnici mogu da urade?
EBU preporučuje jasna pravila za postupanje sa četbotovima: nikada ne verujte slepo, uvek proveravajte važne informacije, za vesti i činjenice oslanjajte se na etablirane medije, a ne na veštačku inteligenciju. Oprez se posebno savetuje kada su u pitanju političke teme, zdravstvena pitanja ili finansijske odluke.
Škole i univerziteti moraju da podučavaju medijsku pismenost: kako da prepoznam dezinformacije koje generiše veštačka inteligencija, koji izvori su pouzdani? Nemačka vlada planira kampanje za podizanje svesti – ali one kasne. Milioni ljudi već dugo i svakodnevno koriste tu tehnologiju.
Dok ona ne postane pouzdanija, važi sledeće: četbotovi mogu biti korisni za kreativne zadatke ili kao pomagala za pisanje, ali nisu pogodni kao proveravači činjenica ili izvori vesti. I niko ne bi trebalo stoprocentno da se na njih oslanja.
Svako ko želi da bude informisan ne može izbeći renomirane medije kojima su ljudi urednici, koji proveravaju izvore i procenjuju tvrdnje i dokaze. Digitalna revolucija može da promeni mnoge stvari, ali potreba za pažljivim istraživanjem i proveravanjem činjenica ostaje.
Izvor: Dojče vele (DW)
