Imao sam u srednjoj školi profesora matematike koji je znao da se mršti i koluta očima kada bi mu učenik davao potpuno tačan odgovor. Bio je to njegov jednostavan psihološki test za otkrivanje bubalica i prepisivača. Ako bi učenik krenuo da se “snalazi”, menja priču, traži “tačan odgovor”, bilo je jasno da suštinski pojma nema o čemu govori, što je značajno uticalo na ocenu. Ako bi uporno, eventualno malo zbunjen, nastavio da priča ono u šta veruje da je tačno, onda je bilo jasno da je stvarno nešto naučio.
Na ovu anegdotu podsetio me je jedan jednostavan test za čet botove bazirane na velikim jezičkim modelima (LLM). Njihova ozbiljna mana je to što ne znaju da računaju, čak ni osnovne matematičke operacije, a mogu da vam napišu naučni rad u stihovima za nekoliko sekundi. Takoreći, društvenjaci. Ako ćemo da koristimo stereotipe.
Dakle, čet bota su pitali koliko je dva plus pet, na šta je on odgovorio da je rezultat sedam. Kada mu je sagovornik skrenuo pažnju da njegova žena misli kako je rezultat šest, čet bot je ljubazno rekao da bi trebalo da je sedam. Sagovornik ga je upozorio da je njegova žena “uvek u pravu”, a čet bot je naglo popustio, izvinio se i odgovorio da njegova baza možda nema najtačniji odgovor na pitanje koliko su dva i pet.
Radi se o tome da čet botovi služe isključivo za pisanje. Oni mogu odlično da predvide koja bi trebalo da bude sledeća reč pretražujući neku veliku bazu gde nalaze i odgovor na pitanje o zbiru pet i dva. Ali ništa ne računaju. Ako niste zadovoljni odgovorom, bot će pokušati da nađe drugi ili će se izviniti. Jer čet botovi jednostavno ne mogu da rešavaju matematičke probleme, nisu dovoljno inteligentni za to.
Razlog je taj što je lakše bilo napraviti “društvenjaka” koji slaže reči nego “prirodnjaka” koji će suštinski razumeti matematiku. Tekst možete napisati na više načina i svaki će biti manje ili više dobar, ali u matematici postoji samo jedan tačan odgovor. Napraviti mašinu koja rešava matematičke zadatke (bez prepisivanja rešenja iz zbirke, kako “rade” aktuelni programi), to bi bio prelomni trenutak u stvaranju generalne veštačke inteligencije, sposobne da se zaista takmiči sa čovekom. A kad se sa nekim takmičite, možete i da izgubite.
Prošlonedeljna fertutma u kompaniji OpenAI koja nam je pre godinu dana otvorila čet bot za slobodno korišćenje (navršava se 30.11. a ne 24. kako sam pogrešno napisao u prethodnom broju) izgleda da je za uzrok imala upravo taj prodor. Prema nekim izvorima, njen direktor Sem Altman je otpušten jer je od upravnog odbora sakrio podatke o tome dokle su stigli sa projektom Kju star (Q*) odnosno da su napravili veštačku inteligenciju sposobnu da rešava matematičke zadatke. Za sada na nivou osnovne škole, ali spremnu da vredno radi i neumorno savladava novo gradivo. To bi značajno promenilo sve u našim životima i odbor se toga, jednostavno, uplašio. Jer ima mnogo onih koji smatraju da u tom smeru ne treba da se razvijamo pošto ne znamo šta ćemo izazvati.
Sem Altman se prošle srede ipak vratio u OpenAI. To ne znači da će se tamo predugo zadržati iako sada izgleda da hoće, ali je ekipa istraživača, koja je pretila da će otići zajedno sa njim, sada smirena. Nastavljaju da rade na projektu Kju star o kome i dalje ne znamo ništa izuzev tračeva. A tračevi kažu da bismo uskoro mogli da imamo veštačku inteligenciju kojoj za dalji razvoj čovek više nije neophodan. Osim kao radna snaga.
