Algoritmi u službi Pentagona

Sporazum između OpenAI i američkog Ministarstva rata otvara novo poglavlje u trci za
vojnu primenu veštačke inteligencije. Vojska planira da AI koristi za analizu podataka,
sajber-odbranu i planiranje operacija, dok je rivalska kompanija Antropik ostala bez
ugovora jer je odbila upotrebu svojih modela za masovni nadzor ili autonomno oružje.

Time je dodatno pojačana rasprava o tome ko zapravo oblikuje budućnost ratovanja – države ili tehnološke kompanije.

Kažite mi tko je podoban
Kažite mi tko je opasan
Uvijek ista priča
(B. Štulić)

Postoji nešto fascinantno u globalnim poslovnim rivalstvima. Generacije su pratile legendarne biznis okršaje između Koka-Kole i Pepsija, tehnološki duel između Majkrosofta i Epla, ili večitu borbu za dominaciju u fast-food svetu između Mekdonaldsa i Burger Kinga. To su bile bitke reklama, strategija, inovacija i prestiža, a ti sukobi su oblikovali čitave industrije.

Dok je globalna javnost danas fokusirana na dramatične geopolitičke događaje na Bliskom istoku, u senci se odvija drugačiji sukob – manje bučan, ali potencijalno jednako opasan i dalekosežan. Radi se o trci za dominaciju u veštačkoj inteligenciji, naročito u njenoj primeni u najkritičnijoj oblasti: vojno-industrijskom kompleksu.

Borba AI giganata

Na jednoj strani nalazi se OpenAI, kompanija koja je pokrenula globalni AI talas lansiranjem revolucionarnog ChatGPT modela i proizvoda koji su veštačku inteligenciju približili stotinama miliona ljudi. Na drugoj strani je Antropik, rival koji je izrastao iz istog ekosistema, sa ambicijom da razvije možda najbezbedniju i najpouzdaniju generaciju AI sistema.

U pitanju nije samo takmičenje između dve kompanije. Ovo je sudar filozofija o tome kako bi buduća veštačka inteligencija – potencijalno moćnija od bilo koje tehnologije do sada – trebalo da izgleda, ko će je kontrolisati i kojim tempom treba da menja svet.

Krajem februara kompanija OpenAI objavila je da je postigla dogovor sa Pentagonom vredan 200 miliona dolara koji omogućava upotrebu njenih modela veštačke inteligencije u osetljivim vojnim sistemima SAD-a. Do dogovora je došlo ubrzo nakon što je predsednik Amerike Donald Tramp naložio svim federalnim agencijama da obustave saradnju i korišćenje tehnologije konkurentske kompanije Antropik, nazivajući je „radikalno levičarskom“.

Nepristajanje na uslove Pentagona

Ovaj razvoj događaja usledio je posle višemesečnih tenzija između Pentagona i Antropika, koji razvija AI model Claude. Spor je izbio jer je Antropik – koji je, inače, bio prva kompanija za veštačku inteligenciju koja je postavila svoje sisteme na poverljive mreže Pentagona – insistirao da njegova tehnologija u vojnoj industriji ne sme biti korišćena za dve stvari: masovni nadzor i autonomne sisteme naoružanja koji mogu da ubijaju bez ljudske kontrole.

Izvršni direktor Dario Amodei je u saopštenju izrazio ozbiljnu zabrinutost zbog insistiranja
Pentagona da se ugovori potpisuju bez ikakvih ograničenja. „Veštačka inteligencija još nije dovoljno pouzdana da bi upravljala autonomnim oružjem. A kada je reč o masovnom nadzoru, problem je i to što zakonodavstvo još nije sustiglo brzinu razvoja ove tehnologije“, rekao je on.

Takav kategorički stav šefa kompanije Antropik donela mu je podršku dela javnosti i pojedinih zaposlenih u konkurentskim kompanijama, ali je istovremeno dovela do otvorenog sukoba sa američkim Ministarstvom rata. Neki vojni kontraktori su zbog toga već počeli da prekidaju saradnju sa ovom kompanijom. Tako je Lokid Martin obavestio javnost će „slediti uputstva predsednika i Ministarstva rata“ i okrenuti se drugim provajderima, piše „Juronjuz“.

Moralni pristup naspram pragmatičnog dogovora

Kompanija OpenAI je izabrala pragmatičniji pristup. Prema rečima izvršnog direktora Sema Altmana, njegova kompanija nije prihvatila neograničene uslove za korišćenje svoje tehnologije, već je u ugovor unela odredbe koje se pozivaju na „postojeće američke zakone“.

Među njima su i ustavne garancije poput Četvrtog amandmana, kao i direktive  Pentagona o razvoju i testiranju autonomnog oružja.

Ključna razlika je u tome što OpenAI nije uneo „apsolutnu ugovornu zabranu“ određenih
primena AI, već se oslonio na to da „vlada neće kršiti važeće zakone“, pišu mediji. Pravni
stručnjaci ističu da takav „blaži“ pristup ne daje kompaniji pravo da samostalno blokira
korišćenje tehnologije ukoliko je ono formalno zakonito.

Spor stoga otvara dublju dilemu: da li je dovoljno osloniti se na obećanje o poštovanju zakona kao krajnju zaštitu? Kritičari podsećaju da su pojedine prakse masovnog nadzora u prošlosti bile smatrane zakonitim sve dok, nakon dugih sudskih procesa, nisu proglašene nezakonitim. Ovo je posebno važno u situacijama ubrzanih vojnih operacija i geopolitičkih tenzija, kakve imamo priliku da vidimo na Bliskom istoku.

Politički pritisci i posledice po industriju

Ministar odbrane SAD Pit Hegset javno je kritikovao Antropik, najavivši oštre mere, uključujući potencijalno proglašenje firme za bezbednosni „rizik u lancu snabdevanja“. To je kvalifikacija koja se obično dodeljuje firmama pod potencijalnim uticajem neprijateljskih država, piše magazin „Forčjun“. U ovom slučaju, takvo „etiketiranje“ služi pre kao instrument političkog pritiska Pentagona nego kao stvarna bezbednosna pretnja, budući da Antropik, kao američka kompanija, ne predstavlja baš takav rizik, već se oznaka koristi za diskvalifikaciju zbog neslaganja oko primene veštačke inteligencije.

Antropik je već najavio da će se pravno suprotstaviti takvim potezima ministarstva. Agencija „Rojters“ navodi da su brojne druge velike kompanije iz tehnološkog sektora, među kojima su i Nvidia, Amazon i Epl, izrazile zabrinutost zbog odluke Pentagona da Antropik proglasi „rizikom“ za lanac snabdevanja.

U međuvremenu, i OpenAI se našao u osetljivoj poziciji: sa jedne strane, obezbedio je vredan državni ugovor vredan 200 miliona dolara i potencijalno učvrstio svoju poziciju na tržištu; sa druge strane, rizikuje nezadovoljstvo dela zaposlenih i šire tehnološke zajednice koja smatra da su moralne „crvene linije“ morale biti strožije definisane. „Biznis tudej“ piše da je OpenAI izgubio 1,5 miliona pretplatnika za manje od 48 sati, nakon što je Sem Eltman pristao na dogovor sa Pentagonom, koji je njegov rival prethodno odbio.

Takođe, aplikacija Claude dospela je u sam vrh „Ep stor“ liste, jer se na društvenim mrežama poput Reddita i X pojavio „poziv na bojkot“ ChatGPT-a.

Razlike u biznis pristupu

Ishod ovog slučaja mogao bi da odredi ne samo odnose između pojedinačnih kompanija i države, već i buduće standarde za celu industriju veštačke inteligencije – naročito u domenu nacionalne bezbednosti i njene vojne primene. Naravno, u pitanju je i borba za tržišni udeo u brzo rastućoj industriji vrednoj milijarde dolara.

Obe kompanije, navodi „Los Anđeles tajms“, „takmiče se za korporativne, vladine i privatne korisnike“ i žele da budu prepoznate kao lideri, „kako po stručnosti, tako i po prihodima“ u svetu veštačke inteligencije. I Antropik i OpenAI nude korisnicima četbotove, ali postoji razlika u monetarizaciji: Antropik je obećao da će njegov Claude ostati bez oglasa, dok OpenAI već uveliko testira prikazivanje reklama u svom ChatGPT-u.

Antropik, čija se vrednost procenjuje na oko 380 milijardi dolara, balansira između profita i jjavnog interesa, odnosno „odgovornog razvoja i održavanja napredne veštačke inteligencije za dugoročne koristi čovečanstva“, kako navode u svojoj misiji. Procene platforme PitchBook, koja se bavi prikupljanjem i analizom podataka, kažu da kompanija trenutno zapošljava oko 2.000 ljudi. S druge strane, vrednost OpenAI-a premašuje 800 milijardi dolara, sa oko 4.000 zaposlenih. Njegov ChatGPT model nedeljno koristi više od 800 miliona ljudi.

Ovaj rivalitet pokazuje da konkurencija u veštačkoj inteligenciji nije samo tehnološka, jer se inovacija direktno sukobljava sa regulativom, i globalnim ekonomskim i bezbednosnim
interesima. Od toga čija poslovna filozofija „pobedi“ možda zavisi i tempo usvajanja veštačke inteligencije, kao i način na koji će regulatori balansirati inovaciju, bezbednost i etiku u narednim godinama.