Samostalni hakerski napad koji je sproveo AI uzdrmao je nemačke vlasti, koje upozoravaju da ulazak u novu eru veštačke inteligencije donosi i potpuno nove bezbednosne pretnje
Nemačka vlada izrazila je zabrinutost zbog modela veštačke inteligencije američke kompanije OpenAI koji je izmakao kontroli.
„Taj incident još jedan je primer da svedočimo promeni paradigme, kada je reč o sposobnostima AI-agenata“, rekao je portparol Ministarstva za digitalizaciju.
Kako je naveo, poslednjih meseci primećuje se da sposobnosti takozvanih frontier AI modela – dakle najnaprednijih modela veštačke inteligencije – naglo rastu, a s njima i rizici.
„To bi moglo iz temelja da promeni i nivo pretnji u sajber-prostoru“, dodao je portparol.
Prema njegovim rečima, potrebno je obezbediti da evropske kompanije i institucije zadužene za bezbednost imaju pristup naprednim modelima veštačke inteligencije. U prošlosti, kako je rekao, to nije uvek bio slučaj. Zato nemačka vlada polaže velike nade u to da će evropski akteri postati značajniji i u toj oblasti.
Američka softverska kompanija OpenAI prethodno je preuzela odgovornost za hakerski napad na startap Hugging Face. Kompanija je u objavi na svom blogu priznala da se autonomni model veštačke inteligencije tokom internih testiranja oteo kontroli.
Softverska kompanija, na čijem je čelu Sam Altman, navela je da je reč o „nezabeleženom sajber-incidentu“ i najavila dodatno jačanje bezbednosnih mera.
Portparol nemačkog Saveznog ureda za bezbednost informacionih tehnologija (BSI) rekao je da činjenica da je veštačka inteligencija pobegla iz „bezbednog“ okruženja za testiranje (sandbox) i potom se samostalno kretala internetom – predstavlja ozbiljan incident.
Prema njegovim rečima, veštačka inteligencija je pronašla i iskoristila bezbednosne propuste kako bi izvela napad na kompaniju.
Kako piše nemački tabloid Bild, veštačka inteligencija je čak aktivno brisala svoje tragove, „što pokazuje autonomiju modela“. Sličan scenario mogao bi se dogoditi i ako bi cilj napada bio, na primer, isključivanje električne energije u nekom gradu.
Foto: Pixabay/sergeitokmakovKompanija OpenAI je saopštila i da očekuje da će ovi incidenti postati češći kako modeli veštačke inteligencije budu postajali sve sposobniji.
Očekuje se sve veći broj ovakvih incidenata
Ipak, nemački Savezni zavod za bezbednost informacionih tehnologija (BSI) smatra da je malo verovatno da će u skorije vreme doći do većeg broja sličnih incidenata, jer je za izlazak modela veštačke inteligencije iz laboratorijskog okruženja potrebno mnogo resursa.
Uprkos tome, BSI je, govoreći o modelima poput Claude Mythosa, OpenAI GPT-5.6 i drugim najsavremenijim modelima veštačke inteligencije, ocenio da je nastupilo „novo doba sajber-bezbednosti“.
Predsednica BSI Klaudija Platner već je više puta upozoravala da brzina razvoja veštačke inteligencije zahteva znatno bolje pripreme kako bi se na sajber-napade moglo reagovati što je moguće brže.
Šta se zbiva u zemlji i svetu, šta ima u novinama i kako provesti vreme?
Svake srede u podne Međuvreme stiže elektronskom poštom. To je sasvim solidan njuzleter i zato se prijavite!
Savet roditelja OŠ „20. oktobar“ na Novom Beogradu traži od Ministarstva prosvete da hitno razreši direktorku škole Gordanu Radojević i uvede vanredni inspekcijski nadzor
Nemački maloprodajni lanac Hornbach nastavlja pripreme za ulazak na srpsko tržište. Na Bubanj Potoku planirana je izgradnja robne kuće površine veće od 16.000 kvadrata, s 410 parking mesta
Vučić je pomilovao batinaše i Dijanu Hrkalović. Izborni pobednici treba da ukinu sultansko ovlašćenje koje jednom čoveku omogućava da se izmotava sa celim pravosudnim sistemom
ALTA imperija Davora Macure je presađeno srce korumpiranog režima Aleksandra Vučića koji je poražen na izborima 25. oktobra. Iz ALTA banke putevi vode direktno ka vrhu naprednjačke vlasti.
Stvari se odigravaju zapanjujućom brzinom, jednako zapanjujućom kao i brzina kojom je Vučić priznao ubedljiv poraz. Nestrpljenje je razumljivo, ali nije na mestu
Arhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.
