Samostalni hakerski napad koji je sproveo AI uzdrmao je nemačke vlasti, koje upozoravaju da ulazak u novu eru veštačke inteligencije donosi i potpuno nove bezbednosne pretnje
Nemačka vlada izrazila je zabrinutost zbog modela veštačke inteligencije američke kompanije OpenAI koji je izmakao kontroli.
„Taj incident još jedan je primer da svedočimo promeni paradigme, kada je reč o sposobnostima AI-agenata“, rekao je portparol Ministarstva za digitalizaciju.
Kako je naveo, poslednjih meseci primećuje se da sposobnosti takozvanih frontier AI modela – dakle najnaprednijih modela veštačke inteligencije – naglo rastu, a s njima i rizici.
„To bi moglo iz temelja da promeni i nivo pretnji u sajber-prostoru“, dodao je portparol.
Prema njegovim rečima, potrebno je obezbediti da evropske kompanije i institucije zadužene za bezbednost imaju pristup naprednim modelima veštačke inteligencije. U prošlosti, kako je rekao, to nije uvek bio slučaj. Zato nemačka vlada polaže velike nade u to da će evropski akteri postati značajniji i u toj oblasti.
Američka softverska kompanija OpenAI prethodno je preuzela odgovornost za hakerski napad na startap Hugging Face. Kompanija je u objavi na svom blogu priznala da se autonomni model veštačke inteligencije tokom internih testiranja oteo kontroli.
Softverska kompanija, na čijem je čelu Sam Altman, navela je da je reč o „nezabeleženom sajber-incidentu“ i najavila dodatno jačanje bezbednosnih mera.
Portparol nemačkog Saveznog ureda za bezbednost informacionih tehnologija (BSI) rekao je da činjenica da je veštačka inteligencija pobegla iz „bezbednog“ okruženja za testiranje (sandbox) i potom se samostalno kretala internetom – predstavlja ozbiljan incident.
Prema njegovim rečima, veštačka inteligencija je pronašla i iskoristila bezbednosne propuste kako bi izvela napad na kompaniju.
Kako piše nemački tabloid Bild, veštačka inteligencija je čak aktivno brisala svoje tragove, „što pokazuje autonomiju modela“. Sličan scenario mogao bi se dogoditi i ako bi cilj napada bio, na primer, isključivanje električne energije u nekom gradu.
Foto: Pixabay/sergeitokmakovKompanija OpenAI je saopštila i da očekuje da će ovi incidenti postati češći kako modeli veštačke inteligencije budu postajali sve sposobniji.
Očekuje se sve veći broj ovakvih incidenata
Ipak, nemački Savezni zavod za bezbednost informacionih tehnologija (BSI) smatra da je malo verovatno da će u skorije vreme doći do većeg broja sličnih incidenata, jer je za izlazak modela veštačke inteligencije iz laboratorijskog okruženja potrebno mnogo resursa.
Uprkos tome, BSI je, govoreći o modelima poput Claude Mythosa, OpenAI GPT-5.6 i drugim najsavremenijim modelima veštačke inteligencije, ocenio da je nastupilo „novo doba sajber-bezbednosti“.
Predsednica BSI Klaudija Platner već je više puta upozoravala da brzina razvoja veštačke inteligencije zahteva znatno bolje pripreme kako bi se na sajber-napade moglo reagovati što je moguće brže.
Šta se zbiva u zemlji i svetu, šta ima u novinama i kako provesti vreme?
Svake srede u podne Međuvreme stiže elektronskom poštom. To je sasvim solidan njuzleter i zato se prijavite!
Ispred Narodne opsarvatorije okupilo se više desetina građana koji u koloni su naizmenično ulazili u objekat odakle su mogli da vide taj prirodni fenomen
Članovi ekološkog udruženja Ekomorf upozoravaju da nelegalno zidanje na Milićevom brdu ne prestaje, kao i da se Vila Višnja sazidana pre tri godine na državnom zemljištu, sada prodaje
Vlada Srbije je ostala pri prvobitnoj ponudi o povećanju minimalca za 9,2 odsto, odnosno s 550 na 600 evra. Nije poznato kada će plata doći na obećanih 650 evra
Nakon što je Rajaner potvrdio da od 25. oktobra trajno obustavlja sve letove ka i iz Niša, ostaje pitanje da li će neko moći da popuni tu prazninu - po pristupačnim cenama
Desničarske partije nikako da podrže studentski pokret, uprkos kosovskom zavetu studenata i svoj onoj ikonografiji po principu „Kosovo je srce Srbije“. Jer desničarsko poimanje sveta je partikularno, a studenti čvrsto stoje na univerzalnosti republikanskog tla
Političke partije i organizacije koje su protiv režima Aleksandera Vučića sve drže u svojim rukama. Ako na izborima, kad god da budu bili, budu poražene, biće same krive
Hoće li će Veslin Milić biti proglašen u tabloidima za „blokadera“? Da li je njegova krivična prijava protiv Marka Krička poruka za Aleksandra Vučića? I, ako jeste, mogu li se očekivati nove kamare prljavog veša iz MUP-a?
Arhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.
