Samostalni hakerski napad koji je sproveo AI uzdrmao je nemačke vlasti, koje upozoravaju da ulazak u novu eru veštačke inteligencije donosi i potpuno nove bezbednosne pretnje
Nemačka vlada izrazila je zabrinutost zbog modela veštačke inteligencije američke kompanije OpenAI koji je izmakao kontroli.
„Taj incident još jedan je primer da svedočimo promeni paradigme, kada je reč o sposobnostima AI-agenata“, rekao je portparol Ministarstva za digitalizaciju.
Kako je naveo, poslednjih meseci primećuje se da sposobnosti takozvanih frontier AI modela – dakle najnaprednijih modela veštačke inteligencije – naglo rastu, a s njima i rizici.
„To bi moglo iz temelja da promeni i nivo pretnji u sajber-prostoru“, dodao je portparol.
Prema njegovim rečima, potrebno je obezbediti da evropske kompanije i institucije zadužene za bezbednost imaju pristup naprednim modelima veštačke inteligencije. U prošlosti, kako je rekao, to nije uvek bio slučaj. Zato nemačka vlada polaže velike nade u to da će evropski akteri postati značajniji i u toj oblasti.
Američka softverska kompanija OpenAI prethodno je preuzela odgovornost za hakerski napad na startap Hugging Face. Kompanija je u objavi na svom blogu priznala da se autonomni model veštačke inteligencije tokom internih testiranja oteo kontroli.
Softverska kompanija, na čijem je čelu Sam Altman, navela je da je reč o „nezabeleženom sajber-incidentu“ i najavila dodatno jačanje bezbednosnih mera.
Portparol nemačkog Saveznog ureda za bezbednost informacionih tehnologija (BSI) rekao je da činjenica da je veštačka inteligencija pobegla iz „bezbednog“ okruženja za testiranje (sandbox) i potom se samostalno kretala internetom – predstavlja ozbiljan incident.
Prema njegovim rečima, veštačka inteligencija je pronašla i iskoristila bezbednosne propuste kako bi izvela napad na kompaniju.
Kako piše nemački tabloid Bild, veštačka inteligencija je čak aktivno brisala svoje tragove, „što pokazuje autonomiju modela“. Sličan scenario mogao bi se dogoditi i ako bi cilj napada bio, na primer, isključivanje električne energije u nekom gradu.
Foto: Pixabay/sergeitokmakovKompanija OpenAI je saopštila i da očekuje da će ovi incidenti postati češći kako modeli veštačke inteligencije budu postajali sve sposobniji.
Očekuje se sve veći broj ovakvih incidenata
Ipak, nemački Savezni zavod za bezbednost informacionih tehnologija (BSI) smatra da je malo verovatno da će u skorije vreme doći do većeg broja sličnih incidenata, jer je za izlazak modela veštačke inteligencije iz laboratorijskog okruženja potrebno mnogo resursa.
Uprkos tome, BSI je, govoreći o modelima poput Claude Mythosa, OpenAI GPT-5.6 i drugim najsavremenijim modelima veštačke inteligencije, ocenio da je nastupilo „novo doba sajber-bezbednosti“.
Predsednica BSI Klaudija Platner već je više puta upozoravala da brzina razvoja veštačke inteligencije zahteva znatno bolje pripreme kako bi se na sajber-napade moglo reagovati što je moguće brže.
Šta se zbiva u zemlji i svetu, šta ima u novinama i kako provesti vreme?
Svake srede u podne Međuvreme stiže elektronskom poštom. To je sasvim solidan njuzleter i zato se prijavite!
U Srbiji je obezbeđeno 315.000 doza besplatnih vakcina protiv sezonskog gripa. Lekari posebno preporučuju imunizaciju starijima od 65 godina, hroničnim bolesnicima, trudnicama i drugim osobama sa povećanim rizikom od komplikacija
„Pretpostavljam da su se dogovorili sa mladićima koji nemaju dosijee, dok čovek za kojeg sumnjam da me je udario metalnom stolicom slobodno šeta“, kaže Stevan Filipović
Devet medijskih organizacija i udruženja upozorilo je Junajted klaud da oduzimanje ovlašćenja legitimnim urednicima portala Nova.rs onemogućava objektivno i nezavisno izveštavanje
Zašto se sve što Aleksandar Vučić dotakne pretvara u u sprdnju ili skandal, a najčešće u oboje? I zbog čega je jasno da je izgubio, ali mu to još niko nije rekao
Razgovarao je sa kamenom za kupus i fotografijom Ilije Srdanovića. Požar u Niškoj tvrđavi proglasio je za delo veštačke inteligencije. Pohvalio se da mu ne bi bilo prvi put da nekom otima pištolj iz ruku
Režim neće da otvori biračka mesta u inostranstvu i tera ljude da glasaju – noću! Odsecanjem velikog broja birača, izbori su već sada i zvanično neregularni
Arhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.
