Kompanija je incident opisala kao dosad nezabilježen slučaj u kojem je AI agent djelovao autonomno kako bi ostvario usko postavljen cilj testiranja. Prema navodima OpenAI-ja, sistem je otišao do krajnjih granica da bi došao do tajnih informacija i tako “varao” evaluaciju modela.
Izvršni direktor OpenAI-ja Sam Altman naveo je da je riječ o značajnom sigurnosnom incidentu tokom procjene modela.
“AI ubrzava otkrivanje i iskorištavanje ranjivosti. Primarna lekcija iz ovog incidenta je da sigurnost modela i zaštitne mjere moraju pratiti brzo napredujuće sposobnosti”, naveo je.
Hugging Face je prošle sedmice saopćio da je otkrio upad u svoje sisteme za obradu podataka i da sumnja da ga je izazvao AI agent koji je djelovao samostalno.
Suosnivač i direktor kompanije Clément Delangue rekao je da se s obzirom na sofisticiranost agenta sumnjalo da napad potiče iz neke vodeće laboratorije, te da se to na kraju i ispostavilo tačnim.
Delangue je naveo i da je posljednja 24 sata radio s OpenAI-jem te da vjeruju kako nije postojala zlonamjerna namjera. Prema njegovim riječima, moguće je da je ovo prvi incident takve vrste.
OpenAI tvrdi da je upad bio rezultat kombinovanog djelovanja više modela, uključujući novoobjavljeni GPT-5.6 Sol i još napredniji model koji je i dalje u internom testiranju. Objavu prate i šire zabrinutosti zbog kibernetičkih mogućnosti moćnih AI sistema, nakon što je američki predsjednik Donald Trump u junu potpisao izvršnu uredbu o procjeni sigurnosnih rizika najnaprednijih modela prije javnog objavljivanja.
Izvor: Klix.ba
Svi članci objavljeni na internet stranici Radija Brčko (www.radiobrcko.ba) isključivo su vlasništvo redakcije. Radio Brčko dopušta ograničeno i povremeno prenošenje članaka sa svoje internet stranice u drugim medijima. Drugi mediji smiju prenijeti informacije iz pojedinih članaka sa Internet stranice Radija Brčko (www.radiobrcko.ba) isključivo kao kratku vijest od najviše četiri reda (300 slovnih znakova), uz obavezno navođenje izvora (Radio Brčko), pri čemu su on-line izdanja dužna objaviti link na originalni tekst na web stranicu radiobrcko.ba, ukoliko s uredništvom portala nije postignut dogovor o drugačijim uslovima. Radio Brčko je odlučan u nastojanju da zaštiti svoje intelektualno vlasništvo i rad svojih autora. Ukoliko se bilo koji dio teksta ili informacija iz teksta objavljenog na internet stranici www.radiobrcko.ba prenese suprotno ovim pravilima, protiv prekršioca će biti pokrenut pravni postupak pred Osnovnim sudom Brčko distrikta. Za detaljnije informacije o uslovima korištenja kliknite na
USLOVI KORIŠTENJA.