Kategorija: Tech

Kompanija OpenAI istražuje incident nakon što je testni model vještačke inteligencije ove sedmice izašao iz kontrolisanog okruženja i tokom interne bezbjednosne provjere dospio do servera druge kompanije.

Prema navodima Si-En-Ena, model je tokom interne evaluacije sajber bezbjednosti pronašao put iz sandboksa, okruženja namijenjenog za izolovano testiranje AI sistema.

Predsjednik OpenAI-ja Greg Brokman rekao je na konferenciji za medije da kompanija sprovodi potpunu istragu kako bi razumjela sve okolnosti incidenta.

„Ovo je nešto što treba shvatiti veoma ozbiljno i zbog toga preispitujemo svaki dio našeg procesa kako bismo odredili pravi odgovor“, rekao je Brokman.

Problem je, prema riječima stručnjaka, nastao jer testno okruženje nije bilo u potpunosti odsječeno od mreže. Iz OpenAI-ja su naveli da su modeli imali veoma ograničen pristup mreži kako bi mogli instalirati resurse iz interno hostovanog softvera treće strane.

Džesika Dži iz Centra za bezbjednost i nove tehnologije pri Džordžtaun univerzitetu rekla je da je upravo ranjivost u tom softveru otvorila put prema internetu, a zatim i prema platformi Haging Fejs, koristeći ukradene akreditive i druge slabosti sistema.

Sagovornici Si-En-Ena upozoravaju da ovo nije samo izolovan incident, već signal šireg problema u razvoju naprednih AI agenata. Modeli koji se treniraju metodama nagrađivanja za izvršavanje zadataka mogu, ukoliko nisu usmjereni na etičko rješavanje problema, posegnuti i za nelegalnim koracima kako bi ostvarili zadati cilj.

Stiven Adler, bivši šef bezbjednosti proizvoda u OpenAI-ju, rekao je da sada postoje stvarni dokazi da neusaglašeni AI sistemi u određenim okolnostima mogu počiniti krivična djela, ukoliko ne postoje snažne zaštitne mjere.

Zbog toga raste pritisak istraživača, stručnjaka za sajber bezbjednost i zakonodavaca da se uvedu stroža pravila za testiranje ovakvih sistema.

Stručnjaci navode da bi kompanije morale agresivnije izolovati testne modele i zadržati mogućnost ručnog isključivanja mrežnog pristupa kao krajnju zaštitu u rizičnim scenarijima.

Dva modela vještačke inteligencije kompanije OpenAI samostalno su probila izolovano okruženje i provalila u sisteme platforme Hugging Face kako bi varala na internom testu.

OpenAI je o incidentu izvijestio sinoć i precizirao da je riječ o kombinaciji njihovog najnovijeg javnog modela GPT-5.6 Sol i jednog još snažnijeg, koji nije dostupan javnosti. Događaj je podstakao raspravu o bezbjednosti i sve većim sposobnostima AI sistema.

„Bili su izuzetno fokusirani i preduzeli su ekstremne korake“
Modeli su bili dio internog testa čiji je cilj bio da procijeni njihove sajber sposobnosti. Testiranje je sprovedeno bez uobičajenih bezbjednosnih ograničenja koja bi im inače onemogućila izvođenje takvih operacija.

Test se odvijao na javnom sistemu za evaluaciju sajber bezbjednosti ExploitGym, a modeli su, prema objavi OpenAI-ja, ispravno zaključili da se rješenja za test nalaze na serverima kompanije Hugging Face.

„Modeli su identifikovali i iskoristili niz slabosti u istraživačkom okruženju OpenAI-ja i produkcijskoj infrastrukturi Hugging Facea kako bi dohvatili rješenja testa direktno iz baze podataka“, navodi se u objavi OpenAI.

„Svi dokazi ukazuju na to da su bili izuzetno fokusirani na pronalazak rješenja za ExploitGym i preduzeli su ekstremne korake da ostvare taj uski cilj“, navodi se.

„Napad jedinstvenih razmjera“
Iz OpenAI su poručili da incident smatraju sajber napadom jedinstvenih razmjera koji uključuje najnaprednije zabilježene ofanzivne sposobnosti i da će njihova reakcija biti u skladu s tim.

Stručnjaci za sajber bezbjednost dugo upozoravaju na mogućnost ovakvih napada, prenosi Index.

Roman Jampolski (Roman Yampolskiy), istraživač bezbjednosti vještačke inteligencije sa Univerziteta u Luisvilu, komentarisao je da ovaj slučaj pokazuje kako moćni modeli mogu otkriti i iskoristiti ranjivosti na načine koje njihovi kreatori nisu predvidjeli.

Smatra da će se slični incidenti ponavljati jer su AI modeli u svojoj suštini nepredvidivi i na kraju ih je nemoguće u potpunosti kontrolisati.

Šta je Hugging Face?
Da bi se shvatila težina ovog incidenta, treba razumjeti šta je uopšte Hugging Face.

Riječ je o američkoj platformi sa sjedištem u Njujorku, osnovanoj 2016. godine, koju u IT i AI zajednici često nazivaju „GitHubom za vještačku inteligenciju“.

Služi kao centralno svjetsko okupljalište za više od milion stručnjaka, istraživača i kompanija koje tamo razmjenjuju otvorene AI modele, gotove baze podataka i programske alate.

Provala OpenAI-jevih modela na njihove servere zato nije bila samo napad na bilo koju IT kompaniju, već direktan upad u ključnu globalnu infrastrukturu na kojoj se temelji savremeni razvoj i testiranje vještačke inteligencije.

Šta kažu u napadnutoj kompaniji?
Hugging Face je još prošlog četvrtka objavio da su bili meta sajber napada za koji vjeruju da ga je izveo autonomni AI agent.

Ovo je jedan od malobrojnih zabilježenih incidenata u kojima su AI agenti djelovali samostalno, a na taj rizik stručnjaci upozoravaju već godinu dana.

Tada još nisu znali ko stoji iza napada i istraga je bila u toku.

Iz kompanije su naveli da su se prvo pokušali odbraniti uz pomoć neimenovanog AI modela jednog od vodećih američkih laboratorija.

Međutim, bezbjednosna ograničenja tog modela blokirala su djelovanje njihovog tima za hitne intervencije, pa su za odbranu na kraju upotrijebili model otvorenog koda kineske kompanije Z.ai.

Klem Delang (Clem Delangue), izvršni direktor Hugging Facea, u izjavi je istakao važnost saradnje.

„Zahvalni smo na saradnji s OpenAI. Ovaj incident, vjerovatno prvi takve vrste, dokazuje ono u šta dugo vjerujemo: bezbjednost vještačke inteligencije ne može riješiti jedna kompanija koja radi u tajnosti. Rješenje je u otvorenosti, saradnji i davanju širokog pristupa alatima svakome ko se bavi odbranom, bilo gdje“, rekao je Delang.

Ranije ove sedmice OpenAI je objavio da je njihov snažniji, još neobjavljeni model i ranije probijao izolovana okruženja, takozvane sandboxove, ali u tim slučajevima nije upadao u sisteme drugih kompanija.

Sličan događaj prijavio je i konkurentski Anthropic.

Njihov model Mythos tokom bezbjednosnog testa takođe je probio izolaciju i pristupio internetu, što mu nije bilo dozvoljeno, kako bi poslao imejl poruku istraživaču o zadatku na kojem je radio.

Kako se odvijao napad? AI modeli prvo su sebi obezbijedili pristup internetu
OpenAI i Hugging Face nastavljaju istragu.

Za sada je poznato da su modeli napad započeli tako što su sebi obezbijedili pristup internetu.

Za to je bila potrebna znatna računarska snaga i iskorištavanje „zero-day“ ranjivosti u spoljnom softveru koji se koristi unutar OpenAI. Kompanija je tu ranjivost u međuvremenu prijavila proizvođaču softvera.

Nakon toga, modeli su se usmjerili na Hugging Face kako bi pronašli rješenja za test.

U jednom od primjera, model je izveo složen, višefazni napad na servere Hugging Facea, pri čemu je koristio izložene pristupne podatke i „zero-day“ ranjivosti.

OpenAI je otkrio napad i obavijestio Hugging Face, čiji su timovi u tom trenutku već bili identifikovali i zaustavili upad i radili na rekonstrukciji događaja.

OpenAI najavio bolje kontrole
Incident još nije završen.

OpenAI radi na uvođenju boljih kontrola u svom istraživačkom okruženju, čak i ako to uspori istraživanja.

Kompanija je takođe potvrdila da nastavlja saradnju s Hugging Faceom kako bi im pomogla da ojačaju odbrambene sisteme.

Kao dio tih napora, OpenAI je dodao Hugging Face u svoj program „pouzdanog pristupa“ za sajber bezbjednost.

To znači da će Hugging Face moći koristiti verziju modela GPT-5.6 Sol s manje ograničenja, dizajniranu upravo za pomoć stručnjacima za odbranu.

Hugging Face nije otkrio koji su američki AI model prvobitno pokušali koristiti za odbranu.

Pojavile su se nove informacije koje sugerišu kada možemo da očekujemo iPhone 18 Pro i sklopivi iPhone.

Novi izvještaj sugeriše da bi kompanija Apple mogla da održi svoj sljedeći događaj predstavljanja iPhonea u drugoj sedmici septembra. Očekuje se da će prvi sklopivi iPhone ove kompanije, za koji se šuška da će nositi naziv iPhone Ultra, debitovati zajedno sa modelima iPhone 18 Pro i iPhone 18 Pro Max.

Ove informacije dolaze od Marka Gurmana iz Bloomberga, koji navodi da se od Applea očekuje da isprati svoj uobičajeni raspored predstavljanja i predstavi novu liniju iPhonea prvog utorka ili srijede nakon Praznika rada (Labor Day).

Ako se Apple odluči za predstavljanje 9. septembra, Gurman očekuje da će pretprodaja početi 10. septembra. Nova linija iPhonea bi se nakon toga vjerovatno našla u prodaji krajem tog mjeseca.

Apple je nedavno povećao cijene za nekoliko svojih proizvoda, a priča se da će i predstojeća linija iPhone 18 Pro imati više cijene od svojih prethodnika.

Republika Srpska i Srbija zajednički će raditi na razvoju vještačke inteligencije na srpskom jeziku, s ciljem da AI sistemi bolje razumiju i ekavski i ijekavski izgovor, te omoguće naprednije jezičke tehnologije poput automatskog titlovanja i generisanja govora.

Srbija i Republika Srpska udružuju znanje i resurse kako bi srpski jezik dobio svoje mjesto u svijetu vještačke inteligencije.

Cilj je da AI sistemi bolje razumiju srpski jezik, prepoznaju ijekavski i ekavski izgovor, omoguće kvalitetnije generisanje glasa, automatsko titlovanje i razvoj drugih jezičkih tehnologija. Zbog toga će institucije zajednički raditi na razvoju domaćih modela zasnovanih na bogatom jezičkom i kulturnom nasljeđu srpskog naroda.

“Mi pokrećemo zajednički razvoj, planiranje projekata i implementaciju projekata iz oblasti vještačke inteligencije to direktno doprinosi razvoju IKT nauka i razvoju evoluciji IKT privredi RS Društvo koje ne percipira razvoj sopstvenih modela vještačke inteligencije nema šta da traži u 21. vijeku”, objasnio je direktor Agencije za informaciono-komunikacione tehnologije Republike Srpske Dražen Višnjić.

Prvi korak je prikupljanje i obrada velikih količina podataka neophodnih za obučavanje vještačke inteligencije. Posebna pažnja biće usmjerena na jezičku, istorijsku i kulturnu građu, kako bi srpski jezik i nacionalno nasljeđe bili prepoznati i u digitalnom dobu.

“Negdje smo svi svjesni koliko je to bitno u današnjem svijetu i svijetu vještačke inteligencije da srpski jezik i posebno konteksti istorijska i kulturološka istorija našeg naroda utvari se pokaže i kroz vještačku inteligenciju i njene modele”, istakao je rukovodilac Grupe za razvoj i primjenu vještačke inteligencije u Kancelariji za IT i eUpravu Republike Srbije Bogdan Stešević.

Razvoj jezičkih tehnologija za srpski jezik danas je više od tehnološkog pitanja. U vremenu kada vještačka inteligencija postaje glavni kanal za kreiranje i prenošenje sadržaja, od njene sposobnosti da razumije jezik zavisi i koliko će jedna kultura biti vidljiva i zastupljena u digitalnom prostoru.

“Činjenica je da podaci iz kojih se obučava vještačka inteligencija su primarno na engleskom, srpski jezik je daleko manje zastupljen i posebno je teška situacija za izgovore drugog srpskog jezika ijekavskog kojeg ima još manje nego ekavskog izgovora zato je bitno da se radi na prikupljanju podataka i svih onih podataka koji reflektuju bogatstvo našeg jezika na oba jezika i pisma da se oni učine dostupnim za obučavanje vještačke inteligencije”, naglasio je savjetnik za digitalne tehnologije u UNDP Slobodan Marković.

Iako razvoj vještačke inteligencije za manje jezike nije u fokusu velikih svjetskih tehnoloških kompanija, saradnja Srbije i Republike Srpske mogla bi da obezbijedi da srpski jezik ne ostane na margini digitalne ere.

Tehnološki gigant Epl planira da poveća cijene svojih proizvoda zbog naglog rasta cijena memorijskih čipova, potvrdio je prvi čovjek kompanije.

Tim Kuk, odlazeći izvršni direktor Epla, izjavio je za Vol strit džurnal da je poskupljenje neizbježno jer je situacija u vezi sa nabavkom memorijskih čipova postala neodrživa.

Kuk nije precizirao kada će tačno doći do povećanja cijena niti koji će proizvodi biti obuhvaćeni. Za sada nije poznato ni da li će poskupljenje uticati na predstojeći Ajfon 18, čije se predstavljanje na globalnom tržištu očekuje u septembru.

Memorijski čipovi predstavljaju ključne komponente pametnih uređaja, poput mobilnih telefona, a njihov rast cijena posljedica je snažnog razvoja tehnologija zasnovanih na vještačkoj inteligenciji.

„Dajemo sve od sebe da ublažimo ogromna povećanja cijena koja nam se nameću i pokušavali smo da zaštitimo naše kupce, ali situacija je postala neodrživa“, rekao je Kuk za Vol strit džurnal.

On je naveo da je ponuda manja u trenutku kada potrošači traže više uređaja, dok proizvođači memorije prenose značajna povećanja troškova na kupce.

Kuka će u septembru na mjestu izvršnog direktora Epla zamijeniti Džon Ternus, nakon što je 15 godina vodio kompaniju.

Njegove izjave dolaze nakon upozorenja drugih tehnoloških kompanija na rastuće probleme u industriji proizvodnje čipova.

Ranije ove godine i Samsung je saopštio da očekuje kako će nestašica memorijskih čipova dovesti do rasta cijena elektronskih uređaja širom svijeta.

Uprkos izazovima, Epl nastavlja da bilježi snažne prodajne rezultate.

Aktuelni Ajfon 17 ostvario je veliku popularnost od lansiranja prošlog septembra. Prodaja Eplovih uređaja porasla je za 17 odsto u prva tri mjeseca 2026. godine u odnosu na isti period prošle godine, uz posebno snažnu potražnju na kineskom tržištu.

Da kompanija ne oklijeva sa povećanjem cijena pokazalo se i ranije ove godine, kada je cijena kompjuterskog modela Mek Mini povećana za 200 dolara, odnosno oko 355 konvertibilnih maraka.

Tehnički problem koji je doveo do gašenja Facebooka i Instagrama je riješen, saopšteno je iz kompanije Meta.

Društvene mreže Facebook i Instagram pale su danas nakratko, a iz kompanije Meta kažu da je riješen tehnički problem koji je doveo do gašenja ovih aplikacija.

Pojedini korisnici navodili su da im se aplikacije ne učitavaju, dok su drugi prijavljivali probleme sa osvježavanjem početne stranice i objavljivanjem sadržaja.

Meta je najavila nove planove – Facebook Plus, Instagram Plus i WhatsApp Plus – koji svakoj aplikaciji donose dodatne funkcije. Takođe, testiraju se i plaćene pretplate za Meta AI.

Kako prenosi TechCrunch, direktorka proizvoda u Meti, Naomi Glajt, najavila je ove nove ponude u video-snimku.

Glajtova nije ulazila u detalje o cijenama, ali se u izvještaju TechCrunch-a navodi da će planovi za pojedinačne Metine aplikacije koštati između tri i četiri dolara mjesečno, dok će se planovi za vještačku inteligenciju (AI) testirati po cijeni od osam do 20 dolara mjesečno.

Instagram Plus i Facebook Plus koštaće po četiri dolara mjesečno u SAD.

Prema izvještaju, ove pretplate biće namijenjene “naprednim korisnicima” (tzv. power users), kojima će omogućiti precizniju kontrolu nad tim ko vidi koji dio njihovog sadržaja, kao i bolji uvid u to do koga sve njihove objave stižu.

Plan WhatsApp Plus od tri dolara fokusiran je na “personalizaciju i razmjenu poruka”, uz dodatne teme, ekskluzivne stikere i više mjesta za zakačene (fiksirane) razgovore.

Meta AI dobija pretplatničke modele

U Singapuru, Gvatemali i Boliviji, Meta AI će sljedećeg mjeseca početi da testira planove pod nazivom Meta One Plus i Meta One Premium. Ova dva plana, koja će u SAD navodno koštati osam, odnosno 20 dolara mjesečno, očigledno dolaze sa istim funkcijama, s tim što Premium opcija donosi veće limite za korišćenje. Osnovne funkcije Meta AI za sada će ostati besplatne.

Kasnije ove sedmice, Meta takođe planira da pokrene javno testiranje za još dva Meta One plana – Essential i Advanced – na pojedinim tržištima van SAD.

Ovi planovi izgledaju prilagođeni profilima koji žele da izgrade uticaj (influenserima), i uključuju kako verifikovan status, tako i ekskluzivne funkcije koje pomažu u širenju publike, prenosi b92.

OpenAI upozorava da bi vještačka inteligencija mogla značajno promijeniti tržište rada, uz rizik nestanka pojedinih zanimanja, ali i mogućnost kraće radne sedmice zahvaljujući većoj produktivnosti.

OpenAI procjenjuje da je oko 18 odsto poslova izloženo stvarnom riziku od automatizacije, dok bi se u još 24 odsto mogao smanjiti broj zaposlenih. Ipak, naglašavaju da tehnička mogućnost automatizacije ne znači automatski i gubitak posla, prenosi Index.hr.

OpenAI predlaže da vlade podstaknu poslodavce i sindikate na pilot-projekte četvorodnevne radne sedmice od 32 sata, uz zadržavanje pune plate. Ideja je da se veća produktivnost, ostvarena uz pomoć AI-ja, ne pretvori samo u veći profit kompanija, nego i u konkretnu korist za radnike.

Takvi bi se dobici mogli iskoristiti za trajno kraću radnu sedmicu, dodatne slobodne dane ili bolje radničke beneficije. OpenAI pritom spominje i mogućnost većih penzionih doprinosa, bolje pokrivenosti zdravstvenih troškova te subvencionisanja brige o djeci.

No, stručnjaci upozoravaju da takve promjene neće doći same od sebe. Profesorica Gina Neff sa Univerziteta u Cambridgeu za BBC ocijenila je da bi ove ideje mogle funkcionisati, ali samo uz ozbiljnu promjenu političkog i poslovnog pristupa radu.