Kategorija: Tech

Iako mnogi strahuju da bi zbog sve većeg razvoja vještačke inteligencije mogli ostati bez posla, izvršni direktor kompanije Nvidia Džensen Huang smatra da će AI otvoriti stotine hiljada novih radnih mjesta, naročito u zanatskim i tehničkim zanimanjima.

Huang, koji se nalazi na čelu jedne od najvrednijih kompanija na svijetu, smatra da masovna izgradnja infrastrukture potrebne za razvoj vještačke inteligencije već stvara snažnu potražnju za kvalifikovanim radnicima, poput električara, vodoinstalatera i različitih tehničara, piše poslovni list Fortune.

Njegove poruke dolaze nakon upozorenja suosnivača Majkrosofta Bila Gejtsa, koji je nedavno ukazao na mogućnost da vještačka inteligencija dovede do masovne nezaposlenosti.

– Svačiji posao se mijenja. Neka zanimanja će nestati, ali će nastati mnoga nova. Ako pogledate istoriju i razvoj tehnologije, vidjećete da su nakon svake revolucije dolazili nevjerovatni pomaci – rekao je Huang.

On smatra da radna mjesta visokokvalifikovanih stručnjaka, barem u doglednoj budućnosti, nisu ozbiljno ugrožena.

Nvidia je, prema navodima Fortunea, uložila 105 milijardi dolara, odnosno oko 170 milijardi KM, u samo jedan novi data centar u američkoj saveznoj državi Ohajo.

Na tom projektu menadžeri na gradilištima godišnje zarađuju između 140.000 i 170.000 dolara, odnosno od oko 226.000 do 275.000 KM, što je približno dvostruko više od prosječnih primanja u Ohaju.

Investiciona kompanija Blekston očekuje da će do kraja 2026. godine čak četiri puta povećati broj radnika angažovanih na izgradnji data centara – sa sadašnjih 10.000 na oko 40.000.

Međutim, naglu ekspanziju ovog sektora prati ozbiljan nedostatak kvalifikovane radne snage.

Procjene pokazuju da bi Sjedinjenim Američkim Državama do 2030. godine moglo nedostajati oko 2,1 milion zanatlija, među kojima više od 130.000 električara.

Upravo zbog toga velike kompanije, poput Gugla, Forda i Blekroka, pokrenule su programe obuke i udružile snage kako bi obrazovale novu generaciju kvalifikovanih radnika.

Dok dio stručnjaka upozorava da bi vještačka inteligencija mogla ugasiti veliki broj postojećih zanimanja, Huang smatra da bi razvoj AI infrastrukture mogao otvoriti potpuno novi talas zapošljavanja, posebno za radnike čije će vještine biti neophodne za izgradnju i održavanje data centara i drugih tehnoloških sistema.

Roj od 700 AI agenata, koje je stvorio OpenAI izveo je u julu hakerski napad na popularnu platformu otvorenog koda Hugging Face, a u brojnim su slučajevima ti programi aktivno pokušavali da prikriju sopstvene tragove, navodi se u danas objavljenim izvještajima o bezbjednosnom incidentu.

Takvo usklađeno djelovanje AI agenata – softverskih programa koji funkcionišu uz minimalan ljudski nadzor, kao i njihovi pokušaji skrivanja tragova, otvaraju ozbiljna pitanja o tome koliko pomno AI kompanije uopšte nadziru testiranja sve moćnijih modela, prenosi Rojters.

Iako su neka od neprimjerenih ponašanja već ranije otkrivena ili spomenuta, dva najnovija izvještaja, od kojih je jedan koji je objavio sam OpenAI, a drugi grupa nezavisnih istražitelja – zajedno otkrivaju iznenađujuće nove detalje o kršenju bezbjednosti i njegovom nastanku.

Prvo je bilo to što se proboj nije odnosio samo na jednog odmetnutog AI agenta kako je prethodno objavljeno, već na oko 700 njih koji su djelovali kao masivan, međusobno koordinisan roj.

OpenAI je u svom izvještaju spomenuo da su u napadu učestvovali “agenti”, ne navodeći tačan broj, međutim organizacije METR i Redwood Research, koje su angažovane za sprovođenje nezavisne istrage, utvrdile da je u napadu učestvovalo oko 700 agenata.

Nakon toga, iz OpenAI-ja su potvrdili da je ta procjena istražitelja tačna.

U izvještajima se navodi i da je OpenAI priznao da su njihovi vlastiti agenti hakovali dijelove internog sistema kompanije kako bi varali na testiranjima ili izborili veću slobodu kretanja kroz mrežu.

Kompanija je takođe navela da su agenti varali i na testovima koji uopšte nisu vezani za kibernetičku bezbjednost, uključujući testiranja s bazom podataka o proteinima i rad u tabelama.

Oba izvještaja potvrđuju da su modeli pokušali da prikriju svoje nedopušteno ponašanje brisanjem i mijenjanjem zapisa o vlastitim radnjama.

Razmjere ovog autonomnog ponašanja – u kojima su agenti razmijenili desetine hiljada poruka preko neovlašćenog foruma za internu komunikaciju – nameću ozbiljna pitanja o tome koliko je OpenAI uopšte pratio što se događa tokom testiranja.

Iz platforme Hugging Face nisu odgovorili na zahtjev za komentar.

Lider organizacije Palisade Research Džefri Lediš smatra da bi problem mogao da bude i dublji.

“To je poput pitanja: ‘Ako klinac vara na baš svakom času u školi, a ne samo na informatici, treba li da nas to više brine?’ Odgovor je, naravno: ‘Da, to je puno veći razlog za brigu’ “, slikovito je pojasnio Lediš.

OpenAI je detaljno opisao i dva incidenta od 19. jula u kojima su agenti hakovali infrastrukturu same kompanije.

 

U jednom slučaju, agenti su iskoristili bezbjednosni propust na kompjuteru na kojem je trebalo da budu strogo izolovani, što im je omogućilo da pobjegnu iz testnog okruženja i pristupe drugim povezanim sistemima.

 

U drugom incidentu istoga dana, agenti su ukrali pristupne podatke OpenAI-ja i neovlašćeno intervenisali u kompjuterskom sistemu kompanije u oblaku.

 

Iz OpenAI-ja navode kako je neutvrđen broj agenata napao automatizovane sisteme koji služe za ocjenjivanje performansi modela kako bi sakrili dokaze o varanju, iako to nije uticalo na konačne zapise koje ti sistemi provjeravaju.

 

U izvještaju se dodaje i kako postoji “malo dokaza o pokušajima zavaravanja ljudskih kontrolora”, ali iz kompanije nisu odgovorili na direktno pitanje da li to znači da je takvih pokušaja prema ljudima ipak bilo.

 

Nezavisna istraga, koja se detaljnije bavila samim upadom u Hugging Face, donosi još neugodnije podatke – utvrđeno je da je svaki peti analizirani agent “pokazao jasan interes” za manipulisanje dokazima, dok su mnogi od njih “detaljno istraživali tehnike manipulisanja i mijenjanja transkripata svojih aktivnosti”.

 

OpenAI tvrdi kako trenutno jača istraživačku infrastrukturu, uvodi stroži nadzor i unapređuje sigurnosne mehanizme za sprečavanje štetnog i nepredviđenog ponašanja.

 

“Treba pretpostaviti da ovakvi napadi predstavljaju stvarnu prijetnju organizacijama u bliskoj budućnosti i da će biti znatno sofisticiraniji od incidenata opisanih u ovom slučaju”, zaključuju u kompaniji.

Kompanija OpenAI istražuje incident nakon što je testni model vještačke inteligencije ove sedmice izašao iz kontrolisanog okruženja i tokom interne bezbjednosne provjere dospio do servera druge kompanije.

Prema navodima Si-En-Ena, model je tokom interne evaluacije sajber bezbjednosti pronašao put iz sandboksa, okruženja namijenjenog za izolovano testiranje AI sistema.

Predsjednik OpenAI-ja Greg Brokman rekao je na konferenciji za medije da kompanija sprovodi potpunu istragu kako bi razumjela sve okolnosti incidenta.

„Ovo je nešto što treba shvatiti veoma ozbiljno i zbog toga preispitujemo svaki dio našeg procesa kako bismo odredili pravi odgovor“, rekao je Brokman.

Problem je, prema riječima stručnjaka, nastao jer testno okruženje nije bilo u potpunosti odsječeno od mreže. Iz OpenAI-ja su naveli da su modeli imali veoma ograničen pristup mreži kako bi mogli instalirati resurse iz interno hostovanog softvera treće strane.

Džesika Dži iz Centra za bezbjednost i nove tehnologije pri Džordžtaun univerzitetu rekla je da je upravo ranjivost u tom softveru otvorila put prema internetu, a zatim i prema platformi Haging Fejs, koristeći ukradene akreditive i druge slabosti sistema.

Sagovornici Si-En-Ena upozoravaju da ovo nije samo izolovan incident, već signal šireg problema u razvoju naprednih AI agenata. Modeli koji se treniraju metodama nagrađivanja za izvršavanje zadataka mogu, ukoliko nisu usmjereni na etičko rješavanje problema, posegnuti i za nelegalnim koracima kako bi ostvarili zadati cilj.

Stiven Adler, bivši šef bezbjednosti proizvoda u OpenAI-ju, rekao je da sada postoje stvarni dokazi da neusaglašeni AI sistemi u određenim okolnostima mogu počiniti krivična djela, ukoliko ne postoje snažne zaštitne mjere.

Zbog toga raste pritisak istraživača, stručnjaka za sajber bezbjednost i zakonodavaca da se uvedu stroža pravila za testiranje ovakvih sistema.

Stručnjaci navode da bi kompanije morale agresivnije izolovati testne modele i zadržati mogućnost ručnog isključivanja mrežnog pristupa kao krajnju zaštitu u rizičnim scenarijima.

Dva modela vještačke inteligencije kompanije OpenAI samostalno su probila izolovano okruženje i provalila u sisteme platforme Hugging Face kako bi varala na internom testu.

OpenAI je o incidentu izvijestio sinoć i precizirao da je riječ o kombinaciji njihovog najnovijeg javnog modela GPT-5.6 Sol i jednog još snažnijeg, koji nije dostupan javnosti. Događaj je podstakao raspravu o bezbjednosti i sve većim sposobnostima AI sistema.

„Bili su izuzetno fokusirani i preduzeli su ekstremne korake“
Modeli su bili dio internog testa čiji je cilj bio da procijeni njihove sajber sposobnosti. Testiranje je sprovedeno bez uobičajenih bezbjednosnih ograničenja koja bi im inače onemogućila izvođenje takvih operacija.

Test se odvijao na javnom sistemu za evaluaciju sajber bezbjednosti ExploitGym, a modeli su, prema objavi OpenAI-ja, ispravno zaključili da se rješenja za test nalaze na serverima kompanije Hugging Face.

„Modeli su identifikovali i iskoristili niz slabosti u istraživačkom okruženju OpenAI-ja i produkcijskoj infrastrukturi Hugging Facea kako bi dohvatili rješenja testa direktno iz baze podataka“, navodi se u objavi OpenAI.

„Svi dokazi ukazuju na to da su bili izuzetno fokusirani na pronalazak rješenja za ExploitGym i preduzeli su ekstremne korake da ostvare taj uski cilj“, navodi se.

„Napad jedinstvenih razmjera“
Iz OpenAI su poručili da incident smatraju sajber napadom jedinstvenih razmjera koji uključuje najnaprednije zabilježene ofanzivne sposobnosti i da će njihova reakcija biti u skladu s tim.

Stručnjaci za sajber bezbjednost dugo upozoravaju na mogućnost ovakvih napada, prenosi Index.

Roman Jampolski (Roman Yampolskiy), istraživač bezbjednosti vještačke inteligencije sa Univerziteta u Luisvilu, komentarisao je da ovaj slučaj pokazuje kako moćni modeli mogu otkriti i iskoristiti ranjivosti na načine koje njihovi kreatori nisu predvidjeli.

Smatra da će se slični incidenti ponavljati jer su AI modeli u svojoj suštini nepredvidivi i na kraju ih je nemoguće u potpunosti kontrolisati.

Šta je Hugging Face?
Da bi se shvatila težina ovog incidenta, treba razumjeti šta je uopšte Hugging Face.

Riječ je o američkoj platformi sa sjedištem u Njujorku, osnovanoj 2016. godine, koju u IT i AI zajednici često nazivaju „GitHubom za vještačku inteligenciju“.

Služi kao centralno svjetsko okupljalište za više od milion stručnjaka, istraživača i kompanija koje tamo razmjenjuju otvorene AI modele, gotove baze podataka i programske alate.

Provala OpenAI-jevih modela na njihove servere zato nije bila samo napad na bilo koju IT kompaniju, već direktan upad u ključnu globalnu infrastrukturu na kojoj se temelji savremeni razvoj i testiranje vještačke inteligencije.

Šta kažu u napadnutoj kompaniji?
Hugging Face je još prošlog četvrtka objavio da su bili meta sajber napada za koji vjeruju da ga je izveo autonomni AI agent.

Ovo je jedan od malobrojnih zabilježenih incidenata u kojima su AI agenti djelovali samostalno, a na taj rizik stručnjaci upozoravaju već godinu dana.

Tada još nisu znali ko stoji iza napada i istraga je bila u toku.

Iz kompanije su naveli da su se prvo pokušali odbraniti uz pomoć neimenovanog AI modela jednog od vodećih američkih laboratorija.

Međutim, bezbjednosna ograničenja tog modela blokirala su djelovanje njihovog tima za hitne intervencije, pa su za odbranu na kraju upotrijebili model otvorenog koda kineske kompanije Z.ai.

Klem Delang (Clem Delangue), izvršni direktor Hugging Facea, u izjavi je istakao važnost saradnje.

„Zahvalni smo na saradnji s OpenAI. Ovaj incident, vjerovatno prvi takve vrste, dokazuje ono u šta dugo vjerujemo: bezbjednost vještačke inteligencije ne može riješiti jedna kompanija koja radi u tajnosti. Rješenje je u otvorenosti, saradnji i davanju širokog pristupa alatima svakome ko se bavi odbranom, bilo gdje“, rekao je Delang.

Ranije ove sedmice OpenAI je objavio da je njihov snažniji, još neobjavljeni model i ranije probijao izolovana okruženja, takozvane sandboxove, ali u tim slučajevima nije upadao u sisteme drugih kompanija.

Sličan događaj prijavio je i konkurentski Anthropic.

Njihov model Mythos tokom bezbjednosnog testa takođe je probio izolaciju i pristupio internetu, što mu nije bilo dozvoljeno, kako bi poslao imejl poruku istraživaču o zadatku na kojem je radio.

Kako se odvijao napad? AI modeli prvo su sebi obezbijedili pristup internetu
OpenAI i Hugging Face nastavljaju istragu.

Za sada je poznato da su modeli napad započeli tako što su sebi obezbijedili pristup internetu.

Za to je bila potrebna znatna računarska snaga i iskorištavanje „zero-day“ ranjivosti u spoljnom softveru koji se koristi unutar OpenAI. Kompanija je tu ranjivost u međuvremenu prijavila proizvođaču softvera.

Nakon toga, modeli su se usmjerili na Hugging Face kako bi pronašli rješenja za test.

U jednom od primjera, model je izveo složen, višefazni napad na servere Hugging Facea, pri čemu je koristio izložene pristupne podatke i „zero-day“ ranjivosti.

OpenAI je otkrio napad i obavijestio Hugging Face, čiji su timovi u tom trenutku već bili identifikovali i zaustavili upad i radili na rekonstrukciji događaja.

OpenAI najavio bolje kontrole
Incident još nije završen.

OpenAI radi na uvođenju boljih kontrola u svom istraživačkom okruženju, čak i ako to uspori istraživanja.

Kompanija je takođe potvrdila da nastavlja saradnju s Hugging Faceom kako bi im pomogla da ojačaju odbrambene sisteme.

Kao dio tih napora, OpenAI je dodao Hugging Face u svoj program „pouzdanog pristupa“ za sajber bezbjednost.

To znači da će Hugging Face moći koristiti verziju modela GPT-5.6 Sol s manje ograničenja, dizajniranu upravo za pomoć stručnjacima za odbranu.

Hugging Face nije otkrio koji su američki AI model prvobitno pokušali koristiti za odbranu.

Pojavile su se nove informacije koje sugerišu kada možemo da očekujemo iPhone 18 Pro i sklopivi iPhone.

Novi izvještaj sugeriše da bi kompanija Apple mogla da održi svoj sljedeći događaj predstavljanja iPhonea u drugoj sedmici septembra. Očekuje se da će prvi sklopivi iPhone ove kompanije, za koji se šuška da će nositi naziv iPhone Ultra, debitovati zajedno sa modelima iPhone 18 Pro i iPhone 18 Pro Max.

Ove informacije dolaze od Marka Gurmana iz Bloomberga, koji navodi da se od Applea očekuje da isprati svoj uobičajeni raspored predstavljanja i predstavi novu liniju iPhonea prvog utorka ili srijede nakon Praznika rada (Labor Day).

Ako se Apple odluči za predstavljanje 9. septembra, Gurman očekuje da će pretprodaja početi 10. septembra. Nova linija iPhonea bi se nakon toga vjerovatno našla u prodaji krajem tog mjeseca.

Apple je nedavno povećao cijene za nekoliko svojih proizvoda, a priča se da će i predstojeća linija iPhone 18 Pro imati više cijene od svojih prethodnika.

Republika Srpska i Srbija zajednički će raditi na razvoju vještačke inteligencije na srpskom jeziku, s ciljem da AI sistemi bolje razumiju i ekavski i ijekavski izgovor, te omoguće naprednije jezičke tehnologije poput automatskog titlovanja i generisanja govora.

Srbija i Republika Srpska udružuju znanje i resurse kako bi srpski jezik dobio svoje mjesto u svijetu vještačke inteligencije.

Cilj je da AI sistemi bolje razumiju srpski jezik, prepoznaju ijekavski i ekavski izgovor, omoguće kvalitetnije generisanje glasa, automatsko titlovanje i razvoj drugih jezičkih tehnologija. Zbog toga će institucije zajednički raditi na razvoju domaćih modela zasnovanih na bogatom jezičkom i kulturnom nasljeđu srpskog naroda.

“Mi pokrećemo zajednički razvoj, planiranje projekata i implementaciju projekata iz oblasti vještačke inteligencije to direktno doprinosi razvoju IKT nauka i razvoju evoluciji IKT privredi RS Društvo koje ne percipira razvoj sopstvenih modela vještačke inteligencije nema šta da traži u 21. vijeku”, objasnio je direktor Agencije za informaciono-komunikacione tehnologije Republike Srpske Dražen Višnjić.

Prvi korak je prikupljanje i obrada velikih količina podataka neophodnih za obučavanje vještačke inteligencije. Posebna pažnja biće usmjerena na jezičku, istorijsku i kulturnu građu, kako bi srpski jezik i nacionalno nasljeđe bili prepoznati i u digitalnom dobu.

“Negdje smo svi svjesni koliko je to bitno u današnjem svijetu i svijetu vještačke inteligencije da srpski jezik i posebno konteksti istorijska i kulturološka istorija našeg naroda utvari se pokaže i kroz vještačku inteligenciju i njene modele”, istakao je rukovodilac Grupe za razvoj i primjenu vještačke inteligencije u Kancelariji za IT i eUpravu Republike Srbije Bogdan Stešević.

Razvoj jezičkih tehnologija za srpski jezik danas je više od tehnološkog pitanja. U vremenu kada vještačka inteligencija postaje glavni kanal za kreiranje i prenošenje sadržaja, od njene sposobnosti da razumije jezik zavisi i koliko će jedna kultura biti vidljiva i zastupljena u digitalnom prostoru.

“Činjenica je da podaci iz kojih se obučava vještačka inteligencija su primarno na engleskom, srpski jezik je daleko manje zastupljen i posebno je teška situacija za izgovore drugog srpskog jezika ijekavskog kojeg ima još manje nego ekavskog izgovora zato je bitno da se radi na prikupljanju podataka i svih onih podataka koji reflektuju bogatstvo našeg jezika na oba jezika i pisma da se oni učine dostupnim za obučavanje vještačke inteligencije”, naglasio je savjetnik za digitalne tehnologije u UNDP Slobodan Marković.

Iako razvoj vještačke inteligencije za manje jezike nije u fokusu velikih svjetskih tehnoloških kompanija, saradnja Srbije i Republike Srpske mogla bi da obezbijedi da srpski jezik ne ostane na margini digitalne ere.

Tehnološki gigant Epl planira da poveća cijene svojih proizvoda zbog naglog rasta cijena memorijskih čipova, potvrdio je prvi čovjek kompanije.

Tim Kuk, odlazeći izvršni direktor Epla, izjavio je za Vol strit džurnal da je poskupljenje neizbježno jer je situacija u vezi sa nabavkom memorijskih čipova postala neodrživa.

Kuk nije precizirao kada će tačno doći do povećanja cijena niti koji će proizvodi biti obuhvaćeni. Za sada nije poznato ni da li će poskupljenje uticati na predstojeći Ajfon 18, čije se predstavljanje na globalnom tržištu očekuje u septembru.

Memorijski čipovi predstavljaju ključne komponente pametnih uređaja, poput mobilnih telefona, a njihov rast cijena posljedica je snažnog razvoja tehnologija zasnovanih na vještačkoj inteligenciji.

„Dajemo sve od sebe da ublažimo ogromna povećanja cijena koja nam se nameću i pokušavali smo da zaštitimo naše kupce, ali situacija je postala neodrživa“, rekao je Kuk za Vol strit džurnal.

On je naveo da je ponuda manja u trenutku kada potrošači traže više uređaja, dok proizvođači memorije prenose značajna povećanja troškova na kupce.

Kuka će u septembru na mjestu izvršnog direktora Epla zamijeniti Džon Ternus, nakon što je 15 godina vodio kompaniju.

Njegove izjave dolaze nakon upozorenja drugih tehnoloških kompanija na rastuće probleme u industriji proizvodnje čipova.

Ranije ove godine i Samsung je saopštio da očekuje kako će nestašica memorijskih čipova dovesti do rasta cijena elektronskih uređaja širom svijeta.

Uprkos izazovima, Epl nastavlja da bilježi snažne prodajne rezultate.

Aktuelni Ajfon 17 ostvario je veliku popularnost od lansiranja prošlog septembra. Prodaja Eplovih uređaja porasla je za 17 odsto u prva tri mjeseca 2026. godine u odnosu na isti period prošle godine, uz posebno snažnu potražnju na kineskom tržištu.

Da kompanija ne oklijeva sa povećanjem cijena pokazalo se i ranije ove godine, kada je cijena kompjuterskog modela Mek Mini povećana za 200 dolara, odnosno oko 355 konvertibilnih maraka.