Sistemi vještačke inteligencije samo su u proteklih nekoliko mjeseci postali sposobni da zaobiđu čak i sigurnosne mjere kompanija koje su ih stvorile, pišu Nezavisne.
Gotovo sve velike američke kompanije koje razvijaju te sisteme, poput Open AI ili Antropika, obavijestile su javnost o ispitivanjima koja su ovog ljeta sprovodile nad eksperimentalnim modelima i o incidentima. U slučaju Open AI, u julu su agenti koje su trenirali hakovali Haging fejs, jednu od najjačih svjetskih kompanija za module za AI sisteme, a prije nekoliko dana javnost je obaviještena da su ti agenti provalili u sistem javnog zdravstva Australije i neovlašteno pristupili podacima. Sve se desilo dok su inženjeri aktivno nadzirali rad agenata. Oni su, po svemu sudeći, hakovali sisteme za koje su vjerovali da im mogu pomoći u zadatku iako su im ljudi to zabranili, a jedno hakovanje sproveli su i nad sistemima Open AI u kojima su kreirani.
Pošto čak i kompanije koje ih prave teško kontrolišu te sisteme, otvara se pitanje šta bi bilo sa bazama u BiH, od zdravstvenih ustanova do policijskih dosijea, ako bi postale meta.
Borislav Vukojević, stručnjak za vještačku inteligenciju, kaže da incidente treba uzeti ozbiljno, jer su objavljene informacije pokazale da su agenti zaobišli zaštite sa posljedicama po stvarnu infrastrukturu drugih kompanija.
„Za zemlje poput BiH najveći problem je što vještačka inteligencija napadačima može skratiti vrijeme, smanjiti troškove i omogućiti da istovremeno napadaju mnogo više meta. Može pomoći u pronalaženju ranjivosti, pisanju uvjerljivih lažnih poruka i automatizovanju dijelova napada. Poruka koja izgleda kao da dolazi od direktora, banke ili kolege sada može biti napisana na našem jeziku, bez očiglednih grešaka i prilagođena konkretnoj osobi. Napadaču je nekada dovoljan pristup jednom nalogu da bi krenuo dalje“, rekao je.
To, naglašava, ne znači da ovi sistemi imaju univerzalni ključ za svaku bazu. Uspjeh zavisi od konkretnih propusta, pristupnih prava i kvaliteta odbrane. „Za Bosnu i Hercegovinu bih zato postavio nekoliko vrlo jednostavnih pitanja: znamo li gdje čuvamo osjetljive podatke, ko im može pristupiti, ko prati pokušaje upada i ko reaguje kada se incident dogodi? Koliko brzo otklanjamo poznate sigurnosne propuste? Imamo li dovoljno stručnih ljudi i mogu li institucije brzo razmijeniti upozorenja? Strategija na papiru malo znači ako odgovori na ova pitanja nisu jasni“, upozorava.
U Agenciji za zaštitu ličnih podataka kažu da Zakon o zaštiti ličnih podataka posebno ne reguliše upotrebu vještačke inteligencije, ali da se postojeće odredbe mogu primijeniti ako se ti sistemi koriste za pristup ili obradu javnih podataka. „Kontrolori koji obrađuju osobne podatke treba da sprovedu odgovarajuće tehničke i organizacijske mjere zaštite, te procjenu uticaja obrade na zaštitu osobnih podataka. Navedeno kontrolorima daje obavezu ispitivanja sigurnosti obrade osobnih podataka upotrebom AI alata. Procjena uticaja obrade ima za cilj da se postigne efektivnost obrade kao i nadzor nad rizičnim obradama“, naglašavaju.
Odgovornost za zaštitu ličnih podataka time je na institucijama koje ih čuvaju. To ne odgovara na pitanje ima li BiH stručnjake i sisteme koji bi se mogli suprotstaviti ovako naprednim napadima, kad ih ni kompanije sa najstručnijim kadrom ovog ljeta nisu mogle spriječiti.
Vukojević upozorava da činjenica da smo mala zemlja ne znači da nismo nikom interesantni. „Odgovornost imaju i kompanije koje razvijaju modele i institucije koje ih uvode u rad. Građanin ne mora da razumije kako funkcioniše AI agent da bi imao pravo da pita ko štiti njegove podatke i ko odgovara ako zaštita zakaže. Ta odgovornost ostaje ljudska, bez obzira na to koliko je tehnologija napredovala“, smatra.
Komentariši