Вештачка интелигенција и национална безбедност: Ко контролише најмоћније моделе, а ко доноси одлуке

Развој најмоћнијих модела вештачке интелигенције све теже се може посматрати искључиво као технолошко или пословно питање. Њихова способност да откривају безбедносне пропусте, обрађују огромне количине података и убрзавају доношење одлука отвара питање које је до пре само неколико година углавном припадало теоријским расправама. У ком тренутку један комерцијални AI модел постаје технологија од значаја за националну безбедност?

Ово питање нашло се у средишту расправе у Сједињеним Америчким Државама након што је компанија Anthropic представила нову генерацију својих модела. Најмоћнији међу њима показао је толико развијене способности у области сајбер-безбедности да је компанија одлучила да приступ најпре омогући само ограниченом броју проверених владиних сарадница и партнерима из индустрије.

Процена је била да би такав систем могао значајно да убрза откривање и искоришћавање безбедносних пропуста, односно послове за које је раније било потребно високо специјализовано знање. Америчке власти су потом увеле ограничења приступа овим моделима због бојазни да би их страни противници могли злоупотребити, након чега су она постепено ублажена.

Тај случај указао је на промену у односу државе према најнапреднијим системима вештачке интелигенције. Они више нису само софтверски производи намењени тржишту. Њихове могућности све више се посматрају и кроз питања сајбер-безбедности, војних способности и односа снага међу државама.

– Најнапреднији AI системи прешли су важан праг од комерцијалног софтвера ка технологијама које се посматрају као стратешки национални ресурси, чије способности могу значајно да утичу на националну безбедност и геополитичку моћ – наводи у својој анализи портал Just Security.

ФОТО: FOTOGRIN/Shutterstock

Тестирање AI модела открило нови безбедносни ризик

Колико су се способности нових система промениле показали су и тестови спровођени током лета. Проблеми су забележени приликом испитивања модела компанија OpenAI, Anthropic и Meta, а сличан случај пријављен је и код кинеског Moonshot AI. Током провере њихових напредних способности у области сајбер-безбедности, неки од модела успели су да пронађу слабости у контролисаним окружењима у којима су тестирани.

У једном од најупечатљивијих случајева, OpenAI је саопштио да су његови модели током интерног тестирања открили до тада непознате безбедносне пропусте, изашли из окружења предвиђеног за тестирање и приступили спољним серверима. Сличне проблеме касније су пријавили Anthropic и Meta, док је модел кинеске компаније Moonshot AI током сајбер-тестирања пронашао слабост у свом окружењу, добио приступ интернету и претраживао сајт на интернету.

Заједнички проблем није само у томе што вештачка интелигенција постаје све способнија да открива сајбер-пропусте. Поставља се и питање да ли окружења направљена за безбедно тестирање могу поуздано да задрже све способније моделе унутар постављених граница.

– Процена пружа мало сигурности ако модел може да манипулише самим тестом. Потребно је јасно утврдити да ли окружење за тестирање може да задржи модел који се у њему испитује – истиче се у тексту.

То значи да више није довољно проверити само шта модел може да уради. Неопходно је проверити и систем у којем се његове способности испитују. Због тога би будући стандарди, према ауторима анализе, требало да обухвате изолацију система, приступ мрежи и управљање приступним подацима пре него што започне тестирање опасних способности.

Брзина постаје стратешка предност

Истовремено са растом способности модела повећава се и брзина којом они могу да анализирају информације и предлажу одлуке. Поступци који су некада захтевали више узастопних људских радњи сада се све чешће могу обавити аутоматизовано и за знатно краће време.

То ствара једну од главних дилема будућег управљања вештачком интелигенцијом. Технолошка и геополитичка конкуренција подстичу брзину, док безбедност захтева проверу, процену и довољно времена за људску одлуку.

Државе су деценијама градиле политичке и војне механизме који су намерно успоравали одлучивање. Циљ је био да се остави довољно времена за проверу информација и смањи могућност погрешне процене. Са развојем вештчке интелигенције та логика долази под све већи притисак.

– Оно што је некада захтевало низ људских поступака све више може да се одвија кроз међусобно повезане системе који функционишу машинском брзином. У доба вештачке интелигенције, они који први делују могли би да убирају предности – оцењују аутори текста.

Управо због тога питање контроле најнапреднијих модела више није само проблем технолошких компанија.

ФОТО: Shutterstock/Summit Art Creations

Када вештачка интелигенција постане стратешки ресурс

Државе су и раније ограничавале ширење технологија које су могле значајно да промене војни однос снага. Ипак, вештачка интелигенција се битно разликује од нуклеарне технологије или сложених система наоружања.

Нуклеарни програм захтева одређене материјале, специјализовану инфраструктуру и велики број стручњака. Модел вештачке интелигенције је, с друге стране, дигиталан. Када његови параметри постану доступни, могуће их је копирати уз далеко мање трошкове.

То посебно долази до изражаја са развојем модела чији су параметри јавно доступни. Контрола напредних чипова и рачунарске инфраструктуре зато не мора нужно да значи и потпуну контролу над ширењем самих способности AI система.

– Владе морају да се суоче са питањима која су претходне генерације постављале када је реч о технологијама попут нуклеарног оружја. Ко треба да има приступ најспособнијим моделима и под којим условима? Када комерцијални AI систем постаје стратешки ресурс чија дистрибуција мора бити регулисана? – наводи се у тексту.

ФОТО: Summit Art Creations/Shutterstock

Ко ће контролисати најмоћније моделе

Један од одговора који се разматрају у САД јесте успостављање независног тела задуженог за стандарде најнапредније вештачке интелигенције. Идеја је да компаније своје најмоћније моделе подвргну независној процени пре него што их учине доступним широј јавности.

Такав систем могао би да одреди праг способности после којег би модел морао да прође строжу проверу. Посебна пажња била би посвећена сајбер-безбедности и другим способностима чија би злоупотреба могла да произведе озбиљне последице.

Међутим, независни надзор отвара и нове проблеме. Уколико тело финансирају компаније које оно треба да контролише, поставља се питање његове стварне независности. Ако највеће лабораторије добију превелику улогу у дефинисању правила, постоји и могућност да стандарди буду прилагођени технологијама које су саме развиле.

Због тога би независни стручњаци морали да имају приступ неопходним системима и информацијама, али и услове у којима могу да пријаве неповољне резултате.

– За најнапредније моделе вероватно је да ће добровољно поштовање правила на крају постати обавезно, уз основне стандарде које ће модели морати да испуне пре објављивања – додаје се у анализи.

ФОТО: Компас/Илустрација

Трка САД и Кине

Питање контроле додатно се усложњава када се укључи међународна конкуренција. Амерички систем надзора може непосредно да утиче на компаније које послују унутар његовог регулаторног оквира, али сам по себи не одређује услове под којима се развијају модели у Кини.

Управо ту настаје дилема. Превише ограничења могло би да успори домаће компаније у тренутку интензивне технолошке трке, док би недовољна контрола могла да повећа безбедносне ризике.

Развој кинеских система попут DeepSeek-а и модела компаније Moonshot AI показао је да америчка предност не зависи искључиво од приступа најнапреднијим чиповима и већем капиталу. Кинеске компаније настоје да смање технолошки јаз, док Пекинг истовремено развија сопствени приступ међународној сарадњи и управљању вештачком интелигенцијом.

– Ефикасан надзор мора да успостави равнотежу између безбедности и стратешке конкурентности, уводећи мере заштите тамо где су ризици оправдани, али без стварања регулаторних препрека које би омогућиле мање ограниченим конкурентима да стекну предност – истакли су аутори.

Међутим, технолошко надметање носи још један ризик. Ако једна страна процени да људска контрола превише успорава систем, друга добија подстицај да такође скрати време предвиђено за људску процену. Оно што почиње као потрага за технолошком предношћу може да прерасте у трку у којој се постепено уклањају механизми осмишљени да спрече погрешне одлуке.

Ко доноси коначну одлуку – човек или вештачка интелигенција?

Ово питање посебно је важно када се вештачка интелигенција примењује у војном одлучивању. Систем који за неколико секунди може да прикупи податке, анализира ситуацију и предложи реакцију оставља човеку све мање времена да процени квалитет те препоруке.

Убрзавање доношења одлука отвара и питање колико човек заиста може да задржи контролу над системом. Што вештачка интелигенција брже обрађује информације и предлаже поступке, мање времена остаје за проверу тих препорука пре доношења одлуке.

– Људски надзор не може да се сведе на то да командант механички одобрава препоруке које се стварају брже него што он може разумно да их процени. Потребан је систем који ће људску интервенцију задржати у тренуцима у којима је процена најважнија – наводи се у тексту.

Аутоматизација би у таквом систему могла да преузме велики број рутинских послова, од прикупљања података до њихове почетне анализе, док би човек остао одговоран за одлуке са најозбиљнијим последицама.

Тиме се долази и до главне дилеме развоја најнапредније вештачке интелигенције. Превише контроле може да успори развој и створи предност конкурентима. Премало контроле може да доведе до тога да брзина постане важнија од квалитета одлуке.

Према закључку анализе, питање више није да ли ће најмоћнији AI системи бити регулисани, већ како ће та правила изгледати. Добро постављен надзор могао би да смањи ризик од погрешних одлука без непотребног успоравања развоја. Лоше осмишљена правила могла би да произведу супротан ефекат, односно бирократске препреке без стварног повећања безбедности.

– Следећи изазов биће да институције одговорне за управљање овим системима напредују једнако брзо као и сама технологија. Одлуке које буду донете у наредних неколико година обликоваће не само питање ко ће предводити развој AI, већ и да ли ће демократска друштва успети да сачувају људско расуђивање у ери коју све више одређује надметање машинском брзином – закључује се у тексту.