Вештачка интелигенција могла би да постане извор озбиљних потреса у светској економији, али и велика претња сајбер-безбедности финансијског система, упозорио је гувернер Банке Енглеске Ендру Бејли. Према његовим речима, евентуални нагли пад вредности AI компанија могао би да покрене тржишну корекцију која би се проширила далеко изван технолошког сектора.
Бејли је у писму министрима финансија и гувернерима централних банака земаља G20 упозорио и да компаније и финансијске институције морају да буду спремне за сајбер-инциденте који би могли истовремено да поремете рад већег броја фирми, пише Би-Би-Си.
Посебан проблем, према његовој процени, представља све већа способност најнапреднијих модела вештачке интелигенције да самостално проналазе рањивости у дигиталним системима.
ПОВЕЗАНЕ ВЕСТИ
То би у будућности могло да промени не само начин на који се сајбер-напади изводе, већ и њихову брзину, обим и цену.
Вештачка интелигенција и ризик од пада тржишта
Бејли упозорава да опасност не долази само од саме технологије, већ и од огромних количина новца које се последњих година сливају у AI сектор.
Вредности акција многих технолошких компанија достигле су високе нивое, инвеститори се све више задужују, а велики део капитала концентрисан је у релативно малом броју највећих компанија.
Та комбинација, упозорава Бејли, могла би да појача последице евентуалног пада.
– Проблем није само у томе што се инвеститори више задужују, већ у томе што се задуженост комбинује са високим вредновањем компанија и концентрацијом тржишта – навео је он.
ФОТО: Quality Stock Arts/ShutterstockПосебно је указао на све већу међусобну повезаност компанија које развијају вештачку интелигенцију и великих технолошких корпорација које обезбеђују рачунарску инфраструктуру неопходну за њен развој.
Уколико би дошло до оштрог пада вредности AI компанија, последице се зато не би нужно задржале само у том сектору.
Шта ако пукне AI балон
Забринутост због таквог сценарија последњих месеци расте јер су инвеститори уложили огромне суме у компаније повезане са вештачком интелигенцијом, очекујући да ће та технологија значајно повећати продуктивност и створити нова тржишта.
Проблем настаје ако профити и економски ефекти не буду расли онолико брзо колико тренутне цене акција подразумевају.
Тада би инвеститори могли нагло да почну да продају акције, што би оборило њихову вредност и потенцијално створило проблеме компанијама, фондовима и другим институцијама које су се задуживале како би финансирале улагања.
Управо због повезаности финансијских тржишта такав пад могао би да се прошири из једне земље у другу.
Бејли зато упозорава да би будућа „тржишна корекција“ могла да буде много снажнија ако се истовремено активира више постојећих слабости финансијског система.
AI постаје и сајбер-безбедносни ризик
Међутим, финансијска тржишта нису једини разлог за забринутост.
Према Бејлију, непосреднија опасност за финансијски систем могла би да буде способност најнапреднијих AI модела да пронађу и искористе слабости у информационим системима.
ФОТО: Digineer Station/ShutterstockПочетком августа више од 100 компанија и организација, међу којима су Google, Microsoft, Anthropic и OpenAI, позвало је владе и индустрију да убрзају јачање сајбер-одбране пре него што AI системи постану довољно моћни да на великој скали користе постојеће безбедносне пропусте.
Главна бојазан је да би модели вештачке интелигенције могли да омогуће извођење далеко сложенијих напада уз много мање људских ресурса него раније.
То значи да би један нападач уз помоћ AI алата потенцијално могао истовремено да тражи слабости у великом броју система.
Банке морају да буду спремне за истовремене нападе
Тај ризик посебно забрињава регулаторе због велике међусобне зависности банака, платних система, берзи, дата-центара и компанија које пружају технолошке услуге.
Напад на једног важног добављача могао би зато да има последице за велики број финансијских институција.
Бејли је упозорио да би компаније требало да се припреме за сценарије у којима долази до „истовременог поремећаја у више фирми“.
ФОТО: Tee11/ShutterstockЗбог тога је позвао регулаторе и институције задужене за финансијску стабилност да развију механизме који ће омогућити безбедно и одговорно пуштање нових AI модела у употребу широм света.
Проблем је по својој природи међународан, јер финансијски и информациони системи не познају националне границе.
Компаније већ откривају неочекивано понашање AI система
Забринутост није само теоријска.
Компаније које развијају најнапредније AI системе последњих месеци све чешће тестирају како се њихови модели понашају када добију већу самосталност и приступ стварним дигиталним системима.
OpenAI, Anthropic и Meta објављивали су резултате тестирања у којима су AI системи у појединим околностима покушавали да ураде нешто што им није било предвиђено или дозвољено.
Поједини напредни AI агенти показали су и способност да користе неочекиване стратегије како би заобишли препреке постављене пред њих.
Управо због тога стручњаци све више инсистирају на томе да се напредни модели тестирају пре него што добију широк приступ интернету, пословним системима и критичној инфраструктури.
Британија истовремено улаже у сопствену вештачку интелигенцију
Бејлијево упозорење долази у тренутку када британска влада покушава да значајно повећа сопствене капацитете у области вештачке интелигенције.
Лондон жели да развије такозвани „суверени AI“, односно домаће технологије и инфраструктуру како Велика Британија не би у потпуности зависила од система развијених у иностранству.
ПОВЕЗАНЕ ВЕСТИ
Влада жели да британске компаније користе вештачку интелигенцију и за решавање конкретних проблема – од скраћивања листа чекања у здравственом систему NHS до јачања сајбер-безбедности и одбране.
Таква политика показује и главни парадокс са којим се владе тренутно суочавају.
Вештачка интелигенција обећава велики раст продуктивности, развој нових технологија и ефикасније јавне услуге, али истовремено ствара нове економске и безбедносне ризике.
Упозорење које долази из глобалног финансијског врха
Бејли своје упозорење није упутио само као гувернер Банке Енглеске, већ и као председавајући Financial Stability Board-а (FSB), међународног тела које прати ризике по глобални финансијски систем.
ФОТО: Shutterstock/Summit Art CreationsFSB окупља представнике министарстава финансија, централних банака и регулаторних институција највећих светских економија, укључујући САД, Велику Британију, Француску, Немачку, Канаду, Јапан, Аустралију, Кину и Саудијску Арабију.
Бејли је истовремено упозорио да глобална тржишта већ трпе последице нестабилности изазване поремећајима у снабдевању енергијом и ратом између САД и Ирана.
То значи да потенцијални проблеми у AI сектору не би погодили финансијски систем у тренутку потпуне стабилности, већ у окружењу у којем већ постоји више извора неизвесности.
Због тога се све више пажње усмерава на питање шта ће се догодити ако се огромна очекивања од вештачке интелигенције не остваре – и да ли је светски финансијски систем довољно отпоран да издржи такав удар.
