Развој AI захтева хитну јавну расправу, строга правила и међународну сарадњу. Без таквог одговора, човечанство ризикује да изгуби контролу и над технологијом и над сопственом будућношћу.
На то упозорава Ричард Хермер, бивши главни правни саветник британске владе, у ауторском тексту за Гардијан. Полазећи од искуства на тој функцији, на којој је током две године највише времена посветио националној безбедности, он тврди да развој AI доноси опасности другачијих размера од оних са којима су државе до сада биле суочене.
Тероризам, оружани сукоби, ширење нуклеарног оружја, финансијска нестабилност и климатска криза представљају озбиљне претње. Ипак, Хермер сматра да је ризик од AI посебан, како због могућих последица тако и због ограниченог времена у којем је могуће успоставити делотворну контролу.
ПОВЕЗАНЕ ВЕСТИ
– Црвена светла већ трепере и морамо да делујемо сада, пре него што буде касно – поручује он.
Према његовој оцени, упозорења људи непосредно укључених у развој AI дуго нису добијала одговарајућу пажњу јавности. Као догађаје који су расправу подстакли наводи откривање хакерског напада на платформу Hugging Face и оставку Џејкоба Коксона у компанији Anthropic, сматрајући да тај тренутак треба искористити за снажнију међународну координацију.
Две врсте опасности: Опстанак и губитак контроле
Хермер наглашава да AI може донети огромне користи, од научних и медицинских открића до нових могућности за људе који су данас у неповољном положају. Његова аргументација, међутим, почива на ставу да потенцијалне користи не оправдавају занемаривање ризика.
Те ризике дели у две широке категорије. Прва је егзистенцијална опасност: могућност да AI допринесе страдању огромног броја људи, било тако што би злонамерним актерима олакшао развој и употребу биолошког оружја, било кроз сценарије у којима би сами системи деловали против људског опстанка.
Другу категорију назива егзистенцијалним изазовом. Она се односи на могућност да милијарде људи изгубе стварну способност да одлучују о сопственом животу, са дубоким последицама по привреду, националну безбедност и људску срећу.
Хермер се позива на Била Гејтса, који је еру AI описао као једно од најбурнијих раздобља људске историје. Технологија би, према том виђењу, могла постати најмоћније средство за смањивање неједнакости или највећи извор неправде.
ФОТО: Компас/ИлустрацијаСадашњи правац развоја, сматра Хермер, носи опасност да истовремено промени смисао и доступност продуктивног рада и концентрише огромну моћ. Та моћ могла би се наћи у рукама САД и Кине, али и малог броја појединаца који контролишу водеће технолошке компаније.
Зато питање будућности AI, по њему, мора постати предмет широке јавне расправе. Одлуке које утичу на читаво човечанство не би требало препустити само двема државама и великим компанијама.
Зашто саморегулација није довољна
Један од кључних проблема јесте то што, како Хермер истиче, не знамо прецизан степен ризика нити пуни обим изазова. AI се развија ка нивоу сложености који људи све теже разумеју, уз опасност да изгубе и практична средства за његову контролу.
Као поређење наводи финансијску кризу из 2008. године. Њеном избијању, подсећа, допринела је чињеница да сложену мрежу финансијских трансакција и ризика нико није у потпуности разумео, иако је она водила ка катастрофи.
Изазов који доноси AI, према његовој оцени, могао би бити знатно већи. Разлике се тичу сложености система, степена људске контроле и размера могућих последица.
Хермер зато користи поређење са свакодневним кућним уређајима. Произвођачу тостера, наводи, не би било дозвољено да продаје производ који има десет одсто вероватноће да корисника усмрти струјним ударом. Тај пример служи му да покаже колико би неприхватљив био висок ризик код производа намењених широкој употреби.
– Безбедност вашег фрижидера уређена је са више правила него рад лабораторија које развијају најнапредније AI системе – пише Хермер.
ФОТО: Компас/ИлустрацијаОн одбацује идеју да индустрији треба препустити да сама поставља границе. Компаније и финансијска тржишта која их подржавају, наглашава, имају снажан подстицај да што брже развијају нове верзије технологије.
Томе се придружује геополитичка трка САД и Кине за доминацију. У таквим околностима добровољни кодекси, по његовом мишљењу, не пружају довољну сигурност, а успоравање развоја најнапреднијих система оправдано је док се не утврди да ризицима може да се управља.
Међународна правила и право јавности да одлучује
Хермер сматра да ће међународно право имати пресудну улогу. Иако похваљује британске иницијативе у области безбедности AI, истиче да размере проблема превазилазе могућности било које појединачне државе.
Делотворан одговор захтева сарадњу са САД и Кином, рад са групама држава које деле сличне ставове и укључивање технолошког сектора. Проблем је, додаје, што се та потреба јавља управо у тренутку када је међународни поредак заснован на правилима под снажним притиском.
За Хермера, међутим, успостављање правила није искључиво питање односа међу владама. Демократија захтева да грађани учествују у расправи о променама које ће обликовати њихов рад, безбедност и свакодневни живот.
Још постоји време, сматра он, да владе и појединци усмере AI ка јавном добру. Будућност у којој технолошке компаније одређују правила за све остале није неизбежна.
Подсећајући да су од Индустријске револуције политички покрети обликовани односом између средстава за производњу и интереса становништва, Хермер тражи нове одговоре на три питања: ко треба да контролише AI, како га регулисати и коме он треба да служи.
У средишту те расправе морају бити вредности које усмеравају одлучивање. Технолошки напредак, закључује, треба обликовати у корист већине, јер би предуго одлагање могло да доведе до губитка саме способности да о томе одлучујемо.
