Кум вештачке интелигенције упозорава: Можда би нам било боље да је никада нисмо створили

Један од „кумова вештачке интелигенције“, Џефри Хинтон, изјавио је да би се могло испоставити да би човечанству било боље да никада није развило ову технологију, упозоривши да би она већ ове или следеће године могла да изазове инцидент великих размера, попут привременог прекида рада финансијских или електроенергетских система.

Добитник Нобелове награде и информатичар чија су пионирска истраживања вештачких неуронских мрежа поставила темеље ове технологије, рекао је за Гардијан да себе не сматра песимистом који предвиђа катастрофу и да верује да вештачка интелигенција има потенцијал да донесе „дивну будућност“. Ипак, додао је да би „могло да се испостави да би нам било боље да је никада нисмо развили“.

Хинтон (78) сматра да ће човечанство у року од десет година, а можда и раније, сазнати да ли може да управља ризицима ове технологије и омогући оно што назива „радикалним изобиљем“, или ће „доживети неуспех у управљању ризицима и суочити се са огромним јазом између богатих и сиромашних, великим културним проблемима, масовном незапосленошћу и друштвом које се једноставно распада“.

Хинтон је говорио уочи пројекције новог дугометражног документарног филма AI: Probably Nothing to Worry About („Вештачка интелигенција: Вероватно нема разлога за бригу“), чији је наслов предложио четбот заснован на вештачкој интелигенцији. У филму се, поред њега, појављује и његов бивши колега из Гугла Демис Хасабис.

– Осећам да ми је то дужност. Имам углед који ме чини неком врстом портпарола и морам да га у потпуности ставим на коцку због овога – казао је Хинтон ауторима документарца.

Хинтон је критиковао спремност руководилаца појединих великих компанија за развој вештачке интелигенције да преузимају ризике, док у трци за превласт и тржишни удео настављају да објављују све моћније моделе. Рекао је да Сему Алтману, генералном директору компаније OpenAI, која је развила ChatGPT, „уопште не верује“.

– Мислим да Закерберг, Маск и Сем Алтман разумеју ризике и да их баш брига. Радије би узели новац. То је моје уверење – изјавио је Хинтон.

Информатичар, који је рођен у Лондону, одрастао у Бристолу и велики део каријере провео на Универзитету у Торонту, оценио је да је „изузетно забрињавајуће“ то што се Алтман налази на челу једне од малобројних водећих америчких компанија које се тренутно надмећу са Кином у развоју најмоћнијих система вештачке интелигенције.

Алтман је у септембру инсистирао на томе да „свет треба да верује да ћемо урадити исправну ствар зато што је то исправно и зато што смо свесни колики је значај свега овога“.

ФОТО: IM Imagery/Shutterstock

Хинтон се вештачком интелигенцијом бави око 44 године, а седамдесетих година прошлог века формулисао је концепт неуронске мреже, математичког система који може да учи и стиче искуство на начин сличан људском. Гугл је напустио 2023. године како би могао слободно да говори о ризицима вештачке интелигенције.

– Ако ови системи почну да теже све већој контроли, бићемо у невољи – казао је Хинтон када је напуштао Гугл.

Хинтон је инциденте током овог лета, у којима су агенти вештачке интелигенције компаније OpenAI заједнички покушавали да хакују веб-сајт Hugging Face, упоредио са делимичним топљењем језгра нуклеарног реактора у електрани на Острву Три миље, у америчкој савезној држави Пенсилванији, 1979. године. Према његовој оцени, ти догађаји представљају својеврсно упозорење.

– Или касније ове године или следеће видећемо Чернобиљ, а то би могло да буде довољно да људи заиста почну да обраћају пажњу – рекао је.

Према примерима које је навео, инцидент упоредив са Чернобиљем не би подразумевао нуклеарну несрећу, већ би могао да укључи напад на електроенергетски систем изведен уз помоћ вештачке интелигенције, који би изазвао „масовне падове напона и прекиде у снабдевању електричном енергијом“, или инцидент који би на недељу дана онеспособио финансијски систем.

– Можете ли да замислите шта би се догодило? Могли бисмо да се опоравимо од тога, али би их то натерало да се тргну и обрате пажњу.

На питање на кога мисли када каже „њих“, одговорио је:

– На светске лидере, осим Трампа – рекао је Хинтон.

Амерички председник Доналд Трамп изјавио је да „у потпуности одбацује сваки покушај успостављања глобалистичког система“ за контролу вештачке интелигенције и залаже се за то да водеће компаније које развијају ову технологију саме себе регулишу, услед забринутости да би прописи могли да успоре САД у надметању са Кином у области вештачке интелигенције.

Хинтон подржава строжи план који су прихватили председник Финске и још 32 земље, укључујући Сингапур, Немачку, Канаду и Аустралију. Тај план предвиђа обавезно тестирање најнапреднијих модела вештачке интелигенције, независну процену и заједничке међудржавне стандарде.

Британски премијер Енди Бернам изјавио је да ће искористити председавање Велике Британије Групи 20 наредне године како би покушао да постигне договор о „јединственом скупу глобалних принципа и стандарда, чији је циљ да се у потпуности искористи потенцијал технологије, уз истовремену заштиту од ризика“.

Објашњавајући како би таква контрола требало да изгледа, Хинтон је повукао паралелу са начином на који се у Сједињеним Америчким Државама проверава безбедност лекова пре њиховог стављања на тржиште.

– Потребно нам је нешто попут америчке Управе за храну и лекове (FDA), где компаније, пре него што пусте модел вештачке интелигенције у употребу, морају независном регулаторном телу да доставе веома убедљиве статистичке доказе да он доноси више користи него штете. На примеру талидомида, лека развијеног педесетих година прошлог века који је изазвао тешке урођене деформитете, научили смо да није исправно прво пустити производ на тржиште, а затим тужити произвођача. Оно што велике технолошке компаније заправо поручују јесте да према вештачкој интелигенцији треба поступати онако како смо поступали са талидомидом.

Хинтонова улога једног од утемељивача вештачке интелигенције довела је до поређења са Робертом Опенхајмером, који је имао кључну улогу у стварању нуклеарног оружја. Један од Хинтонових пријатеља чак му је купио шешир налик оном који је носио Опенхајмер. Међутим, Хинтон одбацује такво поређење.

– Ја нисам био Опенхајмер – нагласио је, указујући на хиљаде других научника који су такође радили на развоју неуронских мрежа.

Упркос озбиљним упозорењима, Хинтон ипак не сматра да је катастрофалан исход неизбежан. Напротив, верује да човечанство још има могућност да успостави контролу над развојем вештачке интелигенције, под условом да том задатку посвети довољно пажње и ресурса.

– Интуиција ми говори да још увек имамо контролу. Сасвим је могуће да можемо нешто да предузмемо. То ће успети само ако уложимо велики напор, али сасвим је могуће да ћемо тај напор и уложити – рекао је.