Вештачка интелигенција препаметна за човека

Тренутак у којем вештачка интелигенција без непосредног људског управљања доноси одлуке, донедавно је био сценарио за научнофантастични филм. Данас је то реалност која намеће питање да ли је реч о технологији коју можемо да контролишемо.

„Способности вештачке интелигенције надмашују и научно разумевање и способности влада да се прилагођавају. Са све већим доказима о обмањујућем понашању вештачке интелигенције, наука тренутно не може да гарантује да вештачка интелигенција неће изазвати катастрофалну штету, било сама од себе или под утицајем злонамерних корисника.“

Ову оцену је почетком јула изнео Џошуа Бенџио, копредседавајући независног панела Уједињених нација за вештачку интелигенцију, који је окупио 40 стручњака из различитих делова света, у оквиру прве глобалне процене ризика и могућности ове технологије.

Свега двадесетак дана касније свет се уверио да страх од неконтролисаног развоја вештачке интелигенције превазилази теоријске расправе.

ФОТО: Shutterstock

ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА БЕЗ КОНТРОЛЕ

Вештачка интелигенција се отела контроли, тако би најједноставније могло да се протумачи саопштење компаније OpenAI у којем се објашњава да је један од модела, током тестирања, изашао из изолованог простора, пронашао пут до интернета и приступио серверу компаније Hugging Face.

Како је наведено, било је замишљено да се тест спроведе у безбедном окружењу, међутим, модел је пронашао рањивост која му је омогућила да изађе из тог изолованог окружења, да се повеже са интернетом, након чега је као мету одабрао Hugging Face.

„Научници који су добитници Нобелове награде, као и извршни директори многих компанија, упозоравају нас да би стварање суперинтелигенције – система који су далеко интелигентнији од људи, а које не можемо да контролишемо – могло да има озбиљне последице“, рекао је Конор Лихи

Како струњаци објашњавају, највећи проблем лежи у чињеници да модел није био програмиран да изврши такав напад.

OpenAI и Hugging Face су сеубрзо огласили саопштивши да сарађују како би решили безбедоносни инцидент.

„Сматрамо да је ово сајберинцидент без преседана, који укључује најсавременије сајберспособности, и реагујемо у складу с тим. Уводићемо строге контроле у конфигурацији инфраструктуре, чак и по цену успоравања истраживања, док се рањивости не отклоне“, наводи OpenAI.

Сама чињеница да је дошло до деловања вештачке интелигенције, усмереног против друге компаније, без људског управљања изазвало је велику забринутост међу струњчацима, који истичу да је овако нешто практично незабележено, иако су поједини истраживачи раније упозоравали на ову опасност.

Инцидент који се догодио поново је у први план поставио питање које се непрекидно поставља од како је вештачка интелигенција крупним корацима почела да осваја свет: До када ће човек бити способан да је контролише?

ФОТО: SWKStock/Shutterstock

Цела прича око контроле добија још драматичнији тон када се слушају стручњаци који упозоравају на то да би овакви испади могли да постану чешћи како технолошке компаније буду ближе развоју такозване супер-интелигенције, односно система који би били још интелигентнији и способнији од људи.

Конор Лихи, стручњак за вештачку интелигенцију и амерички директор организације Control AI описао је недавно суперинтелигенцију као „АИ системе који су потпуно аутономни и који су далеко интелигентнији и способнији од људи у свим релевантним задацима, укључујући и хаковање“, преноси аустралијски ABC news.

„Немамо представу како да контролишемо такве системе. Већ сада једва знамо како да контролишемо АИ системе“, рекао је, а потом додао:

„Научници који су добитници Нобелове награде, као и извршни директори многих компанија, упозоравају нас на то да би стварање супер-интелигенције – система који су далеко интелигентнији од људи, а које не можемо да контролишемо – могло да има озбиљне последице“, рекао је Лихи.

Колику је узбуну изазвао модел вештачке интелигенције који се измакао контроли говори и то да амерички законодавци желе да омогуће влади да брзо нареди искључивање алата вештачке интелигенције који би могли да представљају претњу по јавност, преноси BBC.

Конгресмени Тед Лију и Нејтанијел Моран представили су предлог закона под називом „Закон о прекидачу за принудно искључивање АИ“.

„Вештачка интелигенција ће наставити да напредује, и тако треба да буде“, рекао је Моран, а потом додао:

„Одговорно управљање подразумева да људи задрже способност да контролишу технологију коју стварамо“, преноси BBC.

ПОЗИВ НА БУЂЕЊЕ

Оно што је сигурно јесте да је недавни инцидент директан позив на буђење за читаву индустрију, што је признао и суоснивач компанија Hugging Face која је била мета хакерског напада, Томас Вулф.

Он је за BBC рекао да ће „ово постати један од најчешћих облика сајбернапада које ћемо виђати“, али да већина компанија још није свесна да су се „правила игре променила“.

„У веома кратком року забележено је 17.000 напада на мрежу Hugging Face са различитих IP адреса“, рекао је Вулф упозоравајући на то да компаније морају да унапреде своје системе заштите како би се супротставиле новим врстама напада.

Да ли је у случају вештачке интелигенције човек преценио своје способности? Да ли је потребно зауставити напредак, макар привремено, док се детаљно не упознамо и не савладамо технологију коју смо већ створили?

То су питања на која најпаметнији међу нама, они чије одлуке кроје нашу будућност, морају да дају одговоре, јер ће будућност вештачке интелигенције зависити не само од тога шта све напредни системи могу да ураде, већ и од тога колико ће људи бити способни да их контролишу.

Идеја о паузи у развоју најнапреднијих АИ система је постојала, али није заживела. Чак је један од предлагача био и сам Илон Маск, човек који је синоним за живот у будућности.

Маск и стотине светских стручњака потписали су пре три године апел којим се захтева шестомесечна пауза у истраживашу вештачке интелигенције, указујући на „велике ризике за човечанство“.

У том тренутку се тражио мораторијум у истраживањима док се не успостави систем безбедности, укључујући и специјална регулаторна тела за надзор система вештачке интелигенције и техника које ће помоћи да се разликује реално од вештачког, као и институције способне да управљају „драматичним економским и политичким поремећајима које ће вештачка интелигенција изазвати“.

ФОТО: Quality Stock Arts/Shutterstock

ГЕОПОЛИТИЧКО ПИТАЊЕ

У пракси ни до какве паузе није дошло, напротив, суочили смо се са још убрзанијим развојем. Маск је, наравно, у међувремену променио мишљење па је тако недавно у интервјуу за The Economist истакао да човечанство вероватно не би требало да притисне кончницу у развоју вештачке интелигенције, чак и када би то било могуће.

„Мој филозофски закључак је да гледам на светлу страну. Не видим начин да се заустави овај невероватан замах развоја вештачке интелигенције и робота“, рекао је Маск и додао:

„Понекад помислим да, чак и када би постојало дугме за заустављање, вероватно не би требало да га притиснемо, јер је највероватнији исход невероватно обиље за све.“

Да ли је у случају вештачке интелигенције човек преценио своје способности? Да ли је потребно зауставити напредак, макар привремено, док се детаљно не упознамо и не савладамо технологију коју смо већ створили

Маск, такође, предвиђа да би вештачка интелигенција за отприлике пет година могла да надмаши укупну људску интелигенцију, што би, осим у случају неког катастрофалног поремећаја попут глобалног термонуклеарног рата, довело до „доба невероватног обиља у којем ће свако моћи да има све што може да замисли“.

Паузу у развоју вештачке интелигенције данас је још теже спровести јер је она, у међувремену, пробила границе технолошког и прерасла у геополитичко питање.

Постала је средство којим државе могу да остварују политички утицај и стала је раме уз раме са енергентима и нуклеарном технологијом. Због тога и не чуди што су најмоћније државе света, пре свега Сједињене Америчке Државе и Кина, увелико у трци за позицију лидера у овој области, јер процена је да ће онај ко буде контролисао најнапредније АИ системе имати кључни утицај на будућу дигиталну инфраструктуру света.