Вештачка интелигенција између напретка и контроле

Технологија која нам олакшава живот истовремено отвара питања безбедности, злоупотреба и граница поверења

Мало која технологија је у последњих деценија тако дубоко променила начин на који радимо, учимо и комуницирамо као вештачка интелигенција. Од скромних почетака у облику првих рачунара, преко великих језичких модела, па до настанка генеративне AI, њен утицај је све видљивији. О њеном развоју, свакодневној примени и потенцијалним ризицима разговарали смо са Миодрагом Михаљевићем, академиком и истакнутим професором из области информационо-комуникационе технологије. Откривамо како ова технологија обликује будућност и које ризике и опасности крије.

Догађања у претходних неколико година показала су да је вештачка интелигенција (AI) ушла у наш свакодневни живот и да ће неспорно улазити све више и више. Какве су могућности?

Незаустављив је напредак AI и њених примена. Могућности тзв. „генеративне AI“ са појавом ChatGPT и других сличних система неспорно је био изузетан продор који је показао да AI може да „ради“ и оно што је до тада било у ексклузивној могућности човека. На пример, широко разумевање питања постављених природним језиком и одговора добијених у природном језику. Генеративна AI постала је могућа на основу развоја тзв. великих језичких модела (Large Language Models – LLM). Генеративна AI је демонстрирала, између осталог, да може да пише текстове у било ком језику који се не могу разликовати од онога што је написао човек или да ефикасно пише компјутерске програме.

На који начин могућности AI поједностављују и мењају наш свакодневни и пословни живот?

Ослањање на AI мења наш приступ „тражењу одговора“ и редукује потребу за одређеним напорима и пословима. Битно је уочити да, дугорочно посматрано, редукција потребе за одређеним пословима није угрожавање него усмеравање ка мењању људских пословних усмерења.

ФОТО: Видоје Манојловић

Шта је „метаверз“?

„Метаверз“ је простор у коме заједно егзистирају и наш реални, физички свет, и сајбер простор. Досадашњи развој AI је већином био у сајбер простору, али све више AI се из сајбер простора повезује са нашим физичким простором. Као примере наводим роботе, аутономна возила, управљање саобраћајем, проширену и виртуелну реалност и низ „паметних система“… Интересантно је истаћи и све ширу распрострањеност дигиталних близанаца који представљају дигиталну слику физичких објеката и процеса.

Данас постоје огромне количине података о сваком човеку. Да ли уз помоћ вештачке интелигенције могу да се симулирају својства оригинала – и у појавном, и у функционалном облику?

Ови подаци, применом техника дигиталних близанаца, могу у сајбер простору да формирају веома успешне дигиталне моделе-копије који применом AI могу да симулирају физичке оригинале.

Има ли злоупотреба наших дигиталних копија?

Да. Данас имамо низ злоупотреба ових дигиталних клонова који су били предмет различитих медијских интерпретација. У области AI има много области и праваца, па је готово немогуће обједињено говорити о свему. Стога ћу бити слободан да се, током нашег разговора, доминантно осврнем само на правце који су у домену мог личног истраживачког рада, а то су пре свега неке парадигме обучавања система AI, које истовремено обезбеђују и ефикасност и безбедност.

Истакнути сте професор у једној од водећих земаља за вештачку интелигенцију. Како су изгледали ваши почеци у овој области?

Почеци моје међународне сарадње су у прошлом веку. Паралелно са радом у Математичком институту САНУ, 1998. године добио сам истраживачку позицију на Универзитету у Токију (The University of Tokyo) и започео међународну димензију истраживања у области криптологије, научне дисциплине која даје основе за информациону безбедност и кодова за исправљање грешака у телекомуникационим каналима са шумом. То је био мој почетак дугогодишње сарадње са институцијама у Јапану која је, поред Универзитета у Токију, укључивала и Јапански национални институт за напредну индустријску науку и технологију (National Institute for Advanced Industrial Science and Technology – AIST), као и неколико специјалних пројеката са SONY истраживачким лабораторијама.

Највећа опасност није сама технологија, већ некритичка зависност од ње

ФОТО: Компас/Илустрација

У једној каснијој фази, у Јапану сте започели са истраживањима напредних техника за блокчејн технологију.

Тачно. То је зато што се у суштини блокчејн система налазе компоненте развијене у оквиру криптологије. Ова истраживања настављена су у оквиру двогодишњег пројекта у Кини од 2021. године. Са широким продором AI, појавила се потреба за новим ефикасним и поузданим приступима у обучавању модела којима се реализује жељена функционалност система AI. Ради остваривања жељене ефикасности и поузданости, уочена је потреба за обједињавањем неколико кључних технологија. Данас се, у оквиру петогодишњег пројекта финансираног из једног од фондова за науку Кине, на позицији истакнутог професора (Distinguished Professor) у Shandong Computer Science Центру, бавим напредним техникама синергије машинског учења, блокчејна и информационе безбедности за развој ефикасних и поузданих техника машинског учења.

Зашто нам је потребна синергија о којој сте говорили?

Суштинска компонента AI је обучени модел којим се остварује жељена функционалност. Машинским учењем одређују се параметри модела који се обучава за специјализовану намену. Машинско учење се заснива на алгоритмима којима се подаци, на основу којих се тренира AI, користе за одређивање параметара модела. Очигледан је кључни значај података за „конструкцију“ AI система. Основна претпоставка је да се AI систем гради на основу веродостојних података. Коришћење података који нису веродостојни води ка добијању AI система који је само делимично користан или потпуно бескористан, а у неким сценаријима и изузетно опасан.

ФОТО: Видоје Манојловић

Како се проверава веродостојност података?

У низу сценарија веродостојност се проверава применом техника информационе безбедности и блокчејн технологије. Такође, поступак тренирања модела AI система и његово укупно обучавање морају да буду контролисани да би се избегло да у процесу тренирања модел буде „злонамерно истрениран“, што може да има исте последице као и коришћење неверодостојних података. Контрола обучавања AI система је додатно добила на значају са појавом, данас једне од основних парадигми обучавања која се назива федеративним обучавањем и које је такође илустрација изузетног значаја синергије машинског учења, блокчејна и информационе безбедности.

Можете ли да нам кажете нешто више о федеративном обучавању система AI?

Ова парадигма централизује податке и ресурсе за формирање система AI. Федеративно обучавање је алтернатива заснована на дистрибуираним подацима и дистрибуираном процесу обучавања модела. У овој парадигми подаци за обучавање се не централизују него користе локално, а централни ентитет само врши интерактивно ажурирање параметара модела. Федеративно обучавање омогућава заштиту власништва и приватности података и смањује потребу за моћним централним процесорским ресурсима зато што се машинско обучавање врши дистрибуирано. Са друге стране, децентрализована парадигма потенцијално отвара могућности за низ злоупотреба процеса обучавања и, да би се ово онемогућило, примењује се синергија техника машинског учења, блокчејна и информационе безбедности.

Редукција потребе за појединим пословима не значи њихово нестајање, већ промену правца људског рада

ФОТО: Видоје Манојловић

Колико су честе злоупотребе вештачке интелигенције?

Нажалост, постоји тренд повећања обима злоупотреба система AI. Много озбиљније су могуће злоупотребе током тренирања система AI – контаминација дела података за обучавање и контаминација локално генерисаних параметара модела који су предмет агрегације. Уколико ове злоупотребе не буду уочене, два основна типа могућих последица су: систем AI неће радити онолико поуздано колико се очекује или ће у низу случајева радити поуздано колико се очекује, али ће радити веома пристрасно у одређеним циљаним сценаријима.

Често се може чути „истина је – рекла ми је вештачка интелигенција“.

Проблем је што, због својих природних ограничења и начина комуникације са нама, AI може бити „натерана“ да каже оно што ми желимо, а ми то проглашавамо „истином AI“. На пример, ако ви систему AI доставите текст са информацијама личне природе које се до тада нису појављивале на интернету и ако питањима усмеравате систем, можете добити, практично, било какав одговор, који не мора бити истинит, а неко ће га дистрибуирати као „истину добијену путем AI“. То је уједно и пример лако изводљиве злоупотребе коришћења AI за добијање произвољних, наручених судова којима се неистина сакрива иза AI.

Шта мислите о употреби вештачке интелигенције у савременом ратовању (пример Блиског истока)?
Способности AI могу бити окренуте и ка деструктивности. Али окретање ка деструктивности је „судбина“ многих достигнућа, што нам потврђује и прошлост и садашњост: подсетимо се Нобеловог открића снаге атомске енергије или данашње масовне примене научно-истраживачких резултата из области беспилотних летелица. Из разумљивих разлога не бих коментарисао могуће текуће ратне заслуге AI.

AI може бити „натерана“ да потврди било коју тезу — што отвара простор за злоупотребе и манипулације.

ФОТО: Компас/Илустрација

Вештачка интелигенција се употребљава и у медијском садржају.

Истакао бих да је AI, која је суштински дериват података, демонстрирала изузетне способности обраде података и тражења одговора сакривених у огромним количинама података. Са друге стране, различитим манипулацијама, селектованим избором и интерпретационим искривљавањем истине, AI може да постане „несвестан саучесник“ у медијској злоупотреби.

Какви су потенцијали Србије у овој области?

Србија је већ показала како, у пословном и истраживачком погледу, може да буде конкурентна на међународном тржишту IT производа, услуга и знања. Стога је неспорно да постоје и потенцијали за партиципацију Србије у развоју техника и примена AI. Сматрам да је најбољи начин за високопродуктивно ангажовање наших потенцијала укључивање тих потенцијала у различите међународне развојне и истраживачке пројекте. Битно је и успоставити адекватан стимулативни оквир за ове активности. Мој домен рада су истраживања и стога бих се ограничио на дискусију потенцијала и стимулацију за генерисање нових знања у области AI. Истакао бих следећа два механизма који су опште продуктивни, а посебно у оквиру AI: примене међународних критеријума за оцену успешности AI достигнућа и међународна сарадња.

ФОТО: Видоје Манојловић

Колико су наши експерти препознати у свету?

Илустрација стимулације изврсности је одлука Министарства за науку о финансијској стимулацији појединаца чији су резултати такви да заслужују статус изврсности према транспарентним критеријумима који у обзир узимају продукцију резултата и њихову међународну признатост кроз цитираност или који су по својим резултатима рангирани у два одсто најутицајнијих научника на тзв. Станфордској листи. Међународна сарадња не само да помаже изградњу наших експерата него помаже и нашу видљивост на међународној позорници и међународну евалуацију наших потенцијала, чиме се додатно отварају врата за даља унапређења свих облика наше партиципације у развоју и применама AI. Илустрацију значаја међународног повезивања показао је и недавни AI самит у Индији, којим су показани и стимулативни оквири међународне сарадње у домену AI.

Да ли је основан страх од AI?

Значај AI је препознат и у свету и код нас. Основно питање за нас је како наћи наше право место на развојном путу AI, односно како ефикасно фокусирати наше напоре да наши ограничени ресурси буду најбоље искоришћени. Свакако је добро да будемо отворени за све примене AI које незaустављиво мењају наш свет, зато што је, како би неко рекао, битка против тих промена унапред изгубљена. Тачно је да је данас присутан одређени страх да AI може сутра да угрози упосленост људи, али низ наших достигнућа у домену информационих технологија потврђује да имамо потенцијал да будемо успешни и у домену примена и неких развоја AI, која помаже „транзицију парадигме упослености“.

Може ли развој AI да буде катастрофалан по људску врсту?

Извесно је да AI може у будућности да угрози и људску врсту. Сигурно је нежељен и потенцијално опасан тренд некритичке зависности од AI. Уколико AI потискује наше креативне активности и слободно расуђивање, крећемо се у правцу нежељене зависности од AI. Реално посматрано, далеко смо од „катастрофалне опасности“.