Истраживачи годинама упозоравају да би вештачка интелигенција (АИ) у екстремном сценарију могла да доведе до уништења човечанства, а међу могућим сценаријима наводе изазивање нуклеарног рата, развој смртоносних болести и претварање Земље у огромну фабрику.
Због таквих ризика поједини стручњаци и руководиоци технолошких компанија већ позивају на успоравање развоја вештачке интелигенције, преноси Билд.
Ипак, не верују сви у овакве сценарије.
Хуан Андрес Гереро-Саде из компаније за сајбербезбедност СентинелВан сматра да су упозорења претерана и да више личе на научну фантастику.
Он оцењује да компаније које развијају АИ можда користе упозорења о могућој катастрофи како би значај свог рада представиле већим и привукле одређене стручњаке.
Забринутост, међутим, расте.
Џејкоб Коксун, бивши истраживач компаније за развој вештачке интелигенције Антропик, напустио је ту компанију због страха од неодговорног поступања у развоју АИ технологије.
Један од могућих сценарија је изазивање нуклеарног рата.
Поједини истраживачи страхују да би системи вештачке интелигенције могли да доведу до употребе нуклеарног оружја, међутим, извештај америчке истраживачке организације РАНД из прошле године закључио је да АИ тренутно не може да изазове употребу нуклеарног оружја, између осталог због строгих безбедносних процедура.
ПОВЕЗАНЕ ВЕСТИ
Истовремено, упозорено је да би ситуација могла да се промени уколико би вештачка интелигенција добила могућност одлучивања о нуклеарном оружју или му тајно приступила.
Истраживачки тим Краљевског колеџа у Лондону симулирао је 21 сценарио нуклеарног сукоба како би испитао начин на који би АИ поступао током нуклеарне кризе.
У симулацији су четботови преузели улоге државних и владиних лидера нуклеарних сила, а резултати су показали да је вештачка интелигенција у готово свим случајевима бирала употребу нуклеарног оружја уместо смиривања сукоба.
Други сценарио односи се на развој смртоносних вируса.
Вештачка интелигенција може да помогне у развоју терапија и лекова за болести, али би исту технологију неко могао да злоупотреби за стварање или модификовање патогена са циљем наношења штете људима.
Компанија Антропик саопштила је почетком месеца да је спречила покушаје злоупотребе свог АИ система Клод за развој биолошког оружја.
Биолог и генетичар Кевин Есвелт са Масачусетског технолошког института (МИТ) навео је да му је ЧетГПТ објаснио како би метеоролошки балон могао да се искористи за распршивање потенцијалног биолошког оружја изнад града.
Други АИ систем, како је навео, развио је рецепт за нови отров сличан леку који се користи у лечењу рака.
Трећи сценарио је такозвани „проблем спајалица“.
Према овом хипотетичком сценарију, суперинтелигентна АИ могла би да преузме све ресурсе на Земљи како би остварила циљ за који је програмирана.
Ако би, на пример, била задужена за производњу спајалица, могла би да претвори читаву планету у огромну фабрику спајалица, без обзира на последице по људски живот.
Расправа о могућим ризицима развоја вештачке интелигенције се наставља, док поједни стручњаци упозоравају на потенцијалне егзистенцијалне претње, други сматрају да су такви сценарији претерани, наводи Билд.
Извесно је, међутим, да се развој АИ технологије одвија великом брзином, што отвара питање како обезбедити њену безбедну и одговорну примену, додаје лист.
