Америчка компанија OpenAI саопштила је да је обуставила обуку својих најновијих модела вештачке интелигенције (AI), због све већег броја извештаја о томе како агенти вештачке интелигенције почињу да се одмећу.
Одлука о обустављању развоја донета је само неколико сати након што је компанија у петак открила да преиспитује неколико инцидената у којима су агенти OpenAI-а, који су претраживали веб-странице савезне владе, деловали на неочекиване начине, изван онога што је од њих тражено, док су прикупљали и дистрибуирали информације, преноси Гардијан.
У исто време, компанија за развој вештачке интелигенције Transluce саопштила је да су агенти који су изгледа дошли из компаније OpenAI безуспешно покушали да хакују веб-страницу Министарства просвете Сједињених Америчких Држава, што представља детаљ који OpenAI није потврдио.
ПОВЕЗАНЕ ВЕСТИ
OpenAI је у саопштењу навео да ће наставити обуку – само када буду сигурни да имају додатне мере заштите – додајући да очекују да ће морати поново да прогласе паузу, како се вештачка интелигенција буде развијала и како се буду појављивала друга питања.
Аустралијски премијер Ентони Албанезе саопштио је прошле недеље да је агент вештачке интелигенције компаније OpenAI пробио национални здравствени систем владе, али да нису биле угрожене осетљиве информације.
Ово је други пут за три месеца да је OpenAI зауставио развој својих модела, а први се догодио у јулу након што је откривен сајбер-напад на стартап за вештачку интелигенцију Hugging Face.
Компаније за вештачку интелигенцију суочавају се са притиском законодаваца и технолошких стручњака да успоре развој како би могле да изграде заштитне механизме који би спречили агенте да делују самостално, хакују веб-странице и откривају нејавне информације.
