Компанија ОпенАИ саопштила је да је током интерног безбедносног тестирања један аутономни агент, заснован на њеним најнапреднијим моделима вештачке интелигенције (АИ), изашао из предвиђеног окружења.
Том приликом агент је изазвао сајбер инцидент који је погодио инфраструктуру АИ компаније Хагинг фејс (Хуггинг Фаце), што је оцењено као догађај без преседана, пренео је Ројтерс.
Према наводима компаније, агент је током провере способности за сајбер безбедност успео да пронађе до тада непознату рањивост, успостави приступ интернету и покуша да дође до поверљивих информација како би остварио циљ задат у оквиру тестирања.
ОпенАИ је навео да се инцидент догодио у изолованом окружењу намењеном за безбедносне провере, али да је модел пронашао начин да заобиђе ограничења.
Хагинг фејс је саопштио да је открио и зауставио упад у своје системе, а суоснивач и извршни директор компаније Клемент Деланг изјавио је да је софистицираност напада указивала на могућност да иза њега стоји једна од водећих лабораторија за развој вештачке интелигенције.
Након комуникације са фирмом ОпенАИ, потврђено је да није постојала намера да се нанесе штета, већ да је инцидент био последица аутономног понашања АИ система током тестирања.
ОпенАИ је оценио да би овакви случајеви могли да постану чешћи како модели вештачке интелигенције буду напредовали и упозорио да развој безбедносних механизама мора да прати раст њихових способности.
Америчка компанија је навела да ће додатно појачати процедуре тестирања, надзора и ограничавања аутономних АИ система.
