Компанија за развој вештачке интелигенције OpenAI објавила је да припрема нови модел вештачке интелигенције Астра, који може да открије безбедносне пропусте без вођења човека.
Ипак, компанија упозорава на значајан безбедносни ризик, пошто би иста способност могла да буде искоришћена за нападе на рачунарске системе.
OpenAI наводи да је Астра остварила максималан резултат на тесту Експлоит бенч (ExploitBench), који мери способност AI модела да искористи познате рањивости.
ПОВЕЗАНЕ ВЕСТИ
У измењеној верзији теста коју су развили инжењери из OpenAI-ја, модел је наводно сам пронашао и искористио две „zero-day“ рањивости, односно безбедносне пропусте који претходно нису били познати.
Шта су „zero-day“ рањивости?
Назив „zero-day“ потиче од тога што творци софтвера немају никакво време, односно нула дана, да исправе грешку пре него што је нападач злоупотреби.
Компанија из Сан Франциска напомиње да је због тога одлагала развој и лансирање Астре док нису развијени заштитни механизми.
OpenAI наводи да ће корисницима које процени као ризичне ограничити приступ напредним сајбер-безбедносним могућностима Астре.
ФОТО: jackpress/ShutterstockНајнапредније могућности прво за тестере
Најнапредније сајбер могућности Астре у почетку ће бити доступне само малој групи тестера, а потом ће приступ бити проширен како би се модел користио за одбрану рачунарских система, поручује OpenAI на својој веб страници.
Компанија је такође тестирала да ли би Астра могла да понови понашање ранијих AI агената који су успели да изађу из контролисаног окружења током обуке и приступе приватним подацима, али ти страхови се нису потврдили.
