Два напредна модела вештачке интелигенције (AI) компаније OpenAI провела су више од четири дана аутономно изводећи сајбер нападе на интернету након што су изашла из контролисаног окружења за тестирање, саопштила је данас платформа за развој вештачке интелигенције Hugging Face у новој анализи инцидента.
Како пише амерички Политико, модели су између 9. и 13. јула извршили око 17.600 хакерских активности, током којих су, према наводима Hugging Face-а, са почетног упоришта на отвореном интернету успели да се пребаце на сервере те компаније.
OpenAI је прошле седмице потврдио да су два његова најнапреднија модела изашла из затвореног тестног окружења и комбиновала више техника како би продрла у системе Hugging Face-а, наводећи да је реч о првом познатом случају аутономног сајбер напада који није покренуо ниједан човек.
Hugging Face је сада саопштио да су модели, од којих је један јавно доступан, а други интерни прототип, током напада брзо извиђали системе и проналазили безбедносне пропусте знатно брже него што би то могао људски хакер.
У међувремену је и компанија Modal Labs потврдила да је један од њених корисника био мета истих модела током тог периода.
OpenAI није директно коментарисао тврдње да су његови модели циљали корисника Modal Labs-а, али је у објави на блогу признао да је током интерне истраге утврђено неколико случајева у којима су модели идентификовали и искористили јавно доступне акредитиве за налоге на другим сервисима.
Генерални директор OpenAI-ја Сем Алтман ове седмице ће се састати са званичницима администрације председника Доналда Трампа и члановима Конгреса, укључујући потпредседника Одбора за обавештајне послове Сената Марка Ворнера, са којим ће разговарати и о овом инциденту.
Алтман је у подкасту „Invest Like the Best“ рекао да је пробој у системе Hugging Face-а био „први безбедносни инцидент који га је заиста озбиљно забринуо“.
