Anthropic се суочава са озбиљним безбедносним питањем након што је мали број неовлашћених корисника успео да приступи њеном новом моделу вештачке интелигенције Mythos. Реч је о систему који је још у фази ограниченог тестирања и намењен само затвореној групи партнера.
Ипак, приступ је очигледно пробијен брже него што се очекивало, пише Курир.
Модел Mythos већ је раније интерно означен као изузетно моћан, али и потенцијално ризичан ако се користи без надзора. Према наводима компаније, може да идентификује и искористи слабости у оперативним системима и популарним претраживачима. Управо због тога је од старта држан под строго контролисаним условима.
Моћни систем у неовлашћеним рукама
Према информацијама из више извора, група корисника са приватног Discord форума добила је приступ моделу готово истог дана када је почело његово тестирање. Међу њима се наводи и особа која је искористила приступ кроз спољног сарадника компаније, док су други користили стандардне алате за истраживање безбедности система.
Оно што додатно изненађује јесте да, према доступним информацијама, није постојала јасна намера злоупотребе. Корисници су наводно тестирали могућности модела кроз једноставне задатке и избегавали ризичне упите. Ипак, сама чињеница да су уопште ушли у систем показала је колико су границе приступа крхке.
ПОВЕЗАНЕ ВЕСТИ
Mythos није обичан AI алат. Он је дизајниран да, када му се то затражи, анализира и користи рањивости у дигиталним системима, што га сврстава међу најосетљивије моделе нове генерације. Управо та способност чини га истовремено моћним и потенцијално опасним.
Због тога је његов развој од почетка био ограничен на затворено тестирање. Идеја је била да се избегне било каква јавна експлоатација пре него што систем буде потпуно спреман. Овај инцидент показује да чак и најстроже контроле у пракси могу имати пукотине.
Интерна истрага и питање контроле
Након што је инцидент откривен, Anthropic је покренуо интерну истрагу како би утврдио како је дошло до цурења приступа. Фокус је на спољним сарадницима и сигурносним каналима који су омогућили улазак у систем. Компанија тврди да се ситуација сада детаљно анализира.
У међувремену су уведене додатне заштитне мере како би се спречило даље ширење приступа моделу. Ипак, овај случај је отворио шире питање – колико су заправо безбедни напредни АИ системи у раној фази развоја. Стручњаци упозоравају да ће овакви инциденти вероватно постајати све чешћи како модели постају све моћнији.
ФОТО: gguy/ShutterstockКако је Mythos пробијен пре јавног тестирања
Инцидент са моделом Mythos отворио је озбиљно питање контроле у развоју напредних система вештачке интелигенције. Иако је био намењен само ограниченом броју тестних корисника, приступ му је ипак доспео у спољне руке. То је изазвало забринутост јер се ради о технологији која може да анализира и потенцијално искористи слабости у дигиталним системима.
Оно што овај случај чини посебно осетљивим јесте чињеница да се догодио у раној фази тестирања, када су безбедносни механизми још увек у активном развоју. Такви тренуци су најкритичнији јер се системи још увек прилагођавају реалним условима. Управо ту се показује колико је тешко потпуно изоловати напредне моделе од спољног приступа.
