Алтман: Можда је време да успоримо развој АИ док се свет не припреми

Извршни директор компаније OpenAI, Сем Алтман, каже да је можда дошло време да се успори развој вештачке интелигенције како би свет био спреман за њу.

– Можда ћемо морати да прилагодимо и успоримо темпо развоја вештачке интелигенције како бисмо дали себи довољно времена да се друштво прилагоди и очврсне спрам неких од ових нових нивоа могућности – рекао је током подкаста Invest Like the Best, настојећи уједно да „докучи како то да урадимо на начин који нико неће доживети као злоупотребу регулатива у корист великих играча, нити као дослух између водећих лабораторија“.

И OpenAI и Антропик подржали су петицију коју су покренули запослени у водећим лабораторијама, позивајући владу САД да „подржи међународне напоре за развој техничких и управљачких алата потребних за промишљено успоравање и диктирање темпа на самом врху развоја аутоматизоване АИ технологије.“

Алтман је раније избегавао да се придружи кампањама за успоравање напретка вештачке интелигенције – отворено писмо из 2023. године, које је предлагало сличну паузу, описао је као текст коме „недостаје већина техничких нијанси о томе где нам је пауза заправо потребна“.

Очигледно је да је омекшао свој став по том питању, делом и због инцидента у ком је један од напредних модела компаније OpenAI успео да побегне из безбедног рачунарског окружења и упадне на Hugging Face, познату базу АИ модела, користећи неколико zero-day рањивости.

У подкасту, саоснивач OpenAI-ја назвао је то изузетно научнофантастичним сајбер инцидентом… „Ово је први безбедносни инцидент који сам осетио веома висцерално – дубоко изнутра“.

Истраживачи компаније OpenAI привремено су обуставили тренинг тог модела док не смисле како да осигурају своје тестно окружење. Међутим, Алтман је истакао да би, како модели постају све моћнији, потреба за „диктирањем темпа“ њиховог развоја могла постати кључна за безбедно пуштање у рад.

OpenAI се раније противио покушајима успостављања државних прописа за AI моделе, фаворизујући уместо тога приступ који предводи сама индустрија – где би AI лабораторије основале привидно независне организације које би процењивале безбедност модела и сигурносне приступе њихових твораца.

Највећи изазов, како за овај вид регулације тако и за било какве покушаје успоравања развоја AI-ја, биће како да се сви кључни актери у индустрији ставе на исту страну – било да је реч о ривалским водећим лабораторијама у САД или конкурентима у Кини.