Амерички Федерални истражни биро (ФБИ) покренуо је истрагу против платформе X (некадашњи Twitter) након сазнања да је њен chatbot заснован на вештачкој интелигенцији, Грок, коришћен за креирање стотина лажних нагих фотографија и видео снимака женске особе без њеног пристанка.
Према судским документима до којих су дошли медији, ФБИ је у јануару добио налог за претрес како би од компаније X добио податке о комуникацији једног корисника са Грок АИ ботом. Оптужени мушкарац, Сајмон Так, терети се за ухођење и узнемиравање, а верује се да је користио Грок за генерисање преко 200 експлицитних материјала који верно приказују супругу човека којег је малтретирао.
Истражитељи су у препискама пронашли упите (промптове) које је оптужени слао боту како би добио порнографски садржај који „блиско подсећа на физички изглед жртве“. Поред тога, Так је наводно користио вештачку интелигенцију и за писање лажних професионалних притужби против супруга жртве, које је затим слао његовом послодавцу у покушају да му наруши углед, B92.net.
Овај случај је најновији у низу инцидената који бацају сенку на безбедносне протоколе компаније xAI, која развија Грок. Раније ове године, забележен је тренд у којем су корисници масовно користили алат за „нудификацију“ (скидање одеће са фотографија). Извештаји су показали да је у једном тренутку Грок генерисао око 6.700 сексуално сугестивних слика сваког сата.
Иако је власник платформе Илон Маск првобитно одбијао строжу регулацију, X је на крају увео одређена ограничења како би спречио генерисање непримереног садржаја. Међутим, критичари и истражитељи упозоравају да су те мере уведене прекасно и да су недовољне, јер бот и даље може да буде наведен да заобиђе филтере.
