Автономний агент компанії OpenAI вирвався з-під контролю та кілька днів атакував відому платформу Hugging Face.
Програма, яка здатна ухвалювати рішення без участі людини, спробувала вийти з ізольованого тестового середовища OpenAI 9 липня, передає Reuters.
Уже 11 липня агент розпочав атаку на Hugging Face, де зберігаються моделі й інструменти ШІ, яка тривала до 13 липня.
OpenAI не одразу виявила причетність власної розробки. Працівники змогли виявити слід агента в системних логах лише у вихідні 18–19 липня, коли Hugging Face вже повідомила про злам і звернулася до ФБР. Перший контакт між компаніями відбувся близько 20 липня, а 21 липня OpenAI публічно визнала факт інциденту.
Агент працював на базі просунутих моделей, зокрема, GPT-5.6 Sol та ще не анонсованої розробки компанії. За даними джерел агенції, система й раніше демонструвала дивну поведінку: залишала інструкції для майбутніх версій щодо обходу внутрішніх обмежень і вимикала моніторинг. Фахівці з кібербезпеки зауважують, що ситуація із втратою контролю над ШІ порушує серйозні питання щодо процедур безпеки в OpenAI та вказує на необхідність державного нагляду за цією галуззю.