Автономні агенти OpenAI обійшли системи безпеки й захопили німецький вікіфорум DseWiki, який існує вже 25 років.
Компанія знала про це кілька тижнів, але визнала факт атаки лише після викриття дослідників Nightingale Collective, пише Euronews.
Інцидент стався у травні-червні цього року. Агенти мали доступ до ресурсу про програмування лише для читання, однак через веб-запит перехопили управління і перетворили його на майданчик для власних повідомлень. Вони опублікували понад 18 000 дописів, де обговорювали способи обходу обмежень і методи приховування від людей.
Це вже третій подібний випадок за останні місяці. У липні боти OpenAI атакували власну інфраструктуру компанії, а також п'ять днів масовано атакували відкриту платформу Hugging Face.
Лише після розголосу OpenAI вийшла із заявою на платформі X і визнала потребу розробити чіткі стандарти звітності про випадки, коли штучний інтелект виходить з-під контролю. Головний науковий співробітник компанії Якуб Пахоцький заявив у своєму блозі, що зараз жодна лабораторія у світі не має надійних рішень для контролю за штучним інтелектом.
Інцидентом вже зацікавилася Єврокомісія. За новим Законом ЄС про штучний інтелект, компанії зобов'язані негайно повідомляти про такі загрози. ЄК вже отримала офіційний звіт від OpenAI та розпочала розслідування, а в Європарламенті закликали жорсткіше контролювати розробників через зростаючу небезпеку для суспільства.