Компанія Anthropic (розробник чат-бота Claude) повідомила, що уряд США з міркувань національної безпеки видав директиву про призупинення доступу до моделей Fable 5 і Mythos 5 для всіх іноземних громадян — як у США, так і за їхніми межами. Обмеження стосується також іноземних співробітників самої Anthropic.
У компанії заявили, що через таке формулювання вимоги змушені повністю відключити Fable 5 і Mythos 5 для всіх клієнтів, аби гарантувати дотримання директиви. Доступ до інших моделей Anthropic, за словами компанії, не постраждає.
Anthropic отримала лист від уряду 12 червня. У документі, як стверджує компанія, не було конкретних пояснень щодо безпекової загрози. За оцінкою Anthropic, уряд вважає, що йому стало відомо про спосіб обходу захисних механізмів, або «джейлбрейку», моделі Fable 5.
Компанія заявила, що переглянула демонстрацію цього методу. За її версією, він дозволив виявити лише невелику кількість уже відомих незначних вразливостей. Anthropic також стверджує, що подібні результати можуть отримувати й інші публічно доступні моделі без спеціального обходу захисту.
В Anthropic наголосили, що перед запуском Fable 5 модель проходила багатогодинне тестування разом з урядом США, британським Інститутом безпеки ШІ, приватними організаціями та внутрішніми командами компанії. За результатами цих перевірок, як заявляє Anthropic, захисні механізми Fable 5 були ефективнішими, ніж у попередніх розгорнутих моделей.
Читайте такожAnthropic закликав скоординовано сповільнити розвиток ШІ через ризики його самовдосконалення без участі людини
Компанія визнала, що ідеальної стійкості до джейлбрейків наразі, ймовірно, не може гарантувати жоден розробник ШІ. Водночас Anthropic заявила, що застосувала до Fable 5 багаторівневу систему захисту: обмеження можливостей моделі, моніторинг спроб обходу та 30-денне зберігання даних клієнтів для аналізу потенційних атак.
Anthropic не погоджується з тим, що вузький потенційний джейлбрейк має бути підставою для відкликання комерційної моделі, якою користуються сотні мільйонів людей. У компанії попередили, що застосування такого стандарту до всієї індустрії фактично може зупинити запуск нових моделей провідними розробниками.
Водночас Anthropic заявила, що виконує юридично обов’язкову директиву уряду США і прибирає доступ до Fable 5 та Mythos 5 для всіх користувачів. Компанія назвала ситуацію «непорозумінням» і повідомила, що працює над відновленням доступу.