Компанія OpenAI підтвердила, що її штучний інтелект здійснив кібератаку на онлайн-сервіс за кілька місяців до хакерської атаки на стартап “Hugging Face” у липні.
Про це пише Politico.
Це викриття може посилити вимоги щодо запровадження правил безпеки в усій галузі.
Згідно з оприлюдненою інформацією, моделі OpenAI, що перебували на стадії тестування, отримали доступ до сервісу для програмістів RubyGems із метою створення звітів і заповнення електронних таблиць.
Повідомляється, що адміністратори сайту призупинили реєстрацію нових облікових записів, доки усували наслідки інциденту. OpenAI не надавала програмам повного доступу до мережі, але ШІ-агенти обійшли захисні механізми, покликані блокувати їм вихід у відкритий інтернет.
Видання The Wall Street Journal першим повідомило про причетність OpenAI до інциденту з платформою RubyGems.
“Згідно з результатами нашої перевірки, наші агенти використовували платформу RubyGems для доступу до інтернету з метою виконання безпечних завдань і отримання загальнодоступної інформації. Ми продовжимо розслідування в межах ширшого аналізу діяльності агентів під час етапів навчання та оцінювання”, – йдеться в заяві представника OpenAI.
Законодавці розпочали розслідування інциденту з компанією “Hugging Face”. У липні агенти OpenAI, що перебували на етапі тестування, отримали доступ до відкритого інтернету й самостійно зламали базу даних компанії.
Ця атака спонукала до закликів застосовувати безпечніші підходи під час навчання дедалі потужніших автономних систем. Сенатор Берні Сандерс (незалежний від штату Вермонт) і член Палати представників Грег Касар (демократ від штату Техас) навіть виступили за заборону так званого “суперінтелекту”.
Цього тижня президент Дональд Трамп і ще кілька республіканців применшили побоювання щодо катастрофічних ризиків, заявивши, що країна повинна випередити Китай у перегонах за розробку штучного інтелекту.
Цього тижня колишній дослідник Anthropic та OpenAI Джейкоб Коксон заявив, що галузь бере участь у перегонах за створення технології, здатної вийти з-під контролю та знищити суспільство. Це викликало вимоги посилити безпеку штучного інтелекту у всіх регіонах США.
- Раніше стало відомо, що автономні агенти OpenAI обійшли системи безпеки й захопили німецький вікіфорум DseWiki, який існує вже 25 років. Компанія знала про це кілька тижнів, але визнала факт атаки лише після викриття дослідників Nightingale Collective,