Компанія Google повідомила, що її ШІ-модель Gemini самостійно зламала системи трьох компаній під час тестування своїх можливостей у сфері кібербезпеки.
Про це повідомляє BBC.
Вважається, що це перший відомий випадок виконання моделлю таких дій.
Як розповів виданню представник Google, Gemini знаходила “загальнодоступну інформацію в інтернеті та підбирала облікові дані для доступу до вебсайтів, які вважала частиною тесту”, причому в кожному такому випадку “робота моделі зупинялася”.
Компанії, чиї системи зазнали втручання, були поінформовані про цей інцидент.
Ця подія відбулася на тлі посиленої уваги громадськості до темпів розвитку штучного інтелекту: деякі технологічні компанії закликають уповільнити цей процес, побоюючись потенційної загрози для людства, хоча не всі з ними погоджуються.
Злами, про які вперше повідомило видання The Wall Street Journal, сталися в травні під час тестування, проведеного незалежною компанією, яка здійснює оцінювання кібербезпеки.
Нещодавно повідомлялося про схожі випадки порушень безпеки й в інших системах штучного інтелекту.
У липні модель Claude від компанії Anthropic вийшла за межі тестування й самостійно здійснила хакерські атаки на три організації. Це сталося лише за кілька днів після того, як OpenAI заявила, що її моделі провели кібератаки на низку “загальнодоступних сервісів”.
- Зараз на тлі поновленої уваги до темпів розвитку штучного інтелекту частина технокомпаній закликає призупинити розробку через загрози для людства, хоча таку позицію поділяють не всі.