Французька прокуратура розпочала розслідування щодо масового створення та поширення сексуалізованих діпфейків за допомогою штучного інтелекту Grok, інтегрованого у соцмережу X, пише Politico.
Йдеться про сотні випадків, коли фотографії жінок і неповнолітніх без їхньої згоди «роздягали» за допомогою ШІ та публікували в мережі.
Звернення до прокуратури 2 січня подали французькі депутати Артур Делапорт і Ерік Боторель. За даними слідства, Grok використовували для генерації несанкціонованих сексуалізованих зображень, що, за французьким законодавством, може каратися до двох років ув’язнення та штрафом до 60 тисяч євро.
«Такі зображення грубо порушують гідність людей, яких вони зображають», — зазначив Делапорт у зверненні до прокурора.
У справу також залучили кількох членів уряду Франції. Міністри економіки, цифрових технологій та рівності повідомили про «очевидно незаконний контент» правоохоронним органам і на платформу державного онлайн-моніторингу Pharos з вимогою його негайного видалення.
Розслідування стане частиною ширшої справи проти платформи X, яку французький підрозділ з боротьби з кіберзлочинністю веде з минулого року. У листопаді її розширили через поширення антисемітських висловлювань і заперечення Голокосту, згенерованих Grok.
У самій компанії xAI визнали наявність проблем:
«Є поодинокі випадки, коли користувачі отримували зображення з неприпустимим контентом. Захисні механізми існують, але ми продовжуємо їх удосконалювати», — йдеться у заяві Grok.