Офіс генерального прокурора Каліфорнії розпочав розслідування щодо стартапу штучного інтелекту xAI Ілона Маска через можливе використання чатбота Grok для створення тисяч сексуалізованих зображень жінок і дітей без їхньої згоди, пише Bloomberg.
Генеральний прокурор Каліфорнії Роб Бонта заявив, що протягом останніх двох тижнів Grok використовували для генерації таких зображень на соціальній платформі X.
«Роль Grok у створенні сексуалізованих зображень жінок і дівчат без їхньої згоди шокує», — заявив Бонта.
Він закликав компанію xAI негайно вжити заходів, аби зупинити подальші порушення.
«Ми маємо нульову толерантність до використання штучного інтелекту для створення й поширення інтимних зображень без згоди або матеріалів сексуального насильства над дітьми», — наголосив генпрокурор.
Ілон Маск, коментуючи ситуацію, захистив Grok і заявив, що проблема полягає у зловживанні інструментом користувачами, а не в самій технології.
«Очевидно, що Grok не створює зображення спонтанно — він робить це лише у відповідь на запити користувачів», — написав Маск у X. За його словами, чатбот відмовляється генерувати незаконний контент.
Губернатор Каліфорнії Ґевін Ньюсом повідомив, що звернувся до генерального прокурора з вимогою «негайно розслідувати діяльність компанії та притягнути xAI до відповідальності».
- Подібні перевірки щодо xAI та чатбота Grok вже розпочали кілька європейських країн, зокрема, Франція та Велика Британія.
- Також Євросоюз перевіряє, чи порушують ці зображення вимоги Акта про цифрові послуги.
- Тим часом Маск знайшов досить несподіваний вихід із ситуації: замість того, щоб змусити Grok краще розуміти, хто на фото, і відмовляти виконувати протиправні запити, "роздягання" зробили частиною платної підписки. Тепер лише ті, хто купують собі преміум-акаунти, можуть просто у соцмережі редагувати та генерувати зображення.
- При цьому компанія ніяк не обмежила небезпечні практики в окремому застосунку Grok, а також чаті, за допомогою якого можна спілкуватися з ШІ.