Розробник моделей штучного інтелекту OpenAI визнав, що попередив "десятки" урядів країн про можливе втручання агентів ШІ в їхні цифрові системи.
Як пише BBC, компанія визнала "екстремальні заходи", на які самовільно йшли нейромережі, намагаючись отримати інформацію з сайтів, які належать урядам, університетам, громадським організаціям та іншим публічним установам. За деяких сценаріїв йшлося навіть про злам систем захисту, хоча не завжди він призводив до витоку даних.
OpenAI зафіксувала не менше 53 випадків, коли ChatGPT міг здійснювати трансфер скріншоту з останньою активністю користувача у певному напрямку без прямого запиту. При цьому в усіх цих інцидентах спільним було те, що люди надавали дозвіл на використання їхніх даних для навчання ШІ - але така його поведінка усе одно не відповідає нормі.
Компанія Сема Альтмана була змушена визнати проблеми з агентами ШІ після того, як прем'єр-міністр Австралії Ентоні Альбаніз публічно заявив про те, що урядовий сайт країни зазнав втручання з боку штучного інтелекту.