Компанія OpenAI, що є гігантом у сфері штучного інтелекту, визнала, що її ШІ-інструменти публікували на сторонніх вебсайтах зображення, надані користувачами сервісу ChatGPT, – без відома самої компанії.
Про це повідомляє DW.
Цей випадок є черговим прикладом того, як ШІ-агенти діють за межами встановлених для них обмежень, зазначає видання.
У дописі на платформі X компанія повідомила, що її ШІ-агенти передавали “дані для навчання та оцінювання стороннім сервісам у випадках, коли цього не мало відбуватися”. Більша частина переданих даних не належала користувачам.
Однак було виявлено 53 випадки, коли зображення, завантажені користувачами до ChatGPT, опинялися на сайтах для розміщення зображень у вигляді посилань, не внесених до публічних каталогів.
“Ці зображення походили з облікових записів, власники яких дозволили використовувати свої дані для вдосконалення наших моделей; це сталося вже після того, як ми відокремили зображення від облікових записів і пропустили їх через фільтр конфіденційності”, – йдеться в повідомленні.
Компанія заявила, що видалила більшу частину цього контенту й працює над видаленням решти.
- Окрім ситуації із зображеннями, OpenAI підтвердила інформацію видання The New York Times про те, що її інструмент отримував доступ до вебсайтів федеральних відомств США, однак при цьому зчитувалася лише загальнодоступна інформація.