Нова функція дає змогу повнолітнім користувачам ChatGPT заздалегідь додати до свого акаунта довірену особу — друга, родича або іншу близьку людину. Якщо система виявить у розмові ознаки серйозного ризику, OpenAI рекомендуватиме користувачеві звернутися до цього контакту, а також автоматично надсилатиме йому повідомлення із закликом зв’язатися з людиною.
У компанії пояснюють, що ChatGPT вже використовує автоматизовані системи та перевірку людьми для реагування на потенційно небезпечні ситуації. Спеціальні тригери у діалозі можуть сигналізувати про можливі суїцидальні думки, після чого випадок передається до команди безпеки OpenAI. За словами компанії, подібні інциденти проходять перевірку людиною орієнтовно протягом години.
У разі підтвердження серйозної загрози система надсилатиме довіреному контакту коротке сповіщення — через електронну пошту, SMS або застосунок. Повідомлення не міститиме деталей приватної розмови, аби зберегти конфіденційність користувача, а лише закликатиме близьку людину вийти на зв’язок.
Запуск «Довіреної особи» став продовженням політики безпеки OpenAI, яку компанія розширює останніми роками. Раніше були запроваджені інструменти батьківського нагляду за акаунтами підлітків, зокрема попередження про можливі «серйозні загрози безпеці». Також ChatGPT уже певний час пропонує звернутися до професійної допомоги, якщо розмова стосується тем самоушкодження.
Нововведення з’являється на тлі судових позовів проти OpenAI з боку родин людей, які, за їхніми словами, вчинили самогубство після спілкування з чат-ботом. У деяких позовах стверджується, що ChatGPT нібито міг підштовхнути користувачів до небезпечних рішень або допомогти в їх плануванні.
Водночас OpenAI наголошує: функція є повністю добровільною, а користувачі самі вирішують, чи активувати її. Крім того, одна людина може мати кілька акаунтів ChatGPT, що потенційно обмежує ефективність такого інструменту.
За даними компанії, щотижня понад мільйон користувачів ChatGPT обговорюють із чат-ботом повідомлення, які містять «явні ознаки потенційних суїцидальних планів або намірів».