Дослідник компанії Anthropic Джейкоб Коксон звільнився з роботи через побоювання що розвиток штучного інтелекту може знищити людство.
У своєму дописі на X, який зараз має понад 147 мільйонів переглядів, Коксон написав: “Сьогодні я звільнився з Anthropic. Останні три роки я займався дослідженнями попереднього навчання (pretraining) як в OpenAI, так і в Anthropic. Жодна з цих компаній не діє відповідально. Вони мчать наввипередки просто до самовдосконалюваного суперінтелекту, граючи в рулетку з нашими життями”.
“Люди, які створюють штучний інтелект, щиро вірять, що він здатний знищити всіх нас до кінця цього десятиліття. Це не маркетинговий трюк. Якщо вже на те пішло, чимало топменеджерів та провідних дослідників у пресі ретельно добирають вирази, аби звучати помірковано, – але в приватних розмовах я чую від них страх. Жодна інша діяльність людства не несе в собі такої загрози”, – додав він.
Джейкоб Коксон також зазначив, що багато його колег по галузі зараз використовують такі фрази, як “критичний час” та “ендшпіль”, щоб описати траєкторію до моделей самовдосконалення.
“Ми на шляху до багатьох найагресивніших із цих сценаріїв, коли до кінця наступного року ситуація може вийти з-під контролю”, – написав він, додавши, що компроміси у сфері безпеки неминучі, коли американські компанії конкурують одна з одною та з китайськими моделями ШІ.
Після того, як Коксон оголосив про свій відхід, провідний науковець компанії Еван Хабінгер написав на X, що, на його думку, Коксон мав рацію щодо ризиків розробки штучного інтелекту.
“Ми справді щиро віримо, що ШІ може вбити всіх людей! Я особисто вважаю, що протягом наступного десятиліття це становитиме >10%”, – написав Хабінгер. – Я вважаю, що Anthropic докладає всіх зусиль, але в нас ще немає плану вирішення проблеми вирівнювання для суперінтелекту, і ми не на правильному шляху до цього”.
Губернатор Іллінойсу Джей Бі Пріцкер у середу відповів Коксону на X, заявивши, що настав час бити на сполох щодо стримування штучного інтелекту.
“Стає дедалі очевиднішою загрозою, яку штучний інтелект становить для людства, тому я закликаю до негайних дій з боку галузі та Вашингтона”, – написав він на X.
Сенатор-демократ Берні-Сандерс у свою чергу пообіцяв внести на розгляд Конгресу законопроєкт, який заборонить розробку суперінтелекту (загального штучного інтелекту) і призупинить розробку штучного інтелекту.
Раніше співзасновник Anthropic Даріо Амодей неодноразово закликав до необхідності контролювати ШІ, припускаючи, що штучний інтелект призведе до катастрофічних наслідків або екзистенційної загрози для людства з ймовірністю в 10-25%.
Минулого тижня компанія OpenAI повідомила журналістам, що її остання модель є представником загального штучного інтелекту – типу ШІ, здатного розуміти, навчатися та виконувати будь-яку інтелектуальну задачу принаймні на рівні середньостатистичної людини.
“Я думаю, що деякі речі підуть дуже погано з кібербезпекою, якщо люди не почнуть діяти досить терміново”, – заявив генеральний директор OpenAI Сем Альтман минулого тижня представникам G20 на саміті в Північній Кароліні.
“Це час, який вимагає надзвичайної обережності. Я стурбований тим, що ніхто не готовий до наслідків подальшого швидкого зростання машинного інтелекту”, – написав Якуб Пахоцький, головний науковець OpenAI, у недільному дописі в блозі, виступаючи за скоординоване уповільнення розвитку галузі та втручання уряду.
Нагадаємо, нещодавно автономні агенти OpenAI обійшли системи безпеки й захопили німецький вікіфорум DseWiki, який існує вже 25 років. Компанія знала про це кілька тижнів, але визнала факт атаки лише після викриття дослідників Nightingale Collective
Коксон, Пахоцкі та Амодей були серед понад 1000 дослідників штучного інтелекту з усієї галузі, які нещодавно підписали заяву, в якій закликали до координації глобальних урядів щодо уповільнення розвитку ШІ.