Anthropic: Застереження про безпеку обернулися проти компанії — уряд зупинив доступ до найпотужнішого ШІ

Ключові деталі:

• Уряд США вимагає від Anthropic негайно зупинити доступ до потужних моделей ШІ Claude Fable 5 та Claude Mythos 5 через занепокоєння щодо національної безпеки.
• Anthropic заявив, що виконав вимогу, але висловив незгоду з рішенням, вважаючи його надмірним.
• Основна причина — нібито виявлений “обмежений, не універсальний джейлбрейк” у Fable 5, що дозволяє моделі ідентифікувати програмні вразливості.

У п’ятницю уряд Сполучених Штатів видав директиву, що зобов’язує компанію Anthropic негайно припинити доступ до двох її найпотужніших моделей штучного інтелекту — Claude Fable 5 та Claude Mythos 5, посилаючись на міркування національної безпеки. Представники Anthropic підтвердили виконання цієї вимоги, але чітко висловили свою незгоду з рішенням, вважаючи його необґрунтованим.

Директива, отримана компанією у п’ятницю о 17:21 за східним часом, вимагає від Anthropic вимкнути обидві моделі для всіх користувачів у всьому світі, а не лише для іноземних громадян, на яких, як зазначалося, поширюється дія наказу про експортний контроль. Доступ до інших моделей Anthropic залишається незмінним.

Mythos, флагманська модель Anthropic, була представлена на початку квітня і перебувала під суворим контролем через свої виняткові можливості виявлення вразливостей у програмному забезпеченні. За даними компанії, Mythos успішно ідентифікувала слабкі місця у всіх протестованих операційних системах та веб-браузерах. Тому замість широкого випуску було запущено контрольовану програму Project Glasswing, яка надала доступ до моделі близько 50 перевіреним організаціям, включаючи Amazon, Apple, Google, Microsoft та CrowdStrike, для використання у сфері кібербезпеки.

Fable 5, випущена лише три дні тому, стала відповіддю Anthropic на ринковий тиск. Це версія Mythos, оснащена захисними механізмами, які блокують відповіді у критично важливих сферах, таких як кібербезпека та біологія, що, на думку компанії, робило її безпечною для загального доступу. Згідно з незалежними тестами продуктивності від Vals AI, Fable 5 одразу стала найпотужнішою моделлю ШІ, доступною широкому загалу.

Урядовий наказ класифікується як дія в рамках експортного контролю, що обмежує доступ іноземних громадян до моделей. Однак у розгорнутому блозі Anthropic стверджує, що основне занепокоєння викликає нібито виявлений “джейлбрейк” Fable 5. Наразі компанія повідомляє, що уряд надав лише усні докази “потенційного, обмеженого, не універсального джейлбрейку”, який, за словами Anthropic, полягає у запиті моделі проаналізувати конкретний код і виявити програмні недоліки. Компанія також зазначає, що такий рівень можливостей вже широко доступний в інших публічних моделях, включаючи GPT-5.5 від OpenAI, і регулярно використовується фахівцями з кібербезпеки для захисних цілей.

Anthropic підкреслює, що її найсильніші засоби безпеки працюють через незалежні класифікаційні системи, які функціонують окремо від самої моделі. Це означає, що навіть якщо вдасться обійти певні обмеження Fable, фундаментальні захисні механізми проти найнебезпечніших вихідних даних залишаються активними.

Очевидно, цих аргументів було недостатньо, щоб запобігти діям уряду, і Anthropic не приховує свого розчарування. “Ми не погоджуємося з тим, що виявлення потенційного обмеженого джейлбрейку має бути причиною відкликання комерційної моделі, доступної сотням мільйонів людей”, — заявила компанія. “Якби такий стандарт застосовувався до всієї галузі, ми вважаємо, що це фактично зупинило б усі нові розгортання моделей для всіх провідних розробників”.

Anthropic, яка, за очікуваннями, планує вихід на IPO цього року, значною мірою будує свій публічний імідж на позиціонуванні себе як альтернативи конкурентам, що надає пріоритет безпеці. Іронічно, що саме обережність Anthropic при обмеженні доступу до Mythos, яку компанія позиціонувала як надто небезпечну для публічного випуску, тепер, схоже, привернула увагу уряду, що може суттєво вплинути на її бізнес.

Сем Альтман з OpenAI, ймовірно, насолоджується цією ситуацією. У квітні він назвав підхід Anthropic до Mythos “маркетингом, заснованим на страху”. “Це, безумовно, неймовірний маркетинг — говорити: ‘Ми створили бомбу. Ми збиралися скинути її вам на голову. Ми продамо вам бомбосховище за 100 мільйонів доларів'”, — сказав Альтман. Хоча Альтман, чия компанія також очікує на IPO, не передбачав урядових обмежень, він точно визначив фактор, який зараз грає проти Anthropic: коли компанія місяцями переконує світ, що її ШІ є унікально небезпечним, цей світ, включаючи уряд США, починає слухати.

Оригінал статті: techcrunch.com