Білий дім просить OpenAI пригальмувати з новим релізом через загрози безпеці

“`html

Ключові деталі:

• OpenAI планує обмежити доступ до свого нового покоління моделей ШІ, GPT 5.6, надаючи його лише вузькому колу партнерів.
• Адміністрація президента США втрутилася, наполягаючи на державному схваленні доступу до моделі “клієнт за клієнтом”.
• Це рішення відображає зростаючу тенденцію до контролю за потужними ШІ-технологіями, подібну до підходу Anthropic із моделлю Claude Mythos.

Найочікуваніша модель штучного інтелекту від OpenAI, GPT 5.6, готується до випуску, який суттєво відрізнятиметься від попередніх. Замість широкого загалу, компанія планує надати доступ до неї лише вузькому колу довірених партнерів. Як повідомляє The Information, це рішення зумовлене вказівкою від адміністрації президента США, яка вимагає “схвалення доступу для кожного клієнта” під час початкового етапу тестування.

Генеральний директор OpenAI, Сем Альтман, нібито повідомив співробітникам на нещодавній зустрічі, що уряд буде здійснювати індивідуальний контроль за наданням доступу. Якщо пілотна фаза пройде успішно, компанія сподівається запустити загальнодоступну версію моделі вже за кілька тижнів.

Таким чином, уряд США, схоже, тисне на OpenAI, спонукаючи компанію до дій, які вже добровільно впроваджує Anthropic: тримати найпотужніші ШІ-розробки під замком.

За даними The Information, новий алгоритм OpenAI проходить не лише урядовий огляд, але й розроблявся за тісної співпраці з представниками влади. Зокрема, з проханням про обмежений реліз виступили Національний директор з кібербезпеки та Управління з наукової та технологічної політики.

Адміністрація президента США, яка раніше займала нейтральну позицію щодо регулювання ШІ, останніми місяцями активно виступає за федеральний нагляд за новими моделями. На початку поточного місяця було видано указ, що зобов’язує певні ШІ-компанії добровільно надавати свої новітні розробки для тестування та оцінки перед публічним запуском.

На початку року компанія Anthropic викликала значний резонанс, оголосивши про обмежений випуск своєї передової моделі Claude Mythos через програму Project Glasswing. Anthropic пояснила це надзвичайною потужністю моделі, яка, потрапивши в невідповідні руки, могла б завдати значної шкоди. Спостерігачі досі сперечаються, чи є це лише маркетинговим ходом, чи реальною спробою запобігти зловживанням. Імовірно, істина десь посередині.

Кіберзлочинці вже давно використовують автоматизовані інструменти, але з появою генеративного ШІ їхні можливості значно зросли. Великі мовні моделі (LLM) демонструють вражаючі здібності у створенні шкідливого програмного забезпечення, а деякі з них навіть здатні самостійно здійснювати повні атаки програм-вимагачів.

Особливу стурбованість викликають передові інструменти, такі як Mythos, які потенційно можуть виявляти та експлуатувати вразливості програмного забезпечення зі швидкістю, недосяжною для людини. Оскільки багато програмних систем містять приховані помилки, що слугують “чорними ходами” до корпоративних мереж, це створює очевидну та серйозну загрозу для будь-якої організації з комплексною програмною інфраструктурою. Однак, доки ці моделі залишаються закритими для громадськості, важко оцінити реальний масштаб цієї небезпеки.

“`

Джерело новини: techcrunch.com