Від PGP до Mythos: коротка історія експортних обмежень, які нікого не зупинили

Ключові деталі:

• Уряд США запровадив обмеження на експорт потужних ШІ-моделей Anthropic (Fable та Mythos) через побоювання щодо національної безпеки.
• Це перший випадок застосування експортного контролю до передових ШІ-технологій, що може створити прецедент для галузі.
• Історичний досвід із контролем за технологіями шифрування та шпигунського програмного забезпечення свідчить про складність ефективного обмеження розповсюдження подібних інструментів.

Минулої п’ятниці, посилаючись на невизначені загрози національній безпеці, Білий дім зобов’язав компанію Anthropic обмежити експорт своїх передових ШІ-моделей Fable та Mythos для всіх, хто перебуває за межами США, а також для іноземних громадян усередині країни. Невдовзі після цього лідер у сфері штучного інтелекту поспіхом призупинив доступ до обох моделей, які відтоді залишаються недоступними вже тиждень. 

Ця подія стала першим серйозним випробуванням здатності уряду США використовувати експортний контроль для стримування новітніх ШІ-технологій, подібно до того, як він із неоднозначними результатами намагався контролювати розповсюдження шифрувальних програм та шпигунського програмного забезпечення. І, хоча це може звучати драматично, розв’язання цієї конфронтації може визначити не лише доступ Anthropic до іноземних ринків, але й правила гри, навколо яких будуватимуть свою діяльність інші розробники ШІ. 

Спочатку декілька слів про контекст. Відколи Anthropic представила Mythos у квітні, компанія позиціонувала її як своєрідну “машину судного дня”, здатну спричинити хаос в інтернеті в разі надмірного розповсюдження. Саме тому, до запровадження заборони, доступ до неї мали лише близько 150 перевірених компаній та урядових організацій. Метою було допомогти захисникам забезпечити безпеку свого програмного забезпечення та послуг, перш ніж зловмисники отримають можливості рівня Mythos. 

Що ж спричинило заборону? За повідомленнями, два послідовні інциденти. По-перше: Anthropic надала доступ до Mythos південнокорейському телекомунікаційному гіганту через свою обмежену партнерську програму. Американські посадовці висловили занепокоєння, ідентифікувавши компанію як таку, що, на їхню думку, має зв’язки з Китаєм. (Компанія, яку широко ідентифікують як SK Telecom, заперечила будь-які зв’язки з Китаєм.) Крім того, генеральний директор Amazon Енді Джессі, як повідомляється, попередив адміністрацію після того, як власні дослідники Amazon, за його словами, знайшли спосіб обійти захисні механізми Fable 5. Anthropic не погоджується з терміном “злом” (“jailbreak”), називаючи це незначною, вже виправленою проблемою, а не повним подоланням заходів безпеки моделі. 

Результат був однаковим: Департамент торгівлі видав директиву про експортний контроль, і Anthropic мусила терміново обмежити доступ до своїх продуктів — за деякими даними, приблизно за 90 хвилин після отримання повідомлення. 

Проте, в цьому немає нічого нового. Уряди вже десятиліттями намагаються використовувати експортний контроль для обмеження поширення технологій, які вони вважають небезпечними кібертехнологіями, але їхній досвід був, у кращому разі, посереднім. 

Уряд США стояв за, мабуть, найвизначнішим провалом цього підходу в історії на початку-середині 1990-х років. Тоді комп’ютерні науковці розробляли технології шифрування для забезпечення безпеки даних під час їх передачі через інтернет. Одним із таких продуктів було шифрування під назвою Pretty Good Privacy (PGP) — популярне програмне забезпечення, яке могло шифрувати дані, роблячи їх практично неможливими для розшифрування, навіть якщо вони перехоплювалися під час передачі до одержувача через інтернет. 

Спочатку уряд США розглядав PGP як небезпечну зброю, побоюючись, що це завадить його розвідувальним агентствам прослуховувати електронні листи. Щоб зупинити розповсюдження PGP, Митна служба США розпочала кримінальне розслідування проти творця PGP Філа Циммермана за нібито порушення законів про експорт озброєнь. Він відповів, опублікувавши вихідний код PGP у вигляді друкованої книги, що започаткувало те, що сьогодні відоме як “Крипто-війни”. 

Згодом Циммерман виграв ключову битву, коли розслідування було закрито, що проклало шлях до появи важливих алгоритмів наскрізного шифрування, подібних до тих, які використовують мільярди користувачів Signal та WhatsApp. 

Пізніше, на початку 2010-х років, дослідники почали виявляти шпигунське програмне забезпечення західного виробництва, яке використовувалося проти дисидентів на Близькому Сході. У відповідь кілька урядів погодилися розширити Вашингтонську угоду — міжнародний договір, що обмежує експорт програм і технологій подвійного призначення, які використовуються як у цивільних, так і у військових цілях. 

Ідея полягала в тому, щоб класифікувати програмне забезпечення для спостереження та злому як подвійного призначення, змушуючи таким чином виробників шпигунського ПЗ отримувати експортні ліцензії для продажу своєї продукції за кордон. 

Зв’яжіться з нами

Чи маєте ви додаткову інформацію щодо заборони Mythos? З пристрою та мережі, що не пов’язані з роботою, ви можете зв’язатися з Лоренцо Франчески-Бікк’єраї через Signal за номером +1 917 257 1382, або через Telegram та Keybase @lorenzofb, чи електронною поштою.

Однак Вашингтонська угода завжди мала два слабкі місця. Існує кілька країн, які не дотримуються цієї угоди, зокрема Ізраїль, де розташовані деякі з найактивніших виробників шпигунського ПЗ у світі. 

Крім того, угода залежить від розсуду країн щодо застосування її до компаній у межах їхніх кордонів. Деякий час італійський уряд дозволяв одній із тодішніх провідних компаній-виробників шпигунського ПЗ у країні, Hacking Team, експортувати свої інструменти по всьому світу, незважаючи на репутацію компанії, яка продавала шпигунське ПЗ авторитарним режимам, що використовували його для зламу журналістів та правозахисників. 

З того часу інші європейські країни були не надто уважними щодо виробників шпигунського ПЗ, як-от Італія. Незважаючи на численні скандали, Європа, де розташовано багато компаній-розробників шпигунського та хакерського програмного забезпечення, постійно не змогла обмежити експорт шпигунського ПЗ до авторитарних режимів. Критики стверджують, що нещодавно відновлені зусилля всього блоку з 27 держав-членів для боротьби з проблемою експорту шпигунського ПЗ до авторитарних держав “не йдуть достатньо далеко”.

Деякі виробники шпигунського ПЗ, як-от Intellexa, санкціонований консорціум таких компаній, просто перенесли свою діяльність до країн з м’яким експортним контролем. Інші виробники шпигунського ПЗ намагалися перенести свою діяльність до Саудівської Аравії з подібних причин. 

Були й певні успіхи. Німецький виробник шпигунського ПЗ FinFisher припинив свою діяльність у 2022 році після багаторічного розслідування німецькою прокуратурою щодо продажу компанією шпигунського ПЗ Туреччині без експортної ліцензії. Раніше слідчі виявили, що шпигунське ПЗ FinFisher було встановлено на телефонах критиків уряду Туреччини. 

На момент написання цього матеріалу протистояння між Anthropic та адміністрацією залишається невирішеним. Є цілком імовірним, що адміністрація поступиться та зніме обмеження, щоб зберегти конкурентоспроможність американських ШІ-компаній на світовій арені — крок, що означатиме мовчазне визнання того, що ШІ-лабораторії в інших країнах, включно з Китаєм, ймовірно, досягнуть подібних можливостей незалежно від дій США. Або ж американським ШІ-компаніям доведеться отримувати державне схвалення перед обслуговуванням іноземних клієнтів, що неминуче вплине на їхній прибуток. 

З огляду на минулий досвід урядів різних країн із спробами контролювати розповсюдження програмного забезпечення, державні експортні обмеження, ймовірно, не є правильним підходом для запобігання зловживанню потужними кібертехнологіями подвійного призначення з боку зловмисників.

За даними порталу: techcrunch.com