OpenAI представила власний чип: розробка спільно з Broadcom

Ключові деталі:

• OpenAI представила власний процесор для інференсу, розроблений спільно з Broadcom.
• Чіп, названий Jalapeño, оптимізований для зниження витрат енергії під час роботи моделей ШІ.
• Це стратегічний крок OpenAI для зменшення залежності від сторонніх постачальників обладнання, зокрема Nvidia.

У середу OpenAI представила свій перший інженерно розроблений процесор для інференсу, створений у тісній співпраці з Broadcom. Новий чіп, отримавши назву Jalapeño, спеціально адаптований під унікальні потреби інференсних систем OpenAI. Цікаво, що у розробці чипа брали участь власні моделі штучного інтелекту компанії, як повідомили представники OpenAI.

Хоча чіп ще проходить етап тестування, попередні результати свідчать про суттєве покращення показників продуктивності на одиницю енергоспоживання порівняно з сучасними аналогами.

Партнерство було офіційно оголошено ще у жовтні, але плани OpenAI щодо власної розробки чіпів давно циркулювали як потенційний спосіб зменшення залежності компанії від графічних процесорів Nvidia. Гіганти, такі як Google та Amazon, вже створили власні кастомні чипи, які часто називають “AI-акселераторами” – кремнієвими рішеннями, спеціально призначеними для прискорення завдань машинного навчання.

Президент OpenAI, Грег Брокман, детально розповів про підхід компанії до розробки чіпів у подкасті, що вийшов невдовзі після оголошення про співпрацю з Broadcom.

«Ми маємо глибоке розуміння наших робочих навантажень», – зазначив Брокман в одному з епізодів. «Ми активно шукали специфічні завдання, які недостатньо оптимізовані, і запитували себе: як ми можемо створити щось, що прискорить наші можливості?»

Jalapeño розроблений спеціально для інференсу – процесу виконання попередньо навчених моделей ШІ у відповідь на запити користувачів. В офіційному повідомленні OpenAI наголосила на низькій вартості експлуатації чіпа під час роботи з моделями кодування в реальному часі. Ймовірно, для більш ресурсомістких завдань, таких як попереднє навчання моделей, компанія все ще спиратиметься на обладнання Nvidia. Проте навіть незначне зниження витрат на інференс може суттєво вплинути на прибутковість компанії.

Оптимізація системи інференсу може стати ключовим фактором для подальшої економічної ефективності ШІ. Це стосується всіх рівнів технологічного стеку. OpenAI вже розробляє агентивні продукти, такі як Codex, та моделі, що їх підтримують, а також створює власні дата-центри для їх роботи. Перехід до спеціалізованих чіпів дозволяє компанії поглибити цей процес, як пояснюється в їхньому оголошенні.

«OpenAI не тільки розробляє передові моделі або створює продукти на їх основі; компанія проєктує інфраструктуру, що лежить в їх основі: архітектуру чіпів, ядра, системи пам’яті, мережеві рішення, планувальники, системи розгортання та користувацький досвід», – йдеться в заяві. «Оскільки OpenAI працює на всіх рівнях стеку, кожен шар може бути оптимізований навколо однієї мети: зробити моделі компанії швидшими, надійнішими та доступнішими для користувачів».

Оригінал статті: techcrunch.com