Чип-стартап залучив $135 млн, ставлячи на те, що вузьким місцем ШІ є не обчислення, а пам’ять AI-чіпи: Стартап залучив $135 млн, бо ШІ потрібна швидша пам’ять, а не більше потужності

Ключові деталі:

• Стартап XCENA розробив новий чип, що наближає обчислювальні потужності до оперативної пам’яті, зменшуючи затримки та витрати на ШІ-інфраструктуру.
• Компанія залучила $135 мільйонів у раунді Серії B, загальна сума інвестицій досягла $185 мільйонів.
• Чип MX1, побудований на архітектурі RISC-V, планується до масового виробництва на заводах Samsung наприкінці 2026 року.

Щоразу, коли ви ставите запитання генеративному ШІ, ваш запит запускає справжню гонку даних. Інформація залишає пам’ять, проходить через центральний процесор для попередньої обробки, прямує до графічного процесора для інтенсивних обчислень, а потім повертається назад. Весь цей шлях повторюється для кожного слова, згенерованого штучним інтелектом.

Таке структурне вузьке місце означає необхідність маршрутизації через одні з найдорожчих та енергоємних чіпів у галузі при кожному запиті. Саме цю неефективність намагається вирішити XCENA — стартап з офісами в Південній Кореї та США. Компанія, заснована чотири роки тому, спеціалізується на розробці чіпа, який розміщує обчислювальні можливості значно ближче до DRAM (швидкої короткочасної пам’яті, що зберігає дані, які процесор активно використовує). Це дозволяє обробляти типові операції з даними безпосередньо біля пам’яті, уникаючи дорогих циклічних передач між ЦП, ГП та пам’яттю.

Якщо це рішення масштабується, наслідки для витрат на ШІ-інфраструктуру можуть бути значними, що пояснює інтерес інвесторів до компанії. Дійсно, XCENA щойно залучила 135 мільйонів доларів у рамках раунду Серії B за оцінки в 570 мільйонів доларів, довівши загальну суму залучених коштів до 185 мільйонів доларів.

Генеральний директор XCENA, Джин Кім, заснував стартап у 2022 році разом із технічним директором Дохун Кім та директором з продуктів Гаррі Джухюн Кім. Усі вони є ветеранами Samsung та SK Hynix — гігантів пам’яті, що постачають чипи для графічних процесорів Nvidia. «І центральні, і графічні процесори ставали все розумнішими протягом десятиліть. Пам’ять — ніколи. XCENA хоче це змінити», — заявив Джин Кім. «Нещодавнє зростання цін на пам’ять та відповідних акцій свідчить про ширший зсув в ШІ-інфраструктурі в бік архітектур, орієнтованих на пам’ять», — додав він. (Цього місяця три компанії, що домінують на світовому ринку чіпів пам’яті — Samsung, SK Hynix та Micron — вперше подолали позначку в трильйон доларів ринкової капіталізації.)

XCENA робить ставку на те, що «виведення (inference) — це не просто обчислювальна проблема; це дедалі більше проблема масштабування пам’яті», — зазначив Кім.

Чіп XCENA, MX1, підключається до центрального процесора через CXL (Compute Express Link) — по суті, виділену швидкісну лінію між процесором та пам’яттю. Він обробляє дані ще до того, як вони встигнуть залишити модуль пам’яті. Компанія стверджує, що те, що раніше вимагало 10 серверів, потенційно може бути реалізовано на одному.

«Хоча графічні процесори чудово справляються з матричними множеннями — інтенсивними обчисленнями, що лежать в основі навчання моделей ШІ — значна частина супутньої оркестрації даних, включаючи попередню обробку, керування KV-кешем (система, що зберігає контекст попередніх розмов, аби моделі не доводилося їх переобробляти) та кешування даних, досі виконується центральними процесорами. Наш чіп виконує ці завдання безпосередньо в модулі пам’яті», — пояснив Кім.

Попит на рішення для пам’яті стрімко зріс з другої половини минулого року, і компанія вважає, що цей час грає їй на руку.

Переговори з кількома глобальними постачальниками пам’яті перебувають на ранніх стадіях, хоча Кім відмовився їх називати. Ідеальні клієнти компанії — це гіперскейлери, які витрачають десятки мільярдів доларів на рік на ШІ-інфраструктуру, де навіть невелике підвищення ефективності пам’яті може означати сотні мільйонів заощаджень.

MX1 наразі є прототипом. Масове виробництво чіпів заплановано на кінець 2026 року на виробничих лініях Samsung, а компанія очікує почати отримувати дохід з 2027 року.

Тоді як розробники нейронних процесорних блоків (NPU) змагаються за те, щоб кинути виклик Nvidia у сфері тренувальних навантажень, XCENA націлюється на шар, інтенсивний щодо пам’яті, який лежить в основі всього цього.

Найближчими конкурентами XCENA є Astera Labs та Marvell — компанії, що котируються на Nasdaq, які працюють над підключенням пам’яті наступного покоління. Marvell є великим, усталеним гравцем, що вже працює в цій сфері, зазначив Кім, додавши, що головна відмінність полягає в інтелектуальній власності. «Ми маємо тисячі ядер», — заявив Кім. Згідно з публічними специфікаціями, підхід Marvell спирається на кілька ядер загального призначення.

Ці ядра побудовані на RISC-V — відкритій архітектурі дизайну чіпів — та оптимізовані спеціально для обробки даних, причому кожне ядро навмисно зроблено маленьким та ефективним. Окрім самих ядер, XCENA самостійно розробляє внутрішню ієрархію пам’яті, шину взаємозв’язку та контролер DRAM — рівень вертикальної інтеграції, який більшість компаній-розробників чіпів, включно з великими конкурентами, зазвичай віддають на аутсорсинг.

Сеульські венчурні фонди Atinum та IMM Investment спільно очолили раунд Серії B, разом із Corstone Asia та існуючими інвесторами SBI Investment та Mirae Asset Capital. Компанія, яка налічує понад 90 співробітників в офісах у Пангьо (технологічний центр біля Сеула) та Саннівейлі, також веде переговори з міжнародними інвесторами щодо додаткового фінансування.

За матеріалами: techcrunch.com