Крихітний ШІ-комп'ютер з Китаю кинув виклик Nvidia та AMD: 128 Гбайт пам'яті

В продажу надійшов китайський конкурент систем на платформах Nvidia DGX Spark та AMD Ryzen AI Halo — комп'ютер Sipeed MaixStation. Міні-ПК працює на новому чипі Axera AX8860P з 128 Гбайт пам'яті LPDDR5X, підключеної по 256-бітній шині з пропускною спроможністю 273 Гбайт/с. За словами розробника, система забезпечує високу швидкість локальної роботи з системами штучного інтелекту.

Джерело зображень: sipeed.com

З урахуванням знижок на платформі Kickstarter очікувана ціна ПК складе близько $3999, що значно дешевше Nvidia DGX Spark з базовою ціною $6950. Краудфандингова кампанія стартує наприкінці року, а постачання системи розпочнуться через три місяці після її завершення. Програмні засоби для роботи з вбудованим ІІ-ускорювачем вийдуть до кінця листопада.

Платформа Axera AX8860P включає 16-ядерний процесор на архітектурі Arm Cortex-A55 та розроблений виробником нейропроцесор з продуктивністю 256 TOPS у форматі FP4 без розрідження даних. Чип виготовляється за 6-нм техпроцесом. При роботі з моделлю Qwen 3.8-27B система на 25 % швидше виконує попередню обробку запитів і на 30 % швидше генерує відповіді, ніж Nvidia DGX Spark. Порівняння проводилося за використання формату FP4 з вимкненою функцією спекулятивного виконання. У ході пізніших тестів система Sipeed MaixStation проявила себе ще краще, але ці результати поки не мають статусу офіційних.

Для порівняння, DGX Spark пропонується в конфігурації з 128 Гбайт пам'яті з пропускною спроможністю 273 Гбайт/с за ціною $6950, а версія з 64 Гбайт коштує від $4999. ПК на чипі AMD Ryzen AI Halo Max+ PRO 495 з 192 Гбайт пам'яті та пропускною спроможністю 273 Гбайт/с оцінюється в $7299,99, а модель Max+ 395 з 128 Гбайт пам'яті та пропускною спроможністю 256 Гбайт/с — в $3999,99. У всіх випадках використовується 256-бітна шина пам'яті LPDDR5X. Значну частину вартості таких систем складає пам'ять: ще в серпні мінімальна ціна комплекту DDR5 об'ємом 128 Гбайт у США оцінювалася в $3399. У поточному кварталі, за оцінками аналітиків, вона подорожчає на 10–15 %.

У Sipeed уточнили, що при розрахунку вартості ПК враховували актуальні ціни. Знизити витрати можна, використовуючи власний SSD: тут передбачено слот M.2 2280, на відміну від DGX Spark, де застосовується менш поширений формат M.2 2242. ПК на чипах Nvidia Spark постачаються з попередньо встановленою ОС DGX — підготовленою Nvidia версією Ubuntu 24.04 LTS, що включає CUDA та стек для роботи з ІІ. AMD також пропонує власний набір компонентів: драйвери, моделі, фреймворки та платформу ROCm. У жодному з випадків установка Windows 11 поки не передбачена, хоча така можливість значиться в планах.

Sipeed пропонує інструментарій для NPU та заявляє про підтримку vLLM, SGLang і PyTorch. Axera додатково відзначає сумісність з ONNX, форматами моделей Hugging Face та API, сумісним з OpenAI. ПК постачається з ОС Debian 13 та ядром Linux 6.18. Підтримка Windows залежатиме від попиту.

Axera AX8860P підтримує інтерфейс PCIe 5.0, декодування 64 та кодування 16 відеопотоків. Чотири таких чипи можна розмістити на однослотовій платі PCIe та встановити до 512 Гбайт пам'яті. На ринок також вийдуть міні-ПК та кишенькові комп'ютери на базі цього чипа. У дво- та чотирьохчипових конфігураціях можна досягти продуктивності 512 та 1024 TOPS відповідно при ефективності масштабування близько 80 %.

Сам ПК має розміри 11 × 11 × 3 см і споживає 40 Вт при типовому навантаженні. Живлення подається через USB Type-C. Серед доступних інтерфейсів — 10G SFP+, додатковий USB Type-C, слот M.2 2280 з підтримкою PCIe 5.0, а також MCIO 8i для підключення другого модуля. Підтримуються конфігурації з одним, двома та чотирма вузлами, а також режим з використанням плат PCIe в довільній кількості. Для взаємодії модулів застосовується з'єднання типу C2C з пропускною спроможністю 256 Гбит/с, яку можна збільшити до 384 Гбит/с. Додатковий комутатор не потрібен, на відміну від схеми об'єднання систем Nvidia DGX Spark через QSFP. Підтримується підключення до восьми обчислювальних вузлів.

За попередніми оцінками, заява виробника про можливість запускати моделі з 27 млрд параметрів виглядає правдоподібною. Така модель займає близько 13,5 Гбайт пам'яті, а при пропускній спроможності близько 270 Гбайт/с і 4-бітному квантуванні система зможе генерувати приблизно 20 токенів за секунду. Nvidia DGX Spark за аналогічних умов забезпечує, за заявою виробника, близько 500 TFLOPS — приблизно вдвічі більше, ніж 256 TOPS у чипа AX8860P.

У програмний стек Axera входять компілятор NPU та інструментарій Pulsar2. На минулому тижні він оновився до версії 8.0, а в документації до версії 7.0 вже згадувався чип AX8860. Середа виконання ax-llm та драйвер PCIe AXCL поки не містять згадок про цей чип. Однак до кінця місяця Sipeed обіцяє випустити AXDSL — мову програмування для обчислювальних ядер — та вихідний код Pulsar2. Компанія адаптувала SGLang та vLLM для роботи з чипом через власний бекенд, щоб запускати моделі з Hugging Face безпосередньо, без конвертації.

Хочеш дізнатися більше — читай відгуки