UKRPULSE
Техносвіт

DGX Spark показав, як дефіцит пам’яті ламає цінову логіку NVIDIA

Міні-ПК для штучного інтелекту на столі розробника

Коли молодша конфігурація пристрою коштує дорожче за старшу — це вже не маркетингова помилка, а симптом глибшої проблеми на ринку компонентів. Саме так сталося з DGX Spark: версія на 64 ГБ оперативної пам’яті продається дорожче, ніж початкова ціна моделі на 128 ГБ. Щоб зрозуміти, чому так вийшло, варто розібратися, як узагалі влаштований цей пристрій і чому обсяг пам’яті для нього важливіший за будь-яку іншу характеристику.

Чому для ШІ-моделей пам’ять важливіша за процесор

DGX Spark побудований навколо процесора GB10 Grace Blackwell Superchip — це єдиний чип, що поєднує обчислювальні блоки та контролер пам’яті в одній архітектурі. Для запуску великих мовних моделей ключовий параметр — не стільки швидкість обчислень, скільки обсяг пам’яті, в якій поміщаються ваги моделі. Якщо модель має, скажімо, 100 мільярдів параметрів, усі ці параметри та проміжні дані під час інференсу мають фізично вміститися в оперативну пам’ять пристрою. Немає місця — немає запуску моделі, незалежно від того, наскільки потужний сам процесор.

Саме тому NVIDIA прямо вказує: версія DGX Spark із 64 ГБ розрахована на моделі до 100 млрд параметрів, тоді як старша конфігурація дозволяє працювати з суттєво більшими архітектурами. Решта специфікацій — процесор, операційна система DGX OS, програмний стек NVIDIA AI — в обох версіях ідентичні. Різниця виключно в обсязі DRAM, і саме ця різниця визначає, які задачі пристрій здатен виконувати взагалі.

Парадокс ціноутворення: дефіцит пам’яті диктує правила

Початкова рекомендована ціна флагманської версії DGX Spark на 128 ГБ становила 3999 доларів. Але дефіцит чипів пам’яті та їхнє подорожчання вдарили по всій індустрії одночасно, і NVIDIA не стала утримувати стару ціну для старшої моделі — натомість підняла її до 6000 доларів, а на ринок вивела нібито дешевшу альтернативу з удвічі меншим обсягом пам’яті за 4999 доларів. У підсумку молодша конфігурація коштує на 300 доларів дорожче, ніж до цього коштувала старша. Це не нова економніша пропозиція — це той самий продукт за вищою ціною, поданий під виглядом варіанту вибору.

Конфігурацію з 64 ГБ NVIDIA продаватиме виключно через партнерів-виробників, які самостійно формуватимуть комплектації та регіональні ціни. Це дає компанії гнучкість перекладати подорожчання пам’яті на кінцевого покупця без прямої відповідальності за ціновий ярлик.

Читайте нас у Telegram

Підписатися
Чип GB10 Grace Blackwell Superchip зблизька

Кластеризація як спосіб обійти обмеження пам’яті

Вбудований мережевий контролер ConnectX-7 — одна з найпрактичніших особливостей DGX Spark. Він дозволяє з’єднувати два пристрої напряму кабелем QSFP, і така пара разом дає до 1,7 раза вищу продуктивність та вдвічі ширшу пропускну здатність пам’яті порівняно з одним пристроєм. Для моделей понад 200 мільярдів параметрів це практично єдиний спосіб вкластися в бюджет, не звертаючись до повноцінної інфраструктури дата-центру. По суті, NVIDIA пропонує масштабування не через нарощування пам’яті в одному корпусі, а через об’єднання кількох одиниць у локальний кластер — підхід, знайомий за серверними GPU-рішеннями, тепер перенесений на формат настільного пристрою.

Де AMD виграє конкуренцію по пам’яті

Головна загроза для DGX Spark — не власна ціна, а пропозиції конкурентів. Системи AMD на базі Ryzen AI Halo та Ryzen AI MAX дають 128 ГБ пам’яті вже за 4699 доларів, а конфігурації на 192 ГБ стартують приблизно від 6500 доларів. Для задач із великими мовними моделями обсяг пам’яті важливіший за бренд процесора, і за нинішніх цін рішення AMD виглядають вигіднішими в перерахунку на гігабайт.

Перевага NVIDIA залишається в екосистемі CUDA, яка досі має найширшу підтримку серед фреймворків для машинного навчання, та в можливості легко збирати кластери з кількох пристроїв Spark через ConnectX-7. AMD відповідає підтримкою ROCm і сумісністю з Windows та Linux, намагаючись закрити розрив у програмному стеку тим самим обсягом пам’яті за нижчу ціну. У підсумку вибір між двома платформами зводиться не до абстрактної продуктивності, а до конкретного питання: що важливіше для конкретної задачі — екосистема CUDA чи більше гігабайт за ті самі гроші.

Інше в рубриці

Популярне