Локальний запуск великих мовних моделей на ноутбуці впирається в одну й ту саму стіну — обсяг пам’яті. Моделі класу MoE на 120 мільярдів параметрів потребують десятки, а то й сотні гігабайтів для зберігання активних ваг і проміжних обчислень. Робоча станція AI Master M7000 від Thunderobot пропонує нестандартне рішення цієї проблеми: замість нарощування оперативної пам’яті до захмарних обсягів виробник об’єднав звичайне сховище з окремим кеш-шаром на одному накопичувачі.
Гібридний SSD замість додаткової оперативної пам’яті
У пристрої встановлено накопичувач AI20EH від Phison — це не два окремі диски, а один M.2 SSD, що поєднує 768 ГБ звичайного сховища та 85 ГБ виділеного кешу за технологією aiDAPTIV+. Проміжне програмне забезпечення керує цим кешем окремо від файлової системи: туди потрапляють дані ключ-значення, підмережі MoE та частини моделей, коли швидшої системної або уніфікованої пам’яті бракує.
Тут важливо розуміти, чим це не є. NAND-пам’ять не перетворюється на оперативну — швидкість доступу до флеш-пам’яті все одно на порядки нижча за LPDDR5X. aiDAPTIV+ радше працює як буфер для тих даних, які модель використовує рідше або які можна підвантажити з невеликою затримкою, розвантажуючи основну пам’ять під найбільш «гарячі» ваги. Це компроміс: не повна швидкість, зате можливість взагалі запустити модель, яка інакше просто не поміститься в систему.
Ryzen AI Max+ 395 і уніфікована архітектура пам’яті
Базова конфігурація AI Master M7000 включає 64 ГБ LPDDR5X-8000 та вбудовану графіку Radeon 8060S у складі процесора AMD Ryzen AI Max+ 395. Це чипи з уніфікованою пам’яттю, де і центральний процесор, і графічне ядро, і нейропроцесор звертаються до одного пулу ОЗП без копіювання даних між дискретними шинами. Для інференсу мовних моделей це принципово — саме обсяг і швидкість цього спільного пулу визначають, яку модель можна завантажити цілком.
64 ГБ — це обсяг, якого для моделі на 120 мільярдів параметрів у повній точності явно недостатньо. Саме тут і вступає в гру aiDAPTIV+: за твердженням Thunderobot, така комбінація дозволяє системі з 64 ГБ ОЗП локально запускати GPT-OSS-120B та інші моделі класу MoE подібного розміру, розподіляючи навантаження між уніфікованою пам’яттю і кешем на SSD.
Читайте нас у Telegram
Підписатися
Не перший подібний експеримент Phison
Сама технологія aiDAPTIV+ не нова для Phison — компанія вже демонструвала аналогічний підхід у системах зі значно меншим обсягом оперативної пам’яті, включно із запуском тієї ж GPT-OSS-120B на ноутбуках з процесорами Intel Panther Lake та лише 32 ГБ ОЗП. Це показує, що гібридна схема «пам’ять плюс кеш на SSD» проєктувалася як платформно незалежне рішення, яке можна поєднувати з різними архітектурами — і від AMD, і від Intel. AI Master M7000 демонструє, як ця технологія масштабується вгору: більше системної пам’яті плюс той самий принцип кешування дає змогу впевненіше працювати з моделями настільки великого класу.
Позиціонування та характеристики платформи
Для Thunderobot така робоча станція — нетипове рішення: компанія традиційно зосереджена на ігрових системах. AI Master M7000 натомість спеціалізований саме під роботу зі штучним інтелектом, хоча апаратна платформа зберігає елементи «геймерського» підходу — потужне охолодження та високочастотний дисплей.
- Двовентиляторна система охолодження з трьома тепловими трубками, максимальна продуктивність до 160 Вт
- Дисплей 16″ з роздільною здатністю 2560×1600, частотою оновлення 165 Гц, яскравістю 500 ніт та 100% охопленням sRGB
- Акумулятор на 99 Вт·год, вага пристрою 2,45 кг
- Порти OCuLink, USB-C зі швидкістю 40 Гбіт/с, HDMI 2.1 FRL, 2,5 Гбіт/с Ethernet, кардрідер microSD UHS-II
У Китаї AI Master M7000 вже надійшла у продаж за ціною близько $3733. Поєднання уніфікованої пам’яті Ryzen AI Max+ 395 з гібридним накопичувачем aiDAPTIV+ показує напрямок, у якому рухається клас мобільних робочих станцій для ШІ: замість гонитви за обсягом дорогої оперативної пам’яті виробники шукають способи розширити ефективний обсяг за рахунок швидкого NAND і розумного кешування.
