Дроп скорости в 5 раз: почему шифрованная прошивка NVIDIA RTX Spark обрушила инференс на Linux

Мечта AI-разработчика: 128 ГБ единой памяти в мобильном формате

Появление мобильной платформы NVIDIA RTX Spark вызвало колоссальный ажиотаж среди инженеров машинного обучения. Ноутбуки линейки MSI Prestige N16 Flip AI Plus, Asus ProArt и Dell XPS получили архитектуру, ранее доступную только на десктопных рабочих станциях DGX Spark: связку производительного ARM-процессора и графического чипа NVIDIA с общим пулом унифицированной памяти до 128 ГБ. Это позволяло запускать тяжелые модели уровня GPT-OSS-120B и Llama-70B локально без необходимости собирать серверный кластер.

Поскольку подавляющее большинство инструментов локального инференса — vLLM, SGLang, Ollama — оптимизированы под Linux-стек, первым естественным желанием разработчиков стала установка чистого дистрибутива (Debian, Arch/Omarchy) вместо предустановленной Windows on ARM. Именно здесь исследователи столкнулись с обескураживающим аппаратным поведением.

Парадокс питания: от розетки медленнее, чем от батареи

Тесты производительности на модели GPT-OSS-120B выявили шокирующую аномалию. При работе от аккумулятора ноутбук на Linux демонстрировал достойные 61–67 токенов в секунду при частоте ядра около 1800 МГц. Но стоило подключить устройство к зарядному устройству мощностью 240 Вт, как частота GPU намертво фиксировалась на отметке 780–790 МГц. Скорость генерации обрушивалась до катастрофических 13,9 токенов в секунду — замедление почти в 5 раз.

Корень проблемы: шифрованный контроллер питания Windows

Тщательный реверс-инжиниринг показал, что перегрева нет: температура кремния под Linux оставалась в комфортном диапазоне 40–47°C. Причина кроется в подсистеме управления питанием, известной в диспетчере устройств как «Nvidia Platform Controllers and Framework».

Практические рекомендации для инженеров

• Для локальной разработки на мобильных чипах RTX Spark в настоящее время оптимально использовать WSL2 под Windows: производительность идентична нативной (65 токенов/сек).
• Не пытайтесь извлечь ключ из драйвера через кастомные патчи ядра: это приводит к нестабильности питания и kernel panic.
• Ожидать официального обновления ветки проприетарных модулей NVIDIA для Linux с поддержкой динамического распределения мощности ноутбуков.

Часто задаваемые вопросы (FAQ)

Затрагивает ли проблема классические ноутбуки с дискретными RTX 4080 / 4090?

Нет, проблема специфична исключительно для новой унифицированной архитектуры RTX Spark (ARM + unified LPDDR5X) и не воспроизводится на x86-ноутбуках с дискретной графикой.

Работает ли CUDA в среде WSL2 без потери скорости?

Да, WSL2 использует сквозной драйвер dxgkrnl, что дает более 99% производительности от «чистого железа», позволяя бесшовно запускать vLLM и PyTorch.