Домашняя AI-система, собранная из четырех NVIDIA DGX Spark, продемонстрировала высокую производительность при запуске DeepSeek V4.1-Flash. Компактный кластер с 512 ГБ общей памяти смог обеспечить скорость, близкую к 500 токенам в секунду.
Технический эксперт Патрик Мурхед разместил четыре DGX Spark в небольшом серверном шкафу и соединил их напрямую в кольцевую сеть, отказавшись от Ethernet-коммутатора. Каждый узел получил 128 ГБ унифицированной памяти, а общий объем системы достиг примерно 512 ГБ. Благодаря такой конфигурации удалось обойтись без дополнительного дорогостоящего оборудования, которое NVIDIA обычно рекомендует для объединения четырех узлов.
Для тестирования Мурхед использовал DeepSeek V4.1-Flash с 552 млрд параметров. Архитектура модели и такие оптимизации, как квантизация FP4, заметно снижают требования к памяти по сравнению с обычными моделями такого масштаба. В пиковом режиме кластер показал 494 токена в секунду при обработке кода и 280 токенов в секунду при работе с обычным текстом, если одновременно выполнялись 32 запроса. При обработке одного запроса скорость составляла около 58 токенов в секунду для текста и 96 токенов в секунду для кода, а первый токен появлялся примерно через 0,2 секунды.
Впрочем, назвать эту систему домашней можно лишь условно. Четыре DGX Spark стоят примерно $22 000–36 000, а с учетом кабелей, стойки, охлаждения и других компонентов итоговые расходы достигают $25 000–40 000. Взамен владелец получает собственный AI-кластер без ограничений API и регулярной абонентской платы — крайне дорогой способ отказаться от облачных сервисов.