Массовый запуск платформы NVIDIA Vera Rubin уже оказывает влияние не только на рынок ускорителей, но и на смежные направления. В частности, растущий спрос со стороны компании снижает доступность TLC NAND и способствует увеличению цен на этот тип памяти.
Одним из ключевых факторов стала технология Context Memory eXtension (CMX), которую NVIDIA использует в новой платформе для хранения KV-кэша — данных, создаваемых ИИ-моделями во время обработки запросов. CMX выполняет роль промежуточного слоя между HBM и обычными сетевыми системами хранения и задействует значительные объемы TLC-флеш-памяти. Подключение обеспечивается ускорителями BlueField-4 DPU и скоростной сетью Spectrum-X Ethernet.
Объемы системы действительно велики: сервер CMX в корпусе 2U может содержать примерно 600 ТБ TLC-памяти, тогда как емкость вычислительного пода способна достигать 9,6 ПБ. Одновременно дата-центрам требуется все больше производительных корпоративных SSD для ИИ-задач. На этом фоне спотовая стоимость 512-гигабитного чипа TLC NAND снова выросла до $21 после июньского снижения.
Вероятно, существенная часть необходимых NVIDIA объемов уже забронирована по долгосрочным соглашениям. Тем не менее быстрое увеличение ожидаемого спроса начинает отражаться на открытом рынке, где доступное предложение становится все более ограниченным. Пока сложно сказать, насколько значительным окажется дальнейший рост цен.