NVIDIA рассказала, почему в процессорах Vera сделан акцент на высокой производительности отдельных ядер, а не исключительно на их общем количестве. В компании считают, что развитие облачных вычислений долгое время стимулировало увеличение числа ядер, однако широкое распространение ИИ-агентов снова повысило значение скорости последовательной обработки данных.
ИИ-агенты регулярно распределяют задачи между центральным и графическим процессорами. CPU выполняет промежуточные операции — запускает скрипты на Python, обращается к различным инструментам и подготавливает данные, — после чего GPU продолжает вычисления. Любая задержка со стороны процессора приводит к простою дорогостоящего ускорителя. Поэтому Vera создавалась с упором на высокую однопоточную производительность, большую пропускную способность памяти и минимальные задержки. Согласно заявлениям NVIDIA, новый процессор работает до 1,5 раза быстрее Grace и до двух раз опережает ведущие x86-решения в сценариях, связанных с ИИ-агентами.
В отличие от многих конкурирующих решений с чиплетной архитектурой, Vera использует монолитный вычислительный кристалл. Благодаря этому все ядра могут обмениваться данными без необходимости пересекать границы отдельных чиплетов. NVIDIA заявляет, что пропускная способность межъядерного соединения достигает 3,4 ТБ/с — это примерно втрое выше показателя современных x86-процессоров. Кроме того, компания развивает технологию Spatial Multithreading, которая распределяет ресурсы между вычислительными потоками и операциями ввода-вывода. По данным разработчиков, тесты Phoronix продемонстрировали прирост производительности примерно на 20%.
NVIDIA пока не берётся оценивать, каким будет соотношение CPU и GPU в будущих системах искусственного интеллекта. При этом компания ожидает увеличения спроса на процессоры для автономных серверных стоек. Такие решения смогут одновременно обслуживать множество окружений для ИИ-агентов и выполнять задачи обучения с подкреплением, не отнимая вычислительные ресурсы у графических ускорителей.