NVIDIA и Amazon продолжают развивать многолетнее партнерство в сфере инфраструктуры для искусственного интеллекта. Согласно новым планам, облачная платформа AWS сможет развернуть по всему миру до трех миллионов ИИ-ускорителей NVIDIA, предназначенных для агентных и физических ИИ-систем, автоматизации и других ресурсоемких задач.
Изначально речь шла о поставке одного миллиона графических процессоров, однако теперь этот объем увеличен еще на два миллиона устройств. Amazon намерена дополнить собственные ускорители Trainium решениями NVIDIA, чтобы предоставить клиентам AWS более широкий выбор оборудования для ИИ-вычислений. Кроме того, компании совместно работают над интеграцией процессоров Vera в облачную инфраструктуру Amazon. Это особенно важно из-за растущих требований агентных ИИ-систем к вычислительным возможностям центральных процессоров.
Еще одной частью партнерства станет внедрение технологии NVHBM. Она должна повысить эффективность работы памяти в системах на базе ускорителей Trainium. По данным NVIDIA, NVHBM обеспечивает на 30% более высокую пропускную способность и на 15% лучшую энергоэффективность по сравнению с HBM4E. Таким образом, сотрудничество компаний теперь охватывает не только графические ускорители, но также процессоры, память и другие элементы ИИ-инфраструктуры.
Amazon отдельно отметила необходимость поддержки государственного сектора США. Из общего объема поставок 100 тысяч GPU предназначены для специализированных «ИИ-фабрик», которые будут использоваться при выполнении государственных задач с уровнем безопасности Impact Level 6. Руководитель NVIDIA Дженсен Хуанг заявил, что спрос на вычислительную платформу компании в AWS оказался значительно выше первоначальных ожиданий, поэтому партнерство расширяется на весь технологический стек.