На мероприятии AWS re:Invent было объявлено о значительном расширении стратегического сотрудничества между Amazon Web Services (AWS) и NVIDIA. Это сотрудничество направлено на предоставление клиентам передовой инфраструктуры, программного обеспечения и услуг для стимулирования инноваций в области генеративного искусственного интеллекта (ИИ).
Сотрудничество объединяет сильные стороны обеих компаний, включая интеграцию последних многоузловых систем NVIDIA с новыми поколениями графических процессоров (GPU), центральных процессоров (CPU) и программного обеспечения для ИИ, а также технологии AWS, такие как продвинутая виртуализация Nitro System, межсоединение Elastic Fabric Adapter (EFA) и масштабируемость UltraCluster.
Основные моменты расширенного сотрудничества включают:
-
Введение на AWS суперчипов NVIDIA GH200 Grace Hopper: AWS становится первым облачным провайдером, предлагающим суперчипы NVIDIA GH200 Grace Hopper с новой многоузловой технологией NVLink. Многоузловая платформа NVIDIA GH200 NVL32 позволяет совместным клиентам масштабировать до тысяч GH200 Superchips, обеспечивая производительность суперкомпьютера.
-
Размещение NVIDIA DGX Cloud на AWS: сотрудничество по размещению NVIDIA DGX Cloud, услуги обучения ИИ как услуги, на AWS, с использованием GH200 NVL32 для ускоренного обучения генеративного ИИ и крупномасштабных языковых моделей.
-
Суперкомпьютер Project Ceiba: сотрудничество над Project Ceiba, направленное на создание самого быстрого в мире суперкомпьютера на базе GPU с 16 384 суперчипами NVIDIA GH200 и производительностью 65 эксафлопс.
-
Введение новых экземпляров Amazon EC2: AWS представляет три новых экземпляра Amazon EC2, включая экземпляры P5e, работающие на GPU NVIDIA H200 Tensor Core для масштабных задач генеративного ИИ и высокопроизводительных вычислений (HPC).
-
Инновации в области программного обеспечения: NVIDIA представляет на AWS такое программное обеспечение, как микросервис NeMo Retriever для чат-ботов и инструментов для создания резюме, а также BioNeMo для ускорения открытия лекарств фармацевтическими компаниями.
Это сотрудничество является свидетельством совместной приверженности продвижению области генеративного ИИ, предоставляя клиентам доступ к передовым технологиям и ресурсам.
Внутренние команды Amazon по робототехнике и выполнению заказов уже используют платформу NVIDIA Omniverse для оптимизации складов в виртуальных средах перед реальным внедрением.
Интеграция технологий NVIDIA и AWS ускорит разработку, обучение и вывод крупномасштабных языковых моделей и приложений генеративного ИИ в различных отраслях.