Компания Nvidia расширяет сферу применения своих решений, выводя их за рамки искусственного интеллекта и игр и стремясь охватить всю компьютерную экосистему с упором на мобильность и облачные ЦОДы следующего поколения.
Амбиции Nvidia становятся ясны в свете предстоящего приобретения ею Arm Technology и позиционирования генеральным директором Дженсеном Хуангом своей компании в качестве поставщика «всего вычислительного стека в полном объеме». Демонстрируя на виртуальной конференции Nvidia GPU Technology Conference плоды значительных инвестиций в НИОКР, Хуанг среди прочих новинок анонсировал выпуск процессора обработки данных (data processing unit, DPU) с новой архитектурой BlueField.
Ускорение решения различных задач за счет программной разгрузки процессора
Стратегически в основе BlueField лежат два самых крупных последних приобретения Nvidia. Новая аппаратная архитектура базируется на архитектуре процессоров Arm. Кроме того, в ней нашла применение технология высокоскоростных межкомпонентных соединений, которую Nvidia получила недавно вместе с покупкой компании Mellanox.
Знаменуя собой эволюцию Nvidia вне рамок графических процессоров, архитектура DPU представляет собой высокопроизводительную многоядерную систему на кристалле (system on chip, SoC). DPU с архитектурой BlueField включает в свой состав программируемые технологии обработки данных, ускоряющие работу широкого спектра приложений искусственного интеллекта, сетей, ускорителей, систем виртуализации, безопасности, и хранения, а также выполнения других корпоративных задач.
Являясь основой серверных интеллектуальных сетевых контроллеров, DPU снимают нагрузку с центральных процессоров, эффективно анализируя, обрабатывая и передавая большие объемы данных на максимально возможной скорости. Помимо ускорения за счет разгрузки центрального процессора, DPU-процессор Nvidia укрепляет безопасность ЦОДов, поскольку встроенные в него ядра Arm обеспечивают дополнительный уровень изоляции между службами безопасности и приложениями, выполняемыми центральным процессором.
На GTC были представлены сразу несколько членов нового семейства DPU.
.jpg)
- Nvidia BlueField-2. В 2021 году архитектура, поддерживающая все возможности Nvidia Mellanox ConnectX-6 Dx SmartNIC, будет интегрироваться в новые серверные системы партнеров Nvidia. Она включает в себя программируемые ядра Arm, обеспечивает передачу данных на скорости 200 Гбит/с и позволяет снимать нагрузку с другого важного оборудования для ускорения выполнения ключевых задач ЦОДов. Ускоряется работа средств безопасности, сетей и подсистем хранения, включая изоляцию, корневое доверие, управление ключами, RDMA/RDMA over Converged Ethernet, GPUDirect, эластичное блочное хранение и сжатие данных. Здесь присутствует контроллер для управления высокопроизводительной внутренней энергонезависимой памятью, массивами хранения, полностью построенными на основе флеш-памяти, и гиперконвергентными системами. Всего один чип BlueField-2 способен снять в ЦОДе нагрузку со 125 процессорных ядер, освобождая их циклы для обработки других корпоративных приложений.
.jpg)
- Nvidia BlueField-2X. Этот чип находится пока в стадии разработки и должен появиться в 2021 году. К BlueField-2 здесь добавлена архитектура графических процессоров Nvidia Ampere, позволяющая проводить с помощью CUDA и искусственного интеллекта Nvidi вычисления в интересах внутренних сетевых систем. Ключевые возможности BlueField-2 и технология Nvidia Tensor Cores третьего поколения помогают анализировать уровень безопасности в реальном времени с использованием искусственного интеллекта. Чип способен выявлять аномальный трафик, свидетельствующий о краже конфиденциальных данных. Поддерживаются также анализ шифрованного трафика на максимальной скорости и самоанализ трафика для выявления вредоносных действий, автоматического срабатывания функций безопасности и пересылки автоматических ответов.
Кроме того, Nvidia анонсировала выпуск в 2022 году DPU следующего поколения BlueField-3 и BlueField-3X, а в 2023 году – BlueField-4X. В последнем поколении Nvidia интегрирует графический процессор и ядра Arm на уровне микросхем. Компания пообещала, что в части производительности DPU BlueField-4 будет превосходить BlueField-2X в 1000 раз, а BlueField-3X – в 600 раз.
Построение вокруг архитектуры DPU надежной экосистемы
Развивая свою аппаратную платформу в части архитектуры DPU для поддержки новых корпоративных приложений, Nvidia стремится обеспечить полную интеграцию ускорителей BlueField/DOCA в партнерскую экосистему Arm.
Объявив об этой стратегии на GTC, компания анонсировала помощь партнерам Arm, которая будет заключаться в предложении им платформы полного стека, включающие в себя графические процессоры, сети с поддержкой DPU, а также технологии хранения и безопасности. Партнеры Arm привлекаются к созданию решений полного стека для высокопроизводительных вычислений, облачных технологий, пограничных вычислений и расширения возможностей ПК. Кроме того, технологии искусственного интеллекта и RTX переносятся на платформу Arm, с тем чтобы охватить гораздо более обширный рынок по сравнению с рынком x86-платформ, на которых традиционно работала Nvidia.
Партнерам отводится важная роль в реализации планов поддержки Nvidia более широкого спектра корпоративных приложений и в выводе нового семейства продуктов DPU за рамки приложений искусственного интеллекта. Неотъемлемой частью стратегии Nvidia, направленной на закрепление достигнутых результатов и дальнейшую экспансию, является DOCA – новая архитектура SoC, предназначенная для построения инфраструктуры ЦОД, и набор инструментов для разработчиков программного обеспечения (software development kit, SDK).
Доступный в настоящее время только партнерам SDK DOCA позволяет разработчикам писать в сервисах инфраструктуры ЦОДов приложения, работа которых будет ускоряться с помощью BlueField. Разработчики могут переносить нагрузку с центральных процессоров на процессоры обработки данных BlueField. В Nvidia предлагают корпоративным разработчикам новые инструменты, дополняя программную модель CUDA, позволяющую разрабатывать приложения, производительность которых повышается за счет использования графических ускорителей. Кроме того, пакет SDK полностью интегрирован с каталогом контейнерного программного обеспечения Nvidia NGC, что является для независимых поставщиков приложений дополнительным стимулом разрабатывать, сертифицировать и распространять приложения, ускоряемые с помощью DPU.
Ряд ведущих поставщиков программного обеспечения (VMware, Red Hat, Canonical и Check Point Software Technologies) объявили на конференции GTC о планах интеграции в следующем году своих продуктов с новой архитектурой ускорителей DSP/DOCA. Кроме того, в Nvidia сообщили, что ряд ведущих производителей серверов, включая Asus, Atos, Dell Technologies, Fujitsu, Gigabyte, H3C, Inspur, Lenovo, Quanta/QCT и Supermicro, в те же сроки планируют интегрировать DPU в свои продукты.
Хотя в заявлении Microsoft об использовании искусственного интеллекта Nvidia в Azure для повышения производительности облачных приложений Microsoft Office за счет графических ускорителей никакой связи с анонсом Хуанга о поддержке архитектуры Arm не прослеживается, не удивлюсь, если в ближайшие годы все больше мобильных и прочих приложений Office начнет ускоряться с помощью технологии DPU.
Уменьшение зависимости от графических ускорителей
Команда Nvidia не теряет времени даром, активно включая в свои решения возможность разгрузки центральных процессоров за счет DPU. Хуанг, в частности, объявил, что платформа серверов искусственного интеллекта Nvidia EGX, размещаемых на границах сети, развивается и предполагает объединение архитектуры графических процессоров Nvidia Ampere с BlueField-2 на единой плате PCIe.
Хотя никакой конкретной связи BlueField с Nvidia Jetson, однокристальной системой с архитектурой Arm, предназначенной для создания роботов на основе искусственного интеллекта, пока не прослеживается, резонно предположить, что DOCA будет развиваться в направлении поддержки приложений, которые являются перспективным источником роста для базовых платформ Nvidia. С уверенностью можно сказать также, что компания будет использовать свое новое оборудование и SDK для ускорения платформы Omniverse, предназначенной для совместной разработки 3D-контента, платформы Jarvis для разговорного искусственного интеллекта и новой платформы Maxine для ускорения с помощью искусственного интеллекта облачного потокового видео.
Не растерять импульс
Новая архитектура BlueField и SDK DOCA в совокупности образуют стратегическую платформу для расширения возможностей корпоративных клиентов, поставщиков услуг и конечных потребителей всех типов.
Благодаря аппаратному ускорению и разгрузке центрального процессора архитектура DPU открывает Nvidia путь к объединению новых программных моделей DOCA с платформой разработки приложений искусственного интеллекта CUDA и каталогом контейнерных облачных решений NGC. Все это позволит компании обеспечить как собственных разработчиков продуктов, так и партнеров аппаратными и программными платформами, которые нужны для ускорения полного спектра приложений и инфраструктуры, от облака до границ сети.
В условиях ожидания окончательного одобрения предполагаемого приобретения компании Arm Technology, Nvidia придется доказывать существующей партнерской экосистеме преимущества новой архитектуры. Если технология DPU не оправдает громких обещаний повышения производительности, это может повредить налаживанию отношений Nvidia с огромным количеством лицензиатов Arm, которые полагаются сегодня на предлагаемую им архитектуру центрального процессора и могли бы получить существенный выигрыш от интеграции с ведущей на рынке технологией искусственного интеллекта Nvidia.
Очевидно, что Nvidia не может позволить себе растерять задел в схватке облачных и периферийных микропроцессоров в тот момент, когда она только начала отрываться от своего главного конкурента и ведущего игрока на рынке центральных процессоров – компании Intel.
