Компания Nvidia анонсировала серию новых продуктов, призванных способствовать дальнейшему повышению эффективности глубинного обучения. Среди них следует выделить высокопроизводительный сервер DGX-2, который предоставит приложениям искусственного интеллекта вычислительные мощности в 2 PFLOPS.

Выступая на 10-й ежегодной конференции Nvidia GTC, основатель и генеральный директор компании Дженсен Хуанг объявил также об удвоении памяти графической платы Tesla V100 до 32 Гбайт, что позволит повысить эффективность глубинного обучения и высокопроизводительных вычислений.

Хуанг указал, что вычислительная мощность графических процессоров продолжает увеличиваться, а для сохранения существующих темпов роста нужны еще более мощные компьютеры, оснащенные всем необходимым.

«Сегодня мы находимся на переломном этапе, а количество людей, обращающихся к вычислительным мощностям графических процессоров, растет невиданными темпами, – указал Хуанг. – За последние пять лет число разработчиков, использующих графические процессоры, увеличилось в десять раз и достигло почти миллиона человек. Глядя на перемены, произошедшие за последние пять лет, мы нисколько не сомневаемся в том, что организация вычислений с помощью графических ускорителей стала правильным ответом на возникающие вызовы».

Графическая плата Tesla V100, уже успевшая завоевать популярность среди исследователей всего мира, теперь нашла применения и в системах глубинного обучения Nvidia DGX.

Компания анонсировала также новую технологию внутренних межсоединений NVSwitch, позволяющая организовать в одном серверном узле обмен данными между 16 графическими платами Tesla V100 на скорости 2,4 Тбайт/с. Это позволит справиться с недостаточной производительностью шины PCIe при построении систем, объединяющих несколько графических процессоров, и создать более быструю и масштабируемую структуру внутренних соединений.

По словам Хуанга, у разработчиков появится возможность проектировать системы, которые объединят больше графических процессоров, поддерживающих высокоскоростной обмен.

Генеральный директор Nvidia представил новый комплекс DGX-2 – первый одиночный сервер с производительностью в 2 PFLOPS, предназначенный для решения сложных задач искусственного интеллекта. Система DGX-2 заменяет собой 300 обычных серверов, занимающих в ЦОДе 15 стоек. Он оснащен пространством хранения объемом в 30 Тбайт и работает в десять раз быстрее предыдущей модели DGX-1, выпущенной всего шесть месяцев назад. Новая система начнет поставляться в третьем квартале 2018 года по цене 399 тыс. долл. (ориентировочные цены в США. — Прим. ред.), однако некоторые исследователи данных уже сейчас используют в своей работе этот продукт.

«Многих нынешних достижений удалось добиться благодаря платформе глубинного обучения Nvidia, – добавил Хуанг. – Мы увеличиваем производительность нашей платформы темпами, значительно опережающими закон Мура, осуществляя прорывы, которые помогают совершать революцию в сфере здравоохранения, транспорта, научных исследований и несчетном количестве других областей».

Рост рабочей нагрузки ЦОД, приходящейся на системы искусственного интеллекта, высокопроизводительные вычисления и бизнес-анализ, заставляет крупнейших в мире производителей серверов и провайдеров облачных сервисов спешно закупать новейшие графические ускорители Tesla V100, созданные на базе архитектуры Nvidia Volta.

Компания Nvidia заставила говорить о новых Tesla V100 всю экосистему, включая разработчиков программного обеспечения, закрепив свое доминирующее положение в области графических процессоров для ЦОД.

На конференции Strata Data Conference в Нью-Йорке компании IBM, HPE, Dell EMC и Supermicro анонсировали интеграцию новых графических ускорителей в свои продукты. Чуть ранее на конференции GPU Technology Conference, организованной Nvidia в Пекине, об использовании референсной архитектуры Nvidia HGX и внедрении систем на базе архитектуры Volta в гипермасштабные ЦОДы заявили Lenovo, Huawei и Inspur.

Разработчики графической архитектуры Volta сделали гигантский шаг вперед по сравнению с архитектурой Nvidia Pascal. Продукты Tesla V100, созданные на базе Volta, имеют 21 млрд транзисторов и 5100 ядер CUDA. Их тактовая частота может достигать 1455 МГц. Для сравнения, ускорители Tesla P100, построенные на основе архитектуры Pascal, содержат 3840 ядер CUDA и 15 млрд транзисторов.

Nvidia контролирует около 70% рынка дискретных графических плат и практически весь рынок графических процессоров для машинного обучения. Впрочем, одним только оборудованием дело здесь не ограничивается. Экосистема, выстраиваемая на базе платформы параллельных вычислений CUDA и модели API, помогает воздвигать барьеры, которые конкурентам Nvidia, компаниям Intel и AMD вряд ли удастся преодолеть.

«Хотя мы сосредоточены в основном на оборудовании, и Volta занимает здесь очень важное место, не меньшее внимание следует уделять и дополнительным продуктам – компиляторам, системам, программным инструментам и т.д., которые Nvidia активно развивает на протяжении уже нескольких лет», – заявил Дин Маккеррон из Mercury Research.

Среди дополнительных инструментов следует выделить новую версию Nvidia TensorRT – оптимизирующего компилятора и исполняемой среды для развертывания систем машинного обучения в ЦОД гипермасштабов, а также на встроенных и автомобильных графических платформах.

Независимые разработчики программного обеспечения также анонсировали на конференции Strata приложения, которые будут работать на графических процессорах с архитектурой Volta. Программа искусственного интеллекта Driverless AI, представленная H2O.ai, специально адаптирована к архитектуре Nvidia Volta. Она уже работает на суперкомпьютере DG-X1, представленном в начале сентября, и будет запускаться на любом сервере с новой версией Tesla V100 (поддерживая при этом обратную совместимость с системами с архитектурой Pascal).

Разработчики графической архитектуры Volta сделали гигантский шаг вперед по сравнению с архитектурой Nvidia Pascal Источник: Nvidia

По словам генерального директора и одного из основателей H2O.ai Срисатиша Амбати, программное обеспечение Driverless AI позволит получать логические выводы на основе анализа данных, не имея специальных знаний в области машинного обучения. Оно может найти применение в сферах страхования, здравоохранения и финансовых услуг.

Графические процессоры с массово-параллельной архитектурой хороши в первую очередь при решении задач машинного обучения и настройке нейронных сетей, но серверы с этими процессорами могут выполнять и многие другие операции.

«Прежде всего речь идет обо всем, где нужны графические процессоры, но одним лишь искусственным интеллектом дело здесь не ограничивается, – подчеркнул Маккеррон. – Искусственный интеллект, машинное обучение, виртуализация, рендеринг, множество функций параллельного поиска – все эти задачи весьма востребованы в ЦОД, и у Nvidia есть много пространства для дальнейшего развития».

Приложение Kinetica, предназначенное для работы с базами данных в оперативной памяти и активно использующее вычислительные мощности графических процессоров, также устанавливается на системах Nvidia DGX и на других серверах с графическими процессорами Pascal или Volta. «Пявление Volta способствовало несомненному росту производительности», – заявил директор Kinetica по совместному с партнерами проектированию Вуди Кристи.

Kinetica ускоряет выполнение запросов Tableau и используется в сфере финансовых услуг, розничной торговли, здравоохранения и в государственном секторе для оперативной аналитической обработки (OLAP), выполнения приложений искусственного интеллекта, бизнес-анализа и геопространственной аналитики.

Серверы с графическими ускорителями Tesla V100

Производители серверов анонсировали целый ряд систем на базе Volta V100.

• Dell EMC. Серверы PowerEdge R740 поддерживают до трех графических ускорителей V100 с интерфейсом PCIe; PowerEdge R740XD – до трех V100 с интерфейсом PCIe; а PowerEdge C4130 – до четырех V100 с интерфейсом PCIe или до четырех V100 с интерфейсом Nvidia NVlink типоразмера SXM2.
• HPE. Серверы HPE Apollo 6500 поддерживают до восьми графических ускорителей V100 с интерфейсом PCIe, а системы HPE ProLiant DL380 – до трех V100 с интерфейсом PCIe.
• Supermicro. Поддержку новых графических процессоров обеспечивают следующие продукты этой компании: рабочая станция 7048GR-TR, предназначенная для высокопроизводительных вычислений общего назначения; серверы 4028GR-TXRT, 4028GR-TRT и 4028GR-TR2, служащие для управления приложениями машинного обучения; и серверы 1028GQ-TRT, выпускаемые для построения современных аналитических систем.
• IBM. Новые серверы IBM Power System с процессорами POWER9 будут поддерживать сразу несколько ускорителей V100 с интерфейсом NVLink. Архитектура межпроцессорного обмена OpenPower обеспечит максимальную пропускную способность. Более подробная информация об этом будет доступна в конце текущего года.

На конференции GPU Technology Conference в Пекине о своей поддержке архитектуры Volta объявили провайдеры облачных сервисов Alibaba, Baidu и Tencent, начинающие перевод своих ЦОД и облачной инфраструктуры с Pascal на Volta.

По сообщениям компании Nvidia, самый быстрый на сегодняшний день ее графический процессор, Tesla P100, появится в серверах в следующем году.

«Dell, Hewlett Packard Enterprise, Cray и IBM начнут принимать заказы на серверы с процессорами Tesla P100 в четвертом квартале нынешнего года, – заявил генеральный директор Nvidia Джен-Сан Хуанг во время своего выступления на конференции GPU Technology Conference в Сан-Хосе. – А поставки серверов начнутся в первом квартале следующего года».

Новые графические процессоры будут поставляться и компаниям, которые занимаются проектированием крупномасштабных серверов, а выпуск их поручают аутсорсинговым производственным предприятиям. К концу года они станут доступны и для «облачных серверов» подобного рода.

Компания Nvidia разрабатывала новые графические процессоры для систем глубинного обучения, алгоритмы которых помогают устанавливать взаимосвязи между данными и классифицировать их. Такие системы позволяют беспилотным автомобилям, роботам и дронам идентифицировать находящиеся перед ними объекты. Конечная цель заключается в том, чтобы ускорить процесс обучения таких систем и добиться повышения точности получаемых результатов.

Графические процессоры Nvidia широко применяются в современных суперкомпьютерах. Согласно рейтингу Top500, в двух из десяти самых быстрых в мире на сегодняшний день суперкомпьютерах установлены графические процессоры Nvidia.

Процессор Tesla P100 базируется на новой архитектуре Nvidia Pascal. Многочисленные усовершенствования, реализованные в этом процессоре, должны способствовать заметному повышению общей производительности серверов.

В графическом процессоре насчитывается 15 млрд транзисторов, а производительность операций с плавающей точкой достигает 21,2 TFLOPS.

Чип будет выпускаться на основе 16-нанометрового производственного процесса FinFET. Процессоры размещаются поверх друг друга, что открывает перед Nvidia дополнительные возможности.

Tesla P100 оснащается памятью HBM2 (High-Bandwidth Memory 2) с пропускной способностью 256 Гбайт/с, которая в два раза быстрее памяти HBM предыдущего поколения.

Новый интерфейс NVLink обеспечивает передачу данных со скоростью 160 Гбит/с – в пять раз быстрее по сравнению с шиной PCI-Express.

Остаются, однако, вопросы, связанные с интеграцией шины NVLink в серверы. Корпорация IBM уже объявила о поддержке NVLink архитектурой Power, но в серверах с процессорами Intel подключение графических процессоров к материнской плате осуществляется через шину PCI-Express.

Тем не менее, на конференции компания Nvidia уже продемонстрировала суперкомпьютер DGX-1, в котором процессоры Intel Xeon работали совместно с Tesla P100.

Nvidia анонсировала обновленную графическую плату Tesla K80, которая стала самым быстрым на сегодняшний день ее графическим решением. Процессоры Tesla используются сейчас в ряде наиболее производительных в мире суперкомпьютеров для решения научных задач.

Модель K80 базируется на технологии, которая аналогична той, что применяется в GeForce,  графических платах для ПК. Изменена лишь схема работы памяти и каналов передачи данных. Инженерные компании смогут использовать K80 для построения визуальных моделей, а нефтегазовые – для проведения геологических исследований и поиска наилучших мест для бурения скважин. Процессоры Tesla устанавливаются также в серверы для подключения удаленных клиентов к виртуальным рабочим столам.

Производительность K80 составляет 8,74 TFLOPS при выполнении операций с одинарной точностью. Быстродействие флагманского графического процессора Nvidia для настольных компьютеров GeForce GTX 980 находится на уровне 5 TFLOPS. По производительности и пропускной способности памяти K80 примерно в два раза опережает своего предшественника – чип K40, который был анонсирован в прошлом году примерно в это же время.

В 2016 году Nvidia обещает представить еще более быстрые графические продукты, которые будут построены на основе архитектуры Pascal. Благодаря новой шине NV-Link графические процессоры смогут быстрее обмениваться информацией, что будет способствовать дальнейшему росту производительности. По словам представителей Nvidia, по производительности NV-Link в пять раз превосходит шину PCI-Express 3.0, которая сегодня используется в большинстве серверов и ПК.

Nvidia Tesla – один из нескольких доступных сегодня ускорителей серверов. Intel предлагает Xeon Phi, а AMD — платы FirePro для серверов и рабочих станций. Соответствующее программное обеспечение должно разрабатываться с учетом особенностей и преимуществ этих процессоров. Nvidia предлагает для Tesla среду параллельного программирования CUDA.

Одним из недостатков графических процессоров является большое количество электроэнергии, потребляемой ими во время обработки данных. Поэтому использовать их следует для решения специальных задач.

Чип K80 состоит из двух графических процессоров, которые распределяют между собой нагрузку. В общей сложности он содержит 4992 процессорных ядра и 24 Гбайт памяти GDDR5. Пропускная способность памяти составляет 480 Гбайт/с. Технология GPU Boost позволяет увеличивать производительность выполнения конкретных приложений, что позволяет добиваться еще более высоких результатов.

HP, Dell, Quanta и Cray намерены устанавливать графические процессоры K80 в свои серверы. Системы HP и Dell будут построены на базе центральных процессоров Intel Xeon.

Так, Dell PowerEdge C4130 представляет собой сервер высотой 1U, больше похожий на некое специализированное устройство. В нем умещается до двух плат K80. По словам главного архитектора группы корпоративных решений Dell Джимми Пайка, серверы C4130 можно использовать в качестве строительных блоков для создания суперкомпьютеров.