На очередной ежегодной конференции GPU Technology Conference (GTC) компании Nvidia ее руководители, как всегда, сделали множество анонсов новых продуктов. Центральной темой докладов, как и все последние годы, стало аппаратное обеспечение и услуги, помогающие во внедрении технологий искусственного интеллекта.

Выступая на сцене выставочного комплекса Калифорнийского университета в Сан-Хосе, основатель и генеральный директор компании Дженсен Хуанг заявил: «Продвигаемый нами подход к ускорению вычислений сегодня по-настоящему набирает обороты. Если окинуть взглядом успехи компании за прошлый год, вектор развития вполне очевиден».

Во всех начинаниях Nvidia, от разработок в области глубинного обучения до многочисленных инициатив по созданию ускорителей для систем различного назначения, прослеживается стремление компании более прочно закрепиться в сегменте центров обработки данных. В условиях растущей актуальности искусственного интеллекта соответствующие технологии активно внедряются в дата-центрах по всему миру. Буквально пару недель назад в Nvidia снова убедительно подтвердили свои намерения двигаться в этом направлении, договорившись о приобретении за 6,9 млрд долл. израильской компании Mellanox, производителя интегральных схем для высокопроизводительных межсоединений вычислительных систем и систем хранения.

Недавно компания также представила CUDA-X AI, универсальный набор библиотек для ускорения задач исследования данных. CUDA-X AI интегрируется с популярными фреймворками глубинного обучения, в том числе TensorFlow, Pytorch и MXNET, и оптимизирован для работы с ними. Помимо прочего библиотеки реализуют технологии cuDNN, cuML и Nvidia TensorRT, ускоряющие работу алгоритмов машинного обучения и заранее обученных моделей для инференса (inference — «формирование логических выводов»).

«Мало создать инновационный чип-ускоритель, — отметил Хуанг. — Если не заинтересовать им разработчиков и пользователей, большого смысла не будет. Именно поэтому для нас так важно взаимодействие с экосистемой с опорой на принцип открытости платформы: сегодня мы предлагаем гибкие программные библиотеки, интегрируемые с популярными технологиями искусственного интеллекта».

Партнерство с провайдерами публичных облаков

CUDA-X AI уже внедряется провайдерами облачных сервисов во главе с AWS, Google Cloud и Microsoft Azure.

На конференции топ-менеджеры AWS и Nvidia рассказали о расширении семилетнего сотрудничества двух компаний, объявив, что отныне в AWS будут использовать чипы Nvidia T4 Tensor Core, предназначенные для центров обработки данных. Начиная с апреля, AWS задействует их для экземпляров Elastic Compute Cloud (EC2). Новые экземпляры AWS, получившие название с G4, обещают клиентам эффективную платформу для развертывания широкого круга сервисов искусственного интеллекта с поддержкой использования CUDA-X AI и других профильных программных средств.

«С экземплярами G4 клиентам станет еще проще и экономически выгоднее ускорять работу систем инференса и ресурсоемкие задачи обработки графики», — заявил Мэтт Гармен, вице-президент AWS по вычислительным сервисам.

Nvidia T4 также будет задействован в сервисе Amazon Elastic Container Service for Kubernetes, который можно будет применять для задач формирования логических выводов, трассировки лучей в реальном времени и симуляционного моделирования.

В Nvidia сообщили, что T4 будет применяться в центрах обработки данных Google Cloud, и что ведутся переговоры по его поставкам китайским гигантам Baidu, Tencent и Alibaba.

«В прошлом предприятия мало интересовались искусственным интеллектом, поскольку для соответствующих внедрений вам по сути нужно было купить суперкомпьютер, — отметил Иэн Бак, вице-президент и генеральный менеджер Nvidia по ускоренным вычислениям. — А сегодня, когда есть T4, вы можете оснастить им серверы, широко закупаемые службами ИТ, например, Dell R7490 или Cisco USC, и у вас появляется доступ к самым современным решениям в сфере машинного обучения».

Кроме того, серверы с T4 помогают ускорять задачи, связанные с исследованием данных. «Специалистам соответствующего профиля больше не нужно заниматься реализацией или адаптацией вспомогательных систем — мы предлагаем универсальный сервер и единую платформу, вот в чем смысл CUDA-X и T4», — добавил Бак.

Компьютеры Nano

Важной частью стратегии привлечения производителей и разработчиков к платформе Nvidia является выпуск Jetson Nano, компьютера карманных размеров для приложений искусственного интеллекта с вычислительной мощностью до 472 GFLOPS и ценой в США всего 99 долл. Он обещает поддержку всех современных рабочих нагрузок искусственного интеллекта, а потребляет лишь 5 Вт. При этом, как заявляют в Nvidia, на нем может работать то же ПО, которое выполняется на самых быстрых суперкомпьютерах мира.

Представив Nano, как Raspberry Pi для задач искусственного интеллекта, Хуанг добавил: «Если вы пользуетесь Raspberry Pi и вам не хватает вычислительной мощности, вы можете просто купить Jetson Nano, и на нем сможет работать весь стек CUDA-X AI».

Вице-президент и генеральный менеджер Nvidia по автономным машинам Дипу Талла, в свою очередь, сообщил: «Продукты линейки Jetson пользуются высокой популярностью среди участников отрасли и разработчиков. На сегодня у нас более 200 тыс. активных разработчиков на Jetson и более двух тысяч клиентов, которые создают реальные продукты на базе Jetson, уже внедряемые на различных вертикальных рынках, в том числе в сфере промышленной робототехники».

По словам Таллы, компьютеры Jetson внедряются курьерскими службами и логистическими компаниями в США и Китае, а кроме того, на основе этих устройств и оборудования видео-конференц-связи Cisco WebEx создаются решения для видеоаналитики.

Говоря о преимуществах Nano, основными отличительными чертами этих одноплатных компьютеров Талла назвал широкий круг поддерживаемых ими датчиков, включая радары, звуковые, температурные и др., а также возможность работы с датчиками, имеющими высокую разрешающую способность:

«Если вам требуется система распознавания брака на производственной линии, например, система контроля качества пищевых продуктов или печатных плат, то будет лучше, если ваша нейронная сеть способна работать со снимками разрешения 1080p, а не что-нибудь вроде 300х300, иначе нужной точности вы не добьетесь. Более того, информация с датчиков обычно проходит через несколько нейросетей. Например, если говорить о видеодатчике, вначале вы обнаруживаете объекты, а затем их классифицируете. Таким образом, основной плюс наших компьютеров — это возможности работы с многочисленными датчиками высокого разрешения и использования нескольких нейронных сетей для каждого».

В Nvidia также объявили о свободной доступности Isaac SDK, набора инструментов, ускоряющих разработку робототехники с искусственным интеллектом. В числе входящих в него компонентов — фреймворк Robot Engine для быстрого построения модульных приложений; набор модулей GEMS, реализующих различные типовые задачи наподобие распознавания препятствий, оценки расстояния до объектов и др.; а также виртуальная лаборатория-симулятор Sim.

В компании обещают, что платформа поможет стартапам и крупным компаниям экономить время в процессе проектировании роботов за счет значительного упрощения использования средств искусственного интеллекта и машинного обучения.

Реагируя на рост популярности концепции периферийных вычислений, в Nvidia объявили об интеграции всех устройств семейства Jetson с сервисом AWS Greengrass, который позволяет локально обрабатывать данные устройств Интернета вещей и периодически соединяться с облаком для реализации управляющих функций. А компьютер Jetson Nano теперь поддерживает AWS RoboMaker, облачный сервис разработки, тестирования и развертывания масштабных робототехнических приложений.

Еще одно объявление — о доступности платформы видеоаналитики Nvidia Deepstream в облаке Microsoft Azure. «Вы выполняете вычислительно сложные задачи аналитики локально — например, на сервере с Tesla, затем метаданные передаются в Azure, и таким образом выстраивается необходимый цикл обработки», — добавил Талла.

Робомобили

Свой трехчасовой доклад Хуанг завершил объявлением о том, что Nvidia продлила сотрудничество с исследовательским институтом Toyota и его филиалом в США.

Компания Toyota, в которой хотят со временем выпустить самоуправляемый автомобиль, займется оценкой возможностей применения технологий симуляции Nvidia для испытаний роботизированнных транспортных средств.

Nvidia анонсировала Drive Constellation, решение для центров обработки данных на базе специализированных серверов Drive Sim и Drive Constellation Vehicle, которые благодаря новым видеочипам Nvidia и технологии Drive AGX Pegasus AI позволяют выполнять в режиме симуляции выполнять «испытания с побитовой точностью».

Drive Constellation моделирует окружающую обстановку в режиме дополненной или полностью виртуальной реальности, имитируя различные сценарии, в том числе опасные ситуации и изменения при распознавании предупреждающих знаков, например, попадание в зону ограничения скорости и т. п.

Развивая платформу робомобилей Drive, в Nvidia ведут собственные исследования в области безопасного вождения. В частности, в компании объявили о подготовке Safety Force Field — набора правил предотвращения аварий, созданного по результатам симуляций.

«Реализация автопилота — одна из самых актуальных на сегодня вычислительных задач повышенной сложности, — отметил Хуанг. — Мы, в частности, работаем над алгоритмами распознавания окружающих автомобилей и прогнозирования их действий, который помогает избегать аварийных ситуаций. Nvidia находится в эпицентре революции робомобилей, но мы сами не создаем самоуправляемые автомашины, а строим экосистему, инфраструктуру и предоставляем инженерные возможности, которые нужны отрасли автомобилей-роботов в целом».

На Всемирном мобильном конгрессе Mobile World Congress в Барселоне компания Lenovo представила несколько новых моделей ноутбуков серии IdeaPad с процессорами AMD Ryzen и видеокартами Radeon, а также с процессорами Intel Core 7 (Whiskey Lake) с новыми видеокартами Nvidia GeForce MX250 и MX230, о которых пока почти ничего не сообщалось. Ноутбуки выйдут в продажу в апреле и будут стоить от 370 до 880 долл.

Самыми дешевыми из новых моделей будут IdeaPad S340 с двух- и четырехъядерными процессорами Intel Core i3-8145U и Core i7-8565U и четырехъядерными процессорами AMD Ryzen 7 3700U с видеокартами Radeon RX Vega 10. У этих ноутбуков обычные жидкокристаллические экраны (TN и IPS) размером 14 и 15 дюймов.

Гибридные ноутбуки IdeaPad C340 стоят дороже — от 450 до 500 долл. В них устанавливаются четырехъядерные Intel Core i7-8265U, двухъядерные Core i3-8145U и Pentium Gold 5405U или AMD Athlon 300U, Ryzen 3 3200U, Ryzen 5 3600U и Ryzen 7 3700U, а разрешение экрана доходит до 1920x1080 точек. В моделях с процессорами Intel вместо встроенной графики могут использоваться графические карты GeForce MX230.

В самых дорогих моделях IdeaPad S340 устанавливаются графические карты GeForce MX250 и GTX 1050. Чипы MX250, как утверждают в Nvidia, в 3,5 раза быстрее, чем процессоры Intel со встроенными графическими ядрами UHD620, но более подробных характеристик на них пока не опубликовано.

Производительность видеокарты Radeon VII, только что представленной компанией AMD, невысока, а никаких новых функций — ни трассировки лучей, ни машинного обучения — в нем нет, ожидаемо раскритиковал новинку конкурента генеральный директор Nvidia Дженсен Хуанг, выступая на международной выставке потребительской электроники CES 2019 в Лас-Вегасе. Этот процессор едва может догнать GeForce RTX 2080 в обычном режиме, а если в RTX будет включен режим сглаживания DLSS, или трассировка лучей, то RTX вырвется далеко вперед, уверяет он. Впрочем, AMD Radeon VII еще не вышла в продажу, и сравнить ее производительность с RTX 2080 в реальных условиях пока невозможно.

Недавно Nvidia объявила, что готова поддерживать стандарт Vesa Adaptive Sync, предназначенный для адаптивной подстройки частоты кадров в играх. Этот стандарт был реализован в разработанной в AMD технологии под названием FreeSync после того, как Nvidia выпустила свою аналогичную технологию G-Sync. Однако Дженсен Хуанг по-прежнему заверяет, что FreeSync не может соревноваться с G-Sync. Большинство мониторов, якобы поддерживающих FreeSync, на самом деле не работают даже с картами AMD, заявил он. При испытаниях в Nvidia из 400 мониторов только 12 включили адаптивную подстройку автоматически, а остальным потребовалось ручное переключение.

В ходе своего выступления на международной выставке потребительской электроники CES 2019 в Лас-Вегасе представители компании заявили, что новые графические процессоры GeForce RTX 2060 обладают удвоенной мощностью трассировки лучей.

Компания заявила, что уже имеется не менее 40 ноутбуков, укомплектованные GeForce RTX 2080 для ноутбуков, GeForce RTX 2070 и GeForce RTX 2060. Также объявлены энергоэффективные модификации Max-Q каждого графического процессора.

Новые GPU, по большей части, эквиваленты своим настольным графическим процессорам по количеству ядер и возможностям, но имеют более низкую тактовую частоту и энергопотребление. По данным компании, графические процессоры для ноутбуков серии RTX на 40% более эффективны, чем аналогичные GPU на основе архитектуры Pascal.

В компании подчеркивают высокую производительность новых графических карт для ноутбуков: топовая модель GeForce RTX 2080 превзойдет настольную карту GeForce GTX 1080.

Также новые Nvidia GeForce RTX для ноутбуков не уступают своим настольным аналогам в архитектуре и объеме памяти, но имеют более низкую тактовую частоту.

Возросшая производительность и эффективность должны привести к появлению более быстрых и тонких ноутбуков.

Официальные представители Nvidia не раскрывают, насколько новые графические карты повысят цену игровых ноутбуков, рекомендуя адресовать этот вопрос производителям систем, поскольку речь идет лишь об одном из компонентов ноутбука. Один из производителей ноутбуков, с которым связался журналист PC World, цена вырастет, но не радикально. Ноутбуки с GeForce RTX ожидаются в продаже в конце января.

Основной темой одной из сессий конференции стали платформы, поддерживающие приложения машинного обучения и искусственного интеллекта. Модератор сессии, Евгений Соломатин, руководитель программы «МВА Телеком» бизнес-школы МИРБИС, отметил несомненный интерес к выступлениям, дискуссиям и обсуждениям конференции, «поскольку здесь пересекаются интересы и людей из бизнеса, и теоретиков, которых свели вместе ее организаторы».

Машинное обучение — одно из направлений искусственного интеллекта, для достижения конечной цели в котором применяется «обучение» компьютерных систем на основе решения множества сходных задач. Алгоритмы машинного обучения основаны на средствах математической статистики, теории вероятностей, теории графов, численных методах. Их производительность повышается по мере обработки нарастающих объемов данных.

Для сложных задач, требующих аналитических вычислений, которые основываются на современных представлениях о возможностях мозга человека, используются нейронные сети, предоставляющие, в том числе, возможность решения в ИТ-системах проблемы эффективного параллелизма.

Современные приложения машинного обучения требуют значительных вычислительных ресурсов, которыми располагают сегодня крупные центры обработки данных, а также исполняются с применением графических процессоров.

Каждый вендор, отмечают эксперты, пытается доказать преимущества предложенной архитектуры, которая для решения задач искусственного интеллекта и машинного обучения реализуется в центральных и графических процессорах, интегральных схемах специального назначения и программируемых логических матрицах.

Nvidia

Лидирующим игроком, продукты которого наиболее популярны для решения задач машинного обучения, является сегодня, по большинству оценок, компания Nvidia.

Дмитрий Коробченко, инженер по глубинному обучению компании Nvidia и популяризатор нейронных сетей, представил стек технологий компании, ускоряющий процессы разработки архитектур и процессов машинного обучения.

«Важнейшие компоненты нейронных сетей — графические процессоры, обеспечивающие высокую производительность при выполнении таких операций, как умножение больших матриц, свертка функций и ряд других, где очень важен массовый параллелизм», — подчеркнул он.

Компания недавно выпустила графические карты Nvidia Tesla T4, разработанные для приложений искусственного интеллекта, которые предназначены для установки в вычислительных системах центров обработки данных.

Дмитрий Коробченко: «Важнейшие компоненты нейронных сетей — графические процессоры»

Их графические процессоры содержат новые тензорные ядра на основе микроархитектуры Turing (о чем свидетельствует буква T в названии карт), обеспечивающие, в том числе, очень высокую производительность при перемножении матриц с пониженной точностью.

Наряду с этим, Tesla T4 отличаются низким энергопотреблением, позволяющим устанавливать их без дополнительных источников питания в разъемы PCI Express серверов.

Для оптимизации моделей глубинного обучения в Nvidia выпустили обновление TensorRT. Теперь эта платформа глубинного обучения содержит сервер принятия решений, а также контейнеризированный микросервис поддержки процессов логических умозаключений (inference), который, как утверждают разработчики, легко интегрируется с инфраструктурой Kubernetes, автоматизирующей развертывание и масштабирование контейнеризированных приложений, а также управление ими.

AMD

В сегменте дискретных графических процессоров единственным крупным конкурентом Nvidia остается компания AMD (см. «AMD намерена стать гигантом машинного обучения», Computerworld Россия, 19 июня 2017).

Аналитики компании Jon Peddie Research, специализирующейся на консалтинге и исследованиях в области графики и мультимедиа, утверждают, что во втором квартале 2018 года доля AMD на рынке дискретных графических процессоров для ПК, серверов, майнинговых ферм, систем для научных исследований составила 36,1%, а Nvidia — 63,9% (соответствующие результаты второго квартала 2017-го — 30,3% и 69,7%).

По словам Тимура Палташева, доктора технических наук и старшего менеджера AMD Radeon Technlogies Group, компания возвращается в дата-центры с семейством серверных чипов EPYC, в состав которого входят 12-нанометровые модели EPYC+ и 64-ядерные EPYC Rome с нормой проектирования 7 нм.

В конце 2017 года компания AMD представила ускорители Radeon Instinct, созданные на основе платформы EPYC, в том числе, модель с графическим процессором Vega. Все они рассчитаны на задачи машинного обучения.

Эксперты считают, что AMD занимает особое положение на рынке, так как выпускает и процессоры на базе на базе архитектуры x86, и собственные графические процессоры. Компания продвигает концепцию гетерогенной системной архитектуры (Heterogeneous System Architecture, HSA), спецификации которой позволяют организовать взаимодействие центральных и графических процессоров, работающих на одной шине с разделяемой памятью и с общими задачами.

«В области машинного обучения мы активно работаем и на уровне 'железа', и на уровне библиотек, хотя еще два года назад в компании не было софтверной команды», — пояснил Палташев.

Ранее AMD вышла с инициативой ROCm (Radeon Open Compute), призванной обеспечить поддержку высокопроизводительных вычислений, которая является альтернативой платформе Nvidia CUDA.

Благодаря программному обеспечению ROCm достигается рост производительности при решении вычислительных задач в операционных средах Linux за счет применения графических процессоров AMD. Это собственная реализация фреймоворка OpenCL для разработки ПО с поддержкой параллельных вычислений на графических и центральных процессорах, которую компания выпустила под публичной лицензией.

Intel

Intel располагает сегодня обширным портфелем технологий искусственного интеллекта, поддерживающим предложение комплексных решений — от центров обработки данных до граничных систем и периферийных устройств.

Этому во многом способствует активное приобретение компаний, их технологий и разработок. Покупка Altera, к примеру, вывела Intel на лидирующие позиции в области применения FPGA для задач, связанных с логическими умозаключениями, а доступ к технологиям компании Nervana обеспечил высокопроизводительное обучение нейронных сетей, для которого в настоящее время используются главным образом технологии Nvidia.

«Корпорация предлагает аппаратные и программные продукты для всех областей искусственного интеллекта, включая машинное и глубинное обучение», — подчеркнул Дмитрий Сивков, ведущий технический инженер-консультант Intel.

Дмитрий Сивков: «Intel предлагает аппаратные и программные продукты для всех областей искусственного интеллекта»

Так, для задач общего характера и машинного обучения, не связанного с глубокими нейронными сетями, вполне подходят процессоры серии Intel Xeon Processor Scalable, пояснил он. Поддержку же интенсивных вычислений обеспечат готовящиеся к коммерческому анонсу чипы первого поколения Intel Nervana Neural Network Processor (NNP).

В портфель продуктов Intel Nervana, предназначенных для решений искусственного интеллекта, входят такие библиотеки, как Intel Python Distribution, Intel Data Analytics Acceleration Library, BigDL, а также платформы Intel Nervana Cloud & Appliance, Nervana DL Studio, Computer Vision SDK и ряд других.

Год назад в Intel объявили о создании чипа Loihi, предназначенного для вероятностных вычислений, который имитирует работу мозга. В планах на 2019 год — создание системы из множества чипов, содержащую 100 млрд синапсов (см. «К 2019 году чипы Intel сравняются по интеллекту с мышами», Computerworld Россия, 18 мая 2018).

Российские разработки

«Около полусотни компаний создают нейрочипы, в основном, — в США и Китае, впрочем, пара таких разработчиков есть и в нашей стране. Самый известный на рынке чип — Google TPU, но его не продают и не намерены этого делать в будущем», — сообщил Станислав Ашманов, генеральный директор и основатель «Нейросетей Ашманова».

Чтобы построить и обучить нейронную сеть для конкретной задачи, нужен конструктор/компилятор нейронных сетей, то есть нейробиблиотека или нейронный, фреймворк, пояснил он, отметив, что в настоящее время в отрасли есть 9 таких библиотек. Все они ориентированы на решения Nvidia.

В «Нейросетях Ашманова» разработана собственная отечественная библиотека Puzzle.Lib, которая, по данным компании, уже используется в коммерческих проектах. Она обеспечивает поддержку графических процессоров AMD, «которые не уступают по производительности Nvidia, но гораздо дешевле», мобильных графических карт Apple и Android, а также продуктов Nvidia, «но без зависимости от лицензий этой компании, так как уже создан свой ассемблер для процессоров Nvidia и разрабатывается аналог cuDNN».

«Мы поддерживаем также отечественные процессоры 'Байкал' и 'Эльбрус'», — заявил Ашманов.

В целом рынок оборудования машинного обучения активно развивается. По оценкам экспертов инвестиционной компании Needham & Company, в ближайшие пять лет суммарный объем мирового рынка поддержки задач логических умозаключений способен достичь 20 млрд долл., 5 млрд из которых, как ожидают сегодня, придется на долю Nvidia.

В Nvidia анонсировали выход Titan RTX (или T-Rex), самого мощного видеоадаптера в мире. Он предназначен в основном для задач машинного обучения и создания цифрового контента: в играх T-Rex в играх будет чуть мощнее, чем геймерский флагман Nvidia, GeFroce RTX 2080 Ti, но это вряд ли будет стоить потраченных денег — цена Titan RTX в США составит 2499 долл., вдвое больше, чем у GeForce RTX.

Адаптер выполнен на базе самого мощного видеопроцессора Nvidia — TU102, имеющего 72 ядра трассировки лучей в реальном времени, 576 тензорных ядра для задач машинного обучения и 4608 ядер CUDA. Видеочип выполнен на базе самой новой архитектуры Nvidia — Turing.

Мощность Titan RTX при обработке чисел половинной точности составляет 130 TFLOPS. Поскольку задачи машинного обучения требуют много памяти, в Nvidia удвоили ее размер по сравнению с прежними платами Titan, оснастив RTX 24 Гбайт видеопамяти GDDR6 с пропускной способностью 672 Гбайт/с.

В компании обещают, что «монстр» раскроет новые возможности работы с цифровым контентом, в частности, Titan RTX позволит монтировать видео 8K в режиме реального времени.

В продажу видеоадаптер поступит в конце декабря.

Компания Nvidia активизирует свои усилия на рынке оборудования для ЦОДов, повышая эффективность решения различных задач искусственного интеллекта с помощью графического процессора Tesla T4. Процессор T4 был создан на основе архитектуры Turing и, наряду с новым программным обеспечением, предназначен для значительного ускорения обработки изображений и речи, автоматизированного перевода и работы рекомендательных сервисов.

T4 является важным компонентом новой платформы Nvidia TensorRT Hyperscale Inference Platform – платы ускорителя, которая, как ожидается, начнет поставляться крупным производителям серверов для ЦОДов в четвертом квартале.

Ядра Turing Tensor Core T4 поддерживают вычисления с различными уровнями точности в приложениях искусственного интеллекта, а также в крупных программных платформах (включая TensorFlow, PyTorch, MXNet, Chainer и Caffe2) для так называемого глубинного обучения – машинного обучения в многоуровневых, или глубоких, нейронных сетях.

«Графический процессор Tesla T4 построен на основе архитектуры Turing, которая совершит революцию в области искусственного интеллекта в ЦОД, – указал генеральный директор Nvidia Дженсен Хуанг, представляя новый графический процессор на конференции GTC в Токио. – Tensor Core – это результат полного переосмысления нами концепции графических процессоров. Фактически мы изобрели графический процессор заново».

Благодаря своей массово-параллельной архитектуре графические процессоры хорошо подходят для решения задач искусственного интеллекта. Параллельные вычисления в сочетании с высокой вычислительной мощностью процессоров Nvidia способствуют тому, что они широко применяются при решении задач искусственного интеллекта, особенно при обработке данных в процессе машинного обучения. По сути, именно появление данной вычислительной платформы способствовала созданию моделей нейронных сетей глубинного обучения.

Обработка с различными уровнями точности

Способность процессоров T4 обеспечивать обработку с различными уровнями точности выгодно отличает их от прежних процессоров Nvidia P4 на базе архитектуры Pascal.

После обучения на больших наборах данных нейросетевые модели передаются в приложения, которые выполняют классификацию данных и выдачу результата на основе правил логического вывода. И если для обучения нужны интенсивные вычисления, то для логического вывода в реальных приложениях от процессора требуется максимальная гибкость.

В идеале обработка на каждом уровне нейронной сети должна выполняться с минимально подходящей для этого уровня точностью. Такой подход позволяет максимизировать скорость вычислений и сократить энергопотребление.

«Создавая архитектуру, обеспечивающую различную точность вычислений, мы добиваемся максимизации соответствия решаемой задаче и пропускной способности, затрачивая на все это 75 ватт мощности, – пояснил Хуанг. – T4 работает по меньшей мере в восемь раз быстрее, чем P4, а в некоторых ситуациях он оказывается быстрее уже в 40 раз».

Современные ЦОДы имеют дело с широким спектром приложений, обрабатывающих миллиарды голосовых запросов, переводов фраз, изображений и видеороликов, рекомендаций и операций взаимодействия в социальных сетях. По оценкам Nvidia, рынок искусственного интеллекта и когнитивных вычислений в ближайшие пять лет достигнет 20 млрд долл. При этом разным приложениям в нейронной сети требуются разные уровни обработки.

«Никто не хочет выполнять 32-разрядные вычисления с плавающей точкой там, где приложению достаточно 16-разрядных вычислений, – пояснил основатель аналитической компании Moor Insights & Strategy Патрик Мурхед. – С новой когнитивной платформой Nvidia высоко подняла планку технологий искусственного интеллекта для ЦОДов».

Что представляет собой TensorRT Hyperscale Inference Platform?

В состав платформы TensorRT Hyperscale Inference Platform, реализованной в виде небольшой платы PCIe, которая потребляет 75 ватт, входят:

• Графический процессор Nvidia Tesla T4, имеющий 320 ядер Turing Tensor и 2560 ядер CUDA (Compute Unitfied Device Architecture). CUDA – это язык программирования Nvidia, ориентированный на параллельную обработку. T4 поддерживает 16-ти и 32-разрядные операции с плавающей точкой (FP16 и FP32), а также 8-ти и 16-разрядные операции целочисленной арифметики (INT8 и INT16). Пиковая производительность T4 при выполнении операций FP16 составляет 65 TFLOPS, при выполнении операций INT8 – 130 TFLOPS и при выполнении INT4 – 260 TFLOPS.
• TensorRT 5 – оптимизатор логического вывода и исполняемая среда для глубинного обучения, которые обеспечивают высокопроизводительный логический вывод с низкими задержками, быструю оптимизацию, проверку и развертывание обученных нейронных сетей в ЦОД гипермасштаба для встроенных или автономных платформ графических процессоров. Уже реализована поддержка TensorFlow, MXNet, Caffe2 и Matlab, а также других платформ через ONNX (Open Neural Network Exchange).
• TensorRT Inference Server – сервер логического вывода для ЦОДов, доступный из Nvidia GPU Cloud. Он предназначен для обучения с вертикальным масштабированием, развертывания систем логического вывода в многооблачных кластерах графических процессоров и интеграции с Kubernetes и Docker, позволяя разработчикам автоматизировать развертывание, планирование и выполнение операций множества контейнеров приложений GPU в кластерной среде.

Ключевая задача – поддержка ПО

«Мы продолжаем инвестировать в оптимизацию всего нашего программного стека с самого низа, используя доступные платформы, – отметил вице-президент подразделения Nvidia Accelerated Computing Иан Бак. – Запустив свои уже готовые нейронные сети, клиент может взять обучающие модели и развернуть их в тот же день».

В области логического вывода компания Nvidia конкурирует с другими производителями программируемых логических матриц FPGA (field programmable gate array), в частности, с Xilinx. Микросхемы FPGA позволяют разработчикам осуществлять тонкую настройку точности вычислений для различных уровней глубинных нейронных сетей. Но FPGA требуют от программистов дополнительной подготовки. Настройка FPGA выполняется с помощью языков категории Hardware Description Language (HDL), а не языков высокого уровня, которые применяются для других чипов.

FPGA готовы конкурировать с GPU

В марте компания Xilinx представила новую категорию микросхем – Adaptive Compute Acceleration Platform (ACAP), – которая поддерживает более широкий спектр программного обеспечения по сравнению с традиционными FPGA. Поставки первой версии ACAP, разрабатывавшейся под кодовым наименованием Everest, должны начаться в следующем году. В Xilinx заявляют, что разработчики программного обеспечения смогут обращаться к Everest с использованием различных инструментов: Си/C++, OpenCL, Python и т. д. Everest поддерживает программирование и на аппаратном уровне с использованием таких HDL-языков, как Verilog и VHDL.

Поддержка программного обеспечения, предлагаемая графическими процессорами T4 в сочетании с возможностью организации вычислений различной точности, должна укрепить позиции Nvidia как в обучении, так и в логическом выводе для приложений искусственного интеллекта.

«Мы убеждены в том, что в нашем распоряжении имеется самая эффективная на сегодняшний день платформа логического вывода, – заявил Бак. – Замеры проводятся на реальных производственных нагрузках под наблюдением наших клиентов. Мы взаимодействуем с ними на всем пространстве нашего стека сверху донизу, чтобы предлагать не только лучшие средства обучения, но и лучшую платформу логического вывода. Фактически все производители серверов, использующие сегодня графические процессоры P4, к концу года перейдут на T4».

На конференции в Токио о своих намерениях поддерживать T4 заявил целый ряд производителей систем для ЦОДов, в том числе Cisco, Dell EMC, Fujitsu, HPE, IBM, Oracle и SuperMicro.

О планах использования T4 сообщили и в Google.

Виртуальная симуляция HP Mars Home Planet демонстрирует центр адаптации новых поселенцев Марса, которые используют инновации в сферах архитектуры, техники и транспорта для освоения планеты. Компания Technicolor разработала визуальные образы с помощью игрового движка Unreal Engine от Epic Games и создала первую в мире VR-программу с шестью степенями свободы для игровых кресел с поддержкой движения и гарнитур HP Windows Mixed Reality.

Источник: HP

90 тыс. представителей различных творческих профессий из 150 стран представили разработанные на платформе Launch Forth проекты VR-симуляции жизни на Марсе. При поддержке HP и ведущих специалистов в сфере образования в вузах по всему миру были созданы команды энтузиастов, которые вошли в образовательную программу HP Mars Home Planet. В рамках проекта соревновались 10 европейских и 2 австралийских университета, а в Японии был проведен отдельный конкурс со 110 участниками. Самые инновационные идеи были реализованы в виртуальной реальности Technicolor, которая еще не представлена общественности.

HP Mars Home Planet развивает идеи виртуальной реальности Mars 2030, первоначально созданной компанией Fusion вместе NASA. Для реализации проекта HP, Nvidia и Launch Forth объединили усилия с Autodesk, Unreal Engine, Fusion, HTC Vive, Microsoft, Chaos Group, Allegorithmic и Technicolor.

Окружающая среда и основные объекты симуляции будут доступны для скачивания этой осенью на Unreal Engine.

Цены на новое семейство графических плат с трассировкой лучей Nvidia, мягко говоря, кусаются, но это не останавливает поставщиков ПК от размещения их сразу в обоих разъемах PCIe.

Семейство графических плат с архитектурой Turing GeForce RTX 2070, 2080 и 2080 Ti обещает прорывную производительность при трассировке лучей в играх в реальном времени. (Впрочем, никаких результатов тестирования RTX, анонсируя эти платы на конференции Gamescom в Германии компания Nvidia не представила.)

Появление плат RTX ожидается после 20 сентября, поэтому у пользователей еще есть время подумать, стоит ли тратить столько денег на настольный компьютер с самыми современными графическими средствами. Самое время ознакомиться со спецификациями первых ПК с этими платами.

Компания HP анонсировала обновленную модель OMEN Obelisk, которая станет одним из первых ПК с новыми платами Nvidia RTX.

Компьютер HP OMEN со стеклянным окном в корпусе станет одним из первых ПК, оснащенных платами GeForce RTX

Omen будет поставляться с окном из закаленного стекла в корпусе (впервые, пожалуй, крупный производитель ПК предлагает такое решение), стандартными компонентами и освещением RGB. В Obelisk планируется устанавливать процессоры AMD Ryzen и Intel Core.

Не отстает от HP и Alienware. Новейшие платы Nvidia с трассировкой лучей в реальном времени появятся в настольных компьютерах Alienware Aurora и Area 51.

Новейшие платы Nvidia с трассировкой лучей в реальном времени появятся в настольных компьютерах Alienware Aurora

Как и Omen, Aurora оснащается материнской платой формата MicroATX, но поставляется с системой жидкостного охлаждения. Цены на Aurora начинаются от 899 долл., но мы подозреваем, что в такой конфигурации GeForce RTX не будет. Какой-либо дополнительной информации о компьютерах Area 51 в Alienware пока не предоставляют.

Не желая оставаться в стороне, в отходящий поезд GeForce RTX поспешила запрыгнуть и компания Acer. Соответствующие платы появятся в семействах игровых ПК Orion 3000 и Orion 5000. Ну, а наилучшим пристанищем для GeForce RTX, очевидно, окажется семейство Orion 9000.

Представители самого мощного семейства компании Orion 9000 поставляются с колесами и ручкой. ПК может быть оснащен 18-ядерным процессором Core i9-7980XE и системой жидкостного охлаждения. Как и у Omen Obelisk, в корпусах компьютеров Acer имеются окна, но они выполнены в виде металлической сетки для снижения электромагнитных помех. У Obelisk окна прозрачные.

Корпус Predator Orion 9000 настолько велик, что в Acer решили приделать к нему задние колеса и ручку сверху.

У корпуса Acer Predator Orion 9000 сзади имеются колеса

Вот что касается крупных производителей ПК, уже анонсировавших присутствие в своих новых моделях плат GeForce RTX, поставки которых должны начаться 20 сентября. Если же говорить об остальных, то планы сборки ПК с GeForce RTX вынашивает и компания Origin PC.

Глава Nvidia Дженсен Хуанг представил на выставке Siggraph 2018 новые графические процессоры компании, выполненные на основе архитектуры Turing, подтвердив слухи о ее широких возможностях.

Судя по всему, видеоадаптеры на новых графических процессорах, получивших название Quadro RTX 8000, 6000 и 5000, тоже будут носить маркировку RTX, а не GTX, как раньше. Переименование, по-видимому, обусловлено поддержкой технологии трассировки лучей в реальном времени (Real-Time Ray Tracing), которая позволит значительно повысить реалистичность компьютерной графики, но требует колоссальной вычислительной мощности. Как заявил Хуанг, эта технология стала самой важной разработкой Nvidia за последние десять с лишним лет.

Среди других особенностей Quadro RTX — ядра для ускорения операций, связанных с искусственным интеллектом, и усовершенствованная поточная многопроцессорная архитектура, благодаря которой видеочипы характеризуются «беспрецедентной производительностью в расчете на ядро».

Адаптеры на Quadro RTX будут оснащаться новейшей видеопамятью GDDR6, примерно на 40% более быстрой по сравнению с GDDR5X. Еще одна их особенность — поддержка VirtualLink, специального режима USB-C с повышенной пропускной способностью, предназначенного для шлемов виртуальной реальности.