В цифровую эпоху в любой отрасли успех будет сопутствовать лишь тем компаниям, которые сумеют автоматически и в реальном времени проникать в суть больших данных. Однако для этого нужны масштабируемые инструменты, способные к саморазвитию без программирования, по аналогии с мозгом человека. Давно известные методы машинного обучения, работающие на специализированных закрытых конфигурациях с ограниченным количеством слоев нейронной сети, здесь были бессильны, пока прогресс в области графических ускорителей не привел к ренессансу нейронных сетей и бурному развитию средств подержки методов глубинного обучения. О стратегии работы компании Nvidia в сфере искусственного интеллекта рассказал на форуме GPU Technology Conference Europe Уилл Рэми, руководитель программ развития экосистемы CUDA и куратор программы Deep Learning Institute.

- Чем вызван всплеск интереса к технологиям искусственного интеллекта?

Искусственный интеллект может применяться везде, где есть данные. Но когда данных мало, а в цепочке их обработки присутствует человек, трудно говорить о самообучаемых системах. Нынешнему ренессансу нейронных сетей способствовали три фактора. Первый — появление больших массивов данных и потребность в их автоматической обработке: сегодня проблема не в сборе данных, а в понимании их сути. Второй — удачная идея глубоких нейросетей: возможность в процессе обучения строить сколь угодно много слоев нейронной сети позволила теперь говорить о создании самообучаемых машин. И третий — прогресс в области графических ускорителей, эффективно работающих с нейронными сетями благодаря архитектуре с массовым параллелизмом.

- Искусственный интеллект — сегодня один из хайпов Кремниевой долины. Но ведь вместе с возможностями он несет в себе и угрозы?

Действительно, сегодня системы искусственного интеллекта уже выполняют ряд задач лучше специалиста средней квалификации; есть вероятность ликвидации некоторых рабочих мест, но я оптимист в этом вопросе. Как уже было в предыдущих промышленных революциях, скорее всего, произойдет переток рабочих мест из одной области в другую. Как автомобилист, я сам — пример такого «среднего» человека: каждый день я трачу массу времени, чтобы добраться до офиса, сталкиваюсь в пути с нештатными ситуациями, заставляющими быть предельно внимательным. И я могу сказать, что время, потраченное на дорогу, вычеркнуто из жизни. А вот если бы я пользовался полностью роботизированной машиной, прокладывающей оптимальный путь, учитывающей текущую обстановку на дороге, то я получил бы дополнительное время для работы или для общения с семьей. Искусственный интеллект — мощный инструмент, он находит применение во многих областях, открывает новые возможности как для экономики в целом, так и для отдельного человека. Не понадобится так много личных автомобилей, которые большую часть времени простаивают, а люди смогут переквалифицироваться, заняться творчеством или предлагать новые персонифицированные сервисы.

Аналитики прогнозируют, что уже через два-три года 80% всех приложений будут содержать те или иные компоненты искусственного интеллекта, отчасти этому способствует и наша программа Deep Learning Institute (DLI).

- Что собой представляет эта программа?

Потребность в специалистах, способных применять технологии искусственного интеллекта в различных прикладных областях, велика; однако до недавнего времени соответствующие знания можно было получить лишь в вузах. В рамках программы DLI организованы семинары и дистанционные курсы по технологиям глубинного обучения, которые ведут сертифицированные преподаватели из Nvidia, компаний-партнеров и университетов. Их тематика: практика применения алгоритмов глубинного обучения в автомобильной индустрии, здравоохранении, робототехнике, видеоаналитике, финансах и пр. Обучение проходит очно и дистанционно через Amazon Web Services, Google Qwiklabs, Facebook, а потому оно доступно для разработчиков по всему миру. Мы обращаемся к ресурсам Microsoft Azure и IBM Cloud, сотрудничаем с Hewlett Packard Enterprise, Стэндфордским университетом, а также с сообществами и компаниями, поддерживающими популярные технологические фреймворки и библиотеки глубинного обучения: Caffe2, MXNet, TensorFlow, Microsoft Cognitive Toolkit, Theano, Torch. В текущем году во всем мире через DLI пройдет на порядок больше слушателей, чем в прошлом, около 100 тыс. человек.

- Среди партнеров по DLI есть и конкуренты Nvidia. Почему?

Начиная с 2012 года число разработчиков для GPU выросло в 11 раз. Индустрия находится на подъеме, места хватит всем, и чем активнее участники будут обмениваться опытом, тем лучшие решения будут выведены на рынок. Можно назвать четыре сильные стороны Nvidia. Во-первых, единая масштабируемая архитектура GPU, применяемая в самых различных конфигурациях, начиная от встраиваемых систем и игровых компьютеров и кончая ЦОД провайдеров облачных сервисов — Alibaba, Amazon, Baidu, Facebook, Google, IBM и Microsoft, использует для поддержки своих облаков графические процессоры от Nvidia. Во-вторых, рыночная позиция: наши решения применяются сегодня во всех прикладных областях. В-третьих, гибкая программная платформа, за десять лет сложившаяся вокруг открытой среды CUDA и включающая дополнительные программные инструменты и библиотеки для работы с нейронными сетями, а также поддерживающая все популярные фреймворки для создания и эксплуатации систем на базе глубинного обучения. Наконец, экосистема, состоящая из более чем 500 тыс. разработчиков для GPU, заказчиков Nvidia, университетов, партнеров и консультантов, работающих в различных прикладных отраслях.

Вредоносные программы, запускаемые на графических процессорах, обнаружить труднее, но это вовсе не означает, что они полностью невидимы для средств безопасности.

Исследователи из подразделения Intel McAfee Labs в сотрудничестве с членами Intel Visual and Parallel Computing Group решили подтвердить этот тезис, проанализировав вредоносную программу JellyFish, появившуюся в марте.

Согласно их заключению, вошедшему в последний квартальный отчет McAfee об угрозах, запуск вредоносного кода на графических процессорах обнаружить не так просто, но, вопреки утверждениям его разработчиков, определенные следы все же остаются.

Создатели JellyFish заявляли, что одним из преимуществ использования вредоносным кодом графических процессоров является обращение к основной памяти компьютера с применением технологии прямого доступа (Direct Memory Access, DMA).

Несмотря на справедливость этого утверждения, выделение графическому процессору значительной части системной памяти требует привилегий ядра и должно осуществляться с помощью процесса, запускаемого на основном процессоре.

По словам исследователей из Intel, средства безопасности могут отслеживать и блокировать выполнение таких операций. Более того, соответствующие возможности уже реализованы в существующих средствах защиты ядра.

Если установка вредоносной программы, запускаемой на графическом процессоре, не была обнаружена, пользовательский код и драйвер ядра, задействованные в этом процессе, теоретически могут быть удалены из операционной системы хоста. Но это приводит к определенным проблемам.

Например, в системе Windows выполнение кода на графическом процессоре инициирует запуск процесса Timeout Detection and Recovery (TDR), который перезагружает графическую плату. Продолжительность тайм-аута перед выполнением соответствующей процедуры составляет две секунды, и любая попытка изменить это значение должна вызывать подозрение у продуктов безопасности.

Кроме того, длительное выполнение операций графическим процессором приводит к тому, что графический интерфейс перестает реагировать на действия пользователя. А это может свидетельствовать о присутствии вредоносной программы.

Поэтому, по мнению исследователей, для атакующего лучше все же запускать свой процесс на хост-компьютере. Вредоносный код минимального объема обнаружить труднее, чем полнофункциональную программу, но это еще не означает, что системы безопасности не среагируют на его появление.

Разработчики JellyFish также утверждают, что код, сохраненный в графическом процессоре, остается там и после перезагрузки системы. Но, по словам исследователей Intel, речь здесь идет о сохранении данных, а не о коде, выполняемом автоматически.

«Провозглашаемая идея постоянного заражения заключается в том, что приложение, установленное на хост-компьютере, запускается при загрузке системы, извлекает данные из памяти графического процессора и перемещает их в пользовательское пространство, но это уже не так страшно, поскольку вредоносный код в пользовательском режиме должен существовать и вне графического процессора», – говорится в их заявлении.

Сегодня действительно ощущается нехватка инструментов, которые позволяли бы анализировать код, запускаемый на графических процессорах, однако продуктам безопасности такие функции и не нужны, потому что они способны обнаруживать другие признаки подобных атак.

С одной стороны, перемещение вредоносного кода в графический процессор и удаление его из основной системы затрудняет утилитам безопасности распознавание атак. С другой — следы вредоносной активности все равно остаются и их вполне можно обнаружить.

Некоторые технологии защиты, разработанные Microsoft для противодействия руткитам, функционирующим на уровне ядра (например, Patch Guard, средство контроля за наличием у драйверов цифровой подписи Early Launch Anti-Malware — ELAM — и Secure Boot), помогают предотвратить и проникновение вредоносного кода в графический процессор. Функция Microsoft Device Guard, реализованная в Windows 10, позволяет выполнять только программы, подписанные Microsoft, и приложения, заслуживающие доверия, что тоже можно считать весьма эффективным средством блокирования атак такого рода.

Впрочем, как бы то ни было, вечное противостояние меча и щита заставляет обе стороны активнее осваивать пространство графических процессоров, а последние инциденты побуждают сообщество производителей средств безопасности задуматься об улучшении противостояния подобным угрозам.

В одном корпусе объединены возможности центрального и графического процессоров. Многие терафлопсы производительности ориентированы на сложную графику, суперкомпьютеры и моделирование данных.

«У чипа пока нет названия, а в продажу он поступит в ближайшие два года, – сообщил на встрече с инвесторами старший вице-президент AMD Форрест Норрод. – Это не просто чип, сочетающий в себе возможности центрального и графического процессоров. В данном случае речь идет о целой концепции высокопроизводительных вычислений».

На протяжении нескольких десятилетий AMD и Intel попеременно сменяли друг друга в гонке за производительность, увеличивая тактовую частоту своих процессоров. В самый разгар процессорной войны, в 2011 году, AMD представила восьмиядерный чип с тактовой частотой 8,4 ГГц и подала заявку на включение его в Книгу рекордов Гиннесса. Но вскоре глупость процессорной войны всем стала понятна, хотя производители до сих пор любят хвастаться своими высокоскоростными чипами, которые, по их мнению, являются признаком технического прогресса.

Сегодня на звание самого быстрого процессора в мире претендует модель Intel Core i7-5960X Extreme Edition. В начале мая корпорация Intel представила 18-ядерный чип Xeon, превосходящий по производительности Core i7, но результаты выполнения им эталонных тестов пока не сообщались. Графические процессоры, как правило, демонстрируют более высокую производительность при выполнении операций с плавающей запятой.

В последние годы AMD снизила активность в части дальнейшего увеличения производительности процессоров и сосредоточилась на повышении эффективности их энергопотребления. Но ее новый мегачип ориентирован в первую очередь на производительность и демонстрирует быстродействие, которого должно быть достаточно для обработки сложной графики, масштабных вычислений и решения задач моделирования на серверах и суперкомпьютерах.

Процессор предназначен для установки в серверы и рабочие станции. Рабочую станцию такого рода можно использовать и для игр, но все же чип больше подходит для обработки больших наборов данных на серверах и суперкомпьютерах. Процессор сможет поддерживать различные модели программирования, благодаря чему задачи, требующие высокой производительности, будут решаться эффективнее благодаря мощным вычислительным ресурсам чипа.

Графические процессоры уже сейчас используются на некоторых наиболее быстрых компьютерах для сложных математических вычислений и научных расчетов, а AMD пытается увеличить долю использования графических процессоров FirePro в суперкомпьютерах.

AMD могла бы адаптировать свой чип к особенностям другой техники, которой нужна высокая вычислительная мощность. Компания уже предлагает нечто аналогичное для игровых консолей Sony и Microsoft, объединив центральный процессор с графическими ядрами в рамках единого заказного чипа.

Процессорное ядро Zen нового чипа работает по крайней мере на 40% быстрее существующего процессорного ядра под кодовым наименованием Excavator. Судя по последней информации, чипы будут поддерживать память DDR4 и новые типы высокопроизводительной памяти для графических процессоров.

«Похоже, этот чип обладает более высокой пропускной способностью памяти, достаточной для снабжения данными большего числа ядер центрального и графического процессоров, – указал главный аналитик компании Tirias Research Джим Макгрегор. – А размещение в одном корпусе компонентов центрального и графического процессоров, предназначенных для организации масштабных вычислений, представляет собой непростую задачу».

Возникают проблемы с обеспечением сбалансированности энергопотребления и производительности, поскольку графические процессоры имеют довольно большую потребляемую мощность и выделяют много тепла. Все это сильно ограничивает возможности конструкторов серверов, так как приходится размещать внутри корпуса компоненты для охлаждения высокопроизводительных чипов.

«Впрочем, у AMD, наверное, уже имеются заказы на производство новых чипов, и в компании видят открывающиеся перед ними перспективы», – заметил Макгрегор.

Конкуренты же AMD отдают предпочтение другому подходу. Вместо интеграции графических процессоров в тот же корпус, где находится центральный процессор, высокопроизводительные графические процессоры Nvidia Tesla используются в качестве сопроцессоров, дополняющих возможности центрального процессора. Компания Nvidia намеревалась интегрировать графические процессоры Tesla в чипы Tegra, но в конечном итоге отказалась от этой идеи. Компания Intel наряду с ядрами общего назначения, отличающимися низким энергопотреблением, размещает в чипе Knights Landing, вычислительная мощность которого превышает 3 TFLOPS, и ядра для векторной обработки.

Nvidia анонсировала обновленную графическую плату Tesla K80, которая стала самым быстрым на сегодняшний день ее графическим решением. Процессоры Tesla используются сейчас в ряде наиболее производительных в мире суперкомпьютеров для решения научных задач.

Модель K80 базируется на технологии, которая аналогична той, что применяется в GeForce,  графических платах для ПК. Изменена лишь схема работы памяти и каналов передачи данных. Инженерные компании смогут использовать K80 для построения визуальных моделей, а нефтегазовые – для проведения геологических исследований и поиска наилучших мест для бурения скважин. Процессоры Tesla устанавливаются также в серверы для подключения удаленных клиентов к виртуальным рабочим столам.

Производительность K80 составляет 8,74 TFLOPS при выполнении операций с одинарной точностью. Быстродействие флагманского графического процессора Nvidia для настольных компьютеров GeForce GTX 980 находится на уровне 5 TFLOPS. По производительности и пропускной способности памяти K80 примерно в два раза опережает своего предшественника – чип K40, который был анонсирован в прошлом году примерно в это же время.

В 2016 году Nvidia обещает представить еще более быстрые графические продукты, которые будут построены на основе архитектуры Pascal. Благодаря новой шине NV-Link графические процессоры смогут быстрее обмениваться информацией, что будет способствовать дальнейшему росту производительности. По словам представителей Nvidia, по производительности NV-Link в пять раз превосходит шину PCI-Express 3.0, которая сегодня используется в большинстве серверов и ПК.

Nvidia Tesla – один из нескольких доступных сегодня ускорителей серверов. Intel предлагает Xeon Phi, а AMD — платы FirePro для серверов и рабочих станций. Соответствующее программное обеспечение должно разрабатываться с учетом особенностей и преимуществ этих процессоров. Nvidia предлагает для Tesla среду параллельного программирования CUDA.

Одним из недостатков графических процессоров является большое количество электроэнергии, потребляемой ими во время обработки данных. Поэтому использовать их следует для решения специальных задач.

Чип K80 состоит из двух графических процессоров, которые распределяют между собой нагрузку. В общей сложности он содержит 4992 процессорных ядра и 24 Гбайт памяти GDDR5. Пропускная способность памяти составляет 480 Гбайт/с. Технология GPU Boost позволяет увеличивать производительность выполнения конкретных приложений, что позволяет добиваться еще более высоких результатов.

HP, Dell, Quanta и Cray намерены устанавливать графические процессоры K80 в свои серверы. Системы HP и Dell будут построены на базе центральных процессоров Intel Xeon.

Так, Dell PowerEdge C4130 представляет собой сервер высотой 1U, больше похожий на некое специализированное устройство. В нем умещается до двух плат K80. По словам главного архитектора группы корпоративных решений Dell Джимми Пайка, серверы C4130 можно использовать в качестве строительных блоков для создания суперкомпьютеров.

Графические процессоры 980M будут устанавливаться в игровые ноутбуки

Владельцы портативных компьютеров, оснащенных новейшими флагманскими процессорами Nvidia GeForce GTX 980M и 970M, получат в играх улучшенные спецэффекты и более реалистичные изображения.

Модели GeForce GTX 980M и 970M являются самыми быстрыми графическими процессорами для портативных компьютеров, которые когда-либо выпускались Nvidia.

Благодаря увеличению производительности графических процессоров пользователи смогут отображать на экране игры с более высоким разрешением по сравнению с обычным 1080p, утверждают в Nvidia. Некоторые портативные компьютеры уже оборудованы экранами 4K, и новые графические процессоры позволят запускать на них игры, которые ранее работали только на настольных компьютерах. Игры с высоким экранным разрешением потребляют много энергии батарей, но графические процессоры Nvidia поддерживают функции энергосбережения.

Самая быстрая модель GTX 980M придет на смену процессору 680M, который устанавливается в портативные компьютеры с 2012 года. Графические процессоры базируются на микроархитектуре Maxwell, а производительность модели 980M близка к производительности флагманского графического процессора Nvidia для настольных компьютеров GeForce GTX 980, поставки которого начались в сентябре.

Графические процессоры 980M будут устанавливаться в игровые портативные компьютеры, выпускаемые компаниями Asustek, MSI и Clevo на платформе Windows. Процессором 970M будут оснащаться портативные компьютеры Gigabyte. Чипы такого рода, как правило, распаяны на материнских платах и в розничную продажу не поступают.

Новые возможности графических процессоров позволят помогут сделать изображение в играх более четким. Аппаратная функция Voxel Global Illumination отвечает за спецэффект отражения света. Можно увидеть, например, как свет уличного фонаря отражается от стен и других поверхностей.

Функция Dynamic Super Resolution путем фильтрации и улучшения качества пикселов позволяет выводить на экраны с разрешением 1080p изображение, фактически не уступающее разрешению 4K. Такое масштабирование может включаться и выключаться при помощи программного обеспечения Nvidia GeForce Experience, установленного на компьютере.

Продолжительность работы от батарей в играх можно увеличить при помощи функции Battery Boost. Когда она активизирована, продолжительность работы компьютера от батареи увеличивается за счет отключения некоторых аппаратных возможностей. Функция учитывает требования игры, поэтому снижения частоты развертки и заметного ухудшения качества изображения при этом не происходит. Указанный режим включается при помощи программного обеспечения GeForce Experience.

В рекламе Nvidia утверждается, что при активизированной функции Battery Boost продолжительность работы от батареи увеличится в игре Tomb Raider на 55%, в Grid 2 на 29%, а в League Legends Season One на 30%.

Но игры, выводящие на экран изображение в высоком разрешении, в любом случае потребляют много энергии, поэтому портативные компьютеры необходимо периодически включать в сеть для зарядки батареи.

На игровом фронте Nvidia конкурирует с компанией AMD, чьи графические процессоры устанавливаются в ПК и популярные игровые консоли.