Компания интегрировала в свою процессорную архитектуру ускоритель нейронных сетей.
Специализированное оборудование, необходимое для ускорения работы алгоритмов машинного обучения, перемещается из ЦОДа в мобильные телефоны старшего класса. И если компания Imagination Technologies сумеет пройти намеченным путем, уже вскоре такие телефоны могут появиться в кармане у каждого.
Imagination сделала себе имя на разработке графических ускорителей для смартфонов и планшетов Apple. Сегодня компания проектирует новые процессорные ядра, которые производители чипов могут использовать для ускорения выполнения алгоритмов искусственного интеллекта в своем собственном оборудовании.
А это, в свою очередь, означает, что разработчики получат — без необходимости обращения к сети — доступ к мощным локальным вычислительным средствам, обретя потенциальную возможность использовать технологии искусственного интеллекта при распознавании образов и применять диагностические инструменты на промышленных объектах, в удаленных районах и при ликвидации природных катастроф.
Возродившиеся исследования в области искусственного интеллекта базируются на использовании нейронных сетей и получении логических заключений из данных с последующим применением такого обучения в новых ситуациях. Процесс этот требует интенсивных вычислений, особенно на стадии обучения, но выполнение повторяющихся вычислительных операций значительно ускоряется при наличии специализированного оборудования.
До недавнего времени необходимое оборудование, потреблявшее много электроэнергии, размещалось в стойках в охлаждаемых ЦОДов. Перед разработчиками мобильных приложений и производителями встроенных устройств, желающими применять алгоритмы машинного обучения, стоял выбор: ждать, пока ответ выдаст мобильный процессор без ускорителя или пересылать необработанные данные на удаленный сервер для более быстрого анализа и ожидать ответа оттуда.
В некоторых случаях такие подходы были вполне подходящими, в других же (автономные автомобили или обработка видео на лету) задержки или стоимость пересылки данных на сервер оказывались неприемлемыми. Нельзя забывать также о безопасности и конфиденциальности: локальная обработка позволяет пользователям сохранять контроль над своими данными.
Все перечисленное подтолкнуло производителей смартфонов озаботиться созданием специализированного оборудования для построения в новейших смартфонах нейронных сетей.
Компания Huawei Technologies первой представила чипсет Kirin 970 с выделенным нейронным процессором для телефона Huawei Mate 10.
Компания Apple анонсировала процессор A11 для iPhone X, позволяющий выполнять приложения машинного обучения. Соответствующая функция получила название Neural Engine.
Впрочем, если разработчики предложат клиентам покупать для запуска своих приложений более дорогие телефоны, вряд ли они найдут много последователей.
В Imagination же рассчитывают, что благодаря новому ускорителю PowerVR Series 2NX Neural Network Accelerator нейронными сетями будет охвачен значительно более широкий сегмент смартфонов Android, а не только флагманские телефоны. Помимо смартфонов, Imagination нацеливается и на другие мобильные и встроенные устройства.
Необходимо продумать и вопросы снижения энергопотребления. Один из способов — разрешить обработку с переменной разрядностью. При обучении или настройке нейронной сети важно выполнять вычисления с максимальной точностью. Но если сеть уже настроена и решения принимаются на основе живых данных, правильные решения можно получить и при меньшей точности расчетов, когда в вычислениях используются 4 или 5 разрядов место 16.
Меньшая точность требует меньше энергии, и разработчики 2NX имеют возможность выполнять расчеты с точностью до 16, 12, 10, 8, 7, 6, 5 или даже 4 разрядов. По оценкам Imagination, при переключении с 8-битных расчетов на 4-битные скорость возрастает на 60%, а требования к пропускной способности уменьшаются на 46%. При этом точность выводов снижается лишь на 1%.
Чтобы помочь разработчикам Android подготовиться к появлению новых возможностей, компания Imagination предлагает объединенный интерфейс API для 2NX и существующих графических ускорителей. Разработчики смогут обратиться к API и извлечь выгоду из уже имеющегося оборудования. «А с появлением новых аппаратных средств повысится и эффективность энергопотребления», – указал старший директор компании по продуктам и технологическому маркетингу Крис Лонгстафф.
Впрочем, какое-то время все же придется подождать. Imagination продает не устройства, а архитектуру, так что телефоны с ядром 2NX появятся на рынке только в конце следующего года.
