Американская компания-стартап Perspica занимается применение технологий машинного обучения для анализа потоков данных в реальном времени. Именно эта возможность привлекла внимание Cisco, говорится в заявлении компании. Анализ данных по мере поступления или, по крайней мере, сразу после, позволяет ускорить извлечение ценной информации.

Технологии Perspica предполагается включить в решения AppDynamics, предназначенные для мониторинга и анализа данных о работе компьютерных сетей и приложений. Cisco приобрела AppDynamics около года назад и планирует на базе этой платформы создавать новые сетевые технологии, в частности, для реализации сетевых сред, ориентированных на намерения  (Intent Based Networking, IBN), использующих для поддержания желаемого состояния сети инструменты автоматизации и оркестровки с опорой на глубокое понимание происходящих в сети процессов. Средства Application Centric Infrastructure (ACI), разрабатываемые в Cisco, в сочетании со средствами анализа Tetration и средствами мониторинга AppDynamics будут положены в основу решений IBN для центров обработки данных, заявляли в компании. Технологии Perspica, став частью AppDynamics, тоже будут играть свою роль в построении IBN-сетей.

Если цифровая революция в HR еще и не произошла, то уже подготовлена, — таково общее мнение участников саммита HR Digital 2017, проведенного в конце сентября HeadHunter. Три последних года в названии конференции фигурирует слово digital. И если раньше преобладал зарубежный опыт, то сейчас среди выступающих появились и отечественные эксперты.

Лидером цифровизации в HR является направление рекрутмента – процессы поиска, отбора и найма кандидатов, на следующей позиции — обучение и развитие сотрудников. Несколько отстает, но находится в зоне активного роста такое цифровое направление, как HR-аналитика. Становятся актуальными системы геймификации – ненавязчивого, без каких-либо лозунгов, стимулирования желаемого поведения сотрудников через игру. Тем не менее, именно рекрутмент на данный момент имеет для бизнеса самое большое значение среди всех HR-инструментов – даже выше, чем адаптация и удержание талантов.

«Запросы на автоматизацию рекрутмента были и есть, в эти решения компании готовы инвестировать, но каковы результаты? Они не всегда однозначны», — отметил Борис Вольфсон, директор по развитию HeadHunter. Типичным примером массового провала может служить BranchOut – популярная в 2010-2011 годах надстройка для Facebook. Этот пузырь охватил 14 млн пользователей, но очень быстро сдулся – приложение на самом деле не несло компаниям никакой ценности. А вот в качестве положительного примера можно привести чат-боты, автоматизирующие процессы массового найма. Они, несомненно, полезны, так как предоставляют комфортную среду для общения с кандидатами и избавляют от трудоемких процессов. Особо стоит упомянуть используемое в рутинных процессах машинное обучение и искусственный интеллект. Например, эти технологии могут быть задействованы для ранжирования откликов, рекомендательных систем, «умного» поиска вакансий.

«На нашем сайте практически везде, где нужен интеллектуальный подход, используется машинное обучение», — заявил Вольфсон.

В HeadHunter изобрели аналог «кривой хайпа» для HR-технологий

Другим направлением проникновения новых технологий становится цифровое обучение сотрудников. Здесь основными тенденциями являются геймификация, социализация (возможность общаться и делиться впечатлениями), а также интеграция обучения с показателями эффективности и системой мотивации. В этой области тоже активно применяются боты, собирающие информацию о проблемах и напоминающие о необходимых действиях.

В области HR-брендинга цифровизация только начинается. В первую очередь речь идет об адаптации маркетинговых инструментов для задач кадровых служб. В этом случае к кандидатам применяется подход, используемый в общении с клиентами. Уходит ценность официальных страниц, для имиджа работодателя все более важен «живой» контент, выкладываемый самими сотрудниками.

Что касается HR-аналитики, то в целом она пока остается зоной поиска преимуществ для компаний. Пользу может принести самая разная информация: анализ базы вакансий и резюме, динамика на кадровом рынке, текучка в различных отраслях и т.п.

«Иногда незначительная на первый взгляд информация может иметь огромное значение», — подчеркнул Дэвид Грин, директор департамента HR-аналитики IBM. По его мнению, аналитика – обязательный инструмент любого кадрового департамента. Это не просто «игра с данными» — получаемая информация о людях действительно помогает принимать решения. Гораздо важнее сказать, не кто ушел, а почему это произошло. Еще полезнее предсказать, кто может покинуть компанию, и что заставит их остаться.

В результате таких действий в IBM на 25% снизилась нежелательная текучка, только благодаря этому чистая выгода составила 300 млн долл. в год. Менеджмент заблаговременно определяет риск ухода наиболее ценных специалистов и принимает меры, избегая потерь.

«Не надо забывать, что работаем мы с людьми, и заменять их на цифры. Речь идет лишь о том, чтобы подкреплять свои ощущения и опыт объективными данными», — советует Грин.

Борис Вольфсон: «Практически везде, где нужен интеллектуальный подход, мы используем машинное обучение»

Ускоряя процессы

«Без технологий не обойтись. Мы работаем чрезвычайно медленно, требуется ускорение», — подчеркнула Татьяна Ясиновская, вице-президент по развитию людских ресурсов и обучению «Макдоналдс» в России. Средний возраст сотрудников сети составляет 21 год, 90% из них люди поколений Y и Z, а гигантская распределенность компании требует специальных инструментов для обеспечения их вовлеченности. Созданный ради этого корпоративный портал стал частью жизни персонала, 70% сотрудников — его активные пользователи. Он является ценным источником актуальной информации, ведь, по мнению Ясиновской, то, что получено вчера, сегодня надо ставить под сомнение, а завтра это уже точно будет неактуально.

Не так давно в «Макдоналдсе» перевели процессы рекрутмента полностью в цифровое пространство, где и проводит в последнее время кампании по привлечению персонала. Набор персонала ведется через сайт, структура сайта была пересмотрена, сделан более понятным путь кандидата и язык изложения.

Обучение и развитие – в этом в «Макдональдсе» считают себя «традиционно сильными, а возможно, и лучшими в России». В компании создана единая платформа для обучения и развития. У нее три части: McClick, объединяющая новости, документы и планы обучения;, Campus, на базе которой проводится обучение и виртуальные мероприятия; Fred – ресурс для быстрого доступа к информации. На основе действий сотрудников в системах и их поведения компания четко видит их портрет и оценивает карьерные перспективы.

В Mail.ru Group, являющейся одним из самых крупных игроков рынка больших данных, многие идеи испытывают на себе. Одной из таких идей стало психотипирование людей на основе поведения в соцсетях. Инициирован этот проект математиками. Как известно, психотип человека выдают вполне конкретные факторы: круг и стиль общения, предпочитаемые игры, интерес к спортивным трансляциям и т.п. Это оперативнее и дешевле, чем обычные опросы, но главное – гораздо объективнее.

«Подбор персонала через цифровые каналы эффективно работает только на массовых вакансиях», — констатировала Ольга Филатова, вице-президент по персоналу и образовательным проектам Mail.ru Group. Действительно, за счет показа таргетированной рекламы подходящим по профилю людям удается охватить тех, кто не ищет проактивно работу. В результате стоимость привлечения кандидатов на массовые позиции снизилась в четыре раза, а период закрытия вакансий сократился вдвое. Но для узкоспециализированных специалистов (например, востребованных нынче исследователей данных) это не работает. Их интерес к компании проще разогревать иными, нецифровыми методами – например, приглашая на специализированные мероприятия. Как напомнила Филатова, цифровая трансформация – это не только предсказательная аналитика, но и выбор правильных каналов коммуникаций.

Многое на рынке «цифрового HR» связано с иллюзиями. Следует смотреть не только на технологичность, но и на реальную ценность предлагаемых продуктов и услуг. В зависимости от сочетаний этих качеств они могут варьироваться от бесполезных игрушек до обязательных к использованию инструментов и даже источников конкурентных преимуществ.

Microsoft и Facebook анонсировали совместный проект, призванный упростить аналитикам данных обмен моделями между различными платформами машинного обучения.

Формат Open Neural Network Exchange (ONNX) обеспечит общий способ представления данных, используемых в нейронных сетях. Большинство платформ имеют сегодня собственный специфический формат моделей, которые способны работать с моделями других платформ только при использовании специальных инструментов преобразования форматов.

ONNX позволит осуществлять свободный обмен информацией, которой обладают модели, без процедуры преобразования. Модель, обученную на одной платформе, можно будет использовать и на другой платформе.

В Microsoft утверждают, что формат ONNX позволяет исключить преобразования форматов моделей. Разработчики могут выбирать наиболее подходящие для себя платформы, поскольку каждая из них оптимизирована для различных сценариев использования, таких как быстрое обучение, поддержка гибких сетевых архитектур, получение результатов на мобильных устройствах и т. д.

По словам представителей Facebook, некоторые ключевые платформы уже сейчас начинают поддерживать ONNX. В Caffe2 и PyTorch (проекты Facebook), а также в Cognitive Toolkit (проект Microsoft) эта поддержка была реализована в сентябре. Модели, прошедшие обучение на одной из этих платформ, можно будет экспортировать и на другие платформы, поддерживающие ONNX.

На первом этапе поддержка ONNX появится не везде. В PyTorch, например, некоторые программы, в том числе с динамическим управлением потоками, полной поддержки ONNX не получат.

Неясно также, как размеры моделей ONNX будут сочетаться с размерами уже используемых моделей. Формат Apple Core ML, к примеру, проектировался для создания небольших, но точных моделей, которые можно было бы развертывать и обслуживать на устройствах конечных пользователей, включая iPhone. Но Core ML – это проприетарный формат. Между тем одна из долгосрочных целей ONNX заключается в том, чтобы упростить доставку моделей на самые разные системы.

Рост рабочей нагрузки ЦОД, приходящейся на системы искусственного интеллекта, высокопроизводительные вычисления и бизнес-анализ, заставляет крупнейших в мире производителей серверов и провайдеров облачных сервисов спешно закупать новейшие графические ускорители Tesla V100, созданные на базе архитектуры Nvidia Volta.

Компания Nvidia заставила говорить о новых Tesla V100 всю экосистему, включая разработчиков программного обеспечения, закрепив свое доминирующее положение в области графических процессоров для ЦОД.

На конференции Strata Data Conference в Нью-Йорке компании IBM, HPE, Dell EMC и Supermicro анонсировали интеграцию новых графических ускорителей в свои продукты. Чуть ранее на конференции GPU Technology Conference, организованной Nvidia в Пекине, об использовании референсной архитектуры Nvidia HGX и внедрении систем на базе архитектуры Volta в гипермасштабные ЦОДы заявили Lenovo, Huawei и Inspur.

Разработчики графической архитектуры Volta сделали гигантский шаг вперед по сравнению с архитектурой Nvidia Pascal. Продукты Tesla V100, созданные на базе Volta, имеют 21 млрд транзисторов и 5100 ядер CUDA. Их тактовая частота может достигать 1455 МГц. Для сравнения, ускорители Tesla P100, построенные на основе архитектуры Pascal, содержат 3840 ядер CUDA и 15 млрд транзисторов.

Nvidia контролирует около 70% рынка дискретных графических плат и практически весь рынок графических процессоров для машинного обучения. Впрочем, одним только оборудованием дело здесь не ограничивается. Экосистема, выстраиваемая на базе платформы параллельных вычислений CUDA и модели API, помогает воздвигать барьеры, которые конкурентам Nvidia, компаниям Intel и AMD вряд ли удастся преодолеть.

«Хотя мы сосредоточены в основном на оборудовании, и Volta занимает здесь очень важное место, не меньшее внимание следует уделять и дополнительным продуктам – компиляторам, системам, программным инструментам и т.д., которые Nvidia активно развивает на протяжении уже нескольких лет», – заявил Дин Маккеррон из Mercury Research.

Среди дополнительных инструментов следует выделить новую версию Nvidia TensorRT – оптимизирующего компилятора и исполняемой среды для развертывания систем машинного обучения в ЦОД гипермасштабов, а также на встроенных и автомобильных графических платформах.

Независимые разработчики программного обеспечения также анонсировали на конференции Strata приложения, которые будут работать на графических процессорах с архитектурой Volta. Программа искусственного интеллекта Driverless AI, представленная H2O.ai, специально адаптирована к архитектуре Nvidia Volta. Она уже работает на суперкомпьютере DG-X1, представленном в начале сентября, и будет запускаться на любом сервере с новой версией Tesla V100 (поддерживая при этом обратную совместимость с системами с архитектурой Pascal).

Разработчики графической архитектуры Volta сделали гигантский шаг вперед по сравнению с архитектурой Nvidia Pascal Источник: Nvidia

По словам генерального директора и одного из основателей H2O.ai Срисатиша Амбати, программное обеспечение Driverless AI позволит получать логические выводы на основе анализа данных, не имея специальных знаний в области машинного обучения. Оно может найти применение в сферах страхования, здравоохранения и финансовых услуг.

Графические процессоры с массово-параллельной архитектурой хороши в первую очередь при решении задач машинного обучения и настройке нейронных сетей, но серверы с этими процессорами могут выполнять и многие другие операции.

«Прежде всего речь идет обо всем, где нужны графические процессоры, но одним лишь искусственным интеллектом дело здесь не ограничивается, – подчеркнул Маккеррон. – Искусственный интеллект, машинное обучение, виртуализация, рендеринг, множество функций параллельного поиска – все эти задачи весьма востребованы в ЦОД, и у Nvidia есть много пространства для дальнейшего развития».

Приложение Kinetica, предназначенное для работы с базами данных в оперативной памяти и активно использующее вычислительные мощности графических процессоров, также устанавливается на системах Nvidia DGX и на других серверах с графическими процессорами Pascal или Volta. «Пявление Volta способствовало несомненному росту производительности», – заявил директор Kinetica по совместному с партнерами проектированию Вуди Кристи.

Kinetica ускоряет выполнение запросов Tableau и используется в сфере финансовых услуг, розничной торговли, здравоохранения и в государственном секторе для оперативной аналитической обработки (OLAP), выполнения приложений искусственного интеллекта, бизнес-анализа и геопространственной аналитики.

Серверы с графическими ускорителями Tesla V100

Производители серверов анонсировали целый ряд систем на базе Volta V100.

• Dell EMC. Серверы PowerEdge R740 поддерживают до трех графических ускорителей V100 с интерфейсом PCIe; PowerEdge R740XD – до трех V100 с интерфейсом PCIe; а PowerEdge C4130 – до четырех V100 с интерфейсом PCIe или до четырех V100 с интерфейсом Nvidia NVlink типоразмера SXM2.
• HPE. Серверы HPE Apollo 6500 поддерживают до восьми графических ускорителей V100 с интерфейсом PCIe, а системы HPE ProLiant DL380 – до трех V100 с интерфейсом PCIe.
• Supermicro. Поддержку новых графических процессоров обеспечивают следующие продукты этой компании: рабочая станция 7048GR-TR, предназначенная для высокопроизводительных вычислений общего назначения; серверы 4028GR-TXRT, 4028GR-TRT и 4028GR-TR2, служащие для управления приложениями машинного обучения; и серверы 1028GQ-TRT, выпускаемые для построения современных аналитических систем.
• IBM. Новые серверы IBM Power System с процессорами POWER9 будут поддерживать сразу несколько ускорителей V100 с интерфейсом NVLink. Архитектура межпроцессорного обмена OpenPower обеспечит максимальную пропускную способность. Более подробная информация об этом будет доступна в конце текущего года.

На конференции GPU Technology Conference в Пекине о своей поддержке архитектуры Volta объявили провайдеры облачных сервисов Alibaba, Baidu и Tencent, начинающие перевод своих ЦОД и облачной инфраструктуры с Pascal на Volta.

Практически никто сегодня не сомневается в том, что в XXI столетии все новшества формируются под влиянием программирования. Многие компании проявляют интерес к созданию программного обеспечения, с помощью которого им и удалось поймать за хвост удачу, а потому неудивительно, что Марк Андриссен в свое время декларировал: «Программы поглощают мир».

Но что это значит? И сохраняет ли актуальность по сей день? Такие вопросы возникли у меня после того, как я в очередной раз перечитал публикацию Андриссена и заметил, что он приравнивает программное обеспечение к программированию. Важную роль играет и сравнение «поглощения» с отраслевыми слияниями, в стиле технологических компаний Кремниевой долины, впоследствии превратившихся в Amazon, Netflix, Apple, Google и др. в их нынешнем виде. В статье говорится о программистах, которые своим кодом способствуют дальнейшему развитию мобильных и веб-технологий, и о построении с помощью этих технологий социальных сетей и облака, моделей ведения глобального бизнеса и прочих круглосуточно доступных через Интернет каналов.

Поскольку с момента публикации Андриссена в Wall Street Journal в 2011 году прошло шесть лет, у нас было время либо убедиться в пророческом даре автора, либо прийти к выводу, что он ошибался, но преследовал какие-то собственные цели. Я бы сказал, что пророчество здесь все же преобладает. Ведь большинство историй успеха, которые мы имели возможность наблюдать, продолжаются и по сей день, приводя к дальнейшему росту, увеличению прибыли, приобретениям, инновациям и т. д. Люди с программистским образованием, такие как Марк Цукерберг, в нашу бизнес-эпоху стали мультимиллиардерами. В этом смысле статья Андриссена избежала судьбы бестселлера Тома Питерса «В поисках совершенства», написанного в 1982 году. Многие удачные начинания, приведенные в этой книге, в последующем были разрушены конкурентами или новыми тенденциями, которые успешные когда-то люди так и не сумели разглядеть.

Взлет машин обучения

Впрочем, сегодня всем, а особенно прорывным представителям старой школы, о которых упоминает Андриссен, становится ясно: программное обеспечение в его нормальном понимании еще не является ключом к успеху. По мере продвижения вперед мы видим, что настоящим прорывом становятся подкрепленные данными алгоритмы машинного обучения, которые питают искусственный интеллект. В нынешнюю новую эпоху большую часть логики, поддерживающей интеллектуальные приложения, нельзя четко запрограммировать. Дни преобладавшей ранее декларативной, детерминистической и базирующейся на правилах разработки приложений логики уже сочтены. Вероятностная логика становится сердцем чат-ботов, а технологии выдачи рекомендаций, самоуправляемые автомобили и другие приложения искусственного интеллекта черпают все необходимое непосредственно из исходных данных.

Логика «следующего улучшения», проникающая в нашу жизнь, развивается в приложениях на основе данных, поступающих из Интернета вещей и других производственных приложений. Соответственно снижается потребность в программистах, в людях, которые быстро и качественно выстраивают логику приложений. Растет спрос на разработчиков нового поколения – исследователей данных. Под этим термином понимается широкий спектр специалистов, занимающихся проектированием, обучением и управлением регрессионными моделями и нейронными сетями, поддержкой векторных машин, автономных обучающих моделей и других алгоритмов, на основе которых построены приложения искусственного интеллекта.

Программистам нужен новый программный код для машинного обучения. Компании Amazon, Google, Facebook, Microsoft и другие тяжеловесы отрасли программного обеспечения вкладывают в науку о данных огромные средства. Они накопили грандиозные объемы данных для обучения. Поэтому колоссы Кремниевой долины уверены в том, что у них уже имеются необходимые ресурсы для построения, настройки и оптимизации инновационных алгоритмов искусственного интеллекта и машинного обучения на все случаи жизни.

Однако все стратегические преимущества, которые эти гиганты получат от ресурсов искусственного интеллекта и машинного обучения, будут краткосрочными. Подходы, основанные на обработке данных, не только вымывают основы традиционного программирования, но и порождают новые тенденции, используемые квалифицированными исследователями данных. И эти тенденции начинают подрывать ту масштабную экономию, которая доступна крупным разработчикам программного обеспечения с большими финансовыми ресурсами.

Искусственный интеллект и голиафы

Мы вступаем в эпоху, когда любой желающий может обратиться к облачным ресурсам, чтобы недорого автоматизировать разработку, развертывание и оптимизацию инновационных приложений искусственного интеллекта и машинного обучения. Подобно «змее, поедающей свой собственный хвост», технологии машинного обучения будут способствовать дальнейшей автоматизации процесса создания и оптимизации новых моделей машинного обучения. Мы видим, что в исследовательских инициативах (например, в проекте Snorkel Стэнфордского университета) машинное обучение начинает играть все более заметную роль в автоматизации приобретения и классификации данных для машинного обучения. Это значит, что наряду с многочисленными существующими алгоритмами, моделями, кодом и данными разработчики следующего поколения смогут генерировать достаточно хорошие данные-заменители для обучения, оперативно адаптируя новые приложения к новым потребностям.

По мере роста доступности недорогих, сгенерированных для обучения данных масштабные озера данных, в которых разработчики хранят петабайты проверенных сведений для обучения, начнут превращаться из стратегического актива в лишнюю обузу. А управление сложной логикой использования этих данных станет узким местом, мешающим разработчикам быстро создавать, обучать и развертывать новые приложения искусственного интеллекта.

Когда у любого разработчика появится возможность создавать такие же точные приложения искусственного интеллекта, как и у Google или Facebook, пусть даже он и не обладает опытом, бюджетом и обучающими данными, имеющимися у гигантов программной отрасли, наступит новая эпоха. И следующее поколение прорывных исследователей данных начнет отвоевывать рынок у вчерашних успешных стартапов.

Международный коллектив ученых предложил методы использования квантовых компьютеров в машинном обучении, передает ТАСС. Это ускорит процесс и сделает его точнее, пишет агентство со ссылкой на Сколтех. Квантовые компьютеры могут выполнять одновременно большое количество вычислений и решать задачи, недоступные современным классическим компьютерам, например, моделировать сложные физические и химические процессы в фармацевтике, создать квантовое шифрование.

Машинное обучение — это метод искусственного интеллекта, который ищет повторяющиеся элементы в больших массивах данных и использует их для настройки своих алгоритмов. Основой же квантового компьютера являются не биты, а кубиты, которые могут находиться в суперпозиции, то есть иметь не 0 или 1, а оба значения одновременно. Поэтому квантовый компьютер может выполнять большое количество вычислений.

В журнале Nature, ученые из Сколтеха, Научно-исследовательского института фотоники в Кастельдефельсе (Испания), Института квантовой оптики общества Макса Планка (Германия), Университета Уотерлу (Канада), подразделения Microsoft Research и Массачусетского технологического института рассказали, что квантовое машинное обучение сможет выполнять задачи, с которыми не справляются классический компьютер и человек.

В обширном посте в блоге Uber Engineering Джереми Херманн, руководитель Uber по платформе машинного обучения, и менеджер по продуктам Майк Дельбальсо описывают Michelangelo так: «Внутренняя платформа, демократизирующая машинное обучение и позволяющая с помощью масштабируемого искусственного интеллекта выполнять требования бизнеса так же просто, как заказывать такси».

Создав Michelangelo, в Uber составили стандартную последовательность операций по вводу в действие новых решений машинного обучения в организации. Последовательность состоит из шести этапов: управление данными, обучение, оценка и развертывание моделей, выдача и контроль прогнозов. Система поддерживает традиционные модели машинного обучения, прогнозирование на основе временных рядов и глубокое обучение, поясняют авторы поста.

Michelangelo продолжает работу, начатую в Uber под руководством Дэнни Ланжа, который раньше возглавлял соответствующий отдел.

До Michelangelo в Uber были сложности с масштабированием используемых в компании алгоритмов машинного обучения, продолжают Херманн и Дельбальсо: «Наши ученые по данным пользовались большим количеством инструментов для создания прогнозных моделей (в том числе языком R, фреймворком scikit-learn, произвольными алгоритмами и др.), а отдельная команда инженеров занималась тем, что создавала разовые системы для применения этих моделей в рабочей среде. До Michelangelo не было возможности обучать модели, более масштабные, чем те, что умещались на рабочих компьютерах специалистов по данным, и не было ни специального места для хранения результатов экспериментов с обучением, ни простого способа сравнить эксперименты друг с другом. Что самое важное, не было стандартного процесса ввода модели в рабочую эксплуатацию — в большинстве случаев приходилось создавать отдельный контейнер для каждого конкретного проекта».

Сама по себе Michelangelo — это набор соединенных инженерами Uber систем и компонентов с открытым кодом, в том числе HDFS, Spark, Samza, Cassandra, MLLib, XGBoost и TensorFlow. Система развернута поверх собственного озера данных Uber и вычислительной инфраструктуры компании.

Саму платформу Michelangelo, отмечают в Uber, пока что выпускать в открытых кодах не собираются: «Выпуск платформ машинного обучения в открытых кодах сопряжен с определенными трудностями, к тому же другие организации не смогут извлекать из Michelangelo ощутимую пользу, поскольку платформа построена на наших внутренних данных».

Michelangelo на службе доставки еды

Персонал UberEats, службы Uber по доставке еды, применяет несколько моделей Michelangelo для прогнозирования времени доставки, сортировки поисковых результатов, автозавершения поисковых запросов и составления рейтинга ресторанов, отмечается в блоге: «Для прогнозирования времени доставки ученые по данным UberEats пользуются регрессионными моделями на основе деревьев принятия решений с градиентным бустингом».

Чтобы обеспечить точность прогнозирования, модель учитывает время суток, адрес доставки, среднее время приготовления заказа за последние семь дней и данные о приготовлении, поступающие в реальном времени.

Модели развертываются в центрах обработки данных Uber в контейнерах, предоставляющих их в виде сервиса, и вызываются по сети с помощью запросов микросервисами UberEats. Прогнозы отображаются для клиентов UberEats непосредственно перед заказом и затем по мере приготовления и доставки.

Что дальше?

Инженеры Uber постоянно дорабатывают Michelangelo; в частности, сейчас идет работа над функцией под названием AutoML.

«Это будет система автоматического поиска и распознавания конфигураций моделей (алгоритм, набор признаков, значения гиперпараметров и пр.), благодаря ей можно выбирать оптимальные по характеристикам модели для конкретных задач, — говорится в блоге. — Ученые по данным смогут задавать в системе набор меток и целевую функцию, а затем платформа, используя данные Uber с соблюдением принципов безопасности и конфиденциальности, найдет оптимальную модель. Смысл в том, чтобы с помощью интеллектуальных инструментов повысить продуктивность работы ученых по данным и облегчить их труд».

Идет также работа над инструментом визуализации, помогающим в отладке моделей глубинного обучения. Кроме того, в Uber хотят расширить корпоративный портал онлайн-обучения — добавить курс по Michelangelo, чтобы обеспечить еще более широкое применение платформы внутри организации.

Отныне разработчикам доступна библиотека JavaScript, позволяющая выполнять нейронные сети непосредственно на веб-страницах с использованием интерфейса программирования аппаратного ускорения обработки графики, доступного в современных браузерах.

Библиотека, получившая название TensorFire, создана группой ученых Массачусетского технологического института. Она позволяет выполнять модели машинного обучения, совместимые с фреймворком Google TensorFlow, на любом графическом процессоре. При этом, в отличие от других библиотек машинного обучения вроде Keras-js, ей не требуется связующее ПО для конкретных видеочипов.

TensorFire — это очередной шаг к тому, чтобы сделать машинное обучение доступным максимально широкой пользовательской аудитории. Библиотека рассчитана на ПО и оборудование, которое уже, скорее всего, есть у большинства, и обеспечивает высокую точность результатов, используя в разы меньше ресурсов, чем требовалось раньше.

Вся мощь машинного обучения — в вашем браузере

TensorFire работает, пользуясь стандартом WebGL, который представляет собой кросс-платформенную систему рендеринга графики в браузере, ускоряемого с помощью видеопроцессора. WebGL поддерживает GLSL, Си-подобный язык программирования, используемый для написания шейдеров — коротких программ для преобразования данных непосредственно на графическом процессоре.

Обычно шейдеры используются в конвейере WebGL для преобразования изображений, например для рендеринга теней и других визуальных эффектов. Но в TensorFire шейдеры применяются для параллельного выполнения вычислений, необходимых для формирования умозаключений на основе моделей TensorFlow. Система также комплектуется библиотекой для импорта существующих моделей TensorFlow и Keras.

Фреймворк позволяет развернуть обученную модель в браузере и в нем же генерировать на ее основе прогнозы. При этом пользователю не нужно ничего загружать, устанавливать или компилировать — вся работа выполняется непосредственно в браузере. Данные, используемые для формирования умозаключений, тоже целиком обрабатываются на клиентской системе. Не имеет значения и марка графического процессора — поддерживаются чипы как AMD, так и Nvidia.

На сайте TensorFire приводится пример веб-приложения, реализующего нейронную сеть, которая позволяет стилизовать одно изображение под другое. Наиболее медленная часть демонстрации — загрузка модели и компиляция шейдерного конвейера, само же выполнение занимает не больше пары секунд.

Создатели TensorFire утверждают, что библиотека работает быстрее, чем другие подобные решения, одно из узких мест которых — перенос данных между графическим и центральным процессором; TensorFire избегает этой процедуры, стараясь обрабатывать максимально возможный объем данных на графическом процессоре.

Всю работу делает ваш компьютер

Наиболее важные преимущества TensorFire — переносимость и удобство. Современные браузеры существуют практически для всех операционных систем и аппаратных платформ, при этом даже у смартфонов эконом-класса ресурсы графического процессора доступны в избытке. Значительная часть работы по получению полезных результатов от моделей машинного обучения состоит в создании конвейера для обучения или предоставления выводов. Здесь же этот процесс, по крайней мере для некоторых видов задач, сведен к открытию браузера и выполнению пары щелчков мышью, что весьма удобно.

Еще одно преимущество, заявленное создателями TensorFire, — возможность получения прогнозов с использованием ресурсов только клиентского устройства. Когда обученная модель и данные уже находятся в облаке, это не имеет большого значения, но когда модель компактна, данные находятся на клиенте, а пользователь не желает загружать что-либо в облако, польза есть.

Третий плюс TensorFire состоит в том, что библиотека не накладывает ограничений на тип поддерживаемых видеопроцессоров, давая возможность пользоваться ускорителями как Nvidia, так и AMD.

На сегодня технология Nvidia CUDA считается предпочтительной для ускорения машинного обучения средствами графических процессоров, поскольку она обеспечивает более высокую производительность, чем открытый стандарт OpenCL, поддерживающий более широкий круг оборудования. У AMD есть идеи по преодолению нехватки производительности OpenCL, но TensorFire дает разработчикам возможность полностью обойти проблему.

Библиотека использует в работе прием, набирающий популярность среди разработчиков подобных систем: повышение компактности и эффективности моделей машинного обучения за счет небольшой, практически незаметной потери точности. В итоге на клиентах развертываются модели меньшего размера, а результаты генерируются быстрее.

Тот же подход, по утверждению создателей TensorFire, позволяет фреймворку работать и на тех видеопроцессорах и браузерах, которые не поддерживают весь спектр расширений WebGL.

Разработчики TensorFire собираются опубликовать библиотеку в виде проекта с открытым кодом по лицензии MIT, благодаря чему механизмы ускорения, реализованные в TensorFire, можно будет использовать во многих видах приложений, в том числе не относящихся к машинному обучению. Создатели фреймворка отмечают, что низкоуровневый API GLSL в TensorFire также можно использовать для выполнения произвольных параллельных вычислений общего назначения, то есть на базе библиотеки можно создавать другие фреймворки для клиентских вычислений в браузере, выполняемых на графическом ускорителе.

«Распознавание лиц – это как хороший мотор, но сам по себе мотор никуда не поедет. Важно понять, где применима такая технология, и уметь встраивать ее в операционные процессы», — заявил Павел Гурин, советник президента-председателя правления «Почта Банка», на пресс-конференции, посвященной результатам внедрения платформы идентификации лиц VisionLabs Luna. Проект был начат еще во времена «Лето Банка», а после того, как банк вошел в структуру «Почты России», стал самым большим в нашей стране корпоративным проектом по распознаванию лиц – он охватывает 10 тыс. собственных сотрудников и еще 18 тыс. партнеров.

В банке нашли применение сразу несколько биометрических решений. Отпечаток пальца используется для входа в мобильное приложение. Распознавание лиц — для идентификации сотрудников, при принятии кредитных решений и идентификации клиентов. Кроме того, начат пилотный проект по использованию в системах самообслуживания голосовой биометрии.

По признанию Гурина, использование биометрии дает, помимо прочих плюсов, еще и дисциплинирующий эффект, предотвращая многие действия. Работает «сарафанное радио» среди злоумышленников, учатся на своих ошибках сотрудники. Но во время пилотного проекта срабатываний системы было действительно много.

«Проанализировав существующую базу клиентов, мы обнаружили фотографии Брэда Питта и других знаменитостей, животных, пальм и стульев. Были явные грубые нарушения при оформлении заявок, и это удалось побороть», — отметил Гурин.

Только за 2016 год в заявках обнаружено 4,5 тыс. повторяющихся фотографий, выявлено 9,2 тыс. потенциально мошеннических заявок, а мошеннических операций предотвращено на 1,5 млрд руб. Было задержано четверо мошенников (и остановлено несколько сотен), пытавшихся получить кредиты по поддельным документам. Кроме того, оптимизация работы сотрудников фронт-линии достигла 15 тыс. часов, а экономия на SMS-информировании при аутентификации сотрудников составила 3,5 млн руб.

Стоимость же работ, по словам Гурина, оказалась в пределах 10 млн руб., серверные мощности и поддержка увеличили стоимость проекта в два-три раза. Таким образом, проект уже давно окупился.

Александр Ханин: «Теперь машина распознает людей даже лучше, чем сам человек: для нее не проблема поворот головы на 45°, очки, макияж, растительность на лице»

Как отметил Александр Ханин, генеральный директор VisionLabs, в процессе распознавания лиц очень важно качество и точность самого распознавания: прежде проекты часто губило большое число допускаемых ошибок. Сейчас качество распознавания очень сильно улучшилось, и можно работать с большими объемами информации. Нейронные сети сделали серьезный шаг вперед, и теперь машина распознает людей даже лучше, чем это может сделать человек: для нее не проблема поворот головы на 45°, очки, макияж, растительность на лице. Однако важно подчеркнуть, что банкам нужен многофункциональный продукт, который можно применять в различных процессах.

Во-первых, у большинства банков накопилась огромная база клиентов, которых фотографируют в ходе кредитования. Необходимо навести порядок в этих базах.

Во-вторых, предотвращение кредитного мошенничества становится все более актуальным. Существуют целые группировки, массово вклеивающие в украденные паспорта свои фото. Известны случаи, когда отдельные «таланты» в одиночку брали до 150 кредитов в месяц.

Третья важная возможность заключается в идентификации клиентов, исключении человеческого фактора при их обслуживании. Ускорение процессов приводит к повышению лояльности и росту операционной эффективности.

Далее по значимости следует двухфакторная аутентификация сотрудников банка. Это не только исключает действий злоумышленников от имени пользователя системы, но и не допускает входа в систему одного сотрудника от имени другого.

Наконец, банки все больше интересуются мобильной идентификацией. Узнать клиента в дистанционных каналах – задача огромной важности. По словам Ханина, в российских банках ведется около 10 подобных проектов, однако мейнстримом это станет в следующем году. «Решить задачу идентификации лиц несложно. Гораздо труднее обеспечить защиту от мошенничества», — подчеркивает он. Важно убедиться в «живости» (lifeness) предоставляемого изображения, так как в дистанционных каналах у злоумышленников очень много возможностей для различных манипуляций.