По мере того как исследователи пытаются проектировать все более сложные компьютеры, имитирующие работу человеческого мозга, изменения приходится вносить и в конструкцию памяти.

Существующие микросхемы, жесткие диски и ленточные накопители отлично подходят для хранения больших объемов данных, но разработчики микросхем памяти нового поколения, называемых мемристорами, решили пойти еще дальше: их продукты способны помочь системам искусственного интеллекта будущего лучше понимать данные и извлекать из них дополнительную пользу.

С помощью мемристоров компьютеры могли бы объединять разрозненные данные при диагностике заболеваний, а самодвижущиеся автомобили — распознавать объекты на основе анализа вероятностей и ассоциаций. «Мемристоры отлично подходят для моделей машинного обучения, – заметил генеральный директор компании Knowm Алекс Ньюджент. – Они поддерживают шаблонное прогнозирование и позволяют выявлять тенденции на основе обработки больших объемов информации».

Стартап Knowm из Нью-Мексико занимается технологиями мемристоров.

Мемристоры Knowm проектируются по образу человеческого мозга, в котором синапсы, соединяющие два нейрона, становятся тем сильнее, чем чаще по ним проходит сигнал. Аналогичным образом способность схем мемристора к обучению и удержанию информации определяется характеристиками потоков данных и электрического тока.

Полнофункционального чипа мемристора у Knowm пока нет. Однако компания представила прототип, с помощью которого исследователи и ученые могут имитировать конструкцию памяти подобного рода. В тестовый набор Knowm включены чип с цифровыми и аналоговыми схемами, пакет программного обеспечения и алгоритмы.

«Мемристор Knowm представляет собой 'обучаемый процессор', который работает параллельно с центральным, графическим и другими видами процессоров», – пояснил Ньюджент.

Продвигая свою технологию, компании придется бороться с целым рядом крупных конкурентов, включая HP.

В HP мемристоры планируют использовать в компьютере нового типа, получившем название The Machine. Считается, что в перспективе мемристоры заменят собой как оперативную память, так и память хранения, и HP совместно с компанией SanDisk занимается проектированием соответствующих компонентов. По словам разработчиков SanDisk, мемристоры будут в тысячу раз быстрее и надежнее флеш-памяти.

«Мемристоры помогут создать новые компьютеры, которые будут лучше обучаться и извлекать полезную информацию из шаблонов данных, – указал Ньюджент. – Организовать машинное обучение можно и с использованием сегодняшних компьютеров, но процесс этот не очень эффективен и требует больших затрат электроэнергии».

До завершения работ еще далеко, и, наверное, пройдет много лет, прежде чем первые чипы на базе архитектуры Knowm появятся в коммерческих продуктах. Стартап финансируется за счет правительственных грантов и инвестиций в акционерный капитал. В ближайшие месяцы ожидается очередной инвестиционный транш от партнера, имя которого не разглашается.

Самоуправляемые автомобили, глубокое обучение, упрощение процесса парковки: на выставке потребительской электроники CES представители Nvidia обрисовали весьма любопытные перспективы дальнейшего развития компании. В отличие от того, что мы видели в предыдущие годы, на этот раз на пресс-конференции были представлены многие технические детали.

Но главным моментом часовой презентации стало все-таки представление новейшего интегрированного чипа семейства Tegra, который может оказать существенное влияние на роль, отводимую Nvidia в области суперкомпьютеров, мобильных продуктов и в развлекательной сфере.

Nvidia представила автомобильный суперкомпьютер Drive PX 2, умещающийся в небольшой коробке, но при этом эквивалентный по своей вычислительной мощности 150 машинам MacBook Pro. Внутри автомобильного компьютера находятся процессор следующего поколения Tegra и графический процессор Pascal, которые должны улучшить графические и интеллектуальные возможности грид-серверов, суперкомпьютеров и приставок Shield TV.

Что же до центрального процессора, то, вероятно, в этом качестве использован мобильный чип, разрабатывавшийся под кодовым наименованием Parker. Его поставки в Nvidia планировали начать в текущем году. Графический процессор Pascal поддерживает трехмерную память и шину NVLink, обеспечивающую увеличение производительности и эффективности энергопотребления процессоров Nvidia Tegra.

Drive PX 2 оснащен двумя интегрированными вычислительными модулями с 12 процессорными ядрами и двумя графическими процессорами. У каждого модуля имеется четыре ядра Cortex-A57 с архитектурой ARM, два 64-разрядных ядра Denver и графический процессор Pascal. К собственному процессору Denver в Nvidia решили вернуться после отказа от его использования в чипе Tegra X1 с графическими процессорами Maxwell предыдущего поколения.

Облегченная модификация Drive PX 2 с пониженным энергопотреблением может найти применение в приставках Shield TV, которые не требуют такой вычислительной мощности, как автомобиль или суперкомпьютер. «Судя по всему, Nvidia отказывается от дальнейшего развития мобильных продуктов, – указал главный аналитик Tirias Research Джим Макгрегор. – Уход компании в сферу высокопроизводительных вычислений и машинного обучения становится возможным благодаря объединению процессоров Tegra и графических процессоров Pascal, что позволяет создавать еще более мощные серверы и суперкомпьютеры».

В некоторых из наиболее производительных в мире компьютеров уже установлены графические процессоры Nvidia, предназначенные для организации сложных вычислений, но они работают в сочетании с процессорами общего назначения Intel. Благодаря связке из нового процессора Tegra и графического процессора Pascal компания Nvidia получает полный набор чипов для суперкомпьютеров, создаваемых на основе архитектуры ARM.

PX 2 поддерживает ряд специализированных инструкций «глубокого обучения», предназначенные для обработки больших наборов данных и построения прогнозных моделей, которые позволяют выявлять новые тенденции. Самоуправляемые автомобили, оснащенные Drive PX 2, смогут распознавать объекты и знаки и реагировать на дорожную ситуацию. Аналогичные модели глубокого обучения могли бы найти применение в области финансового прогнозирования и в медицине, для которой хорошо подходят высокопроизводительные компьютеры с новыми чипами Nvidia.

Nvidia создает собственные интеллектуальные системы для автомобилей, а ее графические процессоры уже используются в системах глубокого обучения компаниями Facebook, Google, Microsoft и IBM.

Производительность Drive PX 2 достигает 8 TFLOPS, что существенно превышает возможности Drive PX 1, оснащенного процессором Tegra X1 и развивающего быстродействие до 2,3 TFLOPS. Некоторые улучшения связаны и с переходом на 16-нанометровый технологический процесс FinFET, допускающий размещение транзисторов вертикально друг над другом, что позволяет дополнительно расширить функционал и повысить энергоэффективность чипа.

Рассказывая о самоуправляемых автомобилях и Drive PX 2, генеральный директор Nvidia Джен-Сан Хуанг лишь мельком коснулся нового процессора Tegra и графического процессора Pascal.

«Drive PX 2 – не процессорная стратегия, – подчеркнул он. – Скорее это стратегия создания полноценных компьютеров для автомобилей и других продуктов».

Что касается технических деталей нового чипа, возможно, о них мы узнаем несколько позже.

Программная система, разработанная в компании dMetrics, обрабатывает текстовую информацию из блогов, Facebook, Twitter, форумов, комментариев к новостям и видеозаписям и т. п. — всего из миллиона с лишним источников. Система анализирует онлайн-беседы о болезнях, лекарствах, медицинской технике и услугах, пополняя базу данных, которая на сегодня уже содержит сведения более чем о 14 тыс. продуктах для здравоохранения.

Заказчики dMetrics с помощью ПО компании могут, например, получить ответы на вопросы о том, сколько пациентов воспользовались тем или иным медикаментом для лечения конкретной болезни за определенный период времени, или о том, кто из покупателей задумывается, не перейти ли ему на лекарство, выпускаемое конкурентом.

Система основана на методах машинного обучения и обработки естественного языка; она не только учитывает количество слов с позитивной и негативной окраской, но и анализирует смысл высказываний, причем ее не сбивают с толку сленг, ошибки в орфографии и пунктуации, чрезмерно длинные предложения и прочие особенности онлайн-дискуссий.

По словам разработчиков, система состоит из трех уровней: на верхнем анализируются все значения слова или словосочетания, касающегося заданного медицинского продукта, и отсеиваются спамерские сообщения; на среднем уровне личный опыт комментаторов отделяется от маркетинговых материалов и новостей; на самом нижнем уровне определяются решения и реакции людей — например, сведения о том, что кто-то начал или думает начать пользоваться продуктом, испытывает опасения или неуверенность либо собирается перейти на другое средство.

В dMetrics не ограничиваются только отраслью здравоохранения, обучая свою платформу также отвечать на вопросы, касающиеся финансовых услуг и политических организаций.

В Facebook обещают опубликовать проектную документацию по серверу под кодовым именем Big Sur, который в компании используется для обучения систем искусственного интеллекта. Спецификации сервера будут переданы инициативе Open Compute Project (OCP), в рамках которой коммерческие компании могут делиться разработанными ими конструкциями оборудования.

Машинное обучение широко применяется в системах распознавания изображений, которые после анализа снимка или видеозаписи могут перечислить находящееся в кадре. Его можно использовать для обработки больших срезов данных различных видов, например для отсеивания спама и выявления мошенничеств с банковскими картами.

Facebook, Google и Microsoft активно развивают технологии искусственного интеллекта, чтобы предлагать более совершенные онлайн-сервисы. До этого Facebook выпускала в открытых кодах различное ПО искусственного интеллекта, однако аппаратную конструкцию раскрывает впервые.

Программное обеспечение, работающее на Big Sur, активно пользуется графическими процессорами, которые нередко эффективнее центральных справляются с задачами машинного обучения. У сервера может быть до восьми высокопроизводительных видеочипов, каждый из которых потребляет до 300 Вт. Конфигурацию системы можно варьировать, соединяя компоненты с помощью шины PCIe.

В Facebook сообщают, что система на основе графических процессоров работает вдвое быстрее, чем аналогичная предыдущего поколения. «Распределение задач обучения между восемью видеочипами позволило вдвое увеличить масштаб и быстродействие наших нейросетей», — говорится в блоге Facebook.

Примечательная особенность Big Sur состоит в том, что ему не требуются специализированные системы охлаждения или иная «уникальная инфраструктура», указывают в Facebook. Высокопроизводительные компьютеры сильно нагреваются, и их охлаждение может обходиться недешево — некоторые, к примеру, приходится погружать в особые жидкости.

Для Big Sur ничего подобного не нужно, утверждают в Facebook. Сами спецификации системы еще не опубликованы, но на доступных снимках видно, что внутри сервера находится крупный блок, который, скорее всего, содержит вентиляторы. В Facebook отмечают, что такие серверы можно использовать в центрах обработки данных компании, специально лишенных промышленных систем охлаждения ради экономии затрат.

Как и многое другое оборудование для Open Compute, сервер спроектирован максимально простым. В OCP не раз указывали на то, что производители серверов склонны к «неоправданному наделению своих продуктов уникальными особенностями», из-за чего возрастают затраты и могут возникать сложности с администрированием оборудования от разных производителей.

«Мы отказались от комплектующих, которые не слишком широко применяются, а для компонентов, относительно часто выходящих из строя, например жестких дисков и модулей DIMM, мы обеспечили возможность замены за считанные секунды», — сообщили в Facebook. Все защелки и ручки, используемые при технических работах, для удобства обозначены зеленым цветом. Как утверждается, даже материнскую плату системы можно вынуть всего за минуту. «По сути, Big Sur можно обслуживать вообще почти без инструментов — единственное, для чего нужна отвертка, это радиатор на центральном процессоре», — добавляют в компании.

В Facebook делятся конструкцией сервера не из альтруизма: в компании надеются, что заинтересовавшиеся, испытав систему, начнут предлагать усовершенствования. А если другие крупные компании станут заказывать Big Sur у производителей серверов, то экономический «эффект масштаба» в конечном счете поможет уменьшить затраты самой Facebook.

Машинное обучение в последнее время выходит на передний план по ряду причин. Одна из них — появление в свободном доступе огромных срезов данных, которые можно использовать для обучения нейросетей. Еще одна — мощные компьютеры стали достаточно доступными по цене, чтобы появилась возможность активнее развивать системы искусственного интеллекта.

В Facebook приводят примеры уже разработанных в компании программ такого рода: они умеют пересказывать сюжет книги, отвечать на вопросы о снимке, играть в игры и осваивать выполнение заданий путем наблюдения за примерами. «Но мы понимаем, что для решения подобных задач большего масштаба нам придется проектировать собственные аппаратные системы», — отмечают в компании.

В Big Sur, названном так по имени живописного прибрежного района в Калифорнии, используются видеопроцессоры компании Nvidia, в частности платформа Tesla. В Facebook сообщили о планах утроить инвестиции в системы на основе графических процессоров, чтобы получить возможность задействовать технологии машинного обучения в более широком круге своих сервисов.

А тем временем расширяет использование машинного обучения в своих сервисах и Google. «Машинное обучение — ключевой механизм, опираясь на который мы перестраиваем практически всю нашу деятельность», — заявил в октябре генеральный директор Google Сундар Пичаи.

В Facebook не уточнили, когда именно будут опубликованы спецификации Big Sur. Следующий саммит OCP пройдет в Соединенных Штатах в марте, — возможно, тогда мы и узнаем подробности об этой системе.

Агентство национальной безопасности США существенно расширило свои возможности в части распознавания угроз за два с лишним года, прошедших с того момента, как бывший сотрудник АНБ Эдвард Сноуден собрал и раскрыл оказавшуются в его распоряжении секретную информацию. По словам ИТ-директора АНБ Грега Смитбергера, теперь частное облако, которое предоставляет разведывательному сообществу вычислительные ресурсы, ресурсы хранения и средства анализа операций, находится под многоуровневой защитой, предусматривающей помимо всего прочего и анализ поведения.

«Мы используем анализ Больших Данных, технологии, разработанные для зарубежных разведывательных миссий, и технологии, созданные в нашем собственном Управлении информационной безопасности, – сообщил Смитбергер, занявший свой нынешний пост полгода назад, после того как 27 лет проработал на различных должностях во внешней разведке. – АНБ применяет средства автоматизации, чтобы лучше распознавать аномальные ситуации — начиная от внешних атак и заканчивая подозрительной внутренней активностью — и своевременно принимать необходимые меры».

После того как Эдвард Сноуден, выполнявший в компании Booz Allen подрядные работы для АНБ, в 2013 году скопировал и начал публиковать документы с подробностями о секретной программе АНБ и о прослушивании им каналов связи в США и за границей, на агентство обрушился мощный поток критики. Документы пролили свет на правительственный мониторинг телефонных переговоров и переписки по электронной почте с целью наблюдения за подозреваемыми в терроризме. Разгоревшаяся дискуссия регулярно подогревается все новыми и новыми откровениями. В New York Times, к примеру, не так давно был опубликован материал о том, что в погоне за преступниками АНБ расширяет объемы собираемых и анализируемых данных.

Использование анализа в борьбе с внутренними и внешними угрозами

Грег Смитбергер: «АНБ применяет средства автоматизации, чтобы лучше распознавать аномальные ситуации — начиная от внешних атак и заканчивая подозрительной внутренней активностью — и своевременно принимать необходимые меры»

Между тем, АНБ расширяет меры по обнаружению угроз в своей собственной сети, которую аналитики, оперативные сотрудники и инженеры используют для различных задач, связанных со сбором разведывательной информации.

По словам Смитбергера, один из применяющихся способов – выявление аномального поведения, например, когда пользователи, обладающие соответствующими правами, получают доступ к сети в нехарактерное для них время и из нехарактерных географических регионов. Представьте, что аналитик АНБ из Вирджинии, работающий обычно с конфиденциальной информацией с 7 утра до 7 вечера, вдруг попытался получить доступ к ней из Тель-Авива в три часа ночи. «Поведенческий анализ такого рода, включающий составление профилей и выявление аномалий на основе машинного обучения, является новым направлением, но приобретает все большую популярность на корпоративной арене, где используется для выявления брешей путем присвоения угрозам различных уровней приоритета», – отметила аналитик Gartner Авива Литан.

«АНБ в реальном времени проводит мониторинг своих средств обеспечения ИТ-кибербезопасности, включая межсетевые экраны, виртуальные частные сети и журналы аудита каждого сетевого устройства, – сообщил Смитбергер. – То, что вполне может упустить из виду человек, находится у нас под постоянным контролем. Есть и другие, гораздо более сложные и утонченные методы обнаружения угроз, подробности которых я сообщить не могу. Но общие принципы заключаются в понимании функционирования сети и сравнении в реальном времени действий, требующих авторизации, с операциями, которые ранее были признаны нормальными».

Эти меры защищают заново выстроенное частное облако, в котором, по словам Смитбергера, используются технологии, аналогичные тем, что встречаются в общедоступных облачных сервисах (таких как Amazon Web Services), включая виртуализированные серверы и приложения. Однако есть здесь и принципиальные отличия – технология предназначена для подключения широкого круга аналитиков и оперативных сотрудников агентства, имеющих существенно различающиеся уровни доступа. На каждом уровне доступа осуществляется жесткий контроль. Двое аналитиков, обратившихся к системе с одним и тем же запросом, могут получить совершенно разные результаты в зависимости от допуска.

«Внутри и вне сети есть множество уровней, отделяющих нас от внешнего мира, – указал Смитбергер. – Многослойная модель безопасности представляет собой сочетание технологий, разработанных правительственными структурами или созданных по заказу правительства, и коммерческих продуктов. Если такую 'параноидальную' многоуровневую защиту использовать правильно, все внутренние проблемы становятся хорошо видны».

Частное облако, выстроенное в стиле общедоступного

Уже само по себе построение частного облака в агентстве можно считать настоящее триумфом. В инициированной в 2011 году программе Intelligence Community Information Technology Enterprise говорится, что облачная среда позволит разведывательным структурам осуществлять безопасный доступ к информации и обмениваться ею. Директор Разведывательного управления министерства обороны США Дэвид Шедд заявил в марте, что основным препятствием на пути к созданию частного облака являются не технологии, а культурное сопротивление.

По словам Смитбергера, сегодня частное облако АНБ готово выполнять все возложенные на него функции благодаря помощи нескольких правительственных подрядчиков и внутреннего ИТ-персонала, заменившего унаследованные коммерчески доступные серверы и серверы, сделанные на заказ, СУБД и приложения, многие из которых изолировали данные. В АНБ утверждают, что после обновления этих технологий и построения интегрированного ресурсного пула им будет проще анализировать информационные активы и обслуживать аналитиков, оперативных сотрудников и прочих специалистов.

Смитбергер заявил, что частное облако АНБ обеспечивает гораздо более высокий уровень безопасности, чем любой из имеющихся коммерческих продуктов. Но говорить о неприступности частного облака АНБ, на его взгляд, слишком рано.

«Утверждать, что пробраться в сеть невозможно, было бы чересчур смело, – подчеркнул он. – Есть множество технологий, защищающих нас от проникновения извне, и мы продолжаем выстраивать все новые и новые уровни обороны. Так что я бы назвал наше частное облако чрезвычайно труднодостижимой для хакеров целью».

Компания Salesforce приобрела основанный в прошлом году стартап MinHash. В стартапе работало всего четыре человека, и занимались они применением методов анализа Больших Данных и машинного обучения для выявления тем, привлекающих внимание интернет-аудитории.

Основной разработкой MinHash была система под названием AILA. Как заявляли авторы, она отслеживала тысячи источников информации, выявляя ключевые слова, фразы и социальные сигналы. Кроме того, система искала в Интернете изображения и тексты, подходящие для создания сообщений, направленных на конкретную аудиторию. Результаты можно было использовать в работе с инструментами цифрового маркетинга.

Подобные технологии создавались и ранее, отмечает аналитик Beagle Research Group, однако в технологии MinHash интересно использование ботов для ведения кампаний. В последние десять лет одной из целей разработки систем управления взаимоотношения с поставщиками (Vendor Relationship Management, VRM) была защита клиентов от ненужных рекомендаций. В MinHash смогли добиться сходных результатов простыми средствами, считает аналитик. Работа платформы MinHash прекращается с 21 января 2016 года, а все сотрудники переходят в Salesforce, говорится в сообщении компании.

Технологии машинного обучения используются уже на протяжении многих лет, но в последнее время интенсивность их применения заметно выросла. «Машинное обучение – основополагающий и трансформирующий способ переосмысления нами всего, что мы делаем», – заявил генеральный директор Google Сундар Пичаи. И он далеко не единственный, кто придерживается такого мнения.

В прошлом успешное использование машинного обучения требовало разработки специальных алгоритмов и выделения огромных денег на проведение научно-исследовательских работ, но все меняется. В 2015 году IBM Watson, Microsoft Azure, Amazon и Alibaba уже предлагают готовые облачные SaaS-решения для машинного обучения. Продукты для машинного обучения, которые могут пригодиться компаниям, создают и стартапы: Idibon, MetaMind, Dato и MonkeyLearn.

Аналитики Gartner включили машинное обучение в число главных своих приоритетов. Естественно, при этом не стоит ждать, что внедрение средств машинного обучения позволит заменить всех сотрудников компьютерами или удвоить ваши доходы. Но это вовсе не значит, что они не смогут обеспечить любой компании конкурентные преимущества. Есть очень много бизнес-процессов, которые от машинного обучения получат существенную выгоду.

Итак, каким же образом машинное обучение меняет способы ведения бизнеса?

1. Увеличение первоначальных затрат

Начнем с того, что системам машинного обучения нужны данные для обучения, а данные эти стоят денег. Особенно, если они подготовлены людьми.

Для эффективного применения машинного обучения в бизнесе алгоритмам необходимо множество примеров того, что предполагается делать. Если вы хотите получить алгоритм, распознающий хорошего потенциального покупателя, вы должны продемонстрировать ему массу примеров уже имеющихся покупателей, как хороших, так и плохих. Если нужен алгоритм, сортирующий заявки в службу технической поддержки, необходимо показать ему множество таких заявок. Если вы переводите алгоритм на другой язык, нужно собрать массу примеров выражений этого языка.

В некоторых случаях компания может организовать сеансы обучения у себя — например, оценивая компетентных и некомпетентных потенциальных покупателей. Но надо признать, что не все заявки на обслуживание, поступившие в течение года, были правильно отсортированы средствами автоматизации. Чтобы их сортировать, нужны люди – находящиеся непосредственно у вас или получающие доступ через платформу обогащения данных. Машина просматривает вынесенные вердикты и начинает искать связи и шаблоны, которые можно из всего этого вычленить.

2. Заметное снижение последующих затрат

Когда все работает хорошо, машинное обучение оказывается гораздо дешевле и эффективнее людей. Недостаток же его заключается в том, что в 80% случаев все работает хорошо, а в 20% — плохо. Причем сократить этот 20-процентный поток ошибок очень сложно, а зачастую и невозможно.

Но даже алгоритм, обеспечивающий 80-процентную точность, может сэкономить вам немало денег, потому что хорошие алгоритмы машинного обучения знают, где они точны, а где с определенной долей вероятности допущена ошибка. В передовых компаниях используют те сценарии, где алгоритмы выражают высокую долю уверенности, а те, где она низка, оставляют человеку.

Банки практикуют такой подход на протяжении многих лет. Когда вы вставляете в банкомат чек, алгоритм пытается распознать присутствующие на нем цифры. Если у вас неразборчивый почерк или чернила размыты, соответствующая задача передается человеку. Такой шаблон действий позволяет банку сэкономить немало денег, обеспечивая очень высокий уровень точности.

3. Снижение затрат с течением времени

Важное преимущество машинного обучения заключается в том, что оно способно превратить часть непредсказуемых затрат в фиксированные. Переадресуя человеку сценарии, в которых алгоритм испытывает затруднения, вы формируете идеальные данные для обучения, и их впоследствии можно передать тому же алгоритму. Эта хорошо изученная технология называется активным обучением. Данные, собранные в сценариях, с которыми алгоритм не справился, помогают обучить тот же алгоритм и сделать его гораздо более эффективным.

По мере повышения точности алгоритма экономика бизнес-процессов улучшается. Машинное обучение позволяет увеличить число обрабатываемых сценариев, а дорогостоящий человек вызывается только в самых тяжелых и редких случаях. Таким образом, лучшие черты человека и машинного интеллекта соединяются: скорость и надежность машины используются при принятии простых решений, а гибкость, знания и опыт человека – в сложных ситуациях. Такой подход можно назвать интеллектуальным бизнесом, и это действительно так.