Протокол для связи флэш-массива с сервером NVMe over Fabrics создан, чтобы совершить революцию в использовании флэш-технологий. Сегодня рынок решает вопрос его будущего: NVMe over Fabrics нужен сетевой транспорт, и выбрать его не так просто. Менеджер ОЕМ-бизнеса Brocade в России Николай Умнов рассказывает, какие пути открыты перед NVMe сегодня.
Закат интерфейса SCSI
Стремительное развитие бизнеса и ИТ выдвинуло новую аксиому: основная ценность любой компании – это данные, которые она хранит и обрабатывает. Начиная с 60-х годов прошлого века и до настоящего времени основным средством хранения данных были так называемые жесткие, или стандартные, магнитные диски. Изначально они обладали целым спектром преимуществ, однако с течением времени стало очевидным, что эта технология имеет серьезные ограничения по быстродействию, а производительность систем, использующих магнитные диски, не демонстрирует значительных показателей роста. Для сравнения: если за последние десятилетия производительность процессора или памяти выросла на несколько порядков, то производительность жестких дисков выросла максимум в несколько раз. Это не соответствует возможностям современных вычислительных технологий и серьезно тормозит их развитие.
Использование новых флэш-дисков с протоколом доступа NVMe может существенно увеличить производительность СХД |
Несколько лет назад на смену жестким дискам пришли твердотельные SSD-диски, или флэш-память. Потенциально твердотельная память содержит в себе огромный потенциал: она дает возможность осуществлять доступ к данным со скоростью в десятки раз выше, чем в случае со стандартными магнитными дисками, тем самым обеспечивает более высокую скорость хранения, более плотное хранение и ряд других преимуществ, ценных для отрасли.
Однако и у SSD-дисков есть слабое место. Дело в том, что классические магнитные диски всегда использовали интерфейс доступа SCSI (Small Computer System Interface), разработанный еще в прошлом веке. Он развивался вместе с технологиями и имел множество инкарнаций, но его фактическую основу так или иначе составляют технологии, разработанные в 1980-х годах. С появлением флэш-памяти стало очевидным, что доступ к ней может быть также осуществлен посредством интерфейса SCSI, однако кардинального увеличения скорости в сравнении с магнитными дисками не будет. Интерфейс SCSI основан на большом количестве промежуточных регистров и не поддерживает распараллеливание задач — иными словами, не рассчитан ни на необходимую флэш-системам скорость передачи данных, ни на возможность мгновенного доступа к ним. Аллегорически использование интерфейса SCSI с флэш-массивами выглядит так, будто кто-то пытается вычерпать бочку воды чайной ложкой.
NVMe: выход на рынок
Для решения этой задачи группа из 13 компаний, называемых NVMe promouter group, взялась за разработку нового программного интерфейса, который позволил бы ускорить доступ к любому типу современной флэш-памяти. При разработке нового интерфейса была использована широко распространенная в индустрии компьютерная шина PCI Express, а в дополнение к ней была разработана спецификация на протоколы доступа к твердотельным накопителям, получившая название NVM Express. NVM в названии спецификации обозначает энергонезависимую память, в качестве которой в SSD повсеместно используется флэш-память типа NAND.
Первая спецификация протокола NVMe состоялась в 2011 году, и к сегодняшнему дню в мире уже выпускается некоторое количество жестких дисков, которые его поддерживают. В сравнении с дисками, основанными на интерфейсе SCSI, их преимущества видны невооруженным глазом. Протокол NVMe обеспечивает увеличение производительности в полтора-два раза даже на существующих технологиях; кроме того, он поднимает скорость передачи данных, сокращая при этом время доступа к ним примерно вдвое. Сам по себе протокол NVMe разрабатывался с учетом перспектив развития флэш-памяти; так, уже сейчас компания Intel создает технологию энергонезависимой памяти 3D XPoint, Первое поколение подобных твердотельных накопителей, согласно анонсу компании, достигнет 95 тыс. операций ввода-вывода в секунду и с задержками порядка 9 микросекунд. А протокол NVMe, в свою очередь, рассчитан на эволюцию флэш-технологий и сможет обеспечить реальную производительность подобных систем.
В поиске NVMe over Fabrics
Что такое внешняя СХД? Фактически это компьютер, на котором установлено большое количество жестких дисков, которые с помощью различных сетей передачи данных подключаются к серверам, рабочим станциям. Использование новых флэш-дисков с протоколом доступа NVMe может существенно увеличить производительность СХД, то есть ускорить работу системы как с точки зрения объема передаваемых данных, так и с точки зрения скорости доступа к ним. Однако в текущей версии протокол NVMe пока не поддерживает работы сетей хранения данных или передачи данных. Для решения этой задачи ассоциация NVMe разработала стандарт спецификации NVMe over Fabrics и представила его участникам рынка. Эта спецификация дает возможность использования различных транспортов для поддержки NVMe в сетевой архитектуре; но какой конкретно из них будет принят рынком и станет стандартом де-факто для центров обработки данных, пока неизвестно. На данный момент наиболее вероятным является использование NVMe с одной из следующих технологий: Fibre Channel, InfiniBand и RoCEv2. У всех представленных вариантов есть свои преимущества и недостатки, однако ни один из них еще не был окончательно принят сообществом.
NVMe over FC
Так или иначе, но в ближайшее время рынок должен будет определиться с наиболее предпочтительным стандартом. Компания Brocade поддерживает ту его версию, в основе которой лежат технологии Fibre Channel. Технология FC дает компаниям, владеющим коммутаторами Brocade пятого и шестого поколения, возможность перейти на использование протокола NVMe, практически ничего не изменяя в своей инфраструктуре. Поколения коммутаторов Brocade, выпускаемые с 2011 года, поддерживают передачу данных NVMe over FC без изменения программного и аппаратного кода. Кроме того, передачу подобных данных поддерживает последнее поколение FC хост-адаптеров – сетевых карт. В некоторых ситуациях с NVMe over FC компании может потребоваться обновление микрокода, но это несложная задача.
Николай Умнов, менеджер ОЕМ-бизнеса Brocade в России: «Наиболее многообещающими из представленных технологий выглядят NVMe over FC и NVMe over RoCEv2» |
На данный момент на рынке нет готовой СХД, которая бы поддерживала тут или иную реализацию NVMe over Fabrics. Тем не менее многие компании сообщают о том, что имеющиеся у них системы хранения с флэш-памятью являются NVMe-ready. Иными словами, если на имеющиеся у таких производителей СХД установить NVMe-диски и обновить программный код, системы смогут работать с новыми технологиями, подключаясь к сети с помощью имеющихся сетевых устройств Fibre Channel. На данный момент прототипы технологии NVMe over FC уже демонстрируют ускорение доступа к данным на 55-60%, а после появления новых типов памяти эта цифра продолжит расти.
Кроме того, устройства Fibre Channel и Brocade дают возможность в одной инфраструктуре сочетать разные типа технологий: СХД может работать как с магнитными дисками с интерфейсом SCSI, так и с новыми дисками с протоколом NVMe и обмениваться данными через одно и то же сетевое устройство. Это представляет особую выгоду для бизнеса, поскольку у любой компании – большой или малой – априори много оборудования, значительная часть из которого не нуждается в увеличении производительности и будет в дальнейшем работать по протоколу SCSI.
Немаловажным фактором для бизнеса является и то, что FC – проверенные временем технологии. В свое время многие передовые решения казались перспективными с точки зрения возможного технологического преимущества, однако не состоялись в реальности и не были приняты рынком – их было слишком тяжело внедрить, они требовали слишком серьезных перемен в инфраструктуре. Fibre Channel привлекателен своей надежностью; так, компания Brocade умеет отслеживать подобный трафик, управлять им, анализировать его и при этом не проигрывает в скорости доступа к данным. Подобные технологии уже признаны рынком: во всех современных организациях сегодня существуют ЦОД, где используются сети хранения данных, построенные на протоколе FC. Возможности, предоставляемые Fibre Channel, для современного бизнеса имеют ключевую роль: если компания не может увидеть и измерить свои данные, она не может ими управлять.
Для многих компаний решающим фактором остается и то, что FC не моновендорная технология. Помимо Brocade, коммутаторы Fibre Channel производит компания Cisco – их решения также поддерживают технологии NVMe over FC на существующем оборудовании. Таким образом, FC позиционирует себя не как закрытая, узкопрофильная инновация, а как индустриальный стандарт, поддерживаемый многими участниками рынка.
NVMe over InfiniBand
Технология NVMe over FC проигрывает технологии InfiniBand только по одному пункту – скорости доступа к данным. Однако ключевым недостатком технологии InfiniBand по-прежнему является ее высокая стоимость – при том, что подобные решения очень узко используются в ЦОД, в основном только для построения высокопроизводительных кластеров. При этом для того, чтобы внедрить сеть передачи данных на технологиях InfiniBand, компания должна закупить новое коммутирующие оборудование, сетевые интерфейсы, как в СХД, так и в серверы. Как правило, ЦОД оборудованы двумя сетями: передачи данных IP и хранения данных SAN. На данный момент построение третьей сети, основанной на технологиях InfiniBand, выглядит для предприятия чересчур затратным и непрактичным. Хотя технологии InfiniBand и показывают впечатляющие результаты по скорости доступа к данным, они не масштабируются, то есть могут существовать только в пределах одного центра обработки данных. Функцию связи нескольких ЦОД между собой InfiniBand не поддерживает, в то время как Fibre Channel может выходить за пределы ЦОД и масштабироваться почти на любые расстояния.
NVMe over RoCEv2
Следующий вариант, широко продвигаемый многими компаниями, – NVMe over IP, или подключение через различные IP-сети, сети передачи данных. Преимущество данной технологии в теории понятно: сети передачи данных есть везде, в любом ЦОД так или иначе существуют серверы, которые связаны между собой с помощью сетей передачи данных. Имеющиеся на рынке решения показывают неплохие результаты по быстродействию. Весьма вероятно, что наибольшую конкуренцию технологии NVMe over FC составит технология NVMe over RoCEv2. RoCEv2 – один из вариантов передачи данных по сетям IP. Однако подключение через IP само по себе не лишено проблемных моментов, в числе которых сложности протоколов и сложности настройки подобных сетей. Кроме того, возникает организационный вопрос, связанный с сетями IP: для осуществления передачи данных NVMe over RoCEv2 требуется включение специальных протоколов внутри сетей IP, которые обычно остаются выключенными за ненадобностью для стандартных сетей передачи данных. Кроме того, для работы с нормальной скоростью подобным решениям требуются специализированные сетевые карты, которые нужно устанавливать в серверы: текущие сетевые карты, как правило, не поддерживают этот протокол.
Производители СХД в один голос заявляют: если какая-то организация хочет строить SAN-сеть, эта сеть должна быть изолирована вне зависимости от типа используемых протоколов. Иными словами, совмещение сетей передачи данных LAN и хранения данных SAN приводит к плохим последствиям: трафик сетей начинает конкурировать между собой, и инфраструктуру становится тяжело поддерживать. Как правило, сетями LAN в больших компаниях управляют централизованные сетевые департаменты, в то время как сетями SAN управляют люди, которые отвечают за хранение данных, администраторы СХД либо системные администраторы, относящиеся к совершенно другим департаментам. В данном случае координация их достаточно сложна. Возможно, именно поэтому сети хранения данных, построенные на IP-технологиях, пока не получили достаточного применения в отрасли, хотя на них и возлагали большие надежды.
NVMe-эволюция
Наиболее многообещающими из представленных технологий выглядят NVMe over FC и NVMe over RoCEv2. Когда в 2017-2018 году начнется поступление на рынок NVMe устройств СХД, между двумя этими решениями начнется конкуренция, и время выявит победителя. FC – устоявшаяся технология, имеет большое количество инсталляций в ЦОД и позволяет легко запустить оборудование на существующей инфраструктуре. Сеть RoCEv2 также может быть основана на имеющейся инфраструктуре – сети передачи данных. Кроме того, на данный момент эту технологию поддерживает большое количество компаний, производящих сетевое оборудование. Ожидается, что первые системы хранения, основанные на технологиях NVMe over Fabrics, появятся на рынке в течение ближайших месяцев. Далее последует принятие новых решений рынком, и, вероятно, в 2018-2019 годах – эволюция инфраструктуры по замене текущих СХД на новые, поддерживающие протокол NVMe.