Высокопроизводительная реализация HDFS поверх InfiniBand на основе RDMA

Hadoop Distributed File System (HDFS) служит основным хранилищем Hadoop и был принят крупными организациями (Facebook, Yahoo! и др.) благодаря портируемости и отказоустойчивости. Существующая реализация HDFS использует интерфейсы Java-socket для коммуникации, что обеспечивает неоптимальную задержку и пропускную способность. Для приложений, интенсивно работающих с данными, сетевые характеристики становятся ключевыми по мере роста объёмов данных, хранящихся и реплицируемых в HDFS. В данной работе мы предлагаем новую архитектуру HDFS, использующую Remote Direct Memory Access (RDMA) поверх InfiniBand через интерфейсы Java Native Interface (JNI). Экспериментальные результаты показывают, что при записи файла HDFS объёмом 5 ГБ новая архитектура сокращает время коммуникации на 87% и 30% по сравнению с 1 Gigabit Ethernet (1GigE) и IP-over-InfiniBand (IPoIB) соответственно на платформе QDR (32 Gbps). Для HBase производительность операции Put улучшена на 26% с нашей реализацией. Насколько нам известно, это первая реализация HDFS поверх сетей InfiniBand.