LinuxForum.Fans
Тема

Какой протокол доступа использовать для доступа к СХД

Автор: AlfaStriker 21 сообщений 5653 просмотров
24.08.2014 19:54 #390505

Начал смотреть в интернете настройку цели на iSCSI, и тут появились еще два варианта организации доступа к блочному устройству:
1. AoE
2. FCoE
3. iSCSI

Каждый имеет свои достоинства.
Второй вариант я так понял самый дорогой.
Первый плохо документирован.
А третий про третий пишут что там задержки при доступе есть.

Сам пока далек от этого, но интересно узнать - у кого что стоит?

Сейчас посмотрел цены на 10Гбитные карточки SFP (оптика) у нас они стоят 200 баксов.
В интернете на ebuy.com продают карту Intel Ethernet Converged Network Adapter X540-T1 по - $370

24.08.2014 21:07 #390515

FCoE это новье. Можно использовать FC. На eBay лучше не покупать такие вещи.

25.08.2014 01:46 #390528

AoE можно забросить изначально. насчет остального, все зависит от задач. что конкретно надо сделать, какие цели у системы?

25.08.2014 09:16 #390538

Самый надежный и быстрый это FCoE. Если денег жалко и система не очень важна, то можно использовать iSCSI.

25.08.2014 17:23 #390578
"dima_nov" написал:
Самый надежный и быстрый это FCoE

самый надежный и быстрый это FC. FCoE - штука вроде неплохая, но по большому счету примерно на том же уровне что и iSCSI, разве что уровень ethernet вместо ip может дать мизерный прирост в производительности. iSCSI с другой стороны, старше и с поддержкой и документацией там намного лучше.

26.08.2014 11:17 #390676

dyasny, правильно, спасибо что поправил, это я не подумав скопировал из сообщения, а хотел написать Fibre Channel.

26.08.2014 11:49 #390682

Но он и самый дорогой вариант. При этом самый лучший как я понял.

26.08.2014 11:56 #390684

"AlfaStriker" написал:
Но он и самый дорогой вариант. При этом самый лучший как я понял.
Оно стоит того.
26.08.2014 12:07 #390690

По идее все должны уходить от FC к Ethernet. Для этого и разрабатывались протоколы FCoE, AoE и iSCSI.

26.08.2014 16:57 #390748
AlfaStriker написал:
По идее все должны уходить от FC к Ethernet. Для этого и разрабатывались протоколы FCoE, AoE и iSCSI.

Никакого смысла отказываться от FC в пользу Ethernet я не вижу и не наблюдаю, чтобы такой переход где-либо делался или планировался. Все равно сеть передачи данных следует отделять от общей сети Ethernet (для надежности и скорости), поэтому в нашей компании используется сеть FC.

26.08.2014 17:28 #390753

Пишут что FC - это для больших датацентров. А основанные на Ethernet протоколе СХД - это средний и малый бизнес.

26.08.2014 17:42 #390760

"AlfaStriker" написал:
Пишут что FC - это для больших датацентров. А основанные на Ethernet протоколе СХД - это средний и малый бизнес.
Ну взять к примеру свичи мироктика с sfp + СХД долна поддерживать sfp и стройте сеть, в чем проблема?
26.08.2014 18:40 #390777
"AlfaStriker" написал:
Но он и самый дорогой вариант. При этом самый лучший как я понял.

есть и лучше - IB например

"AlfaStriker" написал:
По идее все должны уходить от FC  к Ethernet. Для этого и разрабатывались протоколы FCoE, AoE и iSCSI.

нет. оптическая инфраструктура - очень дорогое удовольствие, и зачастую оно не нужно. в наше время есть куча вариантов ускориться без быстрого доступа с спиндлям - atlantis например или fusionIO. так что переход идет не на ethernet как таковой, а не дешевую медную инфраструктуру, под которую уже есть готовые транспортные протоколы, в которые можно паковать классический scsi (iSCSI), ATA (AoE) или FC (FCoE)

"dima_nov" написал:
Никакого смысла отказываться от FC в пользу Ethernet я не вижу и не наблюдаю, чтобы такой переход где-либо делался или планировался. Все равно сеть передачи данных следует отделять от общей сети Ethernet (для надежности и скорости), поэтому в нашей компании используется сеть FC.

переходов хватает - полно контор которым недостаточно старого двухгигового или даже четырехгигового файбера, надо докупать новые массивы, но бюджет не резиновый. 10G с айскази внезапно становится очень интересной альтернативой.

"AlfaStriker" написал:
Пишут что FC - это для больших датацентров. А основанные на Ethernet протоколе СХД - это средний и малый бизнес.

это не в плане масштабов, а в плане бюджета. медная инфраструктура масчтабируется не хуже, если не лучше, но FC надежнее, и главная проблема стореджа - latency, там гарантированно ниже.

27.08.2014 09:03 · отредактировано #390910
dyasny написал:

переходов хватает - полно контор которым недостаточно старого двухгигового или даже четырехгигового файбера, надо докупать

у наc используется 8Gb FC, а сейчас смотрю, уже появился 20Gb FC. Думаю, что мигрировать с быстрой, надежной, проверенной временем технологии на 10 Gb Ethernet весьма сомнительная затея. Пробовал использовать iSCSI на сервере RedHat, для резервного копирования. Остался очень недоволен, при большой нагрузке служба iSCSI часто подвисала, приходилось перегружать весь сервер, в итоге от такой схемы отказались.

27.08.2014 19:20 #390996
"dima_nov" написал:
у наc используется 8Gb FC

тогда смысла нет. но когда окажется что 8gbps мало, выбор будет между 16gbps FC (или какая у него сейчас итерация), или ethernet на тот момент, а это уже будет или 44gbps или 100 и выше.

в любом случае, уже при 10г вся скорость упирается в скорость механических дисков, массивы на SSD все еще заоблачно дорогие, хотя вытворяют они просто офигенные вещи, был бы бюджет...

"dima_nov" написал:
Пробовал использовать iSCSI на сервере RedHat, для резервного копирования. Остался очень недоволен, при большой нагрузке служба iSCSI часто подвисала, приходилось перегружать весь сервер, в итоге от такой схемы отказались

интересны детали. способов настроить iscsi под линукс оюень много. классический IET известен тем что дохнет под нагрузкой. tgtd намного лучше, но он медленный и неэффективный. сейчас используется LIO и я уже вижу новые разработки которые обходят даже его. так что основывать мнение о протоколе на потенциально неправильно настроенной и просто кривой имплементации это как бояться летать на боингах, потому что воздушного змея не получилось запустить

28.08.2014 10:02 · отредактировано #391057
dyasny написал:
способов настроить iscsi под линукс оюень много. классический IET известен тем что дохнет под нагрузкой. tgtd намного лучше, но он медленный и неэффективный. сейчас используется LIO и я уже вижу новые разработки которые обходят даже его. так что основывать мнение о протоколе на потенциально неправильно настроенной и просто кривой имплементации это как бояться летать на боингах, потому что воздушного змея не получилось запустить

Сравнивать Red Hat Enterprise Linux c воздушным змеем не совсем корректно :). Я использовал tgtd. Я не могу проводить эксперименты с разными реализациями iSCSI и параметрами, так как мне важно, чтобы мои несколько сотен виртуальных серверов не падали из за проблем с хранилищем. И я не говорю, что протокол iSCSI плохой или хороший, меня интересует практика, а не теория. На практике я пока для критических задач iSCSI бы не использовал. Это мое личное мнение, я был бы рад услышать об успешном использовании iSCSI для достатчно больших хранилищ, например несколько сотен Тб.

28.08.2014 10:06 #391060

Вы работаете в датацентре?

28.08.2014 11:23 · отредактировано #391077

Крупная телекоммуникационная компания.

28.08.2014 18:05 #391125
"dima_nov" написал:
Сравнивать Red Hat Enterprise Linux c воздушным змеем не совсем корректно

очень корректно. вы сравниваете поднятый на коленке сервер с софтом который не предназначен для нагрузок и тем более неизвестно каким железом и прочими настройками, с серьезным SAN, сравнение, имхо, более чем корректное.

"dima_nov" написал:
Я не могу проводить эксперименты с разными реализациями iSCSI и параметрами, так как мне важно, чтобы мои несколько сотен виртуальных серверов не падали из за проблем с хранилищем.

полностью поддерживаю. при возможности, я тоже использую FC и что нибудь серьезное на бэкэнде (EMC/NetApp/HDS/HP/...) но хватает и серьезных СХД на iSCSI - EQL, LeftHand, те же NetApp/EMC/HDS/HP...

хранилище на простом линукс-сервере тоже можно собрать, и оно будет работать, и неплохо, но для этого нужно поработать. как минимум провести проверки на предмет софта который будет использоваться, параметров настроек, подходящего железа и т.д.

"dima_nov" написал:
На практике я пока для критических задач iSCSI бы не использовал. Это мое личное мнение, я был бы рад услышать об успешном использовании iSCSI для достатчно больших хранилищ, например несколько сотен Тб.

последнее хранилище на iSCSI которое я поднимал было на HUS110, 60Tb общего места. подключено 20 гипервизоров под управлением RHEV, около 200 VM. для клиентов приходилось ковырять кластеры по паре сотен UCS блейдов, с iSCSI на NetApp, точно не скажу сколько там места, но когда я закончил, у нас бежало 15000 VM, и система была развернута так что можно было удвоить количество хостов и ВМ, так что я думаю там уже намного больше.

на самом деле через мои руки таких установок разных размеров прошло очень много, и FC и iSCSI и NFS и gluster и ceph... я давно перестал зарекаться от чего либо основываясь на одном единственном сетапе. для всего есть своя ниша

29.08.2014 11:02 #391185
dyasny написал:
для клиентов приходилось ковырять кластеры по паре сотен UCS блейдов, с iSCSI на NetApp, точно не скажу сколько там места, но когда я закончил, у нас бежало 15000 VM, и система была развернута так что можно было удвоить количество хостов и ВМ, так что я думаю там уже намного больше.

dyasny, а Вы не знаете почему они для такой крупной системы предпочли iSCSI? Наверняка им понадобилось закупать 10Gb сетевое оборудование, могли бы и FC купить. FC получается сильно дороже?

Войдите или зарегистрируйтесь, чтобы ответить.