Начал смотреть в интернете настройку цели на iSCSI, и тут появились еще два варианта организации доступа к блочному устройству:
1. AoE
2. FCoE
3. iSCSI
Каждый имеет свои достоинства.
Второй вариант я так понял самый дорогой.
Первый плохо документирован.
А третий про третий пишут что там задержки при доступе есть.
Сам пока далек от этого, но интересно узнать - у кого что стоит?
Сейчас посмотрел цены на 10Гбитные карточки SFP (оптика) у нас они стоят 200 баксов.
В интернете на ebuy.com продают карту Intel Ethernet Converged Network Adapter X540-T1 по - $370
Какой протокол доступа использовать для доступа к СХД
FCoE это новье. Можно использовать FC. На eBay лучше не покупать такие вещи.
AoE можно забросить изначально. насчет остального, все зависит от задач. что конкретно надо сделать, какие цели у системы?
Самый надежный и быстрый это FCoE. Если денег жалко и система не очень важна, то можно использовать iSCSI.
Самый надежный и быстрый это FCoE
самый надежный и быстрый это FC. FCoE - штука вроде неплохая, но по большому счету примерно на том же уровне что и iSCSI, разве что уровень ethernet вместо ip может дать мизерный прирост в производительности. iSCSI с другой стороны, старше и с поддержкой и документацией там намного лучше.
dyasny, правильно, спасибо что поправил, это я не подумав скопировал из сообщения, а хотел написать Fibre Channel.
Но он и самый дорогой вариант. При этом самый лучший как я понял.
Оно стоит того.Но он и самый дорогой вариант. При этом самый лучший как я понял.
По идее все должны уходить от FC к Ethernet. Для этого и разрабатывались протоколы FCoE, AoE и iSCSI.
По идее все должны уходить от FC к Ethernet. Для этого и разрабатывались протоколы FCoE, AoE и iSCSI.
Никакого смысла отказываться от FC в пользу Ethernet я не вижу и не наблюдаю, чтобы такой переход где-либо делался или планировался. Все равно сеть передачи данных следует отделять от общей сети Ethernet (для надежности и скорости), поэтому в нашей компании используется сеть FC.
Пишут что FC - это для больших датацентров. А основанные на Ethernet протоколе СХД - это средний и малый бизнес.
Ну взять к примеру свичи мироктика с sfp + СХД долна поддерживать sfp и стройте сеть, в чем проблема?Пишут что FC - это для больших датацентров. А основанные на Ethernet протоколе СХД - это средний и малый бизнес.
Но он и самый дорогой вариант. При этом самый лучший как я понял.
есть и лучше - IB например
По идее все должны уходить от FC к Ethernet. Для этого и разрабатывались протоколы FCoE, AoE и iSCSI.
нет. оптическая инфраструктура - очень дорогое удовольствие, и зачастую оно не нужно. в наше время есть куча вариантов ускориться без быстрого доступа с спиндлям - atlantis например или fusionIO. так что переход идет не на ethernet как таковой, а не дешевую медную инфраструктуру, под которую уже есть готовые транспортные протоколы, в которые можно паковать классический scsi (iSCSI), ATA (AoE) или FC (FCoE)
Никакого смысла отказываться от FC в пользу Ethernet я не вижу и не наблюдаю, чтобы такой переход где-либо делался или планировался. Все равно сеть передачи данных следует отделять от общей сети Ethernet (для надежности и скорости), поэтому в нашей компании используется сеть FC.
переходов хватает - полно контор которым недостаточно старого двухгигового или даже четырехгигового файбера, надо докупать новые массивы, но бюджет не резиновый. 10G с айскази внезапно становится очень интересной альтернативой.
Пишут что FC - это для больших датацентров. А основанные на Ethernet протоколе СХД - это средний и малый бизнес.
это не в плане масштабов, а в плане бюджета. медная инфраструктура масчтабируется не хуже, если не лучше, но FC надежнее, и главная проблема стореджа - latency, там гарантированно ниже.
переходов хватает - полно контор которым недостаточно старого двухгигового или даже четырехгигового файбера, надо докупать
у наc используется 8Gb FC, а сейчас смотрю, уже появился 20Gb FC. Думаю, что мигрировать с быстрой, надежной, проверенной временем технологии на 10 Gb Ethernet весьма сомнительная затея. Пробовал использовать iSCSI на сервере RedHat, для резервного копирования. Остался очень недоволен, при большой нагрузке служба iSCSI часто подвисала, приходилось перегружать весь сервер, в итоге от такой схемы отказались.
у наc используется 8Gb FC
тогда смысла нет. но когда окажется что 8gbps мало, выбор будет между 16gbps FC (или какая у него сейчас итерация), или ethernet на тот момент, а это уже будет или 44gbps или 100 и выше.
в любом случае, уже при 10г вся скорость упирается в скорость механических дисков, массивы на SSD все еще заоблачно дорогие, хотя вытворяют они просто офигенные вещи, был бы бюджет...
Пробовал использовать iSCSI на сервере RedHat, для резервного копирования. Остался очень недоволен, при большой нагрузке служба iSCSI часто подвисала, приходилось перегружать весь сервер, в итоге от такой схемы отказались
интересны детали. способов настроить iscsi под линукс оюень много. классический IET известен тем что дохнет под нагрузкой. tgtd намного лучше, но он медленный и неэффективный. сейчас используется LIO и я уже вижу новые разработки которые обходят даже его. так что основывать мнение о протоколе на потенциально неправильно настроенной и просто кривой имплементации это как бояться летать на боингах, потому что воздушного змея не получилось запустить
способов настроить iscsi под линукс оюень много. классический IET известен тем что дохнет под нагрузкой. tgtd намного лучше, но он медленный и неэффективный. сейчас используется LIO и я уже вижу новые разработки которые обходят даже его. так что основывать мнение о протоколе на потенциально неправильно настроенной и просто кривой имплементации это как бояться летать на боингах, потому что воздушного змея не получилось запустить
Сравнивать Red Hat Enterprise Linux c воздушным змеем не совсем корректно :). Я использовал tgtd. Я не могу проводить эксперименты с разными реализациями iSCSI и параметрами, так как мне важно, чтобы мои несколько сотен виртуальных серверов не падали из за проблем с хранилищем. И я не говорю, что протокол iSCSI плохой или хороший, меня интересует практика, а не теория. На практике я пока для критических задач iSCSI бы не использовал. Это мое личное мнение, я был бы рад услышать об успешном использовании iSCSI для достатчно больших хранилищ, например несколько сотен Тб.
Вы работаете в датацентре?
Крупная телекоммуникационная компания.
Сравнивать Red Hat Enterprise Linux c воздушным змеем не совсем корректно
очень корректно. вы сравниваете поднятый на коленке сервер с софтом который не предназначен для нагрузок и тем более неизвестно каким железом и прочими настройками, с серьезным SAN, сравнение, имхо, более чем корректное.
Я не могу проводить эксперименты с разными реализациями iSCSI и параметрами, так как мне важно, чтобы мои несколько сотен виртуальных серверов не падали из за проблем с хранилищем.
полностью поддерживаю. при возможности, я тоже использую FC и что нибудь серьезное на бэкэнде (EMC/NetApp/HDS/HP/...) но хватает и серьезных СХД на iSCSI - EQL, LeftHand, те же NetApp/EMC/HDS/HP...
хранилище на простом линукс-сервере тоже можно собрать, и оно будет работать, и неплохо, но для этого нужно поработать. как минимум провести проверки на предмет софта который будет использоваться, параметров настроек, подходящего железа и т.д.
На практике я пока для критических задач iSCSI бы не использовал. Это мое личное мнение, я был бы рад услышать об успешном использовании iSCSI для достатчно больших хранилищ, например несколько сотен Тб.
последнее хранилище на iSCSI которое я поднимал было на HUS110, 60Tb общего места. подключено 20 гипервизоров под управлением RHEV, около 200 VM. для клиентов приходилось ковырять кластеры по паре сотен UCS блейдов, с iSCSI на NetApp, точно не скажу сколько там места, но когда я закончил, у нас бежало 15000 VM, и система была развернута так что можно было удвоить количество хостов и ВМ, так что я думаю там уже намного больше.
на самом деле через мои руки таких установок разных размеров прошло очень много, и FC и iSCSI и NFS и gluster и ceph... я давно перестал зарекаться от чего либо основываясь на одном единственном сетапе. для всего есть своя ниша
для клиентов приходилось ковырять кластеры по паре сотен UCS блейдов, с iSCSI на NetApp, точно не скажу сколько там места, но когда я закончил, у нас бежало 15000 VM, и система была развернута так что можно было удвоить количество хостов и ВМ, так что я думаю там уже намного больше.
dyasny, а Вы не знаете почему они для такой крупной системы предпочли iSCSI? Наверняка им понадобилось закупать 10Gb сетевое оборудование, могли бы и FC купить. FC получается сильно дороже?