LinuxForum.Fans
Тема

Доклад Google о файловых системах

Автор: Lupo_Alberto 50 сообщений 6214 просмотров
#159312

Доклад Google о файловых системах Linux

Опубликована видеозапись доклада Майкла Рубина (Michael Rubin), занимающегося системами хранения данных в Google, о причинах миграции с файловой системы Ext2 на Ext4. В докладе показаны результаты исследования производительности EXT2, достоинства и недостатки различных файловых систем, доступных в Linux, причины выбора файловой системы Ext4 для использования на серверах Google.

Некоторые тезисы:

  • Файловая система Ext2 очень надежна, но имеет проблемы с производительностью при высокой интенсивности ввода/вывода. Из всех дисковых операций 40% было связано с обработкой мета-данных и только 60% с самими данными. При высокой нагрузке удаление 8 Мб файла иногда длилось до 800 секунд, наблюдались проблемы с фрагментацией. Как вариант решения проблемы все мета-данные можно было кэшировать, но это потребовало бы больших затрат оперативной памяти. Еще один недостаток Ext2 - очень долгое выполнение восстановления при помощи fsck - для диска 1 Тб восстановление занимало 85 минут;
  • Ext3 - проблемы с долгим выполнение fsck решены за счет поддержки журналирования, но производительность осталась на уровне Ext2. Дополнительные плюсы - простота управления и лёгкость миграции с Ext2;
  • Ext4 - кроме унаследованных у Ext3 плюсов в Ext4 частично решены проблемы с производительностью. Производительность не самая высокая среди доступных ФС, но вполне достаточная;
  • В Btrfs реализованы очень интересные возможности, но код еще не готов для промышленного применения;
  • XFS - отличная производительность, но большая усложнённость реализации;
  • ZFS - отличная производительность, высокая надежность и богатые возможности с одной стороны, но несовместимая с GPL лицензия на код с другой стороны;
  • ReiserFS, JFS не рассматривались в Google как варианты для миграции из-за недостаточной поддержки кодовой базы.

Источник — http://www.opennet.ru/opennews/art.shtml?num=30478
Главная ссылка к новости — http://google-opensource.blogspot.com/2011/05/linux-file-systems-in-cloud-linux.html

#159342

Дак Ext4 получается далеко не лучшая ФС? Даже для десктопа?

#159344

Dimaty, угу. Но она хорошо поддерживается Linux.

#159380
Dimaty написал:
Дак Ext4 получается далеко не лучшая ФС? Даже для десктопа?

Но у google при этом год назад большая часть серверов была на ext3, сейчас вроде на ext4 большинство перевели.
И далеко не лучшая, это смотря с чем и для каких задач сравнивать.

#159383
newzenon написал:
И далеко не лучшая, это смотря с чем и для каких задач сравнивать.

Стало интересно :)

#159496
newzenon написал:
И далеко не лучшая, это смотря с чем и для каких задач сравнивать.

а сравнивать то и не с чем... ext3, рейзер и xfs по различным тестам она превосходит, zfs не совместима по лицухе, btrfs - очень сырая.

#159505
Lupo Alberto написал:
  • В Btrfs...
  • ReiserFS...

Взяли бы под "свое крыло". ФС отличные. Или нет у них таких специалистов?

#159518

mycetophylax
Google взял btrfs под крыло? Эм, это было бы, как минимум, странно.

#159519
Darth Revan написал:
mycetophylax
Google взял btrfs под крыло? Эм, это было бы, как минимум, странно.

Google взял бы, если бы на этом можно было деньжат срубить. А так зачем Google это надо?

#159522

surf
А как Oracle на это посмотрит?

#159533

Дык у них же и своя фс есть GoogleFS, она же GFS. Только она закрытая и даже представляет собой коммерческую тайну.

#159885

Надо будет ZFS заюзать...
ReiserFS очень хорошая (куда стабильнее ext, нечувствительна к перебоям, достаточно быстрая, нет проблем с фрагментацией), хотя как будет себя чувствовать в большой жизни знать не могу.

#159889
Капитан Очевидность написал:
ReiserFS очень хорошая (куда стабильнее ext, нечувствительна к перебоям, достаточно быстрая, нет проблем с фрагментацией), хотя как будет себя чувствовать в большой жизни знать не могу.

Лет уже 5-6 пользуюсь ReiserFS на всех разделах кроме /boot — полёт нормальный! smile

#159947
Lupo Alberto написал:
[quote=Капитан Очевидность]ReiserFS очень хорошая (куда стабильнее ext, нечувствительна к перебоям, достаточно быстрая, нет проблем с фрагментацией), хотя как будет себя чувствовать в большой жизни знать не могу.

Лет уже 5-6 пользуюсь ReiserFS на всех разделах кроме /boot — полёт нормальный! smile[/quote]
странновато :o я (не спрашивайте зачем) сделал /var отдельным разделом с reiserfs, так оно через пару перезагрузок не монтировалось автоматом, требовало проверки :O вернул /var на ext3 и теперь все пучком smile

#159954
redgy92 написал:

странновато :o я (не спрашивайте зачем) сделал /var отдельным разделом с reiserfs, так оно через пару перезагрузок не монтировалось автоматом, требовало проверки :O вернул /var на ext3 и теперь все пучком smile

У меня всё на ReiserFS, другие даже и не пробовал. Да и зачем? И так все устраивает.

#159957
mycetophylax написал:
другие даже и не пробовал. Да и зачем? И так все устраивает.

логично :D меня тоже устраивает ext3. На другие бегал, но в итоге вернулся на ext3 smile

#159958

redgy92, у меня есть битый диск на нём reiserfs - так только на нём reiser требует периодически проверки с опцией rebuild tree, ntfs на этом диске тоже была, и рухнула окончательно, на этом же месте создал reiserfs - и нечего - полгода полёт нормальный, так что живучий он (reiser) однако...

#159961
newzenon написал:
reiserfs - и нечего - полгода полёт нормальный, так что живучий он (reiser) однако...

Лет 6 однако reiserfs на несистемных разделах :) Информацию - доверяю :)

#159991

mvt, я наоборот под системные т.к. именно при работе с большим количеством мелких файлов заметен прирост скорости по сравнению с ext3/4.

#159992
newzenon написал:
я наоборот под системные т.к. именно при работе с большим количеством мелких файлов заметен прирост скорости по сравнению с ext3/4.

Я слышал об успешном применении reiserfs для корневого раздела. Но мой опыт (основанный кстати, на сузе 9.х, где это было "по умолчанию" :) ), говорит о том, что Ext4 (ну, тогда еще Ext3) - более обоснованное решение.

Войдите или зарегистрируйтесь, чтобы ответить.