Версия для печати темы

Нажмите сюда для просмотра этой темы в обычном формате

Онлайн-форум hostobzor.ru _ Общие вопросы _ Хранение данных, как сделать недорого

Автор: promobit 05.05.2010, 17:56

Хостинг-провайдер, который стал производителем серверов хранения.

Изображение

Добрый день, мы - региональный хостинг-оператор. Один из ресурсов, расположенный на нашей площадке, начал стремительно развиваться и требовал быстрой отдачи большого объема тяжелого контента. Перед нами была поставлена задача организовать ёмкое, надежное и производительное хранилище данных. Большинство людей, которым нужно хранить данные покупают довольно дорогие, но проверенные решения. Но в нашем случае такой подход был не приемлем. Нам требовалось хранилище за разумные деньги. Изучив рынок, мы поняли - готового решения, нужного нам, на рынке нет.

В октябре 2009 г. мы начали работу над созданием собственной платформы. Примерно в это же время на хабрахабре появился перевод статьи американского хостера, также столкнувшегося с нашей проблемой и нашедшего ей оригинальное решение. Их конструкция собственного сервера хранения нам показалась интересной. Но она не решала ряд наших задач: платформа была не достаточно надежна, не было возможности управлять удаленно, основывалась на устаревших комплектующих, имела размеры не всегда совместимые с использующимися у нас стойками. Эти задачи были поставлены перед нашими инженерами и были ими успешно решены.

Изображение

После того, как все чертежи и теоретические расчеты были готовы, мы начали поиски поставщиков и подрядчиков. Налаживали связи с производителями из “поднебесной”. Пробовали различные производства, оценивали их цены и качество. Но нужно признаться, было сложно работать с российскими подрядчиками. У каждого из них были свои преимущества и недостатки. Кто-то не выдерживал сроки, кто-то не следил за качеством.

Изображение

После продолжительных поисков нам удалось найти подрядчиков сочетающих хорошую цену с нормальным качеством. Несмотря на это, приходится брать под личный контроль все стадии производства, дабы обеспечить качество и надежность.

Изображение


После кропотливой работы, в декабре 2009 был готов первый прототип нашего сервера хранения. Конфигурация получилась следующей: 90Тб (45 дисков SATA по 2Тб) уместились в 4U. Стоимость хранения 1 Тб данных в готовом к работе сервере составляет 4500 рублей! Что гораздо дешевле предложений на рынке!

Изображение

После перехода с серверов HP Proliant на серверы собственного изготовления мы получили заметный прирост производительности. Благодаря возможности построения отказоустойчивого RAID массива из большого количества недорогих жестких дисков SATA 7200rpm, нам удалось увеличить предельное значение количества операций ввода-вывода в секунду (IOPS), при этом сохранить низкую стоимость и надежность.

Изображение

Использование более дорогих жестких дисков 15000 rpm SAS и значительно более дорогих накопителей SSD не позволяет решить задачу хранения большого объема данных. Для 15000 rpm SAS, на сегодняшний день, максимальный объем накопителя - 600Gb, для SSD - 256Gb. Стоимость таких накопителей в среднем в 10-20 раз выше накопителей использующихся в нашем решении. И увеличение стоимости в данном случае не гарантирует увеличения производительности.

Слепой переход с SATA 7200 rpm на SAS 15000 rpm или SSD не позволяет решить все проблемы с быстродействием. Отдельно взятый 15000rpm диск или SSD накопитель, безусловно, обладает более привлекательными скоростными характеристиками, чем отдельно взятый 7200rpm SATA диск. Но если прирост в скорости линейных чтения/записи и скорости доступа заметен, то в случае нагрузки большим количеством операций ввода-вывода, прирост в максимальном значении IOPS не столь ощутим.

Ощутимый прирост в данной задаче дает наращивание количества накопителей в RAID массиве. И наше решение, обладающее максимальной плотностью хранения данных, идеально подошло для этой задачи.

Ранее для отдачи тяжелого контента на стабильно высокой скорости, суммарной полосой до 1.5 гигабит/с нам приходилось использовать схему с балансировкой нагрузки между 2мя серверами HP Proliant DL185. Сейчас с этим справляется один сервер нашего производства. Судя по показателям iostat - это далеко не предел. Ждем когда спрос на контент, отдаваемый сервером превысит 2 гигабита/с, на этот случай готовим конфигурацию сервера с 4-портовым гигабитным и 10-гигабитным сетевыми адаптерами.

Тем временем, нашим продуктом начали интересоваться партнеры. Заметив, что потребность в хранении больших объемов есть не только у нас, мы решили выпускать серверы под собственным брендом – а почему нет?! Это и послужило началом бренда BitBlaze. Сейчас мы активно работаем над новыми модификациями платформы, ищем новые ниши, привлекаем новых партнеров. Ваши комментарии и идеи могут сыграть значительную роль в разработке!

Автор: adnull 05.05.2010, 20:12

Backblaze это региональный хостинг-оператор?
Или вы к ним отношения не имеете?

Автор: DCUA 05.05.2010, 20:17

Цитата(promobit @ 05.05.2010, 16:56) *

Стоимость хранения 1 Тб данных в готовом к работе сервере составляет 4500 рублей! Что гораздо дешевле предложений на рынке!


Это уже с учётом стоимости самих дисков ? Или 405 000 стоит только сам коробок ?


Цитата(promobit @ 05.05.2010, 16:56) *

Ваши комментарии и идеи могут сыграть значительную роль в разработке!


Комментарий - девочками не увлекайтесь. Макхост уже увлекался.

Автор: promobit 05.05.2010, 20:28

Цитата(DCUA @ 06.05.2010, 00:17) *

Это уже с учётом стоимости самих дисков ? Или 405 000 стоит только сам коробок ?
Комментарий - девочками не увлекайтесь. Макхост уже увлекался.


Верно, полностью готовый сервер и 45 дисков SATA 2Тб (всего 90Тб) + 1 системный на 500Гб Bitblaze C45 T2 всё вместе стоит 324 580 руб

Автор: eSupport.org.ua 05.05.2010, 20:30

Интересно какой там random seek?

Автор: promobit 05.05.2010, 20:31

Цитата(ad