Хранение данных, как сделать недорого, делимся опытом Опции

[promobit]

Хостинг-провайдер, который стал производителем серверов хранения.

(IMG:http://bitblaze.ru/uploads/fotos/01_IMG_4384.jpg)

Добрый день, мы - региональный хостинг-оператор. Один из ресурсов, расположенный на нашей площадке, начал стремительно развиваться и требовал быстрой отдачи большого объема тяжелого контента. Перед нами была поставлена задача организовать ёмкое, надежное и производительное хранилище данных. Большинство людей, которым нужно хранить данные покупают довольно дорогие, но проверенные решения. Но в нашем случае такой подход был не приемлем. Нам требовалось хранилище за разумные деньги. Изучив рынок, мы поняли - готового решения, нужного нам, на рынке нет.

В октябре 2009 г. мы начали работу над созданием собственной платформы. Примерно в это же время на хабрахабре появился перевод статьи американского хостера, также столкнувшегося с нашей проблемой и нашедшего ей оригинальное решение. Их конструкция собственного сервера хранения нам показалась интересной. Но она не решала ряд наших задач: платформа была не достаточно надежна, не было возможности управлять удаленно, основывалась на устаревших комплектующих, имела размеры не всегда совместимые с использующимися у нас стойками. Эти задачи были поставлены перед нашими инженерами и были ими успешно решены.

(IMG:http://bitblaze.ru/uploads/fotos/screen.jpg)

После того, как все чертежи и теоретические расчеты были готовы, мы начали поиски поставщиков и подрядчиков. Налаживали связи с производителями из “поднебесной”. Пробовали различные производства, оценивали их цены и качество. Но нужно признаться, было сложно работать с российскими подрядчиками. У каждого из них были свои преимущества и недостатки. Кто-то не выдерживал сроки, кто-то не следил за качеством.

(IMG:http://bitblaze.ru/uploads/fotos/IMG_1272.jpg)

После продолжительных поисков нам удалось найти подрядчиков сочетающих хорошую цену с нормальным качеством. Несмотря на это, приходится брать под личный контроль все стадии производства, дабы обеспечить качество и надежность.

(IMG:http://bitblaze.ru/uploads/fotos/P1010589.jpg)


После кропотливой работы, в декабре 2009 был готов первый прототип нашего сервера хранения. Конфигурация получилась следующей: 90Тб (45 дисков SATA по 2Тб) уместились в 4U. Стоимость хранения 1 Тб данных в готовом к работе сервере составляет 4500 рублей! Что гораздо дешевле предложений на рынке!

(IMG:http://bitblaze.ru/uploads/fotos/IMG_1047.jpg)

После перехода с серверов HP Proliant на серверы собственного изготовления мы получили заметный прирост производительности. Благодаря возможности построения отказоустойчивого RAID массива из большого количества недорогих жестких дисков SATA 7200rpm, нам удалось увеличить предельное значение количества операций ввода-вывода в секунду (IOPS), при этом сохранить низкую стоимость и надежность.

(IMG:http://bitblaze.ru/uploads/fotos/03_IMG_4350.jpg)

Использование более дорогих жестких дисков 15000 rpm SAS и значительно более дорогих накопителей SSD не позволяет решить задачу хранения большого объема данных. Для 15000 rpm SAS, на сегодняшний день, максимальный объем накопителя - 600Gb, для SSD - 256Gb. Стоимость таких накопителей в среднем в 10-20 раз выше накопителей использующихся в нашем решении. И увеличение стоимости в данном случае не гарантирует увеличения производительности.

Слепой переход с SATA 7200 rpm на SAS 15000 rpm или SSD не позволяет решить все проблемы с быстродействием. Отдельно взятый 15000rpm диск или SSD накопитель, безусловно, обладает более привлекательными скоростными характеристиками, чем отдельно взятый 7200rpm SATA диск. Но если прирост в скорости линейных чтения/записи и скорости доступа заметен, то в случае нагрузки большим количеством операций ввода-вывода, прирост в максимальном значении IOPS не столь ощутим.

Ощутимый прирост в данной задаче дает наращивание количества накопителей в RAID массиве. И наше решение, обладающее максимальной плотностью хранения данных, идеально подошло для этой задачи.

Ранее для отдачи тяжелого контента на стабильно высокой скорости, суммарной полосой до 1.5 гигабит/с нам приходилось использовать схему с балансировкой нагрузки между 2мя серверами HP Proliant DL185. Сейчас с этим справляется один сервер нашего производства. Судя по показателям iostat - это далеко не предел. Ждем когда спрос на контент, отдаваемый сервером превысит 2 гигабита/с, на этот случай готовим конфигурацию сервера с 4-портовым гигабитным и 10-гигабитным сетевыми адаптерами.

Тем временем, нашим продуктом начали интересоваться партнеры. Заметив, что потребность в хранении больших объемов есть не только у нас, мы решили выпускать серверы под собственным брендом – а почему нет?! Это и послужило началом бренда BitBlaze. Сейчас мы активно работаем над новыми модификациями платформы, ищем новые ниши, привлекаем новых партнеров. Ваши комментарии и идеи могут сыграть значительную роль в разработке!

[ENELIS]

Я может упустил технические подробности? RAM, Raid контролер, процессор, материнка?
Или это DAS?
У Sun выходит 1000 долларов за терабайт, но при этом я уверен, что они приедут и на месте все заменят в случае проблем с железом или жестким диском (да да, харды у них стоят так много из-за !гарантий!), однако можно поставить дешевую Sun платформу и к ней купить DAS, и стоимость упадет, потому что, опять же меньше гарантий давать производителю.
Хотя я и не являюсь Вашим даже потенциальным клиентом, т.к. нахожусь за рубежом, но уверен у коллег в России возникнут вопросы следующего характера:
- IOPS, сколько, гарантии, Random write/read, seek time?
- Что с поддержкой? При покупке подобного оборудования, которое будет довольно часто выходить из строя (т.к. мало-обкатано и на дешевых хардах) люди все-таки рассчитывают на какую-то поддержку этого оборудования
- Начинание интересно, но как там с дизайном? Как долго проверяли систему на стрессоустойчивость? Все ли в порядке с "землей"? Какой метал использовали?
- И ярко зеленый цвет, как в свое время заборы красили единственной военной краской... ну Вы даете... )

Вы видимо начитались историй от гугла, про их дешевые дц с УГ-серверами и решили собрать такое вот существо?
Учтите у Google по-мимо этого есть дц и с серверами HP, Sun, Dell, IBM. И на УГ-серверы они кеш кладут в основном, чтобы если что выкинуть и заменить.
К тому же, где гугл, а где крупные/малые компании и хостеры.
У первых есть куча денег для простого взять/поставить/сдохло/выкинуть, т.к. платформа отлажена и работает распределено, и при этом им не дадут звездюлей клиенты, если допустим кеш-сервер сдохнет.
У вторых права на ошибку нет.

Просто разумно помыслите, такое можно взять только под бекапы или оптом под распределенную систему ИМХО.

Сообщение отредактировал ENELIS - 06.05.2010, 18:36

[promobit]

Просто разумно помыслите, такое можно взять только под бекапы или оптом под распределенную систему ИМХО.

Конкретно по пунктам отвечу завтра.

Вы верно подметили - распределенная система. С нашими ценниками построение распределенных систем становится доступно "простым смертным".
Вы можете приобрести 2 сервера и сделать из них кластер высокой доступности при помощи DRBD. http://ru.wikipedia.org/wiki/DRBD
Т.е. RAID1 из 2х серверов! И это будет стоить в 4 раза дешевле, чем Sun.

Кстати, насчет "приедут и на месте все заменят в случае проблем с железом или жестким диском" - по личному опыту, работает это только в пределах МКАД. В Омске сервис-центр HP менял винт на сервер Proliant DL360G5, на который куплен CarePack, 2 месяца! Слава богу сервер был не критичен и не использовался в это время. И стоит ли переплачивать за такую поддержку?

RAID на уровне серверов + ЗиП в данной задаче обеспечил бы непрерывную доступность. При более низкой цене.

Наш партнер-интегратор "Ваша поддержка" поставляет такие решения своим клиентам. http://www.yoursupport.ru/high_avail_cluster.html
Они были одними из первых, кто заинтересовался нашим серверами и сейчас реализуют проект для одного из своих заказчиков на наших серверах.