Версия для печати темы

Нажмите сюда для просмотра этой темы в обычном формате

Онлайн-форум hostobzor.ru _ Общие вопросы _ Хранение данных, как сделать недорого

Автор: promobit 05.05.2010, 17:56

Хостинг-провайдер, который стал производителем серверов хранения.

Изображение

Добрый день, мы - региональный хостинг-оператор. Один из ресурсов, расположенный на нашей площадке, начал стремительно развиваться и требовал быстрой отдачи большого объема тяжелого контента. Перед нами была поставлена задача организовать ёмкое, надежное и производительное хранилище данных. Большинство людей, которым нужно хранить данные покупают довольно дорогие, но проверенные решения. Но в нашем случае такой подход был не приемлем. Нам требовалось хранилище за разумные деньги. Изучив рынок, мы поняли - готового решения, нужного нам, на рынке нет.

В октябре 2009 г. мы начали работу над созданием собственной платформы. Примерно в это же время на хабрахабре появился перевод статьи американского хостера, также столкнувшегося с нашей проблемой и нашедшего ей оригинальное решение. Их конструкция собственного сервера хранения нам показалась интересной. Но она не решала ряд наших задач: платформа была не достаточно надежна, не было возможности управлять удаленно, основывалась на устаревших комплектующих, имела размеры не всегда совместимые с использующимися у нас стойками. Эти задачи были поставлены перед нашими инженерами и были ими успешно решены.

Изображение

После того, как все чертежи и теоретические расчеты были готовы, мы начали поиски поставщиков и подрядчиков. Налаживали связи с производителями из “поднебесной”. Пробовали различные производства, оценивали их цены и качество. Но нужно признаться, было сложно работать с российскими подрядчиками. У каждого из них были свои преимущества и недостатки. Кто-то не выдерживал сроки, кто-то не следил за качеством.

Изображение

После продолжительных поисков нам удалось найти подрядчиков сочетающих хорошую цену с нормальным качеством. Несмотря на это, приходится брать под личный контроль все стадии производства, дабы обеспечить качество и надежность.

Изображение


После кропотливой работы, в декабре 2009 был готов первый прототип нашего сервера хранения. Конфигурация получилась следующей: 90Тб (45 дисков SATA по 2Тб) уместились в 4U. Стоимость хранения 1 Тб данных в готовом к работе сервере составляет 4500 рублей! Что гораздо дешевле предложений на рынке!

Изображение

После перехода с серверов HP Proliant на серверы собственного изготовления мы получили заметный прирост производительности. Благодаря возможности построения отказоустойчивого RAID массива из большого количества недорогих жестких дисков SATA 7200rpm, нам удалось увеличить предельное значение количества операций ввода-вывода в секунду (IOPS), при этом сохранить низкую стоимость и надежность.

Изображение

Использование более дорогих жестких дисков 15000 rpm SAS и значительно более дорогих накопителей SSD не позволяет решить задачу хранения большого объема данных. Для 15000 rpm SAS, на сегодняшний день, максимальный объем накопителя - 600Gb, для SSD - 256Gb. Стоимость таких накопителей в среднем в 10-20 раз выше накопителей использующихся в нашем решении. И увеличение стоимости в данном случае не гарантирует увеличения производительности.

Слепой переход с SATA 7200 rpm на SAS 15000 rpm или SSD не позволяет решить все проблемы с быстродействием. Отдельно взятый 15000rpm диск или SSD накопитель, безусловно, обладает более привлекательными скоростными характеристиками, чем отдельно взятый 7200rpm SATA диск. Но если прирост в скорости линейных чтения/записи и скорости доступа заметен, то в случае нагрузки большим количеством операций ввода-вывода, прирост в максимальном значении IOPS не столь ощутим.

Ощутимый прирост в данной задаче дает наращивание количества накопителей в RAID массиве. И наше решение, обладающее максимальной плотностью хранения данных, идеально подошло для этой задачи.

Ранее для отдачи тяжелого контента на стабильно высокой скорости, суммарной полосой до 1.5 гигабит/с нам приходилось использовать схему с балансировкой нагрузки между 2мя серверами HP Proliant DL185. Сейчас с этим справляется один сервер нашего производства. Судя по показателям iostat - это далеко не предел. Ждем когда спрос на контент, отдаваемый сервером превысит 2 гигабита/с, на этот случай готовим конфигурацию сервера с 4-портовым гигабитным и 10-гигабитным сетевыми адаптерами.

Тем временем, нашим продуктом начали интересоваться партнеры. Заметив, что потребность в хранении больших объемов есть не только у нас, мы решили выпускать серверы под собственным брендом – а почему нет?! Это и послужило началом бренда BitBlaze. Сейчас мы активно работаем над новыми модификациями платформы, ищем новые ниши, привлекаем новых партнеров. Ваши комментарии и идеи могут сыграть значительную роль в разработке!

Автор: adnull 05.05.2010, 20:12

Backblaze это региональный хостинг-оператор?
Или вы к ним отношения не имеете?

Автор: DCUA 05.05.2010, 20:17

Цитата(promobit @ 05.05.2010, 16:56) *

Стоимость хранения 1 Тб данных в готовом к работе сервере составляет 4500 рублей! Что гораздо дешевле предложений на рынке!


Это уже с учётом стоимости самих дисков ? Или 405 000 стоит только сам коробок ?


Цитата(promobit @ 05.05.2010, 16:56) *

Ваши комментарии и идеи могут сыграть значительную роль в разработке!


Комментарий - девочками не увлекайтесь. Макхост уже увлекался.

Автор: promobit 05.05.2010, 20:28

Цитата(DCUA @ 06.05.2010, 00:17) *

Это уже с учётом стоимости самих дисков ? Или 405 000 стоит только сам коробок ?
Комментарий - девочками не увлекайтесь. Макхост уже увлекался.


Верно, полностью готовый сервер и 45 дисков SATA 2Тб (всего 90Тб) + 1 системный на 500Гб Bitblaze C45 T2 всё вместе стоит 324 580 руб

Автор: eSupport.org.ua 05.05.2010, 20:30

Интересно какой там random seek?

Автор: promobit 05.05.2010, 20:31

Цитата(adnull @ 06.05.2010, 00:12) *

Backblaze это региональный хостинг-оператор?
Или вы к ним отношения не имеете?


Backblaze это коллеги из америки, а Bitblaze - это производитель серверов, проект компании промобит

Автор: adnull 05.05.2010, 21:24

Как то уж очень поделка коллег похожа на вашу.
Но за R&D - респект.

Автор: Ivan 05.05.2010, 21:26

Внутри то что воткнули?
Мое имхо, по сравнению со фабричным стораджем все одно много не сэкономишь. Разве что место в стойке, с другой стороны у фабричного стораджа типа такого
http://www.promise.com/storage/raid_series.aspx?region=en-global&m=17&rsn1=1&rsn3=25 и хотсвопы, и два блока питания и отлаженное по.

Автор: promobit 05.05.2010, 21:51

Цитата(Ivan @ 06.05.2010, 01:26) *

Внутри то что воткнули?
Мое имхо, по сравнению со фабричным стораджем все одно много не сэкономишь. Разве что место в стойке, с другой стороны у фабричного стораджа типа такого
http://www.promise.com/storage/raid_series.aspx?region=en-global&m=17&rsn1=1&rsn3=25 и хотсвопы, и два блока питания и отлаженное по.


Как раз экономим прилично и не только место в стойке, а кратно в стоимости 1Тб, сохраняя производительность на уровне. Вот графики, для сравнения http://bitblaze.ru/concurents.html

P.S. Диски у нас хотсвапные (вертикального расположения)

Автор: Ivan 05.05.2010, 22:05

В вашем сравнении серверные платформы и сервера сравниваются со стораджем. Сравните с любым стораджем, разница будет куда меньше.

Хотсвоп за стенкой и обслуживание сверху удобно до 1 метра, дальше с стремянкой лазить. Время - тоже деньги.

Про выигрыш между вашем стораджем и фабричным стораджем (Не сервером) набитым теми же сата дисками - не верю.

Ну и то что ваша замечательная железка обслуживатеся в одном городе, под замену вы ничего дать не сможете, сколько у вас там проживут вентиляторы и как расчитан обдув дисков - на страх и риск покупателя.

Я это не куплю, я куплю фабричный сторадж.

Я, кстати, не вижу какими вы именно дисками набивали. Десктопным баракудами и спинпойнтами? В режиме 24*7 под нагрузкой они дохнут за год. Плавали знаем. Сравнение у вас там явно предвзятое.

Сейчас подсчитаю на фабричном сторадже - самому интересно.

Автор: promobit 05.05.2010, 22:31

Цитата(Ivan @ 06.05.2010, 02:05) *

В вашем сравнении серверные платформы и сервера сравниваются со стораджем. Сравните с любым стораджем, разница будет куда меньше.

Хотсвоп за стенкой и обслуживание сверху удобно до 1 метра, дальше с стремянкой лазить. Время - тоже деньги.

Про выигрыш между вашем стораджем и фабричным стораджем (Не сервером) набитым теми же сата дисками - не верю.

Ну и то что ваша замечательная железка обслуживатеся в одном городе, под замену вы ничего дать не сможете, сколько у вас там проживут вентиляторы и как расчитан обдув дисков - на страх и риск покупателя.

Я это не куплю, я куплю фабричный сторадж.

Я, кстати, не вижу какими вы именно дисками набивали. Десктопным баракудами и спинпойнтами? В режиме 24*7 под нагрузкой они дохнут за год. Плавали знаем. Сравнение у вас там явно предвзятое.

Сейчас подсчитаю на фабричном сторадже - самому интересно.


По поводу обслуживания "сверху" - кому как, куда ставить на высоту 1м или 2 метра решать вам

Про выигрыш в производительности всё просто - в 5,6 рейдах производительность растет пропорционально количеству дисков (в посте об этом я писал)

Про обслуживание - вам решать брать зип или нет

По поводу охлаждения - оно избыточно. Время безотказной работы, 60000 ч, подшипник качения, 120x120x38, 3100 об/мин

По поводу дисков у Googl'а есть статистика на этот счет http://habrahabr.ru/blogs/hardware/13560/

Автор: Ivan 05.05.2010, 22:46

Гугл, гуглом, но у меня другая статистика
Итак, берем фабричную полку
Maxtronic JBOD SS-8892E
Набиваем 24 2 гиговых винта Hitachi Deskstar 7K2000
Выходит 286 602 за 48 G , жалко что JBOD и без мозгов.

С мозгами и RAID выходит тысяч на 80 дороже.

Ну, да, рублей за гигабайт вы всех бъете наповал.

Хотя, у супермикры скоро выйдет вот эта железка http://www.supermicro.com/products/chassis/4U/847/SC847E16-RJBOD1.cfm
надо еще нарыть раид контроллер на , осталось найти, куда включить 45 дисков smile.gif

Автор: Admin 06.05.2010, 07:27

Цитата(promobit @ 05.05.2010, 18:56) *

Хостинг-провайдер, который стал производителем серверов хранения.

Снимаю шляпу. Просто за то, что не сидите ровно, а что-то делаете.

Если сможете вырваться (и уже наэкономили на билет smile.gif, буду рад встретиться на http://ho20.ru/offline/. Предоставлю возможность выступить с 5-минутным сообщением по этому делу в "Хостинг-Джем-сейшен". Заявки на участие будут приниматься еще неделю. Кстати, там встретитесь и с Вашим оппонентом, Иваном, что позволит выдвинуть в кулуарах и более весомые аргументы в защиту своей позиции smile.gif.

Автор: promobit 06.05.2010, 07:41

Цитата(Ivan @ 06.05.2010, 02:46) *

Гугл, гуглом, но у меня другая статистика
Итак, берем фабричную полку
Maxtronic JBOD SS-8892E
Набиваем 24 2 гиговых винта Hitachi Deskstar 7K2000
Выходит 286 602 за 48 G , жалко что JBOD и без мозгов.

С мозгами и RAID выходит тысяч на 80 дороже.

Ну, да, рублей за гигабайт вы всех бъете наповал.

Хотя, у супермикры скоро выйдет вот эта железка http://www.supermicro.com/products/chassis/4U/847/SC847E16-RJBOD1.cfm
надо еще нарыть раид контроллер на , осталось найти, куда включить 45 дисков smile.gif

Все верно. 286 т.р. И на сервер 80 т.р. (это минимум) итого 366 р. Чем это решение лучше? Единственный плюс - hotplug БП. Какие плюсы от его фабричности? Сервис-центров от Maxtronic в каждом городе нет, это не HP, сертификатов ССС на него нет. То же самое можно сказать о "полке" Supermicro.

Наше решение с 24 винтами стоит 200 т.р. Практически в 2 раза дешевле. Можно добавить 34 т.р. и купить 2 наших сервера и зарезервировать систему на уровне серверов. Например при помощи DRBD. ( http://ru.wikipedia.org/wiki/DRBD ). Уровень отказоустойчивости будет значительно выше. При этом бонусом идет дополнительная масштабируемость - к имеющимся 24 винтам без особых затрат сможете добавить еще 21.

2Admin Петр, большое спасибо за приглашение, постараемся вырваться! smile.gif

Автор: Ivan 06.05.2010, 08:20

А вы и ССС с РСТ получили?

С другой стороны, зачем CCC стораджу? Он уж точно не будет работать руотером. Декларация, разве что. У меня есть пара знакомых фирм, дающих декларацию на любую железку, купленную у них. Прямо вот клеют две наклейки и дают бумажки.

На сервер, кстати, ну не 80. Хватит и 40. Я кстати, посчитал с нынешним супермикровским корпусом на 36 дисков, 3 САС конроллерами, одним ксеоном 5506 и 6 гигами памяти.

Case Supermicro CSE-847A-R1400LPB 69899 р
CPU Intel Xeon E5506 9235 руб
SuperMicro X8DTL-I-O 13228 руб. 80 коп
Kingston <KVR1333D3D8R9S/2G> 3 штуки 7956руб
36 винтов Hitachi Deskstar 7K2000 171849 руб.
Intel RAID Controller SRCSASPH16I 3 штуки 64116 руб.


336283 руб за 72 тера JBOD, ну или 30 теров 60 раида.





Автор: promobit 06.05.2010, 09:25

Цитата(Ivan @ 06.05.2010, 12:20) *

А вы и ССС с РСТ получили?

С другой стороны, зачем CCC стораджу? Он уж точно не будет работать руотером. Декларация, разве что. У меня есть пара знакомых фирм, дающих декларацию на любую железку, купленную у них. Прямо вот клеют две наклейки и дают бумажки.

На сервер, кстати, ну не 80. Хватит и 40. Я кстати, посчитал с нынешним супермикровским корпусом на 36 дисков, 3 САС конроллерами, одним ксеоном 5506 и 6 гигами памяти.

Case Supermicro CSE-847A-R1400LPB 69899 р
CPU Intel Xeon E5506 9235 руб
SuperMicro X8DTL-I-O 13228 руб. 80 коп
Kingston <KVR1333D3D8R9S/2G> 3 штуки 7956руб
36 винтов Hitachi Deskstar 7K2000 171849 руб.
Intel RAID Controller SRCSASPH16I 3 штуки 64116 руб.
336283 руб за 72 тера JBOD, ну или 30 теров 60 раида.

В нашем случае:
конфигурация с 2мя системными винтами и 30-ю 2Тб винтами под контент - 227 т.р.
конфигурация с 2мя системными винтами и 45-ю 2Тб винтами под контент - 324 т.р.

по сравнению с Supermicro у этих конфигурацией есть дополнительные плюсы:
- есть "iLO" - порт управления, через который работает KVM over HTTP, Media over HTTP. Материнка SuperMicro X8DTL-I-O такого не умеет.

Автор: Ivan 06.05.2010, 09:32

Цитата(promobit @ 06.05.2010, 10:25) *

В нашем случае:
конфигурация с 2мя системными винтами и 30-ю 2Тб винтами под контент - 227 т.р.
конфигурация с 2мя системными винтами и 45-ю 2Тб винтами под контент - 324 т.р.

по сравнению с Supermicro у этих конфигурацией есть дополнительные плюсы:
- есть "iLO" - порт управления, через который работает KVM over HTTP, Media over HTTP. Материнка SuperMicro X8DTL-I-O такого не умеет.



Умеет
Вот с такой железкой http://www.nix.ru/autocatalog/motherboards_supermicro/SuperMicro_AOCSIMLPB_IPMI_Card_44328.html

Хотя, можно начать экономить и воткнуть интеловскую материнку. Там SOL бесплатно smile.gif

Автор: promobit 06.05.2010, 12:49

Цитата(Ivan @ 06.05.2010, 13:32) *

Умеет
Вот с такой железкой http://www.nix.ru/autocatalog/motherboards_supermicro/SuperMicro_AOCSIMLPB_IPMI_Card_44328.html

Хотя, можно начать экономить и воткнуть интеловскую материнку. Там SOL бесплатно smile.gif


Можно.. Но давайте посчитаем стоимость 1Тб и сравним с супермикро

Автор: promobit 06.05.2010, 16:45

И все молчат... Как до стоимости доходит эти "да я сам на коленке сделаю" уходят куда-то
Наше решение (стоимости единицы хранения ) дешевле даже супермикры. А производительность остается на уровне

Автор: different 06.05.2010, 17:14

А чего высчитывать стоимость 1ТВ из 90ТВ без рейда?

Считать, имо, надо более актуальные конфигурации. 90ТВ постоянно нужных (на ленту не вынести и на несколько нод тоже), но совершенно не важных (не жалко потерять, рейда нет, бэкапить такое.. увольте) таки мало у кого есть.

Автор: DCUA 06.05.2010, 17:56

Цитата(promobit @ 06.05.2010, 15:45) *

И все молчат...


Не смутило, что интерес был только у представителя ДЦ ? Хостеров с 90Тб своего бакапа ведь не бывает.
Те, что нормальные - у них далеко не те объёмы.
А те, что безлимитные - они бакапы просто не делают smile.gif

Автор: Ivan 06.05.2010, 18:00

Ваше решение, крашенное зеленой краской и производимоее у батарей центрального отопления выглядит куда наколенне smile.gif Без обид.

Как можно меньше долларов за терабайт - это весьма специфичная задача. Нам то эти железки и эксплуатировать.
А есть такая штука, как совокупная стоимость владения. Удобство эксплуатации, надежность и известность производителя в нее тоже включены.
,

Автор: ENELIS 06.05.2010, 18:28

Я может упустил технические подробности? RAM, Raid контролер, процессор, материнка?
Или это DAS?
У Sun выходит 1000 долларов за терабайт, но при этом я уверен, что они приедут и на месте все заменят в случае проблем с железом или жестким диском (да да, харды у них стоят так много из-за !гарантий!), однако можно поставить дешевую Sun платформу и к ней купить DAS, и стоимость упадет, потому что, опять же меньше гарантий давать производителю.
Хотя я и не являюсь Вашим даже потенциальным клиентом, т.к. нахожусь за рубежом, но уверен у коллег в России возникнут вопросы следующего характера:
- IOPS, сколько, гарантии, Random write/read, seek time?
- Что с поддержкой? При покупке подобного оборудования, которое будет довольно часто выходить из строя (т.к. мало-обкатано и на дешевых хардах) люди все-таки рассчитывают на какую-то поддержку этого оборудования
- Начинание интересно, но как там с дизайном? Как долго проверяли систему на стрессоустойчивость? Все ли в порядке с "землей"? Какой метал использовали?
- И ярко зеленый цвет, как в свое время заборы красили единственной военной краской... ну Вы даете... )

Вы видимо начитались историй от гугла, про их дешевые дц с УГ-серверами и решили собрать такое вот существо?
Учтите у Google по-мимо этого есть дц и с серверами HP, Sun, Dell, IBM. И на УГ-серверы они кеш кладут в основном, чтобы если что выкинуть и заменить.
К тому же, где гугл, а где крупные/малые компании и хостеры.
У первых есть куча денег для простого взять/поставить/сдохло/выкинуть, т.к. платформа отлажена и работает распределено, и при этом им не дадут звездюлей клиенты, если допустим кеш-сервер сдохнет.
У вторых права на ошибку нет.

Просто разумно помыслите, такое можно взять только под бекапы или оптом под распределенную систему ИМХО.

Автор: promobit 06.05.2010, 20:12

Цитата(ENELIS @ 06.05.2010, 22:28) *

Просто разумно помыслите, такое можно взять только под бекапы или оптом под распределенную систему ИМХО.

Конкретно по пунктам отвечу завтра.

Вы верно подметили - распределенная система. С нашими ценниками построение распределенных систем становится доступно "простым смертным".
Вы можете приобрести 2 сервера и сделать из них кластер высокой доступности при помощи DRBD. http://ru.wikipedia.org/wiki/DRBD
Т.е. RAID1 из 2х серверов! И это будет стоить в 4 раза дешевле, чем Sun.

Кстати, насчет "приедут и на месте все заменят в случае проблем с железом или жестким диском" - по личному опыту, работает это только в пределах МКАД. В Омске сервис-центр HP менял винт на сервер Proliant DL360G5, на который куплен CarePack, 2 месяца! Слава богу сервер был не критичен и не использовался в это время. И стоит ли переплачивать за такую поддержку?

RAID на уровне серверов + ЗиП в данной задаче обеспечил бы непрерывную доступность. При более низкой цене.

Наш партнер-интегратор "Ваша поддержка" поставляет такие решения своим клиентам. http://www.yoursupport.ru/high_avail_cluster.html
Они были одними из первых, кто заинтересовался нашим серверами и сейчас реализуют проект для одного из своих заказчиков на наших серверах.

Автор: ENELIS 06.05.2010, 22:33

Не знаю насчет HP.
Sun при platinum поддержке обеспечивает 2х часовое реше