Высоконагруженные сервера Опции

[Udovihin Evgenii]

У меня вопрос к опытным администраторам.
Есть машинка Dual Xeon E5410 2.33Ггц (8 ядер), 16Гб RAM, диски SAS в железном рейде с PCI контроллером адаптек 128 или 256Мб кеш.

Сейчас стою перед вопросом:
1) Брать аналогичную и уночить туда часть сайтов
2) Ничего не брать и что-то подкрутить софтово
3) Ставить мощнее процессоры

Чтобы ответить, нужно для начала сточнить. Смотрите:
Cpu(s): 47.7%us, 48.8%sy, 0.0%ni, 1.3%id, 1.0%wa, 0.0%hi, 1.0%si, 0.0%st

48.8%sy - это нормально? Процессов в рабочем режиме 300, до 350. Сильно тредится апач, Mysql не тредится вообще, процессы php особо не высовываются в топ. PHP как cgi. Апач второй + nginx. Знаю, на этом форуме есть люди, который работают с такими серверами. Уточню вопрос - нормально ли, что половину процессорного времени расходует система?

Сейчас вот прилепил prefork.c с MaxClients 16, снизилось LA, процессов стало меньше. А система так и расходует половину процессора. Прошу не говорить про idle в 1.3%, оно и 0 бывает, ничего плохого в этом не вижу. Проблемы поставить процессоры мощнее нет, есть проблема, связанная с экономией ресурсов. Т.е. зачем менять процессоры, когда система половину текущих мощностей расходует на неизвестно какие цели.

В общем если есть там какие варианты - пишите.

[KMUA]

При php как cgi нагрузка на процессор высокая.

[Udovihin Evgenii]

При php как cgi нагрузка на процессор высокая.

Ну да, это все из-за безопасности же замучено.
Правда это не столь сильно волнует меня, ведь все php-cgi отрабатываются под своими именами пользователей, соответственно от них идет нагрузка в %us (User тобишь), а в %sy может идти от них по идее только тот используемый ресурс процессора, что идет на создание и убиваение процессов.

В целом PHP скрипты отрабатываются быстро. И в top'е их видно в штатном режиме не более 10 штук (максимум). все остальное в top'е занимает апач:

...
22279 apache 15 0 211m 149m 1476 S 1.3 0.9 0:00.29 httpd
22545 apache 15 0 211m 149m 1468 S 1.3 0.9 0:00.25 httpd
3918 nobody 15 0 44212 18m 748 S 1.0 0.1 1:21.24 nginx
17469 apache 16 0 211m 149m 1488 S 1.0 0.9 0:01.91 httpd
17472 apache 15 0 0 0 0 Z 1.0 0.0 0:02.32 httpd <defunct>
17568 apache 15 0 211m 149m 2004 S 1.0 0.9 0:02.20 httpd
...

Это малая часть конечно. Сами PHP процессы высовываются на пол top'а только в одном случае - когда сервер упирается в процессор (idle 0%), но такое бывает редко. Сегодня как раз такой случай.

И все же я пришел не за этим. Нужен совет относительно того, должно ли %sy (System) быть по 40-60% на высоконагруженных серверах (сайты, сайты, сайты). Если да - все ясно, если нет - то что можно поделать.

P.s.: отключил боунсы (или как их) Exim, теперь по крайней мере нет 100 процессов Exim'а, есть 30 и это уже терпимо.

[ENELIS]

Raid проверьте, не дегрейдед ли...

[Udovihin Evgenii]

Raid проверьте, не дегрейдед ли...

Он железный. Я думал в случае проблем с ним это было бы видно в %wa (iowait). Попробую проверить.

RAID level : 1
 Status of logical device : Optimal

[ENELIS]

ОС какая?

[eSupport.org.ua]

Стоит пригласить на сервер админа и заплатить за аудит

[Денис]

Попробуйте отключить nginx. Да, я серьезно. Это же несложно проверить.

[Viktorich]

48.8%sy - это нормально? Процессов в рабочем режиме 300, до 350. Сильно тредится апач, Mysql не тредится вообще, процессы php особо не высовываются в топ. PHP как cgi. Апач второй + nginx. Знаю, на этом форуме есть люди, который работают с такими серверами. Уточню вопрос - нормально ли, что половину процессорного времени расходует система?

ненормально, покажите, и всё же, что за ОС ?
cat /proc/interrupts

[MIRhosting.com]

Стоит пригласить на сервер админа и заплатить за аудит

Как не странно, согласен с eSupport.org.ua (IMG:style_emoticons/default/smile.gif)
Может быть как проблема настройки или не донастройки, так и действительно проблема нехватки ресурсов.

[ENELIS]

Если б FreeBSD был, то у него нетерпимость к .htaccess (AllowOverride) при работе со SCHED_ULE.

[Udovihin Evgenii]

ненормально, покажите, и всё же, что за ОС ?
cat /proc/interrupts

Там CentOS.

Команду не покажу сейчас, потому как у Вас в ДЦ лег аплинк, и никто ничего сказать не может толком. См. тут http://host-tracker.com/check_res_ajx/4714167-0/

Как не странно, согласен с eSupport.org.ua (IMG:style_emoticons/default/smile.gif)
Может быть как проблема настройки или не донастройки, так и действительно проблема нехватки ресурсов.

Ваши сотрудники его и настраивали первый раз. Я потом туда не лез особо. К Вам уже обращался, ответ:

Установка дополнительных средств для анализа будет стоить $20.00/разово.

Серверу требуется комплексное обновление.

Сейчас высокая нагрузка очевидно из-за спама, в почтовой очереди 26164 писем.

Обновление ПО будет стоить $50.00/разово.

Кот в мешке за 70$ на мой взгляд...

P.s.: Если Вашими ребятами за 70$ вопрос с %sy будет решен - пишите,

Сообщение отредактировал Udovihin Evgenii - 13.04.2010, 06:26

[Udovihin Evgenii]

Как просили, показываю cat /proc/interrupts

Код

#cat /proc/interrupts
           CPU0       CPU1       CPU2       CPU3       CPU4       CPU5       CPU6       CPU7
  0: 3422769266          0          0          0          0          0          0          0    IO-APIC-edge  timer
  1:         35          0          0          0          0          0          0          0    IO-APIC-edge  i8042
  6:          6          0          0          0          0          0          0          0    IO-APIC-edge  floppy
  7:          2          0          0          0          0          0          0          0    IO-APIC-edge  parport0
  8:          0          0          0          0          0          0          0          0    IO-APIC-edge  rtc
  9:          0          0          0          0          0          0          0          0   IO-APIC-level  acpi
14:         27     246981          0          0   30336280      65814          0          0    IO-APIC-edge  ide0
74:         21          0          0          0          0          0    3720502 3497000435         PCI-MSI  eth0
169:       8431  479052204          0  408499685    1916382     165464     408364    1305735   IO-APIC-level  uhci_hcd:usb5, aacraid
177:          0          0          0          0          0          0          0          0   IO-APIC-level  uhci_hcd:usb4
185:          0          0          0          0          0          0          0          0   IO-APIC-level  ehci_hcd:usb1, uhci_hcd:usb2
233:          0          0          0          0          0          0          0          0   IO-APIC-level  uhci_hcd:usb3
NMI:    3550558    3639375    4106861    4154116    3492454    3537043    4088641    4156654
LOC: 3422259530 3422259408 3422259116 3422259218 3422259042 3422259006 3422258850 3422249480
ERR:          0
MIS:          0

Так же график загрузки процессоров: http://s46.radikal.ru/i111/1004/1d/dc3b0de4eb1e.png

По графику стало лучше - это т.к. пришлось попросить один крупный сайт перейти на VDS.
Mirhosting говорят icmp флуд. Я в csf закрыл внешний пинг, не помогло. Они пока не ответили,

Сообщение отредактировал Udovihin Evgenii - 14.04.2010, 13:48

[MIRhosting.com]

Ваши сотрудники его и настраивали первый раз. Я потом туда не лез особо. К Вам уже обращался, ответ:
Кот в мешке за 70$ на мой взгляд...

P.s.: Если Вашими ребятами за 70$ вопрос с %sy будет решен - пишите,

Ну если Вы считаете что наши услуги - это кот в мешке - то вряд ли я что-то могу тут еще написать.
Можно и не за 70 а меньше, если с Вашей стороны будет более адекватные реакции на нашу работу (IMG:style_emoticons/default/smile.gif)

[Udovihin Evgenii]

Ну если Вы считаете что наши услуги - это кот в мешке - то вряд ли я что-то могу тут еще написать.
Можно и не за 70 а меньше, если с Вашей стороны будет более адекватные реакции на нашу работу (IMG:style_emoticons/default/smile.gif)

Наконец в тикет написали стоимость работы... Посмотрим как сделаете.

[Udovihin Evgenii]

Можно и не за 70 а меньше, если с Вашей стороны будет более адекватные реакции на нашу работу (IMG:style_emoticons/default/smile.gif)

Ага, о чем речь. Ребята, Вы за 10 ответов в тикете так и не смогли сказать "Да" на простой вопрос - есть ли гарантия, что вопрос будет решен (А не: "Мы выполнили заказанное Вами обновление ПО, все работает нормально. Видимо так и должно быть, всего доброго.") и сколько это будет стоить. С таким совковым отношением и полной неспособностью работать с клиентом Вы лучше свои услуги предлагайте бомжам на свалке, уважаемые. Я 10 раз повторил единственный свой вопрос. На что постоянно были разные ответы, то атака, то сумма за обновление ПО (нафига мне оно конкретно? мне нужно решить вопрос, а не обновить ПО. А там уже в процессе решения Вы что угодно делайте, все равно совершенно), то вообще в SSH у них не пускает. Идите ка Вы уважаемые в баню с таким сервисом,

Когда я прихожу в магазин и говорю "Дайте мне Любимый сад 2 литра мультифрукт", мне дают именно то, что я попросил. А не "Может Вам томатный?", и мне не дают чипсы в добавок, и даже не предлагают. Вы же... Короче нет слов, в баню. Кстати еще мне в магазине никогда не скажут "Чтобы Вам купить томатный сок - заплатите за упаковку, быть может в ней окажется тот самый сок". А Вы своим обновлением именно это и предлагали. На лицо просто полная некомпетентность, не более того. "Давайте я Вам дам сок, но какой именно он Вы узнаете только когда вскроете дома."

P.s.: Буду искать компанию с адекватным персоналом, можете в тикет и не отвечать,
P.s.s.: Мои извинения за грязь на форуме, Вы хотели знать, почему я зачастую не очень адекватно реагирую на Вашу работу - вот и ответ. См. тикет 65965...

Сообщение отредактировал Udovihin Evgenii - 16.04.2010, 05:28

[different]

Когда я прихожу в магазин и говорю "Дайте мне Любимый сад 2 литра мультифрукт"

Более верная аналогия с вопросом "поможет ли?" будет "Я прихожу в магазин и спрашиваю, "а этот ваш сок мне понравится?"

[A-l-e-X]

С таким совковым отношением и полной неспособностью работать с клиентом Вы лучше свои услуги предлагайте бомжам на свалке, уважаемые.

Попросите передать тикет Алексею или Андрею, удивитесь как меняется отношение и ответы. (IMG:style_emoticons/default/smile.gif)

[WebhostGIANT-Rob]

Попросите передать тикет Алексею или Андрею, удивитесь как меняется отношение и ответы. (IMG:style_emoticons/default/smile.gif)

Хорошо когда есть рычажки на которые можно нажать. Жаль только клиентов которые о них не знают. Хотя как по мне их вообще не должно быть

[A-l-e-X]

Хорошо когда есть рычажки на которые можно нажать. Жаль только клиентов которые о них не знают. Хотя как по мне их вообще не должно быть

Вообще компания у них хорошая. Они делают свое дело. Техники работают над тех задачами а не над написание мега больших ответов в тикетах.

Я написал сотрудников с которыми можно обсудить любой вопрос до мелочей. Но давление тут не причем, на их месте при давлении я бы послал такого клиента очень далеко.

По теме
Я на стороне мирхоста. Вы создали теме в духе:
"У меня есть проблема, я не знаю, что, когда и почему. У меня какой-то сервер, на нем какие-то клиенты, об их нагрузке я тоже ничего не знаю. Я хочу решения проблемы за 10$. Если нет - то вы говно."

Вам предложили обновить - дорого
Вам еще раз проверили сервер - сказали так должно быть

что Вы хотите еще от них?

[Udovihin Evgenii]

Более верная аналогия с вопросом "поможет ли?" будет "Я прихожу в магазин и спрашиваю, "а этот ваш сок мне понравится?"

Не верная аналогия. Еще раз - я прошу покрасить стены, а мне предлагаю покрасить потолок в надежде, что чего-то там попадет на стены. Я же сказал конкретно - решить вопрос с %SY и точка. Мне совершенно не важно как они это будут делать, я не администратор серверов, я не собираюсь вдаваться в подробности. А в этой компании зачастую чтобы получить желаемое нужно перечитать 101 статью и понять что именно нужно им сделать, сказать им это, только тогда что-то сдвинется с мертвой точки.

"У меня есть проблема, я не знаю, что, когда и почему. У меня какой-то сервер, на нем какие-то клиенты, об их нагрузке я тоже ничего не знаю. Я хочу решения проблемы за 10$. Если нет - то вы говно."

Вы делаете поспешные выводы - мне все равно сколько будет стоить эта услуга. Они назначали ценник и в 70 и в 50, меня устраивали оба. Но на вопрос "Есть ли гарантия, что заплатив эти деньги, вопрос с %SY будет полностью исчерпан?" ответа они мне так и не дали. Я не собираюь покупать кота в мешке.

Вам предложили обновить - дорого
Вам еще раз проверили сервер - сказали так должно быть

Вы сильно ошибаетесь, перечитайте еще раз. Я же сказал - стоимость для меня значения не имеет вообще.

Ответ Мирхостинга:

Извините, но нам не выгодно тратить время на бесполезные переговоры. Да и нет времени, увы.

Вот Вам и Mirhosting, нет слов, одни слюни.

P.s.: Вопрос с совком считаю обсуждать в этой теме не стоит, это их проблема, я просто высказался в очередной раз о этой компании. Выводы каждый сам сделает. Прошу по теме, если есть что сказать.

Сообщение отредактировал Udovihin Evgenii - 16.04.2010, 11:41

[Vitalik]

P.s.: Вопрос с совком считаю обсуждать в этой теме не стоит, это их проблема, я просто высказался в очередной раз о этой компании. Выводы каждый сам сделает.

Действительно, Вы уже не первый раз поливаете их грязью. Только я вот никак не пойму - если все так плохо, почему Вы до сих пор пользуетесь их услугами? Это из серии "мыши плакали, кололись, но продолжали кушать кактус"?

[MIRhosting.com]

Мда.. прочитал тикет..
Udovihin Evgenii, разрешите выложить сюда несколько последних сообщений? Думаю, многое станет понятно всем окружающим.

[DCUA]

Мда.. прочитал тикет..
Udovihin Evgenii, разрешите выложить сюда несколько последних сообщений? Думаю, многое станет понятно всем окружающим.

Хм...
А если он разрешит *здесь*, Вы и правда выложите ? (IMG:style_emoticons/default/smile.gif)


2Евгений - вот за что (отчасти) я не люблю удалёнку - она не гарантирует результат, только сами работы и желание (усиленное|не-очень) удалёнщика их решать.
Причём ребята вполне даже могли стараться на полную, чтобы Вам угодить и даже никто другой (удалёнщик) больше сделать тут и не сможет.

Просто это сама суть удалёнки такая - ожидаемого результата можно не получить. Для этого нужен только тесный контакт, живой, между людьми.

[eSupport.org.ua]

Ребята, Вы за 10 ответов в тикете так и не смогли сказать "Да" на простой вопрос - есть ли гарантия, что вопрос будет решен (А не: "Мы выполнили заказанное Вами обновление ПО, все работает нормально.

Гарантии в наше время не дает никто

[alex-sys]

Если там проблема в почтовой очереди, то удалите ее.

[Maxim Volgin]

Евгений вы меня конечно извините но как совок ведете себя как раз Вы. Не знать что надо и давиться над каждым долларом. На западе с вас бы тока за телефоны один звонок взяли бы 70 баков (IMG:style_emoticons/default/smile.gif).

Вы может иметь специалиста на ставке и требовать от него гарантии. Вы может дать конкретную работы за конкретные деньги и требовать гарантии. Но капать от обеда и до забора... это советская армия (IMG:style_emoticons/default/smile.gif)

Стандарт на западе это плата за час работы специалиста. На западе час стоит 75-150+ баков.

[Admin]

Гарантии в наше время не дает никто

Потому что они никому и не нужны, если цивилизованная система взаиморасчетов. Деньги нужно брать за выполненную работу, а не за намерение её выполнить. Евгений абсолютно не прав по форме, но прав по сути. Я точно также подхожу к наемным работникам - он оценивает объем работ, называет мне стоимость, я соглашаюсь, он её выполняет - я оплачиваю, не выполняет - я не оплачиваю. Если он ошибся в оценке объема работ (надо еще настроить то, настроить это, переустановить систему, вообще заменить железо) - это его проблемы, а не мои. Пусть учится оценивать объем работы.

И в магазине я тоже плачу по факту на выходе, а не на входе (IMG:style_emoticons/default/smile.gif)

И странно слышать - "Не знать что надо и давиться над каждым долларом.". Мне, клиенту удаленщика, надо только одно - чтобы работало. А это уже его забота узнать, что конкретно надо сделать, чтобы работало так как заказчик хочет и оценить этот объем работы. Почасовая, Максим? Да, почасовая. Но ни один сантехник не получит ни цента, если он за 3 часа не сделает то, что подрядился за эти три часа сделать.

[MIRhosting.com]

Потому что они никому и не нужны, если цивилизованная система взаиморасчетов. Деньги нужно брать за выполненную работу, а не за намерение её выполнить.

//offtopic//
Все правильно, мы так обычно и делаем. В данном случае, это ситуация является исключением, думаю Вы подозреваете почему.
К тому же, этот клиент задерживал оплату в прошлом, впредь ему все услуги оказываются только по факту полной предоплаты.

[ex-SavaHost]

48.8%sy - это нормально?

Нет.

Но на вопрос "Есть ли гарантия, что заплатив эти деньги, вопрос с %SY будет полностью исчерпан?"

Это сервер, а не придорожная девка.
Поэтому 100% гарантии никто не даст - и будет прав.

Вот Вам и Mirhosting, нет слов, одни слюни.

P.s.: Вопрос с совком считаю обсуждать в этой теме не стоит, это их проблема, я просто высказался в очередной раз о этой компании. Выводы каждый сам сделает. Прошу по теме, если есть что сказать.

Несколько лет (3 или 4 - не помню...) с ними работаю и полностью доволен. Более чем адекватны - по крайней мере до сегодняшнего дня. Не надо жмотится на железе, и проблемы исчезнут сами по себе.