Подбор веб сервера

[sanu0074]

Здравствуйте, допустим есть сайт интернет-магазин:
посещаемость 50 000 уник\сутки
страниц 500 000
файлов > 5Тб (изображения, флэш-контент, 3D объекты)

Нужно определиться с некоторыми вопросами:

1. Что лучше, свой собственный web-server или хоститься где то (арендовать сервер)? (во всех понятиях, разработки, поддержки, цены и пр.)
2. Если сервер то какой? (Windows, Linux / Apeche, nginx .... ваши варианты)
3. Какой должен быть порт (скорость досупа в интернет), 100 Мбит/сек или более? если да, то на сколько?
4. Каковы должны быть характеристики железа? насколько эти характеристики подойдут:
- материнская плата: Socket 2011, под два процессора
- процессор: 2шт 6ти ядерных Intel Xeon E5-2620 2GHz/15MB
- ОЗУ: 4 планки, DDR3 SDRAM 32Гб 1600 МГц 12800 МБ/с

p.s.
Попрошу не задавать вопросов в теме типа "что за интернет магазин? зачем свой сервер? зачем такое железо и т.п."
мне интересны ответы на поставленные вопросы, узнать ваше мнение и идеи...
Очень благодарен за внимание.

 

[hell0w0rd]

Надо разделить на два сервера - статику и сам сайт. Статику в какой-нить cdn, аля amazon

 

[Gas]

если проект такой уже есть и работает, то надо посмотреть как он грузит существующий сервер, параметры сервера и о чём-то уже думать
если 50K уников это просто мечты, то берите сервер из 4-го пункта, только мать на производительность особо не влияет, а вот дисковая система ещё как, правда при 32GB x 4 памяти, всё равно все данные ещё долго будут в памяти помещаться. Но запись то всё равно будет, так что берите SAS'ы 15K или SSD, гулять так гулять.

 

[Gas]

Ну по софту на этом форуме что ещё могут посоветовать: linux по вкусу, nginx, php-fpm, memcache/redis, sphinx, mysql/postgres.

Надо разделить на два сервера - статику и сам сайт. Статику в какой-нить cdn, аля amazon

если проект только в планах, а это скорее всего, то я бы пока про cdn'ы ещё не думал.

 

[hell0w0rd]

Gas
Для 5 тб статики?

 

[Gas]

да, и что?
куча памяти, кеширование в nginx'е можно настроить, магазин - файлы мелкие, причём будет относительно небольшой процент популярных категорий/товаров, тут линейная скорость не решает, random read, можно ssd для начала поставить.

ключевое, что, если это уже живой магазин, надо анализировать текущее железо, его нагрузку, количество обращений и уже планировать.
если это всё только планы, то пока обойтись простыми решениями, это не гугл, что выкатили новый сервис и нагрузка стала ого-го, она будет расти плавно с вероятностью 99.9% и по ходу уже смотреть и анализировать, что крутить.

 

[WMix]

файлов > 5Тб уже давно нужно разнести по CDNам и уже нагрузка уменьшится, далее базу отдельно от сервера и реплицировать на фронт и бэк, потом можно по отдельности думать

посещаемость 50 000 уник\сутки это 2 пользователя в минуту. пиковые значения, и время пика интересны

 

[Gas]

WMix
а ты использовал cdn? я нет и мне вот интересно мнение кто действительно их использовал.
Насколько я знаю, удовольствие это не из дешёвых, при 5TB я так понимаю затраты будут выходить over $5K в месяц, что как бы не мало. И тут действительно стоит хорошенько всё считать, очень вероятно намного выгодней купить себе хранилище(а). Тем более если это магазин, то основная фича cdn'а - раздача контента с серверов поближе к пользователю, может и не понадобиться, потому что в России всё равно основная целевая аудитория Москва/Питер.
Ну и есть такой сайт http://rozetka.ua, самый популярный магазин в Украине, они говорят о 800K уников в сутки, пусть это преувеличение раза в 2, но всё намного больше 50K. Насколько я вижу, не используют они cdn для статики, а стоит 9 серверов, причём похоже все с одинаковым контентом, но какой объём статики я конечно не в курсе.

Я лично всё равно сомневаюсь в необходимости cdn в данном случае, отдельный сервер с 1-10 гигабитным каналом, памяти 128 гиг, которую можно отдать под кеш nginx/varnish'у + sas 600GB 15K дисков, думаю выйдет намного дешевле cdn и спокойно потянет нагрузку.
Но я конечно не настаиваю и интересно любое мнение на этот счёт.

 

[fixxxer]

если нет задачи отдачи контента с наиболее географически близкого к клиенту датацентра, cdn конечно же не нужен, намного дешевле тупо взять сервера под статику

 

[WMix]

я другое имел в виду, выкинуть статику наружу. я юзал cdn но сам не платил! но 5 тебе и не понадобится

 

[fixxxer]

а вот тут вот всегда надо уточнять, за свои деньги или нет!

 

[dadoc]

Gas
Сейчас многие CDN работают по принципу прокси, указываешь источник данных и CDN edge сервара сами будут подгружать данные с твоих сервера(ов) по мере необходимости, когда у них будут запрашивать конечные пользователи. В этом случае платишь только за трафик. Второй вариант когда источником данных будет копия загруженная преварительно в хранилище CDN. Тогда источником данных для edge серверов CDN будет хранилище CDN. Вот пример цен http://www.gogrid.com/products/infrastructure-cdn#pricing 5Tb будет стоить $2500 в месяц + трафик. По собственному опыту если данные это небольшие файлы, то использовать хранилище CDN не имеет смысла, из этих 5Tb вполне возмонжно только 5% будут "ходовыми" а остальные данные ну может кто-то раз в месяц скачает.

 

[fixxxer]

хоститься где то

Если пинг некритичен (а для магазина он нифига не критичен) - не в России.

Про материнские платы и сокеты ничего не могу сказать, я как сервера выглядят не видел уже много лет. В Европу съездить, конечно, приятно, но уж точно не затем, чтобы на сервера посмотреть =)

 

[Gas]

если данные это небольшие файлы, то использовать хранилище CDN не имеет смысла, из этих 5Tb вполне возмонжно только 5% будут "ходовыми" а остальные данные ну может кто-то раз в месяц скачает.

угу, я тоже так считаю.

sanu0074
По поводу покупать сервер или брать дедик, моё личное мнение - брать дедик, не привязан к конкретному железу и к конкретной локации с ограниченным количеством хостеров, кому его можно ставить на колокейшн и о ремонте не думаешь в случае чего.
Имхо, не палите денег понапрасну, в перспективе 50K пользователей + специфика магазина (почти всё можно закешировать, минимум user generated контента) не стоят сразу кучи финансовых вливаний.
Уже в далёком 2008 году делал магазин по продаже музыки, 45-55K посетителей в день, рейтинг в алексе был 26K (не много, но уже и не мало) - само приложение RoR + mysql + sphinx + отдача дизайна сайта одним сервером c 8 ядрами без HT и 8GB памяти. Про диски не скажу, но не ssd и не 15K, может scsi 10K, а может и проще. И второй сервер раздавал картинки - обложки альбомов, какие-то фотки групп, был вообще не загружен, для перестраховки, этой статики правда всего гиг 100. В 100 мегабитный канал достаточно быстро упёрлись, а что шеф раскошелился на 10Gb не верится ), думаю 1Gb был. Ещё стояли отдельно 2 стореджа на винде по 8TB с самой музыкой, но ими занимался совсем отдельный человек, ничего сказать не могу, но cdn никакой не использовался.

Я к чему, сейчас дедики относительно не дорогие и мощные, например,
http://www.hetzner.de/en/hosting/produkte_rootserver/dx290 (брендовый dell)
+ взять 6 x 3 TB SATA 7200 в Raid10 + ещё 128GB памяти чтоб картинок в кеш больше влезло из-за не самых быстрых дисков (хотя их много, для чтения хорошо),
итого - 299 + 150 + 116 = 565 евро в месяц, не дорого.

или http://ua-hosting.com.ua/nl-servers.html
NL - 2x Intel Quad-Core Xeon E5620 / 32GB DDR3 / 24x2TB SATA2 / 1 Gbps Unmetered + 160GB памяти - $890 + $350 = $1240, уже не мало, но всё равно это только половина месячной зп одного нормального разработчика.

конечно это просто в качестве примера, эти серверы и этих провайдеров использовать не пропагандирую, сами поищите, пообщайтесь с хостерами, про стоимость трафика уточняйте и на основе имеющихся финансов выбирайте себе решение.