ЦОД на балконе: собираем домашний файловый сервер из хлама. Часть 3

В этот раз я покажу эффективный способ обнуления информации с дисков при помощи карабина Сайга-7,62.

ЦОД на балконе: собираем домашний файловый сервер из хлама. Часть 3

Ладно, ладно. Вынужден признать со старта - вы попались на кликбейт. Уважаемая модерация, ствол игрушечный, прямиком из "Детского Мира", стрельбы здесь не будет. Секунду, вы что, собираетесь закрыть вкладк...

Впрочем, сам виноват
Впрочем, сам виноват

Итак, теперь когда 90% потенциальных читателей закрыли статью, я продолжу. В прошлый раз, под второй частью описания приключений своего ящика с болтами (хотя, скорее с винтами), я наткнулся на подобный комментарий:

ЦОД на балконе: собираем домашний файловый сервер из хлама. Часть 3

После прочтения данного мнения, встал из-за стола, подошёл к окну, закурил... Много думал... Плакал... В голову пришло только одно: похоже, придется поменять подход к своей концепции.

Во-первых, раз у меня уже была ECC память и Xeon, то надо для полноты картины брать серверную доску. Во-вторых, хотелось поменять корпус: либо на решение под шкаф 6-9U, либо собрать в максимально компактном варианте. И понеслось...

Муки выбора

И вот как бы материнка и корпус в данном случае - вещи взаимосвязанные. Если хочешь маленькую коробочку - добро пожаловать в клуб mITX. Если же хочется иметь возможность дальнейшего расширения платами и дисками, стоит смотреть в сторону просторного серверного корпуса. Рассмотрим оба варианта для понимания моего выбора.

Так как процессор с памятью у меня уже были, то уже идет ограничение сокетом 1150. И как бы несмотря на то, что сокет вроде бы и десктопный, под него есть три чипсета, которые "типа" серверные (хотя это все-таки ближе скорее к workstation-сегменту) С222, С224, С226.

ЦОД на балконе: собираем домашний файловый сервер из хлама. Часть 3

Тут все как в сказке - старший умный был детина, средний сын и так и сяк, младший вовсе был дурак. Подробное сравнение данных наборов логики можно посмотреть по ссылке. Конечно, хотелось бы взять C226 как самый жир, но данный сегмент не изобилует выбором. Бери что есть, если нужно.

Да и брать придется на Авито по очевидным причинам. По итогу, есть три пути:

1. Платы от Asus/ASRock - высокий прайс за предлагаемый функционал, маленький выбор на барахолках, топовых решений буквально пара по стране. Попадаются mITX решения (!) с встроенным IP-KVM (!!!) за относительно небольшие деньги, но в целом редкий зверь;

ЦОД на балконе: собираем домашний файловый сервер из хлама. Часть 3
ЦОД на балконе: собираем домашний файловый сервер из хлама. Часть 3

2. Платы от SuperMicro - самые дорогие, но самые "жирные" материнки. Проще взять в составе готового шасси, чем искать отдельно, да еще и под десктопный сокет;

ЦОД на балконе: собираем домашний файловый сервер из хлама. Часть 3

3. Платы от Intel - стоят копейки, их много, но количество пердолинга на них, просто мое почтение. Для "поставил и забыл" не пойдет, требует работы руками.

ЦОД на балконе: собираем домашний файловый сервер из хлама. Часть 3

Теперь обратим внимание на корпуса. Как я писал выше, либо компактность, либо расширяемость и возможность установки в шкаф. При этом, необходимо учитывать, что мне нужно место под 8 дисков формата 3.5 дюйма минимум.

Под mIXT особо и вариантов нет - среди этого сегмента, неоспоримым лидером является Jonsbo N3. Есть только два минуса: безумный ценник (один корпус по цене некоторых полноценных NAS на 2 диска) и блок питания SFX, на который тратиться сверху я не собираюсь. Но размеры и возможность запихнуть в этого малыша восемь SATA/SAS полноразмерных хардов с горячей заменой + один 2.5 диск делают предложения очень заманчивым. В него под мои цели и железо отлично бы подошла материнка P9D-i от Asrock со скрина выше.

ЦОД на балконе: собираем домашний файловый сервер из хлама. Часть 3

Но так как сильно много денег тратить не хотелось, я решил смотреть в сторону rack-корпусов. Корпуса от б\у серверов отдельно не продаются, а если и найдете - ценник будет конский или под небольшое количество дисков. Я решил брать новый и красивый, который еще не успел пропустить сквозь себя килограммы пыли за годы работы.

И оказалось, что из выбор достаточно широкий! Только на одном OnlineTrade 286 позиций в наличии. Непонятно, где их делают, но скорее всего, это OEM-решения из Китая, запакованные фирмой уже в России, т.к. у разных "производителей" встречаются абсолютно идентичные модели.

ЦОД на балконе: собираем домашний файловый сервер из хлама. Часть 3

Мой выбор упал на вариант от неких Procase - RE411-D11H0-A-45. 4U-формат с помощью корзин может впихнуть в себя 15 дисков, плюс еще два слота расширения 5.25. Правда, нормальные фото были на страничке товара в NIX, а вот ни OnlineTrade, ни сам производитель на своем сайте не потрудились выложить фото самого корпуса, вместо этого оставив фото более длинного шасси с другой комплектации. Под mATX платы есть более компактный вариант в виде корпуса RE306-D6H4-A-45 на 3U, и если бы он был по наличию, предпочтение бы отдал на тот момент ему.

ЦОД на балконе: собираем домашний файловый сервер из хлама. Часть 3

К корпусу и отзыву на него вернемся на этапе сборки. А сейчас выберем материнскую плату.

Тут интриги не будет - из-за копеечной стоимости и отсутствием страха перед муторной настройкой, была выбрана плата от Intel, конкретно S1200V3RPS. 4 слота PCIe, USB 3, пять колодок под вентиляторы, и по цене в 1500р - замануха века. Единственный минус, пожалуй, что полноценный модуль BMC для удаленного доступа сюда не поставить, потому что именно в этом варианте исполнения отсутствует нужный разъем.

Intel S1200V3RPS
Intel S1200V3RPS

Главное, не попасть на ловушку интела, которые S1200V3RPO\S1200V3RPM урезали количество слотов расширения, а продаваны нередко путаются в обозначении модификаций. Вот если найдете S1200V3RPL (ну вдруг есть еще шизы, что в 2024 году ищут материнку под десятилетний сокет), берите не задумываясь, самое жирное решение. С другой стороны, первую плату я вернул (благо брал у магаза с Авито, где их много и была возможность возврата) - не взлетала по питанию, судя по расшифровке сигналов бипера. И проблема эта уже была известна в интернетах, т.е. случай не единичный. Вторая работала нормально, но вот с доставкой по России может выйти неприятный казус - если не взлетит при включении, вы останетесь с куском мертвого текстолита. Так что вариант для самых отчаянных.

А вот это уже именно S1200V3RPL на топовом чипсете C226, которую человек продает плюс-минус за цену платы попроще. Вот что путаница в маркировке животворящая делает.
А вот это уже именно S1200V3RPL на топовом чипсете C226, которую человек продает плюс-минус за цену платы попроще. Вот что путаница в маркировке животворящая делает.

Забегая вперед, матери от Интела - это пи***ц. Обновления прошивок накатываются абсолютно не интуитивно, инструкции вы будете искать по рандомным форумам, как и сами файлы - гении из штеуда подчистили странички у старых продуктов, так что вместо последних версий BIOS вас ждет максимум драйвер на VGA и встроенный RAID-контроллер. Бипер при включении мерзко пищит около ста раз, хотя никаких ошибок нет. И не забудьте заранее прочитать 100+ страничную инструкцию, чтобы понять, где сколько линий в слотах PCI-e, и каких они версий, а заставил память работать в двухканале я смог только методом тыка, несмотря на схему в мануале.

Проще распечатать нужные страницы и хранить неподалеку от железки, чем каждый раз лезть в талмуд от производителя в попытках найти нужную информацию. 
Проще распечатать нужные страницы и хранить неподалеку от железки, чем каждый раз лезть в талмуд от производителя в попытках найти нужную информацию. 

Ах да, тут же еще особенности с оперативкой. Тут нужна ECC non-REG память, которая стоит приличных денег по нынешним временам. У меня уже было две таких плашки по 4гб, и даже несмотря на частоту в 1333Мгц, полностью покрывает мои задачи. Мануал говорит, что это еще должна быть и DDR3L память (1.35v против 1.5v у обычной), но мои "полторашки" прекрасно завелись. Где искать единорога в виде DDR3L ECC non-REG планок сейчас и сколько она стоит, я даже знать не хочу.

ЦОД на балконе: собираем домашний файловый сервер из хлама. Часть 3

Сборка в единое целое

По сути, данный корпус ничем не отличается от обычного десктопного. Сразу порадовала толщина стенок, и то что все внешние элементы, кроме морды, закатаны в слой пленки. Если на фото увидите царапину, то это именно оцарапанная пленка, а не поверхность металла. В него прекрасно умещаются и материнка, и ATX блок питания. Спереди встало три корзины расширения - одна уже была в первой итерации корпуса, а две были заказаны чуть позже.

ЦОД на балконе: собираем домашний файловый сервер из хлама. Часть 3

Корзины неплохие. Да, без хотсвапа, но он мне и не особо нужен, диски я менять до выхода из строя я не собираюсь. Под них было куплено три самых дешевых вентилятора 120мм от ID-Cooling. 800-1500 оборотов в минуту, с прорезиненными углами, максимальный поток 68.2 CFM и 4pin это просто подарок за такие деньги.

Три месяца назад вышли по 330р за штуку.
Три месяца назад вышли по 330р за штуку.

На заднюю часть переехали из прошлого корпуса два вентилятора по 80мм от тех же ID-Cooling. Разъем с этой стороны платы под вертушки только один, так что проблему решил разветвителем.

ЦОД на балконе: собираем домашний файловый сервер из хлама. Часть 3

Ну в принципе и все. Собрал галерею с фоточками, кабели уложил как смог. Одна корзина полностью пустая (запас на будущее), еще одна корзина под один слот 5.25 с двумя дисками из под ноутов, которые пока не используются. Одни уши открутил, чтобы поставить его вертикально, а вторые оставил, очень удобно за них таскать. Не знаю, сколько сейчас эта дура заряженная дисками весит, но явно не кисло.

Из минусов - модульность достаточно паршивая, все крутится на винтики (на много винтиков), средняя корзина ни к чему не крепится, и пришлось лепить на стяжки дабы избежать ее внезапной эвакуации из корпуса при переноске. Ну и на крышку могли прицепить какую-нибудь пластиковую защелку как у брендовых корпусов, чтобы было удобнее снимать вверх.

У корпуса на передней панели есть два порта USB 3, да вот только у кастрированной материнки версия для передней панели пониже. Чтобы они функционировали, пришлось брать с Ягод переходник. Благо, стоил он там куда дешевле, а то даже китайцы просили за него рублей по 500, что натуральный грабеж. Еще на морде есть индикаторы питания на кнопке, активности сетевых интерфейсов по отдельности и работы системного диска.

ЦОД на балконе: собираем домашний файловый сервер из хлама. Часть 3

Коротко о работе сервера

Драйвера встали все сами, кроме графики. Ее пришлось поискать, и с третьей попытки они все-таки подошли. Интересный факт - в серверных платах частенько стоят дискретные чипы из стародавних времен, чисто чтобы вывести картинку на монитор. Моем случае, это Matrox G200e, прямиком из 1998 года, если верить Википедии. Естественно, встройка процессора на данной плате не работает, но для первоначальной настройки хватит и такого музейного экспоната.

Соответственно, настроил порт управления. Да, BMC тут кастрированный, без функций KVM, но модуль тоже денег стоит. Да и подключения по RDP мне полностью хватает. По остаточному функционалу, можно включить\выключить\перезагрузить сервер принудительно (минуя ОС), посмотреть его статус, ошибки, температуры и так далее.

Правда, иногда он частенько накидывает предупреждениями без видимых причин, поэтому SNMP-мониторинг я бы ставил только на критические события.
Правда, иногда он частенько накидывает предупреждениями без видимых причин, поэтому SNMP-мониторинг я бы ставил только на критические события.

В прошлой части я не показал работу сенсора окружающей температуры. Исправляюсь. Собственно, ПО представляет из себя простенький интерфейс, где на "циферблате" показывается текущее значение. Естественно, клейте в место без попадания солнечных лучей или холодного потока воздуха для корректных показателей.

ЦОД на балконе: собираем домашний файловый сервер из хлама. Часть 3

Есть журнал с показателями изменением значений на 15 позиций. Можно сохранить лог в файл, у меня он сохраняет логи каждые две недели в отдельный файл. Зачем? Не знаю. Может, через 10 лет пригодится для статистики глобального потепления на примере моего балкона.

ЦОД на балконе: собираем домашний файловый сервер из хлама. Часть 3

Вот что реально порадовало, так это работа процессора. Максимально холодный и энергоэффективный, Xeon E3-1265L v3 играючи справляется с конвертированием видео 4K в меньшие разрешения на лету. В простое он кушает что-то в районе 6 ватт, при максимальной нагрузке - около 40 ватт и нагрев в районе 58 градусов по самому горячему ядру. Теперь такой с Китая не привезти, у Алика что-то пошло не так, и куча комплектующих стала не доступна к заказу. Как чувствовал, что надо брать.

ИБП поменял на IPPON с обычными розетками вместо гудящего трансформатором APC с его C13-C14. К сожалению, опять без выхода управления, но дареным коням в зубы не смотрят. На розетку под сервер поставил ваттметр, чтобы можно было в реальном времени посмотреть потребление. С самых активных сценариях не видел больше 120 ватт, при конфигурации четырех дисков в RAID 1 под бэкап, четырех дисков в RAID 5 под торрентохранилку и пары дисков в RAID 1 под систему. В это время все диски были активно задействованы, а процессор находился в стресс-тесте.

Три статьи. Итоги

Итак, теперь мой "проект" подошел к логическому завершению. У вас может встать вопрос - а зачем я тратил столько денег только ради файлопомойки? Ну, через год мне предстоит переезжать в другую квартиру, где я собираюсь повесить на стену 6U шкафчик, запихнуть в него этот сервак, роутер и докупить мультигигабитный 2.5G свич.

Давно хотелось выкинуть из своего основного ПК два харда по 2ТБ в софтверном виндовом RAID 0 (да, я мазохист). Вот как раз ради этих целей и собираюсь сделать мультигигабитную сеть, благо в ПК уже есть 2.5G порт, а для сервера докупить дополнительную плату это вопрос тысячи рублей. Правда, коммутатор уже стоит в районе 5к, по тысяче за порт, зато накопители при работе между основным ПК и NAS будут работать без ограничений по скорости. С этих дисков планирую запускать игры из Steam, которые не требуют SSD и такого же рода программы (именно так сейчас эти харды и используются).

Сейчас же это пока только бэкап и медиа сервер (DLNA для локалки, Plex для удаленки). От прошлой итерации у меня остались корпус, материнка, процессор и память - раздумываю "поучиться на кошках" и соорудить мониторинг на Zabbix и потыкаться в Unix-системах, но пока ни сил, не желания это делать нет. Но, быть может, через год-полтора я напишу уже четвертую часть про монтаж в шкаф и опыты с мониторингом? Кто знает...

В итоге, просуммирую свою затею на текущий момент (цены на момент покупки):

  • RAID-контроллер: 1000 рублей (вернули тысячу рублей по спору)
  • 2 суперконденсатора: 760 рублей (по итогу, не заработали)
  • Переходник Molex - 5xSATA 2шт: 900 рублей
  • Разветвитель на 5 вертушек: 297 рублей (не пригодился в новом корпусе)
  • Корзина на 5 HDD 3шт. : 4 860 рублей
  • Корзинка для 4 HDD 2.5': 687 рублей
  • Термометр: 864 рубля
  • Процессор Xeon E3 - 1265L v3: 2259 рублей
  • Вертушки 80мм 2шт: 580 рублей
  • Вертушки 120мм 3шт: 990 рублей
  • Серверный корпус 4U Procase RE411-D11H0-A-45: 6162 рубля
  • Материнская плата Intel S1200V3RPS - 1500 рублей
  • Диски, кулер для ЦП, блок питания, удлинитель USB под термометр, SATA кабели - из личных запасов
  • Опыт - бесценно
  • ИТОГО - 20 859 рублей

Глядя на итоговую стоимость, скажу прямо - если так хочется домашний сервер, но прям чтобы уже более-менее серьезный, купите какой-нибудь SuperMicro в сборе на сокете 2011, где у вас будет сразу и процессор, и памяти отсыплют, и стоить будет все демократично при самовывозе. Мне отступать уже было некуда, так что я наконец объединил все в одно целое. Если бы не диски, которых у меня уже набралось прилично количество, я бы даже не начал это дело. Собирать все в кейсе от Jonsbo вышло бы еще дороже: тут сама стоимость корпуса, и наценка за мелкую материнку, и SFX блок питания, и SSD под систему - все требует лишних затрат сверху.

Выражаю благодарность тем, кто быть на протяжении всех трех частей со мной, всем подписавшимся и поставившим свою оценку. Вторую часть я откровенно писал через "не хочу", а на третью ждал вдохновения три месяца и бахнул ее за ночь. Если что-то из этого потока сознания кому-то пригодилось или хотя бы было просто забавно читать, то все было не зря.

И главное - не забывайте делать бэкапы!

117117
79 комментариев

Превьюшкой забайтил, моё почтение

35
Ответить

зачем тебе автомат ?

4
Ответить
Автор

голуби срут на карниз балкона, пришлось действовать радикально

47
Ответить

Комментарий недоступен

2
Ответить

чел это не автомат это пулемёт ващет лол кринж

Ответить

Ты так старался писал пост и всё напрасно. Писанину твою снесут, а к тебе проверка приедет. 😏

2
Ответить
Автор

За фотку пукалки с батарейкой? По нашим временам, две целующихся лесбиянки вещь куда более экстремистская, даже если б ствол настоящий был

22
Ответить