замена всего на 1 сервер
От: Nozama  
Дата: 22.02.21 13:53
Оценка:
Привет

Можете ли поделиться ссылками и ресурсами и опытом?
Хочется рассмотреть вариант сделать дома 1 сервер для нескольких разных машин — смесь Win и Lin виртуалок.
— 1 Win guest должен быть мощным, с поддержкой 4K60Hz через прямой шнурок к монитору, 16Gb ram
— 1 Lin guest должен тянуть тяжелые задачи, иметь 32Gb ram минимум
— 1 Lin guest должен тянуть изредка тяжелые дисковые операции и не тормозить остальные машины (хотя думаю просто запускать ночью будет норм и дать ему отдельные физические носители)
— 1 Lin guest должен тянуть сетку (VPN) и AES
— 1 Win guest должен тянуть легкие задачи
Какая виртуализация для этого подойдет лучше? Что лучше почитать на эту тему?
Вообще насколько это много гемора и специфических знаний и случайных крашей всей системы?
Дошла ли инфраструктура до того что этим всем стоит заниматься (пока бонусы от этого — только один системник на всех и меньшее потребление что не очень и существенно ну и может быть легче ресурсы перераспределять и дешевле апгрейдить).

Спасибо
Re: замена всего на 1 сервер
От: vsb Казахстан  
Дата: 22.02.21 14:26
Оценка: 3 (1)
Если нужна мощная видеокарта для игр, то на сервере ставить KVM, на компьютере должно быть две видеокарты. Одна (мощная) прокидывается через PCI passthrough в Windows напрямую, которая её и использует для игр. Если мощная видеокарта для игр не нужна, я всё равно посоветую именно этот подход для Windows — купить отдельную видеокарту конкретно для неё, просто она может быть затычкой (4K60Hz умеют все), но можно попробовать и виртуализованную графику.

Про тяжёлые дисковые операции — какие диски подразумеваются? Если HDD или SATA SSD, то заморачиваться нет нужды, их скорость гораздо меньше, чем любые накладные расходы на виртуализацию. Если быстрые M.2 SSD, то можно прокинуть их напрямую в нужную виртуалку аналогично подходу с видеокартой, это уберёт накладные расходы от виртуализации. Хотя, скорей всего, это не нужно.

Все остальные задачи являются лёгкими и никаких специфических подходов не требуют. Поэтому подойдёт абсолютно любая технология виртуализации с любой хостовой ОС. Ну проще всего, наверное, использовать Linux на хосте с KVM-виртуализацией, это что-то вроде стандарта. Понятное дело, что у хоста должно быть достаточно ресурсов, в частности оперативной памяти. 64 ГБ оперативной памяти поддерживается практически на любом современном процессоре. Последние процессоры поддерживают до 128 ГБ, этого должно хватить, поэтому какие-то специфические серверные процессоры не требуются.

Из мощного и относительно дешёвого можно порекомендовать AMD Ryzen 9 5950X, если найдёте в продаже. Или какой-нибудь Intel 10900K, он послабей, но всё же в плане поддержки линукса и всяческих виртуализаций Intel всегда был самым стабильным выбором.

Если будете использовать Linux на хосте, убедитесь, что железо нормально поддерживается. Теоретически проблемы могут возникнуть лишь с сетевой картой, остальное обычно работает нормально.

N>Вообще насколько это много гемора и специфических знаний и случайных крашей всей системы?


Тут как повезёт. Обычно всё нормально и стабильно работает, но может быть придётся и покрасноглазить. Если хочется полной уверенности — покупайте брендовое серверное железо от HP или Dell и используйте сертифицированную для этого железа ОС (обычно RHEL или Ubuntu). Но переплатите немало. Можно б/у поискать. Ну и у серверов обычно с шумом всё плохо, нужно отдельное помещение.

N>Дошла ли инфраструктура до того что этим всем стоит заниматься (пока бонусы от этого — только один системник на всех и меньшее потребление что не очень и существенно ну и может быть легче ресурсы перераспределять и дешевле апгрейдить).


Да уже лет 15 как дошла, вроде. Сложно найти в мире что-то, работающие не в виртуалке, все серверы давно крутят только виртуалки, в которых уже и запускаются реальные задачи.

Ещё я бы посоветовал использовать ECC с такими объёмами памяти, но это сильно сужает варианты процессоров и многие не согласятся в необходимости ECC, поэтому смотрите сами.
Отредактировано 22.02.2021 14:30 vsb . Предыдущая версия . Еще …
Отредактировано 22.02.2021 14:28 vsb . Предыдущая версия .
Отредактировано 22.02.2021 14:27 vsb . Предыдущая версия .
Re[2]: замена всего на 1 сервер
От: Nozama  
Дата: 28.02.21 01:41
Оценка:
Здравствуйте, vsb, Вы писали:

Первое что стало ясно — что главное не заигрываться с железом (так как тема обширна и интересна и можно забыть о начальных целях). Решил просто минимально проапгрейдить свой десктоп (32Gb ECC + старый 4-core Xeon) чтобы добавить ядер (но и это не кажется обязательным), видеокарту-заглушку как вы посоветовали, (еще кстати народ покупает usb controller).

По софту вижу что народ использует Proxmox как оболочку + базовый функционал.

Также понятно, что desktop на server-е это мутант (= плохосочетаемая смесь), т.к. сервер желательно хранить где-то подальше если предполагается 24/7 (шум), но при этом нужен прямой DP кабель (говорят 3 метра максимум), но можно пока только гонять в режиме лаборатории, которая отключается на ночь.

Была идея в сервер поместить текущую физическую win коробочку, которая умеет Zoom+Skype+Chrome и подключена к телевизору в зале, но пока не вижу хорошее решение для прокидывания HDMI сигнала + WebCam сигнала + Usb.
Отредактировано 28.02.2021 2:03 Nozama . Предыдущая версия . Еще …
Отредактировано 28.02.2021 2:03 Nozama . Предыдущая версия .
Re: замена всего на 1 сервер
От: Nozama  
Дата: 10.03.21 02:25
Оценка:
Здравствуйте, Nozama, Вы писали:

N>Привет


N>Можете ли поделиться ссылками и ресурсами и опытом?

N>Хочется рассмотреть вариант сделать дома 1 сервер для нескольких разных машин — смесь Win и Lin виртуалок.

Вообще у меня поубавился энтузиазм по поводу виртуализации, когда я влез в это.




Аргументы "против"

(ниже под Win машиной я понимаю скорее "рабочую станцию" с переферией, в моем случае это Windows)

— Win вирт машина с экраном и камерой в другой комнате имеет мало смысла, т.к. нужно тянуть нормальные кабели, если не хочется иметь лаги, хочется иметь вэбкамеру без гемороя

— Win вирт машина требует чтобы сервер стоял рядом с рабочим местом и это значит, что если сервер 24/7, то это лишний шум, лишнее тепло

— Иначе нужно как-то извращаться и передавать сигналы переферии по LAN — я лично не уверен что это вообще реально, т.к. выглядит очень костыльно

— лично в моем случае есть ограничение что мое железо не тянет больше 32gb ram и поэтому мне не особо хочется делить этот объем на 2 машины, для более нового это уже не актуально

— повляется прослойка софта и логики обеспечивающие виртуализацию. с одной стороны — это вероятно из серии "один раз настроил", с другой стороны моя вера в софт и то, что его не нужно будет трогать не очень большая — но надеюсь, что я ошибаюсь

— немного больше ограничений если не серьезный по железу сервер, т.к. меньше остается свободных слотов воткнуть что-нибудь еще, тем более если потребуется расширять разные вирт машины

— в целом имхо добавляется сложность, как-то разные компы соединенные сеткой — это все же когнитивно проще воспринимать, я бы хотел верить, что это просто костность мозга, но... ведь это действительно проще



Аргументы "за"

— Легко бэкапить, для отдельных физических машин нужен какой-то специальный софт и лучше наверное использовать что-то платное для windows по крайней мере

— Нет лишних компов по дому и тянущихся к ним кабелей

— Теоретически меньше энергопотребление (на практике в сервере 24/7 будет работать лишняя видеокарта, лишние диски), т.ч. зависит от того что реально нужно гонять 24/7, может оказаться, что лучше иметь отдельную NAS коробку на ARM например (а платные решения для NAS по идее должны уметь низкое энергопотребление)

— Все же интересно это все попробовать, в принципе без особых расходов можно переделать обычный комп в такой сервер и попробовать на минималках перед покупкой больших дисков и т.п.





Под вопросом

— Если делать NAS, то по идее выигрывает специализированное софтовое решение (меньше гемора настраивать софт) что в принципе уладывается в идею единого сервера, тогда если пользоваться сервером, то сложнее иметь хот свап (сервер вырастет в размерах) и нужно отказаться от хардвер решений (Synology).

— какая скорость обмена данными между машинами? — можно ли легко сделать 10gbit — ведь казалось бы они в одной и той же коробке — это мог бы быть небольшой плюс

— мне не ясно нужен ли ZRAID или даже Hardware RAID, мне кажется, что для домашнего сервера это не обязательно, если настроить бэкап; если же он нужен, то не знаю оправдает ли лишний гемор полученные плюсы

— интересным для меня оказался факт, что не все видяхи поддерживают 4k60hz, далеко не все имею DP, а те, что имеют — не имеют пассивного охлаждения — я был сильно удивлен, но можно найти бу nvidia quadro 600 за копейки





(мой) Вывод -- сервак идеален для машин, где не нужна переферия (не рабочих станций). Для домашнего использования без потребности гонять большое число таких машин — когнитивно проще иметь несколько разных физических машин.

Интересно что также вариант иметь сервак в облаке имеет много минусов — дорого + ограничение канала связи как минимум.
Re[2]: замена всего на 1 сервер
От: Nozama  
Дата: 11.03.21 00:53
Оценка:
Здравствуйте, Nozama, Вы писали:

N>- Иначе нужно как-то извращаться и передавать сигналы переферии по LAN — я лично не уверен что это вообще реально, т.к. выглядит очень костыльно


На самом деле нашел 10 метровый HDMI кабель с поддержкой 4k60hz, попробую ради интереса. CatX выглядит более предпочтительным, т.к. шанс что он умрет меньше, но нужны переходники на обе стороны.

С USB ситуация похожая, только 10 метровые кабель найти сложно, решил пока попробовать недорогой USB 2.0 протянуть опять же ради интереса. (должно тянуть и хаб и камеру 1080p в теории, посмотрим как на практике)

Так оба протокола имеют переходники через CatX, но там цены начинают ползти вверх, а я пока в режиме эксперимента.

Легкий бонус от такого решения, что можно убрать рабочий ноут с глаз долой и сделать бесшумное рабочее место (ибо ноут шумит и греется). Ну и сервер тоже можно убрать в условный чулан.
Отредактировано 11.03.2021 0:56 Nozama . Предыдущая версия .
Re[2]: замена всего на 1 сервер
От: SkyDance Земля  
Дата: 11.03.21 05:26
Оценка:
N>(мой) Вывод -- сервак идеален для машин, где не нужна переферия (не рабочих станций). Для домашнего использования без потребности гонять большое число таких машин — когнитивно проще иметь несколько разных физических машин.

Пришел к аналогичному выводу. Серверу — серверное, десктопу — десктопное.
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.