Levný nevýkonný hardware na virtualizaci

Levný nevýkonný hardware na virtualizaci
« kdy: 08. 11. 2024, 11:51:53 »
Ahoj,

potřebuji trochu zkonsolidovat služby běžící v mém home-labu, které aktuálně běží na OrangePi 3 LTS, Raspberry 4 a na windowsí mašině, a přesunout je do virtuálek, ať běží na jednom železe v racku.
Jako bonus se rád naučím třeba s Proxmoxem (potažmo variantou je i libvirt/KVM).

Prosím o radu, co byste použili za fyzický stroj.

Jen tak pro představu, na čem teď co běží:

HP EliteDesk 800 G2, Core i5-6500T, 24GB RAM
- Win Server 2008R2 (prosím nekomentovat), slouží hlavně jako NAS, Veeam backup, pokusné interní AD, doteď se na tom občas pouštěly filmy

Raspberry Pi 4, 4GB RAM, Armbian 23
- Docker, kontejnery Portainer a Guacamole
- Zabbix
- nginx jako reverse proxy pro několik hostů
- apache2 (4 nenáročné virtualhosty) + php + mariadb
- tvheadend, 2 DVB-T2 tunery
- samba share
- chronyd + gpsd
- avahi-daemon
- rsyslogd
- snmpd
- mosquitto

Orange Pi 3 LTS, 2GB RAM, Armbian 23
- RTL-SDR receiver, dump1090-mutability, agenti pro čtyři feedy
- OpenWebRx

Většinu času se stroje v podstatě flákají v idle a jediné významnější loady vycházejí ze Zabbixu. Spotřeba HP EliteDesku je 8W, RPi4 žere 5W, OPi3 žere 3.8W.

Tudíž když to shrnu, hledám nějakou mašinku typu toho EliteDesku (ten budu potřebovat použít jinde), aby to žralo v idle míň jak 20W, nacpal bych do toho aspoň 16GB (lépe 24 nebo 32GB) RAM a komfortně bych na tom rozfungoval jedno VM s Windows a dvě VM s Linuxem. CPU asi nijak zvlášť nehraje roli (jen by to samozřejmě chtělo VT-x).
Budu potřebovat promapovat fyzické USB porty dovnitř VM - nějak jsem nedohledal, zda to vyžaduje nějakou featuru CPU (VT-d by se měl týkat PCI, nevím jak u USB).
1U form factor by byl obrovský plus, ale klidně to položím na poličku (a nebo "bare motherboard" položím do prázdného 1U kejsu).
Ale nejvíc jde asi o tu "idle" spotřebu, pojede to 24/7/365.

Co by vás napadlo za optimální mašinu? Klidně i jen inspiraci (nebráním se i nějakému miniITX či tak nějak, nebráním se bastlení, určitě hraje roli i cena)


Re:Low-power low-cost HW na virtualizaci
« Odpověď #1 kdy: 08. 11. 2024, 12:17:20 »
Ahoj,

potřebuji trochu zkonsolidovat služby běžící v mém home-labu, které aktuálně běží na OrangePi 3 LTS, Raspberry 4 a na windowsí mašině, a přesunout je do virtuálek, ať běží na jednom železe v racku.
Jako bonus se rád naučím třeba s Proxmoxem (potažmo variantou je i libvirt/KVM).

Prosím o radu, co byste použili za fyzický stroj.

Jen tak pro představu, na čem teď co běží:

HP EliteDesk 800 G2, Core i5-6500T, 24GB RAM
- Win Server 2008R2 (prosím nekomentovat), slouží hlavně jako NAS, Veeam backup, pokusné interní AD, doteď se na tom občas pouštěly filmy

Raspberry Pi 4, 4GB RAM, Armbian 23
- Docker, kontejnery Portainer a Guacamole
- Zabbix
- nginx jako reverse proxy pro několik hostů
- apache2 (4 nenáročné virtualhosty) + php + mariadb
- tvheadend, 2 DVB-T2 tunery
- samba share
- chronyd + gpsd
- avahi-daemon
- rsyslogd
- snmpd
- mosquitto

Orange Pi 3 LTS, 2GB RAM, Armbian 23
- RTL-SDR receiver, dump1090-mutability, agenti pro čtyři feedy
- OpenWebRx

Většinu času se stroje v podstatě flákají v idle a jediné významnější loady vycházejí ze Zabbixu. Spotřeba HP EliteDesku je 8W, RPi4 žere 5W, OPi3 žere 3.8W.

Tudíž když to shrnu, hledám nějakou mašinku typu toho EliteDesku (ten budu potřebovat použít jinde), aby to žralo v idle míň jak 20W, nacpal bych do toho aspoň 16GB (lépe 24 nebo 32GB) RAM a komfortně bych na tom rozfungoval jedno VM s Windows a dvě VM s Linuxem. CPU asi nijak zvlášť nehraje roli (jen by to samozřejmě chtělo VT-x).
Budu potřebovat promapovat fyzické USB porty dovnitř VM - nějak jsem nedohledal, zda to vyžaduje nějakou featuru CPU (VT-d by se měl týkat PCI, nevím jak u USB).
1U form factor by byl obrovský plus, ale klidně to položím na poličku (a nebo "bare motherboard" položím do prázdného 1U kejsu).
Ale nejvíc jde asi o tu "idle" spotřebu, pojede to 24/7/365.

Co by vás napadlo za optimální mašinu? Klidně i jen inspiraci (nebráním se i nějakému miniITX či tak nějak, nebráním se bastlení, určitě hraje roli i cena)

Virtualni server u některého providera, tam přesunout aplikace, které už současný lab nestíhá a ostatní nechat jak je? Raději bych víc zařízení, než jedno. Když se něco pokazí, tak není hned vše mimo provoz.

Pokud trváš na konsolidaci na jedno zařízení a pořád se to fláká, tak možná nějaké mini-pc?

Já jsem třeba začal používat MS Office pro rodiny. Za pár korun to vyřešilo dost věcí jako 1T záloha pro každého člena rodiny, data mimo Google ekosystem k tomu mám jeden virtuál u Contabo, ale tam zatim nic moc nejede. Jen to zkouším jestli a jak to pojede.

Re:Low-power low-cost HW na virtualizaci
« Odpověď #2 kdy: 08. 11. 2024, 12:24:32 »
Na podobny ucel pouzivam ASUS PN50 s 64GB RAM, 1TB SSD, virtualizace Proxmox a v tom trvale 4 virtualy (napr homeassitant, OPNsense). Spotreba iddle ~10W (s 32GB to zralo jen ~9W, ale virtualy obcas proste pamet potrebuji), v zatizeni stoupa na 20-30W.
Drobna chyba je chlazeni konstrukcne vhodne pro notebook, takze to mam prestehovane na velky zebrovany pasivni chladic co k tomu delala Acassa.
Ted bych sel do novejsiho Asus PN53 (opet prestehovat na pasiv)
Nevyhoda obou zminenych je pouze 1 ethernet port, takze pro virtualni firewall (OPNsense) mam USB3 sitovku (nebo je mozne provozovat ten jeden port s tagovanyma VLANama)

A na hrani mam HP T640 (aktualne k sehnani jako repase za cca 1600Kc, jde do toho narvat 64GB RAM, takze jede i na Proxmoxu, ale neni vhodny na ulohy s naroky na CPU, ten je slaby https://www.parkytowers.me.uk/thin/hp/t640/linux.shtml ).
Vsechny 3 pripady jsou s Ryzen procesorem (protoze pomer spotreba / vykon je proste lepsi nez co nabizi Intel)

Re:Low-power low-cost HW na virtualizaci
« Odpověď #3 kdy: 08. 11. 2024, 12:49:22 »
OrangePi, RaspberryPi(fuj uzavřený kód) a dalsi Pi jsou takový chyták od/na techbros.
Pokud vyloženě nepotřebuješ využít GPIO(popřípadě specializovaný chip), tak nedává vůbec smysl si něco takového kupovat, nemůžeš vyměnit CPU, RAM a kolikrát to neumi defaultně ani M.2 SSD (Rpi lol).

Jak tu zmiňoval kolega předemnou, já doplním TinyMiniMicro.
Ale ty od Lenovo.
Zde je popis jednotlivých modelů a co umí.

https://forums.servethehome.com/index.php?threads/lenovo-thinkcentre-thinkstation-tiny-project-tinyminimicro-reference-thread.34925/

Např. M920x, 2x M.2 sloty a na tom forum jsou posty, že do toho Pcie narvali lidi i 10Gbe NIC. :-)

Na Allegru je prodávají za levno velké PL firmy.
« Poslední změna: 08. 11. 2024, 12:51:02 od XXX_Sam_XXX »

Re:Low-power low-cost HW na virtualizaci
« Odpověď #4 kdy: 08. 11. 2024, 13:00:52 »
...ASUS PN50 ... Asus PN53 ...
Nevyhoda obou zminenych je pouze 1 ethernet port,...

Proč si nikdy nešel do Lenovo, viz. můj post. Tam dokoupíš i několika portovou NIC.
Za ty peníze co Asus PN53 stojí moc na takový use-case (virtualizace) moc nechodí.


Re:Levný nevýkonný hardware na virtualizaci
« Odpověď #5 kdy: 08. 11. 2024, 13:11:35 »
Protoze jsem to mohl prestavet na pasivni chlazeni (mam to v byte, nejde jen o hluk ale taky o stradani prachu).
To jsem mohl udelat mimo jine proto, ze Ten Ryzen 4500U je vyrazne mene zrava potvora (15W proti 35W)
A o vykonu te PN53 napriklad s CPU Ryzen 7535H nemluve
« Poslední změna: 08. 11. 2024, 13:14:01 od Jiri Dobry »

Re:Levný nevýkonný hardware na virtualizaci
« Odpověď #6 kdy: 08. 11. 2024, 13:16:55 »
Děkuji za příspěvky.

Současný lab právě že stíhá všechno v pohodě, jen je rozstrkaný po bytě a teď při stěhování do domu je ideální příležitost tu rozdrobenost soustředit a zároveň se pořádně naučit virtualizovat (nějaké lehké zkušenosti mám s ESXi a s KVM).
Na VPS někde v datacentru to přesouvat nebudu - jsou tam služby, které mají fyzicky lokální význam (třeba ten ADS-B receiver nebo NAS).

Ale nějaké to mini PC vypadá pořád asi nejnadějněji. Jen ta PN53 je už trochu drahá sranda :( díky za tip na to ThinkCentre.
Zatím to vidím na něco jako https://pc.bazos.cz/inzerat/193324098/lenovo-thinkcentre-m920q.php a nacpal bych tam 32GB DDR4 RAM.

Uvažoval jsem i o notebooku bez displeje (mám tu board Thinkpad W541), je tam i7-4810MQ, nevím jak se to uchladí v případné zátěži. V idle se uchladí pasivně.

GPIO jsem mimochodem používal pro PPS vstup z GPS modulu a pro pokusy s DHT22 senzorem. Nevím ještě, jak bych ten PPS vstup nahradil v případě virtuálky..

LAN port myslím bohatě postačí jeden - tagged trunk a přiřazení VLAN v rámci virtual switche by měl řešit případnou nutnost oddělení síťařiny.

Re:Levný nevýkonný hardware na virtualizaci
« Odpověď #7 kdy: 08. 11. 2024, 13:31:09 »
Koukni i na to HP T640. Za mensi penize, nez ThinkCentre M920x, nepatrne vyssi vykon s mensi spotrebou a je pasivni (druhy ethernet tam jde do m.2 dat taky)

Re:Levný nevýkonný hardware na virtualizaci
« Odpověď #8 kdy: 08. 11. 2024, 13:36:54 »
M920q umí jenom 1x m.2, 1x 2.5"

GPS PPS pomocí USB?
https://kloppenborg.net/blog/gps-pps-over-usb/

Notebook je taky dobrej nápad, mám připravený jeden na předělání do 1U krabice, jen si najít čas :-)
Celý to zbavit šasi, vyndat akumulátor a případně dokoupit větráky.

Re:Levný nevýkonný hardware na virtualizaci
« Odpověď #9 kdy: 08. 11. 2024, 13:39:58 »
Koukni i na to HP T640. Za mensi penize, nez ThinkCentre M920x, nepatrne vyssi vykon s mensi spotrebou a je pasivni (druhy ethernet tam jde do m.2 dat taky)

Kdyžtak recenze zde
https://forums.servethehome.com/index.php?resources/introduction-to-the-hp-t640-thin-client-your-cheap-little-amd-nuc7-alternative.46/

Re:Levný nevýkonný hardware na virtualizaci
« Odpověď #10 kdy: 08. 11. 2024, 14:08:35 »
Těch mini PC HP Prodesk 600 G2/G3 Micro (stejný HW jako tvůj elitedesk)mám ještě asi 20 - výhoda je, že to nic moc nežere, ale vezme to 64GB RAM - kdyby to někoho zajímalo, rád se jich pomalu zbavím. Víc než jich mám v provozu už jich asi nebudu potřebovat, nechám si jich třeba pět v záloze.  Používám je ale úplně stejně na non-critical drobotiny. Zvládne to virtualizaci (ta 4-core i5 není úplně marná), zvládne to kontajnery, nehlučí to a nezabírá místo. A cluster z toho postavíte raz-dva a nezabere to půl bytu :-)

Re:Levný nevýkonný hardware na virtualizaci
« Odpověď #11 kdy: 08. 11. 2024, 14:25:56 »
Tak za jeden Prodesk G2/G3 Micro bych se asi nezlobil :) záleželo by taky na ceně samozřejmě + určitě na to nepospíchám.

Ten HP T640 s Ryzenem vypadá taky moc dobře a z Polska jde koupit za dva tisíce..

GPS PPS via USB, super, díky převelice. Žil jsem v přesvědčení, že PPS je signál s takovou úrovní preciznosti, že latence qůli délce USB frame hraje zásadní roli. (chcu přesný čas kvůli MLAT při příjmu ADS-B; domácí NTP server je až sekundární důvod)

Re:Levný nevýkonný hardware na virtualizaci
« Odpověď #12 kdy: 08. 11. 2024, 14:48:43 »
Protoze jsem to mohl prestavet na pasivni chlazeni (mam to v byte, nejde jen o hluk ale taky o stradani prachu).

Jak moc je toho prachu? Jestli by nestálo za úvahu zároveň pořešit nějakou krabici s prachovým filtrem. Ale bude to samozřejmě chtít tichý větrák, co bude vzduch vyfukovat ven, nebo naopak skrz ten filtr tahat dovnitř.

Re:Levný nevýkonný hardware na virtualizaci
« Odpověď #13 kdy: 08. 11. 2024, 15:16:52 »
Nejde ani tam o mnozstvi prachu jako kostrukci chlazeni co tyhle male krabicky maji. V principu notebookove chlazeni. Heatpipe, ktera ma na konci hromadu drobounkych zeber vytvarejicich kanal tak 4x1 cm prohaneny drobnym radialnim ventilatorem. Jde o to, ze vstup tech zeber je tesne u sebe a celkem rychle se ucpe.
A pak to vypada nejak takto https://www.alamy.com/stock-photo-dirty-laptop-cooling-system-close-view-on-details-47822675.html

Notebooky, ktere si nekdo bere do postele tim trpi desne (kdyz prijde nekdo, ze se mu zpolamalil notebook, uz jdu skoro najisto). Tohle si do postele netaham, ale pri provozu 24/7 se to postupne nastrada a ucpe. Bezne PC tim tolik netrpi (je tam vic mista, takze ucpani trva dele), ale uz jsem videl veci. PC pozirajici mastny prach z kuchyne napriklad. A vrchol bylo PC od typka, co palil jedo cigaro za druhym (z toho sla zachranit jen data, vsechno pokryval neodtranitelny zlutohnedy sajrajt, radeji si ani nepredstavuji jak vypadaji jeho plice)

PS: nedelam servisaka, ale znate to. Skoro porad je za dverma fronta "znamych" co potrebujou "zachranit"

Re:Levný nevýkonný hardware na virtualizaci
« Odpověď #14 kdy: 08. 11. 2024, 15:34:11 »
Připojuji se k hlasu pro HP T640. Zcela pasivní, 64GB RAM max (osobně mám jen 32 = 2 x 16GB). 2 x M.2 NVMe (jeden napřímo, druhý lze přes https://vi.aliexpress.com/item/1005004462272992.html do M.2 slotu pro Wifi (sice jen jedna PCIe v.3 linka, ale i tak zvládá cca 700MB/s. Akorát po připojení druhého disku neběží bios rozhraní (klasická kvalita programování biosu...., pro bios je holt potřeba jeden z disků dočasně odpojit). ZFS v mirroru na tom běží výborně, boot přes EFI ZFSBootManager. Třetí NVMe disk v případě potřeby přes USB-C 3.1  Velice vzhledné, kompaktní, kvalitní značkový zdroj. Cena 1300Kč z Allegra + RAM + disky. Repas, ale nelze poznat, že není nový.