Levný nevýkonný hardware na virtualizaci

[k3dAR]

Zmerane : 5.7 W :
https://blog.kroy.io/2019/12/08/the-wyse-5070-a-perfect-little-vyos-device/

No vzdyt jo, 5.7W nameril v idle, ale v zatezi (ktere se resilo ze 7W je malo na CPU s 10W) pak nameril 15W...

Ja idle namerim 5W s Lenovo Tiny M710q s Xeon E-2176M ktere ma TDP 45W (i kdyz v tom Tiny mozna je stahle na 35W)

Druha vec pak je co kdo si predstavi pod Idle (jsou/nejsou bezici nejake sluzby? Je nastartovan Desktop? Atd) a Running (bezi jake programy? Benchmark s CPU na max zatizeni vsech jader? Nebo je provozni zatizeni bezicich sluzeb? Atd) ;⁠-⁠)

[Reklama]

[František Ryšánek]

Mala nezvyklost techle Silver/Gold CPU je ze nemaji avx2

To s tim AVX2 je rozdil mezi celeron/pentium a plnohodnotnym Core (i3/5/7/9).

Hele míchají se tu plnotučná jádra rodin Core i... a jádra Atomová, která Intel prodává jako Pentium / Celeron. ATOMy rozhodně nikdy neoplývaly SIMD instrukcemi.

Přitom označení Pentium a Celeron se používá také pro ořezanější verze plnotučných Core i, které mohou těch SIMD rozšíření podporovat víc.

A naopak Core i3-N je ve skutečnosti ATOM.

Cokoli má TDP 10W a míň, to je velmi pravděpodobně nějaký ATOM. Z "instrukčně plnotučných" se do toho vejdou snad některé modely Core-U/Y.

Jenom záměrné zmatení názvosloví ze strany výrobce.

A souhlas, AMD v tom nedělá takový binec.

[František Ryšánek]

Jak muzoum mit ty stroje spotrebu 7W, kdyz TDP procesoru (obou) je 10W? :-)

Údaj TDP donedávna u Intelu znamenal "tepelnou obálku", spotřebu v nejhorším případě, kdy procesoru přivodíte lstivou všestrannou zátěží epileptický záchvat. Součet všech bloků plnou parou vpřed. Reálná spotřeba byla vždy nižší. A protože dnešní procesory umí být v idle opravdu úsporné, nebyl problém aby procesor s TDP 35W bral v idlu třeba 2-4 W. Podotýkám samotný procesor - něco sežere čipset okolo, disky, RAM, ventilátory, ztráty napájecího zdroje.

Od jisté doby u Intelu TDP je údaj "takhle nějak to žere, když na tom něco trochu děláte". Přitom spotřeba v okamžiku "CPU dostal za uši na všech jádrech současně" je klidně násobkem TDP... Nevím přesně, kdy s tím přišli... cca 10. generace Core i ? Podle mého ale v oblasti ATOMů je metrologie dodnes relativně v pořádku.

Snad i v té souvislosti vyšlo nové ATX 3.0, kde se píše, že zdroj musí vydržet udávanou jmenovitou zátěž, a po omezenou dobu i něco navíc. Dřív jsem bejval zvyklej, dimenzovat zdroj podle palce na jmenovitých 2x-3x úhrnného TDP spotřebičů v bedně.

[uwe.filter]

V téhle kapacitě už snad ani nedává smysl kupovat klasický rotační disk.

Pořád bude s největší pravděpodobností spolehlivější - hlavně pokud by se jednalo o levnější SSD. Pokud to slouží jako odkladiště dat, nemá smysl o SSD uvažovat (alespoň pro mě ne).


Viz výše.

HDD je spolehlivejsi nez SSD? To je snad vtip roku. Pokud nekdo chce arumentovat tim ze levnejsi SSD odchazeji drive a proto zavedene znacky jsou nespolehlive tak s takovy clovekem se nema cenu bavit o vypocetni technice. To opravdu se musime snizovat k tomu ze budeme za kazdou cenou argumentovat jak dobry vojak Svejk? Jedine tupec by si takove SSD koupil, protoze znaly clovek vi.

Mimochodem me se povedlo koupit 4TB SSD zavedene znacky za cenu za kterou jsem koupil v roce 1999 20GB disk 7200 rpm. Tak co si budeme povidat o cene disku? Jestli chcete levnejsi cokoladu nez za jakou jste ji kupovali pred 10 lety tak dostanete nejakou pochoutku hnede barvy s cukrem ve ktere budete kakao hledat lupou.

Tak prestante blbnout a jesltli nemate dost penez, tak se prestante ponizovat a jedte na brigadu do nemecka za eura.

Klid.

[uwe.filter]

HDD je spolehlivejsi nez SSD? To je snad vtip roku.

Co do spolehlivosti SSD hrozně záleží, co je to za technologii (SLC...QLC a různé hybridy, míra redundance ukládání dat), dále na zátěži, které to SSD podrobujete, a třeba taky na náhlém vypínání napájení (a případných protiopatřeních uvnitř SSD). Jenom hrubá technologie dělá rozpětí cca 700 přepisů až 50k přepisů.

U HDD záleží hlavně na tom, jestli Vám stačí IOps té rotující rzi, a jak se šindelema :-)

Přesně tak, jen pán asi snědl všechnu moudrost světa a jaksi nedokáže pochopit, že za daných podmínek to je přinejmenším pro mě vhodnější řešení.

[Reklama]

[František Ryšánek]

@marder : Jak muzoum mit ty stroje spotrebu ... ? :
Nepr. s tenkym klientom FUJITSU Futro S740 nameral chlapik spotrebu idle 3-4W a je tam CPU Intel Celeron J4105 s typical TDP 10W :
https://www.dimitri-henning.de/projects/fujitsu_futro_s740/

J4105 je Gemini Lake ATOM. Moderní, out-of-order... ATOM. U něj je TDP udáváno postaru = konzervativně, a spotřeba 3-4W je realitou. Jeden z posledních 14nm generací. Cca pravnuk svého času průlomového ATOMu BayTrail.

Na znizenie spotreby elektriny doporucujem este tento clanok :
https://www.virtualizationhowto.com/2024/09/enable-cpu-c-states-for-massive-power-savings-for-your-home-server/

S tímhle doporučením opatrně, C-states můžou zhoršit latence. Jak moc, to záleží jak hluboké C-stavy povolíte. U blbě napsaného softwaru, kde máte finální latenci uživatelského rozhraní závislou na součtu nějakého řetízku dílčích latencí (síťových, nebo třeba jenom inter-process) může být efekt dost drastický. Obecně se C-stavy v serverech spíše omezují, ano za cenu spotřeby.

[fanoush]

J4105 je Gemini Lake ATOM. Moderní, out-of-order... ATOM. U něj je TDP udáváno postaru = konzervativně, a spotřeba 3-4W je realitou.

3-4W je realitou, ale jenom v idle, cpu nesmi delat nic. Pokud zarizeni J4105 zatizite zere klidne i 20-30W. Treba Wyse 5070 ma variantu s J4105, jeden takovy mam.

[fanoush]

Hele míchají se tu plnotučná jádra rodin Core i... a jádra Atomová, která Intel prodává jako Pentium / Celeron. ATOMy rozhodně nikdy neoplývaly SIMD instrukcemi.
....
Jenom záměrné zmatení názvosloví ze strany výrobce.

To mi teda taky pripada jako dalsi pokracovani v tom mateni. Je mi vcelku jedno jakou nalepku tomu Intel da ale spis jake to ma instrukce. to je pro kazdy procesor videt tady

https://www.intel.com/content/www/us/en/products/sku/128989/intel-celeron-j4105-processor-4m-cache-up-to-2-50-ghz/specifications.html
https://www.intel.com/content/www/us/en/products/sku/212327/intel-pentium-silver-n6005-processor-4m-cache-up-to-3-30-ghz/specifications.html
https://www.intel.com/content/www/us/en/products/sku/231803/intel-processor-n100-6m-cache-up-to-3-40-ghz/specifications.html

3 generace po sobe, v zalozce "Advanced Technologies" prvni dva maji Intel® SSE4.2 (coz jsou SIMD instrukce, takze "oplyvaji" vsechny?) a posledni tam ma "Intel® SSE4.1, Intel® SSE4.2, Intel® AVX2" takze  uz konecne pridali AVX2.

Jestli je teda N100 "Core" nebo "Pentium" nebo "ATOM" nevim, ale asi to moc nepomuze, tady https://en.wikipedia.org/wiki/Alder_Lake#Alder_Lake-N mu pro jistotu nerikaji nijak :-)

[fanoush]

tady https://en.wikipedia.org/wiki/Alder_Lake#Alder_Lake-N mu pro jistotu nerikaji nijak :-)

Aha, N100 link vede na https://en.wikipedia.org/wiki/Gracemont_(microarchitecture) predchozi (N6005) je Tremont a predchozi (J5005,J4105) je Goldmont Plus

[dj-bobr]

Pak se ještě naskýtá otázka, co vlastně všechno potřebuju za podporované technologie a instrukční sady pro "můj" účel nenáročné proxmoxí virtualizace Win a Linuxu.

Pochopil jsem, že potřebuji VT-x (a teoreticky VT-d v případě, že bych chtěl tunelovat SATA řadič dovnitř VM skrze IOMMU), ale je mi k něčemu AVX2?

"Tuneluje" se podpora těchto speciálních instrukčních sad do VM? = kdyby mě napadlo kompilovat Linux kernel pro VM, musím přizpůsobit kompilační parametry instrukční sadě hypervizora?

[fanoush]

ale je mi k něčemu AVX2?

Zalezi co clovek chce bezet, s virtualizaci to nesouvisi. Ja na to prisel tak, ze jsem ten N6005 chtel otestovat, tak tam strcil 32GB RAM a nainstaloval https://www.nomic.ai/gpt4all a chtel srovnat kolik to cpu (pripadne GPU) zvladne tokenu/s (oproti jiny strojum, treba ten T630, ktery to zvlada jak na CPU tak GPU ale na obou samozrejme dost tragicky) a zjistil ze to nebezi vubec a nikdy bezet nebude protoze chybi avx2 coz autori povazuji za prastarou sadu ktera je za ty leta uz vsude.

Ale pro bezne veci, na ktere ten vykon staci, bych rek ze to nevadi, proto jsem to zminil jen jako zajimavost. gpt4all byl jen test, stejne by to bezelo pomalu i kdyby to to avx2 zvladalo.

[František Ryšánek]

Přesně tak, ohledně SIMD na ATOMech několik generací platilo, že ATOM má nanejvýš SSE 4.x, a jenom plnotučná jádra mají obvykle novější generaci = AVX resp. už pár generací AVX2. Důvody vidím dva základní: jednak může hrát roli marketingová segmentace, ale osobně vnímám spíš důvod technický: ATOM má být štíhlý a úsporný, a zrovna u SIMD instrukcí každá novější generace s oblibou zdvojnásobila "šířku orby", tyhle výpočetní instrukce zabírají hodně křemíku, žerou a topí. Správně říkáte, že Alder Lake N už má údajně AVX2. Přestože do plnotučného desktopu (Intel) se zatím nedostalo AVX512, jestli správně koukám. (Na rozdíl od AMD.)

K čemu je to dobré? Tradičně na hrubou paralelní aritmetickou sílu. Násobení vektorů. Rendering 3D grafiky, video komprese/dekomprese, neuronky. Novější SIMD rozšíření (AVX a výš) se víc zaměřují i na jiné věci - snad řetězcové operace, tuším i nějaké hromadné "pointer indirections" apod. Podrobněji to neznám a nechci se ztrapňovat fabulací :-)
S virtualizací to přímo nesouvisí.
Případně bych hledal čertovo kopýtko v tom, že pokud má kernel podporu, tak ta podpora může znamenat vyšší režii "context switchů" v multitaskingu (protože se kernel bude snažit ochránit obsah AVX registrů). Ale neznám podrobnosti a cucám si to z prstu.

[RDa]

... ale osobně vnímám spíš důvod technický: ATOM má být štíhlý a úsporný, a zrovna u SIMD instrukcí každá novější generace s oblibou zdvojnásobila "šířku orby", tyhle výpočetní instrukce zabírají hodně křemíku, žerou a topí. Správně říkáte, že Alder Lake N už má údajně AVX2. ...

Prave proto, ze N100 je je zalozen na Alder-Lake, tak to je tehnicky lehce vysvetlitelny - obsahuje pouze ta E-jadra, zadne P-jadro. Kdyz uz to meli navrzene a odladene, tak se to proste takhle pouzilo.

Problem s AVX512 byl, ze ty P-jadra to meli, ale E-jadra nikoliv, takze se muselo jet na nejmensi spolecny rezim - tj. AVX512 se marketingove vypnulo pro dobro uzivatelu :)

A u starsich generaci s temi Celerony a Pentii to bylo taktez zakazany umele (navrhy jader to jine nemelo a sance ze se chyba trefi do avx2 jednotek je miziva aby na to vyslovene sbiraly cipy) - vsechny moderni cpu se delaj jako kompletne vsechno se vsim, a pak to bohuze marketing zkripli, aby z lidi tahal penize za nezkripleni. Vcelku mafianska praktika a neni divu, ze z toho vyrobce nabral spatne navyky.

Případně bych hledal čertovo kopýtko v tom, že pokud má kernel podporu, tak ta podpora může znamenat vyšší režii "context switchů" v multitaskingu (protože se kernel bude snažit ochránit obsah AVX registrů). Ale neznám podrobnosti a cucám si to z prstu.

U realne virtualizace (s VT-x) jsou ty kontext switche vykonavane nativne. A kernel do toho netahej - existuje hypervisor, ktery spi, a pak guest, ktery si dela co chce (at uz v user nebo kernel mode).

[František Ryšánek]

Ohledně rodokmenu Alder Lake N: však právě :-) Mně se líbí, že mu z velkého AlderLake nechali velkou cache. Ona sice něco žere, ale to jí nakonec odpustím. A zároveň až 8 úsporných atomových jader, přitom se to prodává jako procesor do kanceláře nebo HTPC. Těch 8 úsporných jader je náhodou bezva i na server a malou domácí virtualizaci. Doteď se vícejádrový ATOM dal pořídit jenom jako svérázný serverový procesor a stál baťoh.

A k těm context-switchům a AVX/2/512: já vím že se tu někdo ptal, jak to jde dohromady s virtualizací. Uhnul jsem od tématu a zmínil jsem, že to možná má určitou režii navíc i v rámci jediné instance OS. Při "plánování procesů".
A ohledně té virtualizace: co všechno přesně dělá VT-x nevím, každopádně pokud se na jednom jádře střídají (dělí se o čas) dva VM guesti, tak i v tomto případě je potřeba se postarat se o "pushnutí kontextu kamsi do RAM". A jestli to dělá OS nějak explicitně, nebo se to děje "skryto" fíkovým listem VT-x, ... je v tom ve výsledku velkej rozdíl? Myslím co do režie.