Hodí se Xeon v4 do labky?

[PavelPalda]

Dobrý den,

nechci hlučný server, chci hodně tichý a taky chci 64 GB paměti na virtualizaci.
Četl jsem tohle, ale nevím, jestli ten xeon není moc starý.
Tiché to asi jde udělat. A nemám na to moc peněz.
https://pctuning.cz/article/stavime-bastlici-pocitac-s-64-gb-ddr4-a-12-jadrovym-cpu-do-5-6-tisic

Můžete mi poradit, jestli se to dá použít?
DDR5 paměti jsou drahé a na 64 GB nemám peníze.
Chci Proxmox a zkusit to PCIe Passthrough, abych mohl připojit grafickou kartu pro PyTorch, no kdyby to nešlo, obejdu se bez Proxmoxu.

[Reklama]

[RDa]

Pokud je stropem 64G, pouzij jakykoliv desktop modernejsi nez Haswell (to je ten xeon v4).

Pokud chces levne pameti - tj. pouzit REG moduly o ktere bezni lidi nestoji a jsou levnejsi, tak se 2011-3 socket da zvazit.. ale vyhni se tem cinskym smejdum. Porid si legit serverovej board napr. od Supermicro / Asrock, nebo po provereni ze REG pameti pojedou tak klidne nejakou X99 chipsetovou od MSI / Asus (mozna ECC funkce budou zde pak vypnuty biosem).

PCIe PT jede, co obcas nejede je model grafiky vs konkretni verze driveru, ze odmita slouzit pod VM. Udelej si research podle HW ktery mas.

[JenBob]

Umí vůbec Python využít víc vláken?

Výkon na jedno vlákno je nižší než už Ryzenu, v článku to je.
https://pctuning.cz/article/stavime-bastlici-pocitac-s-64-gb-ddr4-a-12-jadrovym-cpu-do-5-6-tisic?chapter=6#article-header

[Zopper]

Umí vůbec Python využít víc vláken?

Ano, python paralelizovat umí. Měl jsem už napsanou dataprocessing aplikaci v Pythonu a paralizace toho procesování zrychlovala (do dosažení limitu HW) zhruba podle teorie: dvě vlákna = poloviční čas.

A zrovna zmíněný PyTorch je IMO zlatý standard, který kolem AI používá skoro každý. Plus, buďme upřímní, na CPU výkonu tady fakt nezáleží. AI, ať už tréning nebo inferenci, potřebuje HW akceleraci -> GPU. CPU se tady akorát fláká (leda by člověk měl dost GPU na to, aby to CPU nějak zaměstnal, ale to by si pak OP určitě našel pár drobných na ten zbytek železa. :-) )

[Zopper]

nechci hlučný server, chci hodně tichý a taky chci 64 GB paměti na virtualizaci
...
Chci Proxmox a zkusit to PCIe Passthrough, abych mohl připojit grafickou kartu pro PyTorch,

Pokud tam dáš nějakou vícevětrákovou GPU na tu AI, tak je úplně jedno, co za CPU tam dáš, tiché to prostě nebude. Just sayin...
Mám postarší Xenon a GeForce 5xxx řady. CPU se fláká a větrák skoro netočí, zato GPU topí a hučí jak turbína.

[Reklama]

[PavelPalda]

Grafická karta má sice jen osm giga paměti, ale má od výrobce velké vodní chlazení, je tichá.
RDa ty desky co radíš jsou moc drahé, nemám na to.
Zopper má pravdu a NumPy vlákna využít umí.

Asi to zkusím postavit, ten Xeon asi bude fungovat.