Proxmox a VMs si navzájem ovlivňují CPU

[metalmaus]

Ahoj,
mam Proxmox 7.2-11 a na jednom nodu VMs (32 jader) si navzájem ovlivňují CPU. Celkem má hypervizor/node 104 (2x2x26) jader Xeon(R) Gold 5320 CPU @ 2.20GHz a na node mam 3x VM.

Když běží 2, tak CPU na nich je v pohodě na 30%. Když spustím 3, tak se CPU zvedne na 90-100% na všech. Na výběru VM nezáleží.

Zkoušel jsem izolovat CPU hypervizoru pomocí

Kód: [Vybrat]

taskset --cpu-list --all-tasks --pid 64-95 $(< /run/qemu-server/XXX.pid), ale nepomáhá to.

Netušíte někdo, čím to může být? Já myslel, že by se to nemělo dít, ale jsem dost začátečník a s proxmoxem pracuju jen 3 roky.

[Reklama]

[RDa]

Me to v KVM ukazuje taky blbe a na pocatku jsem se prihlasoval do VM ze co mi zere cpu.. a pak jsem dohledal ze za to muze frequency scaling na hostu v kombinaci s dynamicky pridelovanim cpu do guestu - proste guest si mysli ze i v idle natrefil na hranici co zelezo da, ale netusi ze mu bude dalsi prostor pridelen, az bude treba.

Se podivej jak se ti meni frekvence jader pri 2 vs 3 VM.

[metalmaus]

Problém je, že mi na těch virtuálních strojích běží apiikace, která provádí výpočty na CPU a u ní se to zvýšené zatížení CPU projevuje
Na frekvence jader kouknu, dík.

[🇺🇦 GPU]

Nepomohlo by nastavit u VM CPU "Type" na "host"? Jen takový výstřel od boku. Defaultně je tam tuším kvm něco kvůli kompatibilitě při migrací mezi různými stroji (s různými CPU).

[czechsys]

Ma to tedy 2x Xeon nebo 4x? Ten popis neni jednoznacny.

Urcite bych vypnul dynamicke/usporne nastavovani frekvence v biosu.

[Reklama]

[metalmaus]

2 x fyzický XEON

[metalmaus]

Me to v KVM ukazuje taky blbe a na pocatku jsem se prihlasoval do VM ze co mi zere cpu.. a pak jsem dohledal ze za to muze frequency scaling na hostu v kombinaci s dynamicky pridelovanim cpu do guestu - proste guest si mysli ze i v idle natrefil na hranici co zelezo da, ale netusi ze mu bude dalsi prostor pridelen, az bude treba.

Se podivej jak se ti meni frekvence jader pri 2 vs 3 VM.

Frekvence se nemění

Kód: [Vybrat]

lscpu | grep MHz

[metalmaus]

Nepomohlo by nastavit u VM CPU "Type" na "host"? Jen takový výstřel od boku. Defaultně je tam tuším kvm něco kvůli kompatibilitě při migrací mezi různými stroji (s různými CPU).

host nepomohlo, ale díky

[martinjk]

Vyzkoušej vypnout HT a přiděl jen počet jader co budeš mít - 2. Třeba to pomůže.

[a12]

nemas tam nahodou zaply halt_polling ?

https://www.kernel.org/doc/html/latest/virt/kvm/halt-polling.html

[czechsys]

2 x fyzický XEON

Takze to shrneme.
Na tech VM se delaji vypocty vyzadujici cpu.
Mame tu 2x26 fyzickych jader, 2x26 htt jader. Tzn 52 fyzickych, 52 htt.
2 bezici VM kazda 30% cpu zatizeni = 64 jader
3 bezici VM kazda 90+% cpu zatizeni = 96 jader

Ani by mne neprekvapilo, ze v takovehle kombinaci by tam byly vysoke cpu steal/context switche, cili poddimenzovany HW ci predimenzovane VM konfigurace.

[metalmaus]

nemas tam nahodou zaply halt_polling ?

https://www.kernel.org/doc/html/latest/virt/kvm/halt-polling.html

Zkusil jsem vypnout a nic

Kód: [Vybrat]

echo "options kvm halt_poll_ns=0" | tee --append /etc/modprobe.d/qemu-system-x86.conf
cat /etc/modprobe.d/qemu-system-x86.conf
options kvm halt_poll_ns=0
cat /sys/module/kvm/parameters/halt_poll_ns
0


[metalmaus]

Tak teď to vypadá, že aplikaci ovlivňuje počet RAM modulů. mbw ukazuje, že se snižuje rychlost. Je rozdíl mít v jednom serveru 12x 8GB modulů a v druhém 2x 32 GB. Jsem asi lama.

[geekyfreak]

Asi bych doporucil procist: https://pve.proxmox.com/pve-docs/chapter-qm.html
od "CPU Type" az po "NUMA" (vcetne). Predpokladam, ze mate vypnuty Ballooning.

Dal se podivejte jak pridelujete procesory do VM, tohle napovi: https://forum.proxmox.com/threads/sockets-vs-cores-vs-threads-vs-vcpu-vs-cpu-units.110868/

Na konci tohoto dotazu: https://www.reddit.com/r/Proxmox/comments/v8brzd/help_neededcpu_pinning_for_proxmox_72/
dal hodny clovek celkem uzitecne shrnuti/skripty: https://github.com/ayufan/pve-helpers

Prijde mi, ze vam tam bojuji dve veci proti sobe a nemuze se to dohodnout.

[zigi]

Dobrý den,

  pokud Vám na hypervizoru běží numad zkuste vypnout - systemctl stop numad.service.

Máte velká VMs - hodně CPU a předpokládám i hodně RAM a pak se to navzájem pere, protože se to snaží přesouvat proces na CPU a jeho lokální RAM.