Výkonnostní dopad LUKS

MP

Výkonnostní dopad LUKS
« kdy: 29. 03. 2018, 11:03:10 »
Ahoj,
nema nekdo nejaka data?
Dell R940, Xeon 6136 3GHz, Perc H740p, 4x SAS12G SSD v R10, fio 75/25 R/W test:
1] no luks: 73k/24k IOPS
2] luks: 54k/18k IOPS
Zasifrovana je primo VG na sdxy, nasledne lv->ext4->fio test.
Propad 26%, je to bezne? Kolega testoval na jinem serveru, HW raid + SATA SSD a jeho rozdil je 1-2%...

Kód: [Vybrat]
# Tests are approximate using memory only (no storage IO).
PBKDF2-sha1      1483134 iterations per second for 256-bit key
PBKDF2-sha256    1688528 iterations per second for 256-bit key
PBKDF2-sha512    1381523 iterations per second for 256-bit key
PBKDF2-ripemd160 1061311 iterations per second for 256-bit key
PBKDF2-whirlpool  802891 iterations per second for 256-bit key
#  Algorithm | Key |  Encryption |  Decryption
     aes-cbc   128b  1128.1 MiB/s  3449.6 MiB/s
 serpent-cbc   128b    94.6 MiB/s   695.0 MiB/s
 twofish-cbc   128b   209.0 MiB/s   387.8 MiB/s
     aes-cbc   256b   854.5 MiB/s  2771.3 MiB/s
 serpent-cbc   256b    94.5 MiB/s   697.7 MiB/s
 twofish-cbc   256b   208.4 MiB/s   385.4 MiB/s
     aes-xts   256b  1906.0 MiB/s  1887.5 MiB/s
 serpent-xts   256b   676.2 MiB/s   686.8 MiB/s
 twofish-xts   256b   377.3 MiB/s   381.8 MiB/s
     aes-xts   512b  1767.6 MiB/s  1760.7 MiB/s
 serpent-xts   512b   682.1 MiB/s   692.8 MiB/s
 twofish-xts   512b   373.6 MiB/s   373.5 MiB/s


LUKS header information for /dev/sdb1

Version:        1
Cipher name:    aes
Cipher mode:    xts-plain64
Hash spec:      sha256
Payload offset: 4096
MK bits:        512

Diky
« Poslední změna: 29. 03. 2018, 12:09:04 od Petr Krčmář »


Trubicoid2

Re:LUKS performance hit
« Odpověď #1 kdy: 29. 03. 2018, 11:57:56 »
Napadá mě třeba špatný zarovnání na 4K sektory? cryptsetup luksFormat —align-payload
Zarovnání je vidět cryptsetup luksDump myslím

Re:Výkonnostní dopad LUKS
« Odpověď #2 kdy: 29. 03. 2018, 12:46:28 »
Jake algoritmy a jak pouzite?

Rozdil se SATA SSD muze byt ten, ze je nizsi zaklad a jako bottleneck zustava SSD a nepresune se na CPU?

MP

Re:LUKS performance hit
« Odpověď #3 kdy: 29. 03. 2018, 13:16:07 »
Napadá mě třeba špatný zarovnání na 4K sektory? cryptsetup luksFormat —align-payload
Zarovnání je vidět cryptsetup luksDump myslím

Kód: [Vybrat]
Sector size (logical/physical): 512B/512B

Number  Start   End     Size    File system  Name  Flags
1      1049kB  1919GB  1919GB
(parted) align-check                                                                                                                                                                                 
alignment type(min/opt)  [optimal]/minimal?                                                                                                                                                                                                                                                                                                                                           
Partition number? 1
1 aligned

VG:  PE Size               4.00 MiB

Zasifrovany je sdb1, nasledne je na nem vg->lv->ext4 -> mount & fio

MP

Re:Výkonnostní dopad LUKS
« Odpověď #4 kdy: 29. 03. 2018, 13:28:42 »
Jake algoritmy a jak pouzite?

Rozdil se SATA SSD muze byt ten, ze je nizsi zaklad a jako bottleneck zustava SSD a nepresune se na CPU?

Kód: [Vybrat]
cryptsetup -v --cipher aes-xts-plain64 --key-size 512 --hash sha256 --iter-time 2000 --use-urandom --verify-passphrase luksFormat /dev/sdb1
SATA SSD: Micron 1100 1T (92/83k iops)
SAS SSD: Samsung PM1633a (195/31k iops)



trubicoid2

Re:LUKS performance hit
« Odpověď #5 kdy: 29. 03. 2018, 15:22:40 »
Napadá mě třeba špatný zarovnání na 4K sektory? cryptsetup luksFormat —align-payload
Zarovnání je vidět cryptsetup luksDump myslím

Kód: [Vybrat]
Sector size (logical/physical): 512B/512B

Number  Start   End     Size    File system  Name  Flags
1      1049kB  1919GB  1919GB
(parted) align-check                                                                                                                                                                                 
alignment type(min/opt)  [optimal]/minimal?                                                                                                                                                                                                                                                                                                                                           
Partition number? 1
1 aligned

VG:  PE Size               4.00 MiB

Zasifrovany je sdb1, nasledne je na nem vg->lv->ext4 -> mount & fio

no to moc nepomuze, to je zarovnani partice? nevim, jak lv, ale luks dava na zacatek hlavicku a data jsou tedy posunuty. problem je, kdyz posuv neni nasobek 4k

dej cryptsetup luksDump /dev/sdb1

kolik je payload offset? ja mam 8196 * 512 = 4M pro jistotu

MP

Re:Výkonnostní dopad LUKS
« Odpověď #6 kdy: 29. 03. 2018, 16:07:29 »
Konfig luksu je v prvnim prispevku. Jinak offset je 4096. Nekde jsem nasel, ze by mohl byt problem v tom, ze je cpu vyrazne pomalejsi nez storage, takze tim by pak vznikl ten velky rozdil...

trubicoid2

Re:Výkonnostní dopad LUKS
« Odpověď #7 kdy: 29. 03. 2018, 22:30:53 »
jo,nevsim jsem si, to vypada dobre

treba tech 73kiops*4k odpovida 2300MiB/s, tak to uz by mohlo narazet na CPU, test aes-xts 512 mas 1800MiB/s to mi vychazi na 57kiops, skoro jako tobe

tak cteni je asi vyreseno, zapis nevim


MP

Re:Výkonnostní dopad LUKS
« Odpověď #8 kdy: 30. 03. 2018, 09:16:56 »
jo,nevsim jsem si, to vypada dobre

treba tech 73kiops*4k odpovida 2300MiB/s, tak to uz by mohlo narazet na CPU, test aes-xts 512 mas 1800MiB/s to mi vychazi na 57kiops, skoro jako tobe

tak cteni je asi vyreseno, zapis nevim

No, kolega na tom SM ma
aes-xts   512b  1282.9 MiB/s  1265.1 MiB/s

 a dosahuje
read : io=3070.4MB, bw=304237KB/s, iops=76059, runt= 10334msec
 write: io=1025.8MB, bw=101637KB/s, iops=25409, runt= 10334msec

Ten tvuj vypocet na nej nesedi u readu, divne.

trubicoid2

Re:Výkonnostní dopad LUKS
« Odpověď #9 kdy: 30. 03. 2018, 09:49:35 »
nejede mu treba na to sifrovani vic jader? a u tebe jedno?

MP

Re:Výkonnostní dopad LUKS
« Odpověď #10 kdy: 04. 04. 2018, 12:39:50 »
nejede mu treba na to sifrovani vic jader? a u tebe jedno?

A to se zaridi jak? Oba OS jsou identicke verze.