ZFS na Ubuntu zaplní celou RAM

creco

ZFS na Ubuntu zaplní celou RAM
« kdy: 22. 04. 2013, 13:41:16 »
Zdravím vás,
mám problém na svém Ubuntu serveru kde datové uložiště je postavené na ZFS souborovém systému. Problém je ten že mi konzumuje veškerou dostupnou RAM i SWAP a je to dost na hraně.

Na internetu jsem našel spousty článků jak optimalizovat cache a využítí RAM ale bohužel to všechno platilo pouze pro FreeBSD. nevíte někdo kde se upravují parametry chování ZFS v Ubuntu?
« Poslední změna: 22. 04. 2013, 14:11:33 od Petr Krčmář »


Zopper

  • *****
  • 657
    • Zobrazit profil
Re:ZFS na Ubuntu zaplní celou RAM
« Odpověď #1 kdy: 22. 04. 2013, 14:56:07 »
opravdu potřebuješ mít zrovna ZFS, tedy filesystém pro enterprise využití a disková pole? Vypůjčím si (a volně převyprávím) větu co jsem četl den, dva zpátky: "ZFS na domácím serveru je jako jet ropným tankerem k babičce."

Fakt bych zvážil přechod na jiný FS, i kvůli výkonu (hádám, že máš jeden, maximálně dva disky): http://www.phoronix.com/scan.php?page=news_item&px=MTM1NTA

AlyoSHA

Re:ZFS na Ubuntu zaplní celou RAM
« Odpověď #2 kdy: 22. 04. 2013, 15:06:06 »
ZFS a este na Ubuntu.  Chcel by som vas optimizmus :-)

creco

Re:ZFS na Ubuntu zaplní celou RAM
« Odpověď #3 kdy: 22. 04. 2013, 16:34:10 »
opravdu potřebuješ mít zrovna ZFS, tedy filesystém pro enterprise využití a disková pole? Vypůjčím si (a volně převyprávím) větu co jsem četl den, dva zpátky: "ZFS na domácím serveru je jako jet ropným tankerem k babičce."

Fakt bych zvážil přechod na jiný FS, i kvůli výkonu (hádám, že máš jeden, maximálně dva disky): http://www.phoronix.com/scan.php?page=news_item&px=MTM1NTA

Nemám ho na domácím serveru. Mám ho na 8x 2TB discích a hlavně podporuje ssd caching.

Zkoušel jsem flashcache i bcache a nefunguje tak dobře jako to je v ZFS.

ZFS doporučuju všem jen je ho potřeba sporávně nakonfigurovat

Re:ZFS na Ubuntu zaplní celou RAM
« Odpověď #4 kdy: 22. 04. 2013, 17:19:09 »
No... Konzumuje veškerou RAM. Kolik té "veškeré RAM" je, nevíme. Jak jsi přišel na to, že ji konzumuje ZFS, nevíme. Jak jsi ZFS instaloval a jak nastavil, nevíme. Jak jsi přišel na to, že ti zabírá swap (?!??), nevíme.

Ale hlavně že víme, že ti to nejede. To je důležitý, od toho můžeme začít, týden se tě vyptávat na potřebné informace a pak přijdeme na to, že se s tím nic dělat nedá, ZFS je prostě na Ubuntu nepodporovaný FS a že jestli ho nutně chceš, měl by sis nainstalovat FreeBSD nebo nějaký klon Solarisu. Teda v případě, že na těch 8x2T discích hodláš mít data s cenou větší než dvě koruny.

A to je přesně věc, kterou každý z nás chce týden svého času věnovat! Protože se to, Horste, vyplatí! Není to den, nejsou to ani dva dny, je to týden! No řekni, Horste, není to skvělé?!


anonym

Re:ZFS na Ubuntu zaplní celou RAM
« Odpověď #5 kdy: 22. 04. 2013, 17:35:19 »
zkusil bych vytvorit soubor "/etc/modprobe.d/zfs.conf" s obsahem
Kód: [Vybrat]
options zfs zfs_arc_max=4294967296
cislo upravit podle potreby, pro fileserver nekde mezi 1/2 a 3/4 RAM, pro desktop nekde mezi 1/4 a 1/2 RAM (v bytech)

creco

Re:ZFS na Ubuntu zaplní celou RAM
« Odpověď #6 kdy: 22. 04. 2013, 19:05:56 »
No... Konzumuje veškerou RAM. Kolik té "veškeré RAM" je, nevíme. Jak jsi přišel na to, že ji konzumuje ZFS, nevíme. Jak jsi ZFS instaloval a jak nastavil, nevíme. Jak jsi přišel na to, že ti zabírá swap (?!??), nevíme.

Ale hlavně že víme, že ti to nejede. To je důležitý, od toho můžeme začít, týden se tě vyptávat na potřebné informace a pak přijdeme na to, že se s tím nic dělat nedá, ZFS je prostě na Ubuntu nepodporovaný FS a že jestli ho nutně chceš, měl by sis nainstalovat FreeBSD nebo nějaký klon Solarisu. Teda v případě, že na těch 8x2T discích hodláš mít data s cenou větší než dvě koruny.

A to je přesně věc, kterou každý z nás chce týden svého času věnovat! Protože se to, Horste, vyplatí! Není to den, nejsou to ani dva dny, je to týden! No řekni, Horste, není to skvělé?!

RAM je 16GB... pred instalaci ZFS system vyuzival 4GB RAM a cca 200MB SWAP.... ted je vyuzito 15,8GB RAm a 3,8GB SWAP.

Jak je nastaveny ZFS nevime, proto se ptam kde se to konfiguruje jinak bych sem ani nepsal.

ZFS funguje vyborne, pocet IOPS se zvysil diky cache...

Moje otazka zni jednoduse... kde se v ubuntu konfiguruje ZFS

creco

Re:ZFS na Ubuntu zaplní celou RAM
« Odpověď #7 kdy: 22. 04. 2013, 19:08:04 »
zkusil bych vytvorit soubor "/etc/modprobe.d/zfs.conf" s obsahem
Kód: [Vybrat]
options zfs zfs_arc_max=4294967296
cislo upravit podle potreby, pro fileserver nekde mezi 1/2 a 3/4 RAM, pro desktop nekde mezi 1/4 a 1/2 RAM (v bytech)

JJ diky,
do tohoto souboru jsem jiz zadal:

options zfs zfs_prefetch_disable=1
options zfs zfs_arc_min=1024M
options zfs zfs_arc_max=3584M
options zfs vm.kmem_size_max=8G
options zfs vm.kmem_size=6G

ale nemelo to zadny vysledek

Re:ZFS na Ubuntu zaplní celou RAM
« Odpověď #8 kdy: 22. 04. 2013, 19:25:01 »
Moje otazka zni jednoduse... kde se v ubuntu konfiguruje ZFS
ZFS se v Ubuntu nekonfiguruje, protože žádné ZFS v Ubuntu není. Pokud sis tam ZFS nainstaloval odjinud, tak k tomu asi byla i nějaká dokumentace, ne?

jadd rezervované jméno

Re:ZFS na Ubuntu zaplní celou RAM
« Odpověď #9 kdy: 22. 04. 2013, 19:29:49 »
http://zfsonlinux.org/faq.html to máš prošlé? v dokumentace v /usr nic nepíšou?

M.P: https://launchpad.net/~zfs-native/

Re:ZFS na Ubuntu zaplní celou RAM
« Odpověď #10 kdy: 22. 04. 2013, 19:43:46 »

Re:ZFS na Ubuntu zaplní celou RAM
« Odpověď #11 kdy: 22. 04. 2013, 20:14:01 »
Vypůjčím si (a volně převyprávím) větu co jsem četl den, dva zpátky: "ZFS na domácím serveru je jako jet ropným tankerem k babičce."
Taky jsem to četl, ale myslím, že je to přehnaný. ZFS má spoustu vlastností, které člověk ocení i na desktopu nebo domácím servříku - třeba to, že si může udělat různé volumy s různými vlastnostmi a přitom všechny sdílí jedno úložiště. Takže už nikdy se nestane "kurnikšopa, té partišně na fotky jsem měl dát víc místa! Teď to musím celý nějak přeštelovat, ach jo...".

A co se týče toho výkonu, pokud mám domácí servřík, tak i zfs s nějakým normálním množství paměti dá úplně v pohodě dostačující propustnost pro to, co tam typicky chci (zálohování, filmy apod.)

creco

Re:ZFS na Ubuntu zaplní celou RAM
« Odpověď #12 kdy: 22. 04. 2013, 22:29:44 »
http://zfsonlinux.org/faq.html to máš prošlé? v dokumentace v /usr nic nepíšou?

M.P: https://launchpad.net/~zfs-native/

No prave ze vsechna dokumentace je pro FreeBSD =/

monitor

Re:ZFS na Ubuntu zaplní celou RAM
« Odpověď #13 kdy: 23. 04. 2013, 02:44:37 »
Hmm,

"do tohoto souboru jsem jiz zadal:

options zfs zfs_arc_min=1024M
options zfs zfs_arc_max=3584M

ale nemelo to zadny vysledek"

Nebude to tym, ze dokumentacia
(http://zfsonlinux.org/docs.html
"The official administration guide written for Solaris, the majority of it is directly applicable to ZFS on Linux."
http://docs.oracle.com/cd/E19253-01/817-0404/gjhec/index.html)
vyslovne pise:
"Data Type == Unsigned Integer (64-bit)"

a "Units==Bytes"

Aj aj vo vsetkych (par ukazkach) co som vygooglil (aj pre Linux -  napr http://ispire.me/if-zfs-is-eating-your-memory/ ci http://comments.gmane.org/gmane.linux.file-systems.zfs.user/3237)
sa ludia "trapia" s udavanim presnych hodnot v byte-och, a nepise GB ci MB...


modprobe zfs zfs_arc_max=$(expr 1024 \* 1024 \* 128) zfs_arc_min=$(expr
1024 \* 1024 \* 128) zfs_vdev_cache_size=$(expr 1024 \* 1024 \* 8)

Cize, skus v tom subore zadat presne cisla..

creco

Re:ZFS na Ubuntu zaplní celou RAM
« Odpověď #14 kdy: 23. 04. 2013, 13:15:53 »
na tom neco bude  ::)