Jak na storage cluster?

Vilith

  • *****
  • 639
    • Zobrazit profil
Re:Jak na storage cluster?
« Odpověď #30 kdy: 14. 01. 2019, 13:57:13 »
Zalohovat bys mel do jine lokality a drzet nekolik zaloh :D


Re:Jak na storage cluster?
« Odpověď #31 kdy: 14. 01. 2019, 14:01:51 »
Zálohy jasný, ale mne jen zajímají návrhy, jak ten systém postavit :D

todul

Re:Jak na storage cluster?
« Odpověď #32 kdy: 14. 01. 2019, 14:06:11 »
Jestli opravdu HW neni problem (nevadi, ze budou potreba nasobky diskoveho prostoru na ulozeni dat), tak Nextcloud (ve viceinstancni konfiguraci) s ceph backendem by to mohl zvladnout. Ale protoze opensource, tak to bude potrebovat dost studia a pokusu (patrne ten cas bude drazsi nez pouziti externi firmy, ktera vic, co dela).

Re:Jak na storage cluster?
« Odpověď #33 kdy: 14. 01. 2019, 14:18:14 »
Nejen rozjebe, ale zalohovat to - kam a jak?
Presne, tam je tolik veci ktere se muzou rozjebat by default a ktere ten clovek netusi vubec jak predem resit... pise o raid60, na desitky az stovky TB dat, ale IMHO vubec netusi pozadavky tech aplikaci. Zapsat 100TB dat je nejaky traffic, nejaky cas trva zapis,... budou data prevazne ke cteni nebo spise k zapisu? Atd. Navrhnout pole o 100TB bez zkusenosti ktere mu evidentne chybi je jako bych ja mel navrhnout motorku.

Tak navrhnout pole na 1/2 node se jeste da...ale skalovatelnost a bez drbd, to uz je pekny orisek (ano, znam mozne technologie, ale...). A nasledne podpora, havarijni stavy, monitoring...Na to se mnohdy zapomina.
Jen potřebuju nakopnout správným směrem, monitoring apod. je jina věc :)

Když to popíšu takhle blbě a stručně, tak potřebuju:
Systém, který se bude tvářit jako jeden virtuální disk a pokud možno s nfs
když mi spadne node, přijdu jen o kapacitu, ne o data
když přidám node, kapacitu navýším :)

Vilith

  • *****
  • 639
    • Zobrazit profil
Re:Jak na storage cluster?
« Odpověď #34 kdy: 14. 01. 2019, 14:22:02 »
GlusterFS neco z tech pozadavku nesplnuje?


Re:Jak na storage cluster?
« Odpověď #35 kdy: 14. 01. 2019, 14:23:55 »
Jestli opravdu HW neni problem (nevadi, ze budou potreba nasobky diskoveho prostoru na ulozeni dat), tak Nextcloud (ve viceinstancni konfiguraci) s ceph backendem by to mohl zvladnout. Ale protoze opensource, tak to bude potrebovat dost studia a pokusu (patrne ten cas bude drazsi nez pouziti externi firmy, ktera vic, co dela).
jj, tohle už to bylo zmiňováno, mrknu a díky
jen mi to přijde jako hotový řešeni pro sdílení?
jak už jsem psal, v zásadě potřebuju jen sdílený úložiště skrz nody

Re:Jak na storage cluster?
« Odpověď #36 kdy: 14. 01. 2019, 14:25:46 »
jak už jsem psal, v zásadě potřebuju jen sdílený úložiště skrz nody
To je tam ten Ceph.

Re:Jak na storage cluster?
« Odpověď #37 kdy: 14. 01. 2019, 14:27:10 »
GlusterFS neco z tech pozadavku nesplnuje?
to právě že splňuje na první pohled na 100%, ale jen někdo tu měl ohledně to fs poznámku, že se dá snadno dojeb.. Tak nevím..

Vilith

  • *****
  • 639
    • Zobrazit profil
Re:Jak na storage cluster?
« Odpověď #38 kdy: 14. 01. 2019, 14:28:03 »
GlusterFS neco z tech pozadavku nesplnuje?
to právě že splňuje na první pohled na 100%, ale jen někdo tu měl ohledně to fs poznámku, že se dá snadno dojeb.. Tak nevím..

Dojeb.. muzes snadno kdykoli cokoli  8)

Re:Jak na storage cluster?
« Odpověď #39 kdy: 14. 01. 2019, 14:28:47 »
jak už jsem psal, v zásadě potřebuju jen sdílený úložiště skrz nody
To je tam ten Ceph.
aha, mrknu. díky

Re:Jak na storage cluster?
« Odpověď #40 kdy: 14. 01. 2019, 14:29:03 »
někdo tu měl ohledně to fs poznámku, že se dá snadno dojeb.. Tak nevím..
To se dají všechny. To, co chceš, je prostě netriviální věc a všechny netriviální věci se dají neodborným zásahem dojebat :)

MP

Re:Jak na storage cluster?
« Odpověď #41 kdy: 14. 01. 2019, 14:29:31 »
Nejen rozjebe, ale zalohovat to - kam a jak?
Presne, tam je tolik veci ktere se muzou rozjebat by default a ktere ten clovek netusi vubec jak predem resit... pise o raid60, na desitky az stovky TB dat, ale IMHO vubec netusi pozadavky tech aplikaci. Zapsat 100TB dat je nejaky traffic, nejaky cas trva zapis,... budou data prevazne ke cteni nebo spise k zapisu? Atd. Navrhnout pole o 100TB bez zkusenosti ktere mu evidentne chybi je jako bych ja mel navrhnout motorku.

Tak navrhnout pole na 1/2 node se jeste da...ale skalovatelnost a bez drbd, to uz je pekny orisek (ano, znam mozne technologie, ale...). A nasledne podpora, havarijni stavy, monitoring...Na to se mnohdy zapomina.
Jen potřebuju nakopnout správným směrem, monitoring apod. je jina věc :)

Když to popíšu takhle blbě a stručně, tak potřebuju:
Systém, který se bude tvářit jako jeden virtuální disk a pokud možno s nfs
když mi spadne node, přijdu jen o kapacitu, ne o data
když přidám node, kapacitu navýším :)

Uz to chvili nesleduji, tak nevim jak moc jsou zlepsene tyto technologie:
- gluterfs (mozna uz umi out-of-box (p)nfs, ale...
- ceph (popr. cephfs) a nfs resit nadstavbou

?

Re:Jak na storage cluster?
« Odpověď #42 kdy: 14. 01. 2019, 14:45:50 »
A bude to implementovat, spravovat a supportovat člověk, co se v tom vlastně vůbec nevyzná. Hlavně že to bude levný...

A serverovna vypadá jak? Máte ty servery nastrkaný v kumbále na košťata, protože všechno ostatní vyjde draho?

Re:Jak na storage cluster?
« Odpověď #43 kdy: 14. 01. 2019, 14:51:17 »
Nejen rozjebe, ale zalohovat to - kam a jak?
Presne, tam je tolik veci ktere se muzou rozjebat by default a ktere ten clovek netusi vubec jak predem resit... pise o raid60, na desitky az stovky TB dat, ale IMHO vubec netusi pozadavky tech aplikaci. Zapsat 100TB dat je nejaky traffic, nejaky cas trva zapis,... budou data prevazne ke cteni nebo spise k zapisu? Atd. Navrhnout pole o 100TB bez zkusenosti ktere mu evidentne chybi je jako bych ja mel navrhnout motorku.

Tak navrhnout pole na 1/2 node se jeste da...ale skalovatelnost a bez drbd, to uz je pekny orisek (ano, znam mozne technologie, ale...). A nasledne podpora, havarijni stavy, monitoring...Na to se mnohdy zapomina.
Jen potřebuju nakopnout správným směrem, monitoring apod. je jina věc :)

Když to popíšu takhle blbě a stručně, tak potřebuju:
Systém, který se bude tvářit jako jeden virtuální disk a pokud možno s nfs
když mi spadne node, přijdu jen o kapacitu, ne o data
když přidám node, kapacitu navýším :)

Uz to chvili nesleduji, tak nevim jak moc jsou zlepsene tyto technologie:
- gluterfs (mozna uz umi out-of-box (p)nfs, ale...
- ceph (popr. cephfs) a nfs resit nadstavbou
tyhle řešení mi teď přijdou pro tyto účely asi nejlepší :) thx

M.

Re:Jak na storage cluster?
« Odpověď #44 kdy: 14. 01. 2019, 15:04:44 »
Jo, dle popisu GlusterFS by měl být OK, magie je, pokud data jsou jen ve dvou kopiích a nastane split brain (pokud je kopíí víc, tak auto recovery bývá OK, při jen dvou to musí člověk soudcovat ručně, která kopie zvítězí).
Už by k tomu měl být i NFS server s NFS4.0/4.1/pNFS podporou (glusterfs-ganesha), ale nepoužívám.