Současný hardware pro 1PB storage

Trupik

Re:Současný hardware pro 1PB storage
« Odpověď #15 kdy: 25. 06. 2018, 16:00:06 »


Re:Současný hardware pro 1PB storage
« Odpověď #16 kdy: 25. 06. 2018, 16:18:06 »
1 PB stavíme z 14 DL380 (HPE proliant) po 22 4TB diskách, buď pro hadoop nebo jako cifs storage (pro ZFS to je také vyhovující). s Jedním management serverem, jedném catalystem, 5y support se cenou dostáváme na 10M. Stabilně zápis/čtení 5GB/s.

U HPE se poté také používají Apollo krabice, tam ale na počet disků je málo cpu, takže max. jako NAS storage. Nevím jak to je s freebsd, na proliantech běží.

Jsem schopný ti to celé postavit a zavést do DC jaké si vybereš, na většinu pražských již mám přístup a objevuji se tam pravidelně.

Re:Současný hardware pro 1PB storage
« Odpověď #17 kdy: 25. 06. 2018, 20:01:49 »
Koukám že na velké šuple pro disky není třeba chodit daleko...

CoffeeMan

Re:Současný hardware pro 1PB storage
« Odpověď #18 kdy: 25. 06. 2018, 20:21:16 »
Vy jste vážně lamy. Nechápu, proč na toho trola vůbec reagujete. Asi zase potřebujete nějakou tu studentku sociologie/ekonomie/psychologie, aby si z vás dělala zadek. Nějakou najdu.

Re:Současný hardware pro 1PB storage
« Odpověď #19 kdy: 25. 06. 2018, 20:23:13 »
A DDR4 ECC REG škáluje přímou úměrou až do 64 GB na DIMM modul, ten stojí něco přes 20kKč vč.DPH. Ať už se jedná o ECC REG nebo ECC LR. Tzn. s deskou co má 16 SODIMM slotů by se na ten 1 TB dalo dostat. Procesorově k tomu bude potřeba 2x Xeon E5.


CoffeeMan

Re:Současný hardware pro 1PB storage
« Odpověď #20 kdy: 25. 06. 2018, 20:47:16 »
Vy jste vážně lamy. Nechápu, proč na toho trola vůbec reagujete. Asi zase potřebujete nějakou tu studentku sociologie/ekonomie/psychologie, aby si z vás dělala zadek. Nějakou najdu.

kkt1

  • *****
  • 796
    • Zobrazit profil
Re:Současný hardware pro 1PB storage
« Odpověď #21 kdy: 26. 06. 2018, 07:31:17 »
Panove, puvodni storage mam postaveny na nejakem tehdy random xeonu a 4tb sasech od wdc, radice byli od adaptecu (ne hba, ale normalni raid). Puvodni reseni je na 1gbit, vyuzivane 1-5 stroji pres afp, na 1 stroji z nich i pres iscsi. V te dobe jenom disky stali pres 320€ za kus. Spocitat si umite v jakych cislech se pohybujeme. Nejedna se o reseni pro korporat, pro firmu, klidne tomu rikejte domaci NAS na porno nebo cokoliv chcete, duvody pro takhle veliky storage mam, kdo obcas sleduje co za ptakoviny tady davam tak vi ze 4k video, nejake AI a nejake vypocty jsou to co tam zabira momentalne misto. Nove reseni bude na 10gbitu, karty mam vybrane. Nehledam multinode reseni, opravdu chci mit vsech xxx disku k jednomu stroji (pokud je to jeste mozne), u existujiciho reseni to bylo mozne i kdyz to nevypada hezky, ale je to funkcni. HW si nakoupim sam od svych dodavatelu, cele reseni v pripade funkcnosti budu replikovat do svych x lokalit jak hardverove tak i data. Ze to bude stat spousty penez neresim, nekdo ma devky, nekdo kokain, nekdo utraci prschy takhle. Pohadky o sociologii nebo studentech si nechte prosim nekam jinam, prosim o konkretni zkusenosti s konkretnim HW. Zatim mam vybranou desku pro 2x xeon, mozna bych chtel 4x xeon ale nemam zadnou dlouhodobejsi zkusenost s 4cpu systemy, tudiz zase prosim o radu.

kkt1

  • *****
  • 796
    • Zobrazit profil
Re:Storage
« Odpověď #22 kdy: 26. 06. 2018, 07:32:29 »
Vždy to chce znát provoz.
Pokud přichází požadavek na soubor X 1x za 100 dní, potřebuješ něco úplně jiného, než pokud tento požadavek přichází 10x za den.
Taky je rozdíl, jestli máš nějaká "velmi živá data", kam se zapisuje 1000x za vteřinu nebo jestli je přístup ke všem souborům cca stejný.

Klidně bych ti mohl odpovědět, tak si pořiď páskovou LTO 8 knihovnu a máš vymalováno  ::)
Pokud neznáš typ zátěže, je to stejně validní odpověď, jako kdybych ti řekl, všechno musí být na Enterprise SSD Write Intensive discích.

Docela by mě zajímal ten šmoula, co ti dává výplatu, protože od kapacit PB už se to řeší komplet, včetně zálohování atd.
Neurčitý výkřik do fóra je takový kkt1-ní  :-\
Popsal jsem to v dalsim prispevku, snad to je jasnejsi co ocekavam.

kkt1

  • *****
  • 796
    • Zobrazit profil
Re:Současný hardware pro 1PB storage
« Odpověď #23 kdy: 26. 06. 2018, 07:33:42 »
Také by mě zajímalo, jak se plánuje zálohování...
Existujici zalohovani je do dalsich lokalit.

kkt1

  • *****
  • 796
    • Zobrazit profil
Re:Současný hardware pro 1PB storage
« Odpověď #24 kdy: 26. 06. 2018, 07:33:54 »
Třeba to má na domácí zálohování fotek...
Ano, i domaci fotky tam jsou.

kkt1

  • *****
  • 796
    • Zobrazit profil
Re:Současný hardware pro 1PB storage
« Odpověď #25 kdy: 26. 06. 2018, 07:34:03 »
Obří porno server :o
Ano, i porno.

kkt1

  • *****
  • 796
    • Zobrazit profil
Re:Současný hardware pro 1PB storage
« Odpověď #26 kdy: 26. 06. 2018, 07:34:59 »
Obří porno server :o

Vše bude v 8k, HDR, 240FPS a VR
Zatim jenom 4k, ale v prubehu pristich 4 let kdy ten storage ma plnit svou funkci patrne k 8k prejdu.

kkt1

  • *****
  • 796
    • Zobrazit profil
Re:Současný hardware pro 1PB storage
« Odpověď #27 kdy: 26. 06. 2018, 07:36:03 »
Což se inspirovat hardwarem od iXsystems? U FreeNAS 4U mají v datasheetu kapacitu 1.73PB. Je v něm Xeon E5-2600v4 a 256 GB RAM.
Dekuji, konecne rozumna odpoved. Podivam se na to. Ta ram je imho pro 1pb nedostatecna, pouzivam na nekterych poolech deduplikaci a ta je holt nenazrana.

kkt1

  • *****
  • 796
    • Zobrazit profil
Re:Současný hardware pro 1PB storage
« Odpověď #28 kdy: 26. 06. 2018, 07:40:18 »
Kapacita v řádech PB se dá složit z desktopových disků, vždy 16x datových + 2x parové + 1x spare.
Vyjde to VELMI levně, levněji než skládat řešení obsahující drahé diskové řadiče.

V zásadě stačí spočítat cenu disků do požadované kapacity * 1.2(par+spare) + 60 000,- Kč na železo.
Řádově PB dnes už nejsou jakkoliv ohromující kapacity.

JENŽE jde o typ zátěže, výše uvedené pole se náramně hodí pro ukládání dat, daleko méně se hodí pro čtení.
Takové pole je možné plnit, plnit, plnit a občas sáhnout na starší data. Disky se uspávají po 20-ti minutách, proto se pole má plnit postupně.

A to nás rovnou přivádí k další otázce, kolik těch dat do toho při špičce poteče?
A kolik dat z toho ve špice poteče ven? Je hezké si postavit pole, ale to pole by taky mělo splnit nějaké předpoklady ne?
Třeba uspokojit požadavky zákazníků, co když pole postupně plním a plním, pěkně pomalu v klidu, ale pak okamžitě potřebuji celý jeho obsah projet? Třeba kvůli finanční analýze? Pak se bez velmi specializovaných řadičů neobejdu.
Podobně jako se bez nich neobejdu, pokud jsou požadavky na schopnost vyrovnat se s rázy, kdy mi třeba přijde přiteče 50TB dat a já o ně nesmím přijít.
Nestojim o levne disky, stojim o disky ktere budou nonstop dostupne, zadne powergreen pitchoviny. Pooly si vytvorim dle svych pozadavku, zadne spicky nejsou, reseni pro 1-5 stroju na 10gbitu, zadne regexp nad celym polem nebo prohledavani cehokoliv. Strucne jsem popsal co od toho ocekavam.

kkt1

  • *****
  • 796
    • Zobrazit profil
Re:Současný hardware pro 1PB storage
« Odpověď #29 kdy: 26. 06. 2018, 07:40:50 »
https://www.45drives.com/products/

Alebo

Backbkaze storage pod
Backblaze znam, na tohle se podivam. Dekuji.