Fórum Root.cz

Hlavní témata => Hardware => Téma založeno: Tom Liberec 18. 09. 2013, 00:46:30

Název: Stejné či různé disky do RAID?
Přispěvatel: Tom Liberec 18. 09. 2013, 00:46:30
Na Lixux expres jsem se dočetl, že v diskovém poli je dobře kombinovat disky stejné kapacity různých značek.
Z důvodu vyloučení, či spíše selhání několika disků stejné série.

Ještě nedávno bych zřejme koupil vice identických disků stejného výrobce,  tím padem i zrejme stejné série.
Kde je tedy pravda a jake zkušenosti máte s oběma variantami. Jistě má výběr disků od různych výrobců take své následné nepříjemnosti a problémy. 
V toto chvíli mne napadá mensi přehlednost ( dost možná az značna nepřehlednost ) SMART.

Vím,  že těžko lze zobecnit v nějakou absolutní pravdu. Otázka proto zní. Který postup by jste pri výběru pevných disků doporučili?
Jakou zkušenost máte se selháním diskového pole, při současné, či téměř současné závadě 2 či vice disků.
Na kolik podle vás za podobnými závadami, jedná se většinou o odhad, mohou stát otřesy pokud je server umístěn například v interiéru firmy.
Název: Re:Kde je pravda. Na RAID, pole pevné disky stejné značky nebo naopak odlišné? V
Přispěvatel: pepak 18. 09. 2013, 07:15:01
V toto chvíli mne napadá mensi přehlednost ( dost možná az značna nepřehlednost ) SMART.
V jakém smyslu? Naopak bych řekl, že líp identifiuju disk, když mi SMART řekne, že odchází WD Black a že WD Green a oba S jsou v pořádku, než když mi SMART řekne, že odchází disk na kanálu 1 (protože bůhvíproč bývají kanály pěkně blbě značené).

Citace
Otázka proto zní. Který postup by jste pri výběru pevných disků doporučili?
Já dávám přednost různým diskům různých výrobců.

Citace
Jakou zkušenost máte se selháním diskového pole, při současné, či téměř současné závadě 2 či vice disků.
Zatím mi nikdy neumřel víc než jeden disk najednou, ale nechci to pokoušet, tak jsem investoval do RAID-6.
Název: Re:Kde je pravda. Na RAID, pole pevné disky stejné značky nebo naopak odlišné? V
Přispěvatel: pet 18. 09. 2013, 07:33:45
Nasazujeme RAIDy už delší dobu, zpočátku UW SCSI nebo IDE v RAID5, nyní SATA v RAID1, do teď vždy stejné = stejná série. Při výpadku disku jsme téměř vždy měnili preventivně celé pole. Zatím jsme ještě nenarazili (ťuky ťuk na dřevo) na žádnou ztrátu dat. Ale teď poprvé osazuji dva různé disky ;-)
Název: Re:Stejné či různé disky do RAID?
Přispěvatel: Rhinox 18. 09. 2013, 07:44:43
Rekl bych, ze pouziti ruznejch disku muze snizit vykon pole, ktere se pak prispusobi tomu nejpomalejsimu. Koukni na nake testy a uvidis, ze i kdyz testujes treba jenom 7200rpm/3.5"/sata disky ruznejch vyrobcu, nemaji stejnou prenosovou rychlost. Ta totiz krom otacek zavisi take na geometrii (pocet ploten/stran, hustota zapisu).

Osobne to delam tak, ze do raid vkladam stejne disky ktere nekupuji na jednom miste. Ty pak nejsou alespon ze stejne serie.
Název: Re:Kde je pravda. Na RAID, pole pevné disky stejné značky nebo naopak odlišné? V
Přispěvatel: Mirek Prýmek 18. 09. 2013, 08:07:34
než když mi SMART řekne, že odchází disk na kanálu 1 (protože bůhvíproč bývají kanály pěkně blbě značené).
SMART zobrazuje i sériové číslo.
Název: Re:Stejné či různé disky do RAID?
Přispěvatel: nereknu 18. 09. 2013, 08:28:36
Už jsem zažil situaci, kdy odešli 2 disky 3 dny po sobě (stejná serie, nastesti to bylo imunni vuci vypadku i 3 disku), takze se vyplati mit ruzne vyrobce...
Název: Re:Stejné či různé disky do RAID?
Přispěvatel: Ondra Satai Nekola 18. 09. 2013, 09:01:14
Jen je dnes tech vyrobcu nejak malo...

Kazdopadne - RAID resi jen dostupnost, neochrani data pri spouste beznych situaci, takze je mozna leckdy lepsi nez spekulovat o tom, kde brat ruzne disky se zamyslet nad tim, na ktera dalsi dve mista zalohovat...
Název: Re:Stejné či různé disky do RAID?
Přispěvatel: Tomas Matejicek 18. 09. 2013, 09:39:23
Zkušenosti z praxe:

- použití různých disků od různého výrobce znamená, že některé disky budou rychlejší a jiné pomalejší. Poznat se to dá třeba přes "hdparm -tT /dev/sda". Dojde sice k degradaci rychlosti pole v závislosti na nejpomalejším disku, ale zas tak hrozný problém v tom nevidím.  Optimální je samozřejmě nakombinovat disky s podobnou rychlostí zápisu i čtení.

- disky všech značek časem selhávají, nezávisí to na sérii ani na výrobci, aspoň jsem teda takovouhle korelaci nikdy nezpozoroval. Ba naopak, už několikrát jsem řešil pole, kde byly nové disky stejné série, jeden z nich už odešel, a ostatní vesele jedou rok dva dál.

Závěr: podle mě je to úplně jedno. :)
Název: Re:Stejné či různé disky do RAID?
Přispěvatel: Borek 18. 09. 2013, 10:00:29
Do serverů dáváme stejné série, ono při větším počtu disků v RAIDu (máme až 21 v jednom) ani nelze shánět různé disky :) Čas od času v některém serveru nějaký disk odejde, data se automaticky přelijí na hot spare (pokud to řadič podporuje) a disk vyměníme. Dáme takový, který máme zrovna "na skladě" (stejné nebo vyšší kapacity).

Ale v jednom serveru (24 disků) jsme vychytali špatnou sérii WD disků, takže nějaký odejde každých pár měsíců a dokonce už odešly i dva hned po sobě, naštěstí to RAID 6 zachránil. Při větším počtu disků je ta pravděpodobnost samozřejmě větší než třeba u dvou. Proto je pro taková větší pole RAID 5 nebezpečný. Špatná série se ale může stát (a stala) jakémukoliv výrobci, nemá cenu z toho dělat závěry pro konkrétní značku.

Čili pokud ti jde o RAID 1 s dvěma diskama, klidně tam kup různý, nic tím nezkazíš, rozdílem rychlosti bych se netrápil. Já tohle dělám u RAID 1 s SSD disky, tam ta pravděpodobnost odejití obou najednou podle mě není zrovna malá.

Ale jak psal někdo výš, důležitější než laborovat, jaké disky dávat do RAIDu, je mít dobře pořešené (geograficky) oddělené zálohy. RAID není všechno.
Název: Re:Stejné či různé disky do RAID?
Přispěvatel: Borek 18. 09. 2013, 10:10:51
Jo a SMARTem nemá smysl se zabývat. Google před nějakou dobou vydal studii na podkladu snad milionů jejich disků. Došli mimo jiné k tomu, že někdy SMART hlásí problémy a disk vesele běží další roky bez závad, jindy je SMART spokojenej a disk odejde. Zkoumat SMART je jen ztráta času.

Vibrace vaděj, ale pokud kolem serveru nechodí armáda pochodovým krokem, tak bych to asi neřešil. Hlavně s tím asi nic nenaděláš.

Jo a ještě jedno dobrý doporučení: dávej do RAIDu disky nejradši pro RAID určený. Tj. Raid Edition (RE) u WD nebo Enterprise Storage (ES) u Seagate. Kromě zkrácenýho timeoutu při čtení (aby řadič disky nevyhazval z pole) maj údajně i nějakou optimalizaci proti vibracím. Případně WD má i nějaký ty Red pro domácí použití. Ale maj myslím menší počet otáček = menší rychlost.
Název: Re:Stejné či různé disky do RAID?
Přispěvatel: Pavouk106 18. 09. 2013, 12:24:04
Nečetl jsem celé, tak se jen vyjádřím k původní myšlence.

Mám doma SW RAID1 ze dvou WD Green. Dnes bych radši vzal dva disky od různých výrobců. Přesně jak píšeš - pro vyloučení chyby. Zároveň je pravděpodobné, že disky od dvou výrobců budou mít jinou spolehlivost, jinou MTBF (http://cs.wikipedia.org/wiki/St%C5%99edn%C3%AD_doba_mezi_poruchami) a jinou životnost. Bohužel i jinou rychlost (i odezvy).
Název: Re:Stejné či různé disky do RAID?
Přispěvatel: Mira 18. 09. 2013, 12:36:46
Jo a SMARTem nemá smysl se zabývat. Google před nějakou dobou vydal studii na podkladu snad milionů jejich disků. Došli mimo jiné k tomu, že někdy SMART hlásí problémy a disk vesele běží další roky bez závad, jindy je SMART spokojenej a disk odejde. Zkoumat SMART je jen ztráta času.

To je hodne drsnej pristup. Mohu ze zeptat, jaka data na tech diskakch mas ulozene? Osobni porno? To bych se pak nedivil ze na smart kasles.

Nekdy neznamena vyzdycky .... a opravu me nenechava v klidu, kdyz me smart hlasi 10000 realoc sektoru, 5000 necitelnych nebo velky err rate.

Proste disk vymenim > skartuju > poslu na reklamaci. Jeste se me nestalo ze by neuznali reklamaci pro realoc nebo ureadable sektory.... 
Název: Re:Stejné či různé disky do RAID?
Přispěvatel: Rhinox 18. 09. 2013, 12:56:41
Mám doma SW RAID1 ze dvou WD Green. Dnes bych radši vzal dva disky od různých výrobců.
Tohle zrovna tohleto bych vubec nedoporucoval, pouzivat pro raid kdejake ty "geb" (green/eco/blue) verze. Ty maj vetsinou hodne agresivni power-management, rychle usinaji, rady snizuji rychlost a vsechno je podrizeno tomu aby se snizil odber proudu o nejmene 0.01334%. Taky rady vypadavaj z pole. Maji velkorysej limit pro TLER (jestli vubec nakej) a re-alokace slabyho sektoru klidne trva i nekolik minut. Kdyz takhle dlouho disk neodpovida, radic (hw nebo sw) jej pak vyhodi a oznaci jako vadnej, i kdyz on vlastne vadnej neni, protoze to neni chyba nybrz vlastnost...
Název: Re:Stejné či různé disky do RAID?
Přispěvatel: Majales 18. 09. 2013, 13:26:28
No a není to náhodou v případě SW RAID s tím TLER jinak? Pokud by šlo o pseudo RAID na některém z řadíčů čipsetu tak to asi platí, ale pro mdraid snad už dávno ne, nebo jo? Viz http://askubuntu.com/questions/26891/is-error-recovery-control-or-tler-necessary-for-software-raid5-using-lvm
Mám doma SW RAID1 ze dvou WD Green. Dnes bych radši vzal dva disky od různých výrobců.
Tohle zrovna tohleto bych vubec nedoporucoval, pouzivat pro raid kdejake ty "geb" (green/eco/blue) verze. Ty maj vetsinou hodne agresivni power-management, rychle usinaji, rady snizuji rychlost a vsechno je podrizeno tomu aby se snizil odber proudu o nejmene 0.01334%. Taky rady vypadavaj z pole. Maji velkorysej limit pro TLER (jestli vubec nakej) a re-alokace slabyho sektoru klidne trva i nekolik minut. Kdyz takhle dlouho disk neodpovida, radic (hw nebo sw) jej pak vyhodi a oznaci jako vadnej, i kdyz on vlastne vadnej neni, protoze to neni chyba nybrz vlastnost...
Název: Re:Stejné či různé disky do RAID?
Přispěvatel: Rhinox 18. 09. 2013, 16:11:57
No ja mel praveze problem s mdadm. Co tyden nekterej disk vypadl z pole. Vyndal sem, skontroloval, zadna chyba. Zaradil spatky, a o tyden vypadl jinej. Pak sem je menil za nove, stejnyho typu, a porad to same. Dokonce i desku s radicem sem vymenil. Nakonec sem nasel na webu tip prave na TLER a utilitku ktera to umoznovala na tomhle disku menit. Skratil sem to na par vterin, a od ty doby byl klid. Jenze nejde to menit na kazdem disku...

Tohle bylo pred par lety. Nevim jak je to dnes, mozna ze se mdadm umi s timto vyporadat lip. Kazdopadne takove "kousnuti" desktopoveho disku muze nekdy trvat i pres minutu a nevim co jako by mdadm delal. Cekal az se disk probere (treba u "read" z raid0 asi nic jinyho nezustava)? Nebo hazel do cache (write)? Jedno i druhe muze byt u servru problem...
Název: Re:Stejné či různé disky do RAID?
Přispěvatel: VErčina sousedka 18. 09. 2013, 17:02:26
@Rhinox: Až budeš starší, tak přestaneš rvát desktopvý "green" shity do RAIDu, protože pro to nejsou určený.  ::) ::)
Název: Re:Stejné či různé disky do RAID?
Přispěvatel: Pavouk106 18. 09. 2013, 17:21:35
Rhinox: Já si s RAIDem s těmahle na <|> diskama užil svý... Naštěstí už je všechno ok, zarovnání správně na 4kB sektory, parkování hlaviček vypnutý a disky jedou spokojeně už tři roky. Nikdy jsem s tím polem neměl problém. Nikdy.

Ale z vlastní zkušenosti - příště dva obyčejný normální disky.
Název: Re:Stejné či různé disky do RAID?
Přispěvatel: Tom Liberec 19. 09. 2013, 02:31:39
Všem moc díky za podnětnou diskuzi. Řešení "právních" otázek v zaměstnání, typu kdo co může a nemůže, mi nedovolili se připojit přes den.

Známý nedávno řešil diskové pole kde se odporoučely dva disky, zřejmě vinou nějaké bujaré oslavy. Zřejmě je ten server i dost nevhodně umístěn. Humorné byly i soubory v profesionálních obchodních složkách. .......... teoreticky je možné, že někoho napadlo, že by po oslavě neškodilo celému oddělení dvoudenní volno na rekonvalescenci z důvodu závažné poruchy serveru a nepřístupnosti potřebných dat.
Název: Re:Stejné či různé disky do RAID?
Přispěvatel: Borek 19. 09. 2013, 08:58:42
To je hodne drsnej pristup. Mohu ze zeptat, jaka data na tech diskakch mas ulozene? Osobni porno? To bych se pak nedivil ze na smart kasles.

Firemni data. Predstav si, ze mas desitky serveru s ruznymi OS, v kterych jsou stovky disku ruznych typu a vyrobcu. To bys musel mit cloveka jen na kontrolovani SMARTu. Nehlede na to, ze disky jsou pripojede k HW rad radicum, takze smart musi kontrolovat ten radic. A kazdy radic ruznych vyrobcu to ma jinak, nektery ani smart neukazujou. Pochybuju, ze existuje nejaky program, ktery by vsechny typy umel, takze by to byla asi fakt rucni prace.

Jak jsem psal, obcas nejaky disk odejde, obsah se preleje na hot spare, spatnej disk se vymeni a jede se dal. Nikdy jsem neslysel o tom, ze by nejaka firma preventivne vyrazovala disky, ktery nabonzuje smart. To nedelal ani ten Google. Je lepsi venovat cas vytvoreni kvalitnich, spolehlivych a nekolikanasobnych zaloh, coz pri takovym poctu serveru taky neni jednoduchy.
Název: Re:Stejné či různé disky do RAID?
Přispěvatel: j 19. 09. 2013, 09:26:52
2Borek: realny diskovy pole ti disk vyhodej i kdyz ma vadnej smart. Mam tu pole od EMC, a parkrat se mi uz stalo, ze volali, ze posilaj novej disk, protoze disk XYZ je nejakej divnej ... a pole ho jeste ani nevyradilo, ale poslalo mail, ze jeho parametry jsou mimo toleranci.
Název: Re:Stejné či různé disky do RAID?
Přispěvatel: Borek 19. 09. 2013, 12:46:32
Fakt záleží na výrobci. My máme pole od NetAppu a Dellu a zatím to ani jedno z nich neudělalo. Takže buď se zatím žádnej disk nedostal mimo toleranci, nebo to jejich pole nedělaj. A u integrovaných řadičů v serveru bych něco takovýho nečekal vůbec.
Název: Re:Stejné či různé disky do RAID?
Přispěvatel: Borek 19. 09. 2013, 12:52:00
Ale každopádně dík za info, že to nějaký výrobce opravdu dělá, jsem nevěděl.
Název: Re:Stejné či různé disky do RAID?
Přispěvatel: Mira 19. 09. 2013, 13:28:23

Firemni data. Predstav si, ze mas desitky serveru s ruznymi OS, v kterych jsou stovky disku ruznych typu a vyrobcu. To bys musel mit cloveka jen na kontrolovani SMARTu. Nehlede na to, ze disky jsou pripojede k HW rad radicum, takze smart musi kontrolovat ten radic. A kazdy radic ruznych vyrobcu to ma jinak, nektery ani smart neukazujou. Pochybuju, ze existuje nejaky program, ktery by vsechny typy umel, takze by to byla asi fakt rucni prace.


Predstav si, ze se staram o farmu kde je vice jak 100 serveru, a na smart nemam cloveka ale zabbix, a kdyz ne je nejaka hodnota na povazenou, tak dostanu mail, sms atd podle zavaznosti, a pak se rozhodnu co stim diskem jestli stahnout a nechat ho na hrani, nebo reklamovat. A ano opravdu reklamuju disky s realoc sektory a ano opravdu ta reklamace prochazi.

Navic jsi docela scestne interpretoval tu zpravu od Googlu. Nikde tam nerikaj ze se mas vysrat na SMART, ale ze v cca 33 procentech pripadu SMART nic nezaznamenal. Vysledek jejich zpravy je ten, ze by vyrobci meli udelat neco jineho a spolehlivejsiho, ale do te doby je dale potraba SMART sledovat.