RAID1 z USB diskov

by_cx

Re:RAID1 z USB diskov
« Odpověď #30 kdy: 08. 10. 2020, 12:25:44 »
Napadají mě Veeam, Acronis.
Z free splní vše, kromě offline záloh, Borg Backup.

Co se týče "vyplatilo", tak si dovolím tvrdit, že i drahý software je levnější než ajťak-oprašovač, který si honí ego na tom, že umí oparametrovat rsync a kontrolovat raidy, nemluvě o rizicích ze ztráty dat. Jediný den prostoje i té nejmenší firmy stojí tisíce, jakmile má pár zaměstnanců, tak desetitisíce (na mzdách, na ušlých příležitostech).

Zrovna na Veeam koukám, tohle je zajímavá pasáž z jejich podmínek:

Citace
Společnost Veeam za účelem podpory a zlepšování vztahu s vámi jako se zákazníkem může ukládat, zpracovávat a sdílet vaše osobní údaje se svými partnery a přidruženými společnostmi na celém světě

Borg backup běží na stroji, který se zálohuje, mimochodem bug nahlášení v 2016. Nesplní se tím tedy body dva z toho tvého seznamu. Recovery test také nebude dělat Borg Backup sám, ale musíš to naskriptovat.

Pokud se ti o servery stará někdo, kdo neumí nakonfigurovat server tak, aby měl, mimo jiné, přehled o stavu RAIDu a integrity filesystému, tak si myslím, že budeš nakonec řešit větší problémy než zálohy. A jsem si docela jistý, že lze špatně nakonfigurovat i ten Veeam, jen za to dáš pár set euro ročně navíc.


Re:RAID1 z USB diskov
« Odpověď #31 kdy: 08. 10. 2020, 12:52:16 »
Borg backup běží na stroji, který se zálohuje, mimochodem bug nahlášení v 2016. Nesplní se tím tedy body dva z toho tvého seznamu. Recovery test také nebude dělat Borg Backup sám, ale musíš to naskriptovat.

Borg se dá volat kompletně vzdáleně, včetně append režimu. Pokud nezálohujete VM, tak vždy musíte mít něco lokálně na tom stroji (nazývejme to "agentem"). Tím se to neliší od rsyncu, který musí být taky na obou strojích.

Věřím, že adminové zvládají starost o RAID jak v produkci, tak v zálohován. V produkci asi častěji potkávají normální, dospělé raidy (ne ty softwarové), a proč se patlat se sw raidem na zálohy mi fakt uniká. Buďto je ajťák hračička, který si rád dokazuje, že i on to umí nakonfigurovat, nebo se ztratila rovnováha mezi hodnotou produktivní práce a jejím přínosem.

by_cx

Re:RAID1 z USB diskov
« Odpověď #32 kdy: 08. 10. 2020, 13:25:39 »
Našel jsem v dokumentaci zálohování z lokálního stroje do vzdáleného repositáře, ale ne obráceně. Můžeš mi ukázat příklad, jak se to dělá? Ten hack s SSHFS fakt neberu.

Nevím, jestli má vůbec smysl snažit se vyargumentovat zbytek, protože se to dá jen těžko uchopit v kontextu reálného světa. Mám z posledních dvou reakcí pocit, že jedeš na Windows, kde se všechno kliká a na skriptování vůbec nesaháš, protože to už je pro ajťáky hračičky a oprašovače.

Re:RAID1 z USB diskov
« Odpověď #33 kdy: 08. 10. 2020, 13:51:00 »
Našel jsem v dokumentaci zálohování z lokálního stroje do vzdáleného repositáře, ale ne obráceně. Můžeš mi ukázat příklad, jak se to dělá? Ten hack s SSHFS fakt neberu.

Nevím, jestli má vůbec smysl snažit se vyargumentovat zbytek, protože se to dá jen těžko uchopit v kontextu reálného světa. Mám z posledních dvou reakcí pocit, že jedeš na Windows, kde se všechno kliká a na skriptování vůbec nesaháš, protože to už je pro ajťáky hračičky a oprašovače.

Na pull mode je vícero způsobů, stačí si vybrat. Hledejte Borg pull mode. Nicméně, ono stačí vzdáleně zavolat začátek zálohování (a třeba vsunout klíč, jestli chcete být ještě o kus dál), a nic nebrání jet dál v push modu.

Jinak ano, scriptování považuji za pitomost tam, kde se nabízí hotové řešení, na kterém někdo pracuje a soustřeďuje požadavky. Tím se předchází chybám z toho, že se stovky lidí snaží udělat totéž, ale každý to "zvládne" s vlastními chybami. A ano, považuji cenu času kvalifikovaného člověka za vyšší, než nějaký software a hardware.

Re:RAID1 z USB diskov
« Odpověď #34 kdy: 08. 10. 2020, 14:12:44 »
Už dlouho jsem neviděl HW Raid, dneska už se něco takového snad ani nedělá. Je to pořád SW jen běží v nějakém ARMu a tváří se to jako to bývalo kdysi.
Třeba ten linuxovej RAID je všude možně a pak ty distribuované věci jsou vždycky v SW.

Jinak rsync je docela enterprise nástroj, používá se hodně a to kolikrát i v "profi" grafických toolech, kde je jen přebitý GUI.
Je to hlavně o tom, jak moc peněz organizace má a prioritách. Pokud má hodně peněz netrápí jí si postavit nějaké openřešení na míru. Pokud má málo - nakoupí nějaké hotové krabice a je to.

Pokud pracujete opravdu s velkým množstvím dat, vaše nástroje budou "podezřele neenterprise" z pohledu správce malého množství dat.
Pojedete prostě nějakou tu cassandru, ceph, rsync :) a budete přemýšlet jak přistupovat k těm petabajtům pokud možno v rozumném čase. Všechno bude strašně pomalé i když to budou milisekundy.

Není to tak jednoduché jak to vypadá a obvykle vás žádná krabice nespasí.
Jinak k dotazu USB je použitelné, ale pouze se stabilním hardwarem. Raspberry PI může být v RAID1, ale přenosovka bude tak 4Gbit/s share na oba. Pokud SW systém bude robustní, tak mu to vlastně může být zcela ukradené na tom by klidně běžel CEPH.

Ono NVMe, SATA nebo USB prostě teoreticky se může odpojit a zmizet  ;) je třeba se z toho nehroutit. USB je prostě o trošku horší. Praktické testy ukazují, že to lze. Otázkou je na co to je vhodné.
„Řemeslo se naučí každý. Umění nikdo.“
„Jednoduchost je nejvyšší úroveň sofistikovanosti.“
- Leonardo Da Vinci


_Jenda

  • *****
  • 502
    • Zobrazit profil
    • https://jenda.hrach.eu/
    • E-mail
Re:RAID1 z USB diskov
« Odpověď #35 kdy: 08. 10. 2020, 18:28:39 »
Když upadne kábl od disku (a je úplně ukradené jestli FC, SAS nebo USB nebo chcípne poštovní holub co ty data doručuje), data na něm zůstanou. Když se podělá disk, jste bez dat. Myslím že je tam docela viditelný rozdíl mezi (ne)dostupností dat  a jejich permanentní ztrátou.
Teď mi došlo, že tady si tazatel s nápadem použít tam BTRFS RAID zadělává na problém: btrfs nemá nic jako write-intent bitmap, takže po chvilkovém odpojení jednoho disku je potřeba celý rebalancovat, ne? Nebo to umí dozapsat jenom těch pár bloků co se od odpojení změnily?

Re:RAID1 z USB diskov
« Odpověď #36 kdy: 08. 10. 2020, 19:56:56 »
ja som si niekolko rokov dozadu robil nad hp nx9020 SW raid na debiane (ubuntu) - nemam podsvietenie displeja, je to taky "serverik" na domace zuvania (hriankovac).
spravil som nad internym ATA (PATA) a USB (SATA2USB interface a SATA HDD), vzdy to zakapalo, lahol OS, zacal nieco logovat az to logoval tak casto, ze nic ine nestihal
potom som si kupil PCMCIA (dealextreme) kartu, ktora robi eSATA a SATA. napajkoval som na SATA power kabel USB - napajanie a pripojil SATA disk takym sposobom. Funguje to este teraz, viac ako 10 rokov. Aj ked raz som tu uz hladal uspesne podporu (pod upgrade ubuntu server na 18.04 nechcel nabootovat, lebo nevedel najst druhy disk z RAIDu). Musel som to manualne odobrat, nabootoval a pridat. Celkovo to nie je uplne najstastnejsie, lebo pocas bootovania loaduje driver PCMCIA az po diskoch, teda ten RAID je rozbity po reboote vzdy
RAID z USB diskov ... NIKDY

RDa

  • *****
  • 1 070
    • Zobrazit profil
    • E-mail
Re:RAID1 z USB diskov
« Odpověď #37 kdy: 08. 10. 2020, 22:05:27 »
Když upadne kábl od disku (a je úplně ukradené jestli FC, SAS nebo USB nebo chcípne poštovní holub co ty data doručuje), data na něm zůstanou. Když se podělá disk, jste bez dat. Myslím že je tam docela viditelný rozdíl mezi (ne)dostupností dat  a jejich permanentní ztrátou.
Teď mi došlo, že tady si tazatel s nápadem použít tam BTRFS RAID zadělává na problém: btrfs nemá nic jako write-intent bitmap, takže po chvilkovém odpojení jednoho disku je potřeba celý rebalancovat, ne? Nebo to umí dozapsat jenom těch pár bloků co se od odpojení změnily?

A pokud to bude mit v raidu pres mdadm a az na nem ten btrfs? Pocitadlo events se na odpojenem disku nestihne updatovat, takze by to mohlo podle bitmapy updatovat po znovupridani jen ty nezmirrorovane pasy. Ale stejne re-add musi udelat rucne, po takovem vypadku.

Re:RAID1 z USB diskov
« Odpověď #38 kdy: 09. 10. 2020, 14:01:48 »
RAID nad USB disky je chujovina. Není to na to určené, i kdyby to nakrásně fungovalo. V praxi spíš zažijete problémy, o bezpečnosti dat nemluvě.

Kdybyste něco o discích a RAID už věděl, nikdy by takový dotaz nemohl padnout. Pokud padl, znamená to, že ani o jednom toho zatím moc nevíte.


COZE? tak na toto som sa specialne prihlasil, pretoze to je proste blbost

ano, na enterprise riesenie to asi uplne nie je, ale na domace pouzitie aj na zabezpecenie citlivych dat uplne v pohode, pripadne aj na nejaky small office

mam uz 2.5 roka doma tak spraveny server - 2x 4TB seagate 2.5" cez USB 3.0 na Intel NUC, z toho je 2x 1TB v sw md raide a zvysok bud na nejake temp zalezitosti, instalacky atd, druhy zvysok na media - mp3, video atd

citlive data su len na tom RAIDe a uz aj pekne zafungoval, ked jeden ten disk odisiel, tak som ho zreklamoval, po tyzdnyiprisiel nahradny kus a proste som ho zapojil, zrekonstruoval md raid a o nic citlive som neprisiel, ano, prisiel som o 1TB porna na tom 3TB zvysku, to fakt mozem ozeliet
(edit: mohol som kludne mat jeden nahradny aby som nemusel tyzden cakat, ale je tam este jeden level viz nizsie)

este je tam zapojeny jeden 3TB USB3.0, na ktory sa v noci robi borg backup s deduplikovanim s retenciou dva mesiace dozadu

cize sa pytam - preco ste napisali nieco co nie je pravda?

dalej:


Kvůli odezvě, propustnosti, napájení, odpojení. Poslední dva body můžete asi s trochou péče vyřešit dobře, ale i tak se na USB musí počítat s tím, že se zařízení odpojí a připojí.

Pro RAID je zásadní ta odezva a následně i propustnost.

este raz - COZE?!?  za tych 2.5 roka som nemal jediny, JEDINY problem s nejakym odpojovanim, priepustnostou alebo cim, mam pochopitelne monitoring na mail keby sa stal nejaky raid event a predstavte si, ze okrem toho pokazeneho disku, ziaden degraded raid array nebol

vykon? 150Mb/s na domace pouzite je snad uplne v pohode, to uz to skor limituje gigova siet ako server

trepete blbosti, sorry, inak sa to neda napisat
« Poslední změna: 09. 10. 2020, 14:08:05 od max.g »

Re:RAID1 z USB diskov
« Odpověď #39 kdy: 09. 10. 2020, 16:32:17 »
Taky používám už více než 2 roky RAID na USB discích(SSD i HDD).. Ono to ani jinak na RPI4/NUC nejde..

To by mě fakt zajímalo, kde dělám chybu, že mi to ty 2 roky funguje bez jakéhokoli problému, žádné odpojování, nic z výše psaného.

_Jenda

  • *****
  • 502
    • Zobrazit profil
    • https://jenda.hrach.eu/
    • E-mail
Re:RAID1 z USB diskov
« Odpověď #40 kdy: 09. 10. 2020, 19:22:00 »
A pokud to bude mit v raidu pres mdadm a az na nem ten btrfs?
Ano, pak (pokud bude zapnutá bitmapa - což je myslím defaultně od 1 TB nebo tak něco, ale samozřejmě se to dá nastavit ručně) se zapíšou pouze změněné pásy (granularita bývá typicky desítky MB, což je samozřejmě kompromis mezi rychlostí při používání (lokální úpravy kolem již jednou změněných dat nevyžadují přepis bitmapy) a rychlostí resyncu).

Re:RAID1 z USB diskov
« Odpověď #41 kdy: 10. 10. 2020, 16:57:39 »
Ja som mal rpi3 s 2xhdd v Axagon boxoch (https://www.alza.sk/axago-ee35-xa3-aline-d1775025.htm) a k tomu ssd v malom Axagon boxe, a na tom NFS (neskor Sambu) a mne to trebars dost casto odpajalo tie hdd... skusal som vselijak prehadzovat, menit napajanie, menit pouzite rpi aj verziu OS a pod., a bez zmeny.. ssdcko v boxe drzalo bez problemov... ale tie disky odpajalo dost casto pri velkej zatazi, ked som tam poslal alebo tahal radovo stovky GB... ked som ale tie hdd pripojil k normalnemu pc, tam mi to drzalo v pohode, z coho vyvodzujem zaver, ze problem bol v rpi3, resp. zrejme v radici USB v kombinacii s tymi boxami od Axagonu... moznoze rpi4 je na tom lepsie, ked tu tvrdite, ze vam to roky funguje ok... mozno ma tam lepsi radic alebo co(neviem nechce sa mi to skumat)... Ja som to poriesil tak, ze rpi3 s tym ssd v ramceku som nechal na non-stop stahovanie torrentov, a na sambu mam osobitne postavene pc v normalnom pc case, a dalsie pc na zalohovanie... vsetky problemy s odpajanim samozrejme tymto vyriesene a ako plus je imho chladenie kde aj v poriadnej zatazi nestupne teplota hdd nad 34°C, a samozrejme rychlost prenosu...
Vy ste windowsáci, ja už nie... Čo bolo, to bolo. Terazky som Linuxák.

Re:RAID1 z USB diskov
« Odpověď #42 kdy: 10. 10. 2020, 20:21:05 »
RPi3 má USB2 v SoCu (IP dwc2 od Synopsys), 100Mbps (RPi3+ gigabit) ethernet přes USB-ethernet bridge. RPi4 má to samé USB2 na USB-C konektoru, ale k tomu USB3 řadič na PCI-e a gigabit ethernet v SOCu, napojený přes interní datový bus SoCu. Je to z pohledu USB a ethernetu úplně jiný HW.

k3dAR

  • *****
  • 1 740
  • porad nemam telo, ale uz mam hlavu... nobody
    • Zobrazit profil
    • E-mail
Re:RAID1 z USB diskov
« Odpověď #43 kdy: 10. 10. 2020, 20:58:11 »
k te zminene narazce na latenci a rychlost, pokud jde o USB3 port a zarizeni ma kvalitni na SATA prevodnik s UASP, tak se s diskem komunikuje primo pomoci SCSI s cteni/zapis ~400MBps, coz je 2-4x vice nez by vytezil HDD ;-)

samovolne se mi USB-HDD nikdy neodpojil, samozrejme pokud mam kabel veden tak blbe ze o nej muzu zavadit, tak vypadnout muze, ale to je to same jako by nekdo mel u klavesnice polozenej SATA disk a kvedlal SATA kabelem ;-)

Re:RAID1 z USB diskov
« Odpověď #44 kdy: 12. 10. 2020, 16:40:48 »

citlive data su len na tom RAIDe a uz aj pekne zafungoval, ked jeden ten disk odisiel, tak som ho zreklamoval, po tyzdnyiprisiel nahradny kus a proste som ho zapojil, zrekonstruoval md raid a o nic citlive som neprisiel, ano, prisiel som o 1TB porna na tom 3TB zvysku, to fakt mozem ozeliet
(edit: mohol som kludne mat jeden nahradny aby som nemusel tyzden cakat, ale je tam este jeden level viz nizsie)



Tak zretelne mame uplne jine pojeti citlivych dat kdyz tyden nevadi jet na degradovanym RAIDu. Kdyz umre dalsi, tak to jako budete z ty zalohy obnovovat kam, kdyz nebude zadnej diskovej prostor? A co bude zbytek firmy mezitim delat?

Jako pro nejake to domaci zvykani at si kazdy pouziva co chce, ale pro citliva produkcni data bych fakt volil neco o dost jineho....