Levné úložiště pro zálohování jednotek TB dat

[Honza1Ubuntu]

Marek Staněk
Do astronomie dělám a vím o co šlo. Byl to obrovský projekt. Šlo o to, mít teleskop s co největším průměrem, aby bylo rozlšení úhlové co nejvyšší (úhlové rozlišení lineárně roste s velikostí teleskopu). Tak to teleskop s průměrem jako Zeměkoule ? To jde takovým trikem. Více menších (o monho řádů) teleskopů se zapojí do pozorování a kompletně se zaznamenají data z příjmu radiových vln. Pak se ty data na jednom místě ze všech teleskopů synchronizují dohromady, jako by šlo o teleskop s průměrem Země. Musí se zaznamenat kompletní průběh radiových vln a dat je hodně. 100 PB dat, to by přenos i s plně vytíženou linkou 10 Gbit/s trval 100 dní. Nevím, jestli těch 100 PB dat je ze všech observatoří dohromady, nebo z jedné. Z Antarktidy taková přenosová kapacita nebude a i mezi kontinenty by to byl na síť záhul, i když ne takový. Ta přenosová kapacita tady už dneska je. Ale asi by ten přenos po síti byl dražší, než přeprava letadlem.

Ta možnost disku do schránky-trezoru v bance by tu byla. Zase to není tak drahé. Ale jakmile budu někde mimo ČR a podělá se mi noťas, tak by to nešlo využít. Problém je právě s tím připojením. Disk se dá samozřejmě šifrovat a tak hrozba, že by se disk dostal do nepovolaných rukou, nevadí.

[Reklama]

[Bystroushaak]

Ten Amazon Glacier nakonec tolik použítelný nevypadá. Účtovat si za stáhnutí 1 TB 2000 Kč je docela síla. To už jsou často levnější mobilní data. Jak by pak byly účtovány jednotlivé změny v dateh, toť otázka. Ale asi to nakonec moc dobře nevyjde.

Chce si to prostě dopředu spočítat, není to úplně ideální, ale jako storage je to fakt levné.

Jinak samozřejmě tohle se týká hlavně použití na zálohy. Typické použití je že máš compute taky v rámci datacentra, kde tě ty přenosy nic nestojí. Ono i ty zálohy jde afaik ohackovat, třeba pustit nejlevnější t2.nano (nebo něco s víc EBS) EC2 instanci, stáhnout si soubor z S3 tam, vybalit si z něj co mě zajímá a stáhnout jen to. Plus tam máš 100G transferu měsíčně zdarma. Lidi na redditu radili Lightsail, kde máš terabajty přenosu v ceně. Ale je to oser, to jo. Za mě je tohle fakt jen pojistka, kde počítám s tím že ty data z toho normálně nemám důvod stahovat, a kdyby na to náhodou došlo, tak to prostě zaplatím.

[honzako]

Pro Amazon Glacier musíš chápat zálohovací principy.
Zjednodušeně a dá se o tom všem polemizovat, je to tak že:
1. máš RAID na serveru
2. máš zálohu na externím disku, či spíše discích a je jedno jestli se o to stará Veeam či něco jiného, a/nebo LTO
3. a teprve zde nastupuje Amazon Glacier, pakliže ještě před tím nemáš něco podobné vlastního např. od Veeam
ev. za 4. máš extrémně důležitá data která pak zálohuješ ještě na DVD/BR

Takže skutečné využití Amazon Glacier je v tom, že když přilétne z vesmíru meteorit který rozmlátí celou fabriku vč. lokálních záloh, a sám jsi porušil zálohovací pravidlo o tom, že mají být nezapojené externí disky (např. měsíční zálohy) mimo objekt a úplně v jiné lokaci, tak toto ti má pomoci.
Ev. ten Amazon Glacier lze nakonfigurovat (object) na "neměnnost dat" kdy např. zálohuješ 1TB a pak přírůstky/úbytky, a pak přijde ransomware a opět proběhne záloha nových=zašifrovaných 1TB dat. Ty pak platíš za 2TB+. Síla je právě v tom, že máš jistotu že data jsou k nějakému datumu (retenci) stále k dispozici, i když máš všechny lokální data a zálohy zašifrované.

Amazon Glacier je pouze poslední jistota kterou nechceš nikdy využívat směrem k tobě. Ale když už k tomu to dojde, tak chceš aby jsi měl za jakoukoliv (dle smlouvy) cenu data k dispozici. Tam je spíše problém s rychlostí obnovení. 

[Honza1Ubuntu]

Udržovat v běhu cokoli digitálního je i pro IT pozitivního člověka peklo. I u toho cloudu se musí udržovat platná karta, případně to prodlužovat, souhlasit s novými TOS, hlídat za neunikla hesla či to někdo nehacknul a podobně. Samo-domo řešení vyžaduje taky péči a řešení problémů.

Jako nejlepší se jeví buď fotky vytisknout v několika kopiích a ty uložit na různých místech, jebo je pravidelně ukládat na nějaké médium s dlouhou životností. To se ale asi blbě automatizuje, leda mít někde nějaký vypalovací stroj, ze kterého to rovnou "padá na hromadu".

Pak je potřeba řešit, jestli člověk potřebuje zálohovat nebo spíše archivovat. Fotky je dobré třeba jednou za rok projít, a se slzou v oku vybrat jen ty hodnotné a u těch řešit uchování. Za rok člověk vyprodukuje tolik dat, že není únosné to vše archivovat pro budoucí generaci.

Asi má smysl archivovat fotky zachycující nějaké události, zatímco fotky kdejakého vrabce a kopretinky můžeme smazat.

Vytisknout ? To snad ne. Fotka rodinná, z akce, z výletu, nebo z jakékoliv běžné činnosti zabírá do 3 MB (většinou 1-2 MB, nebo i pod 1 MB). U BFU fotek nemá cenu uchovávat fotky ve velkém rozlišení, neboť o co tam jde, to tam vidět je už u 1 MB fotky celkem dobře a přibližovat detaily nemá cenu. Běžně člověk na cestách za celá léta může pořídit desetitisíce fotek, což jsou desítky GB. Data velikosti jednotek TB by znamenala milion(y) fotek.

V případě tisíců-desetitisíců fotek - Cena barevného tisku, doba tisku, spotřeba papíru, hmotnost a velikost vytištěných dat, možnost požkození. To asi nemusíme rozebírat. Kolik stojí tisk byť jedné A4 ? To by pak stálo snad 1 M. Přitom desetitisíce fotek jsou desítky GB. Nemluvě o nemožnosti použití-editace a obtížnosti hledání i prohlížení. Navrhovat tisk místo zálohy, je nesmysl pochopitelně.

Procházení desetitisíců fotek netrvá pár hodin, ale dní nebo rovnou týdnů. A to jde jen o desítky GB dat.

Něco jiného je vypalování na optická Blue Ray media. Tam se na jeden disk vejde 25 GB tuším. Nebo podobně. Cena vypalovačky není závratná, cena medií také ne. Ale tohle fakt nejde automatizovat. Navíc se občas může disk vypálit blbě, nebo rovnou všechny disky se začnou vypalovat blbě při poruše. A bez kontroly dat po vypálení to nepoznáš. U té vypalovačky ale fakt musíš sedět a ládovat to tam. To samé při obnově dat. Dříve, když jsem měl dat desítky GB před 20 lety, tak jsem také zálohoval na DVD.

Spíše by měla smysl záloha na pásky. Nemůžeš ale samozřejmě aktualizovat zálohu soubor po souboru. Pouze kompletně přehrát. Cena za TB je pod 100 Kč a pásky nějakou dobu vydrží.

Jediná výhoda optických disků je ta, že přežijou elektro-magnetický impulz EMP.

[Honza1Ubuntu]

No, vytisknout ... ty tisky degradují úplně stejně jako jakékoli jiné médium, kvalitu na papíře mají odvislou od kvality tiskárny a papíru, a akorát zabírají spoustu místa a hromada papíru znamená riziko nejen požární, ale i biologické (plísně, škůdci, prach), nemluvě o tom že je to težké jako prase a zabírá to spoustu místa.
Lepší je to projít a nemilosrdně zmasakrovat všechny tzv výcvaky.

Vytisknout - tam ten čas, cena, ekologie, je úplně na jiném levelu. To pomalu Euro za MB dat. Nehledě na čas, hmotnost a velikost vytištěných dat. A papíry také degradují. Dále nemožnost použít data dále. A problémy s prohlížením, přepravou, skladováním ...

Spíše nerzumím tomu, proč všichni považují zálohu dat jako zálohu fotek (multimédií). Data jsou přeci i jiná.

[Reklama]

[Honza1Ubuntu]

Amazon Glacier je pouze poslední jistota kterou nechceš nikdy využívat směrem k tobě. Ale když už k tomu to dojde, tak chceš aby jsi měl za jakoukoliv (dle smlouvy) cenu data k dispozici. Tam je spíše problém s rychlostí obnovení.

Na rychlosti obnovení nespěchám, měsíce-roky to snad nepotrvá. Cena za přenos dat k tobě je větší, než cena disků o stejné kapacitě. Firmu, nebo místo, kde se pohybuji, nemusí rozmlátit meteorit. Stačí právě katastrofa typu povodně, požár, tornádo,

[Marek Staněk]

Marek Staněk
Do astronomie dělám a vím o co šlo. Byl to obrovský projekt. Šlo o to, mít teleskop s co největším průměrem, aby bylo rozlšení úhlové co nejvyšší (úhlové rozlišení lineárně roste s velikostí teleskopu). Tak to teleskop s průměrem jako
(...)
dohromady, nebo z jedné. Z Antarktidy taková přenosová kapacita nebude a i mezi kontinenty by to byl na síť záhul, i když ne takový. Ta přenosová kapacita tady už dneska je. Ale asi by ten přenos po síti byl dražší, než přeprava letadlem.

Je to asi půl roku, co jsem o tom koukal na dokument. Byla to dost fascinující záležitost. Ne tím, že nakreslili rozmazanou koblihu a potvrdili tím teorie Kipa Thorna, ale tou obrovskou mašinérií kolem sběru dat z jednotlivých radioteleskopů složených do interferometru o rozměru prakticky rovníkového průměru Země. A ano, těch cca 100PB dat bylo z jednoho teleskopu a navíc těch svozů bylo v průběhu "experimentu" snad 5 (teď nevím jestli jeden nebo dva ročně). A moc se mi líbilo, jak s tím manipulovali jako kdyby každý disk byl odjištěná atomová bomba :-) Holt když každá neopatrnost znamená zvýšení rizika, že ten disk nepůjde přečíst a někdo bude muset poslat extra letadlo 10kkm tam a 10 zpátky, aby přivezl další kopii, dáváš si majzla.
On by hlavně přenos po síti byl dramaticky pomalejší, a čas těch lidí podílejících se na projektu je na tom to úplně nejdražší. A když bude někde cestou problém, může se klidně stát, že ti nová data budou přirůstat rychleji, než je budeš stíhat přenášet a zpracovávat. Takže je nejen levnější, ale pro v podstatě všechny účely lepší ke zdroji dat přivézt lodní kontejner disků, postavit tam masivně redundantní úložiště pořizující x kopií dat (což stejně chceš jak kvůli dostupnosti, tak kvůli odolnosti), a v pravidelných intervalech jednu sadu disků poslat zpátky letadlem co přivezlo nové disky, a jednu kopii odpojit a dát do "deep-cold-storage" (v Antarktidě doslova). Má to i tu výhodu, že nová data sypeš rovnou na nové disky s nižší pravděpodobností selhání. Už proto bys je stejně v nějakém cyklu musel měnit, tak proč to nevyužít a rovnou tím nevyřešit i odpadové hospodářství?

Ta možnost disku do schránky-trezoru v bance by tu byla. Zase to není tak drahé. Ale jakmile budu někde mimo ČR a podělá se mi noťas, tak by to nešlo využít. Problém je právě s tím připojením. Disk se dá samozřejmě šifrovat a tak hrozba, že by se disk dostal do nepovolaných rukou, nevadí.

Tam máš právě ten konflikt mezi dvěma potřebami, a to dostupností a ochranou před znehodnocením při útoku.
Zálohu "poslední instance" prostě chceš mít offline, aby nemohla být znehodnocena kompromitovaným systémem. A pak samozřejmě potřebuješ někoho, kdo ti ji zpřístupní, pokud tu možnost nemáš sám.
A pokud jde o riziko, že záloha bude znehodnocena během obnovy proto, že ji připojíš ke kompromitovanému stroji, musíš k ní mít extra stroj určený výhradně k provedení obnovy, a nesmíš na něm dělat dokonce ani zálohu; právě proto, abys vyloučil možnost napadení mezi pořízením zálohy a pokusem o obnovu.
"Jen" to teda zvyšuje náklady na hardware a hlavně čas, potřebný k provádění rotace záloh poslední instance na bezpečnou lokalitu.

[kuba77]

Já používám Scaleway Glacier. Stejně jako u toho Amazonu Glacier, není k datům okamžitý přístup, cena měsíčně ~€0.002/GB, při zpětném stažení €0.009/GB za přesun dat z Glacier úložiště na Object Storage, z kterého se ty data dají stáhnout a to je 75 GB zdarma každý měsíc a po překročení €0.01/GB, čili zpětné stažení vyjde např. €18.25 za 1 TB najednou.

[Honza1Ubuntu]

Marek Staněk

Přepočítal jsem se. Při rychlosti 10 Gbit/s je možné za den přenést 100 TB dat (na lince 100 Mbit/s je možné přenést 1 TB denně přibližně, ve skutečnosti o něco málo více). To znamená, že oněch 100 PB dat by bylo přenášeno rychlostí 10 Gbit/s plných 1000 dní a rychlostí 100 Gbit/s pak 100 dní. Nevím, jestli vůbec exisuje možmost připojení na 1 Tbit/s, ale pro koncové firmy spíše ne. 100 Gbit/s linka stojí okolo 3000 Eur na měsíc tuším, tak by přenesení 100 PB dat stálo něco okolo 250 000 Kč resp. 10 000 Eur, ale bylo by tam to zpoždění 100 dní nebo více. Navíc na Antarktidě rozhodně taková linka není.

Nakonec tedy vyla efektivněji ta přeprava disků letadlem. Předpokládám ale, že skladování a zálohy tak obrovských dat budou ještě nákladnější než přenos. Tak jako tak, je to naprostý zlomek ceny celkového projektu, pozorování je mnoho-násobně dražší a samotné zpracování dat také potřebuje enormní výpočetní výkon. Tak jako tak pravděpodobně jde o nejdražší a pracnější fotku v dějinách lidstva. Byly vyfoceny dvě černé díry, ta ve středu naší galaxie a ta ve středu galaxie M87. U středu M87 je i nový polarizovaný obrázek. A proč tyhle černé díry - jsou největší na obloze co do úhlového rozměřu.Střed naší galaxie je naštěstí klidný (jinak tu nejsme), M87 je aktivní galaxie s obří černou dírou a tedy ten objekt zájmu je jasnější. Úhlový průměr černé díry jak v naší galaxii tak ve středu M87 je nižší desítky mikrosekund, obrázek M87 i s akrečním diskem má v průměru 0.00005 úhlové vteřiny. Pro srovnání - úhlové rozlišení Hublova teleskopu je okolo 0.05 úhlové vteřiny, černá díra M87 i snejbližším okolím je 10 000x menší.

Odkazů a obrázků je na webu hodně, ten první odkaz jsou přímo stránky projektu (Event Horizont Telescope - EHT):

https://eventhorizontelescope.org/blog/astronomers-reveal-first-image-black-hole-heart-our-galaxy
https://en.wikipedia.org/wiki/Messier_87
https://en.wikipedia.org/wiki/Sagittarius_A*
https://www.space.com/black-hole-milky-way-new-image-hidden-feature
https://science.nasa.gov/resource/first-image-of-a-black-hole/

[Kit]

... , tak by přenesení 100 PB dat stálo něco okolo 250 000 Kč resp. 10 000 Eur, ale bylo by tam to zpoždění 100 dní nebo více. Navíc na Antarktidě rozhodně taková linka není.

Nakonec tedy vyšla efektivněji ta přeprava disků letadlem.

Kolik váží těch vašich 100 PB dat?

Dal by se využít StarLink?

[Honza1Ubuntu]

Kit
Tak moje data to skutečně nejsou a nejspíše nikdo z nás nemá 100 PB dat. Oněch 100 PB dat bylo vyprodukováno při věděckém projektu, nevím, jestli z jednoho, nebo ze všech teleskopů dohromady. Běžný 3.5 HDD váží stovky gramů, nevím jaká byla tenkrát použita kapacita disků, 6-8-12 TB.  Dejme tomu, tedy že 20 TB dat váží kilo (váha úložného média). Pak by těch 100 PB dat vážilo 5 tun. Dneska už jsou vyšší kapacity disů, ale stále to bude řádově menší jednotky tun, pod tunu to nepůjde. Už kvůli objemu těc všech disků, natož pak kvůli hmotnosti, to muselo být přepraveno nákladním letadlem.

100 Gbit/s je rychlost optické linky, někde na páteřní síti. Běžný server je připojen na max. 10 Gbit/s. Starlink není pro takto extrémní datové přenosy a těžko by šel použít. Spojení po kabelu je výrazně rychlejší a tady stále nestačilo.

Moje všechna data ani nedosahují 0.01 % velikosti dat z vybraného projektu.

Další a možná ještě více datově náročný projekt bude v Chile přehlídkový teleskop Vera Rubin, jež dost změní astronomii. Data bude tentokrét zpracovávat AI, jinak to vzhledem k objemu dat neppůjde. Očekává se i 17 miliard nových objektů v katalogu. Z Chile od teleskopu povede datová linka nejméně 100 Gbit/s, možná i více.

Marek Staněk
Tady je jeden dokument o zobrazení stínu černé díry, kde to velice dobře vysvětlují:

https://www.youtube.com/watch?v=Q1bSDnuIPbo
How did they actually take this picture? (Very Long Baseline Interferometry)

K tomu zálohování. Je možnost i někde si nechat nahrát data na pásky ? Jednou za 1-2 roky. Nevím, jestli někdo takovou službu nabízí.

[Marek Staněk]

Honza1Ubuntu
Co vím, těch 100 peta bylo z jednoho každého teleskopu při jednom svozu.

Kit
Haha, jako vtip dobrý 
Na starlinku je běžná rychlost kolem 100Mbps, to bys jednu sadu přenášel 3 roky, a to ještě jen za podmínky, že by to bylo bez chyb, výpadků, a fluktuace rychlosti. Dát jich víc paralelně by ti moc nepomohlo, protože 1) je otázka jak by se na to tvářil downlink ze satelitů na zem, 2) v tak vysoký zeměpisný šířce budeš mít problém vůbec nejaký satelit zaměřit, protože bude nízko nad obzorem, pokud vůbec nad ním (na polární dráze starlinky AFAIK nejsou a sklon dráhy mají cca 60°, takže tak daleko na jih ani nelítají a chytáš je někde nad jižní Afrikou a Tasmánií). Lepší šanci bys asi měl s EuTelSatem, ale ten má max 50Mbps a je na geostacionární dráze nad rovníkem, takže budeš mít stejný problém s malou výškou nad horizonem (u nás máš elevaci antény 37°, a to jsme na 50° severní šířky). Satelity na polární dráze mají spojení jen dočasný, šířka pásma tam bude maximálně desítky megabitů, a rozhodně tam nebudeš sám kdo bude chtít něco přenášet.

Lodí by to asi bylo levnější, ale 1) o pár týdnů pomalejší, a 2) musel bys to dopravit na pobřeží, což je velký problém sám o sobě.

[Honza1Ubuntu]

Marek Staněk
I když by to bylo 100 PB dohromady, byla by to darda. Pravděpodobnější je varianta 100 PB z každého radio-telescopu, dohromady se tedy můžeme dostat až někam k 1 EB (nevím, jestli jich bylo 10, nebo méně, musel bych hledat). Každopádně i když se všechna data sešla, samotné zpracování dat vyžadovalo rovněž obrovské kapacity.

Já mám dohromady všech svých dat okolo 12 TB, zálohovat s přístupem a upgrade chci jen 10-20 %, u zbytku max. jednou za 1-2 roky připojit disk a aktualizovat data.

Na té Antarktidě není infrastruktura a i přenos dat přes satelit je tam limitovaný. Do vnitrozemí kabel těžko povede. Mezi Irskem a New Yorkem jsou velko-kapacitní kabely, kde se i stovky PB dají přenést, ale chvilku to potrvá. Ale k odlehlým místům s teleskopy nic velko-kapacitního nepovede. Tak jediná možnost je přenos dat letadlem, lodí a kamionem by to šlo z jiných koutů světa.

Sám jsem s linkou 100 Mbit/s zálohoval, když jsem dělal větší upgrade. 1 TB se 100 Mbit/s přeneseš za den, to znamená 1 PB za necelé tři roky. Těch 100 PB z jednoho teleskopu by se přenášelo skoro 100 let (za tu dobu věda a technologie pokročí). Jak do jednoho místa dostat ohromné množství dat ? Možná přes torrenty a každý primární zdroj s linkou min 100 Gbit/s. Což je na antarktidě nemožné. Nejpomalejší bude přenos dat z primárního zdroje, pak už s více seedy to půjde rychleji.

Tady je o tom jeden dokument (zobrazení stínu černé díry):

https://www.youtube.com/watch?v=Q1bSDnuIPbo
How did they actually take this picture? (Very Long Baseline Interferometry)

Ve videu s sebou berou disky jako příruční zavazadlo, což se mi nezdá. Na jakémkoliv médiu se se 100 PB pod tunu nejspíšenedostaneš (rok 2019) a prostor to také zabere velký.

[Marek Staněk]

DO vnitrozemí kabel určitě nevede, protože přes ledovec kabel sice položíš, ale během sezóny se ti kvůli pohybům minimálně jednou (spíš víckrát) přetrhne, a jako na potvoru nejspíš na místě, kde bude zatraceně nebezpečný k němu lézt a pokoušet se ho napojit :-)
Bezdrát kvůli počasí nebude stát za nic a stejně budeš potřebovat desítky retrů, který musíš nějak napájet, takže pokud k nim nedáš izotopový generátor, musíš k nim tahat silovinu opět kabelem.
Satelit má spojení pomalý a jen občasný při přeletu, plus pro něj platí že každej mráček, natož bouře, to dokáže shodit.

Ergo v úvahu přichází jen staromódní přenos kabelový, tzn šup diskety do kabely a tradá na letadlo.

[Honza1Ubuntu]

Marek Staněk

Zase jsem to zvoral. Rychlost přenosu 100 Mbit/s je jeden TB za den, 1 PB tedy za necelé 3 roky. Ovšem těch 100 PB by netrvalo necelých 100 let, ale déle - přibližně těch 100 000 dní, tedy mi to vychází 274 let (1 PB za 2.74 let).

Dneska už je běžně dostupný ve městech i Gbit/s. Nicméně přenesení desítek-stovek TB dat není zase tak drahé - odvíjí se od ceníku Českých drah. Naložim disky do kufru a jedu. Autobus ne, tam je zavazadlo dole a nemám ho pod kontrolou.

Nějak na té Antarktidě komunikovat musí, ale bude to přes satelit. Kabel by tam fakt nefungoval. Byl jsem v horách např. v Nosku a chození po ledovci je nebezpečné. Natož tam mít infrastrukturu.