HA cluster s distribucí Debian

HA cluster s distribucí Debian
« kdy: 16. 01. 2012, 20:20:31 »
Zdravím vás,

dostal som za úlohu vytvoriť projekt linuxového HA clustra na Debiane. Do podobého veľkého projektu som sa ešte nikdy nepúštal, zaťiaľ prevádzkujem len zopár klasických serverov (web, mail, game). Pôjde len o demonštračné riešenie, nič na serioznu prevádzku.

Určite nechcem aby mi tu niekto písal postup, len by som sa chcel poradiť s ľudmi čo niečo také už robili, ak by sa tu našli :). V prvom rade by som chcel počuť názor na samotný sýstém. Pôjde o dva nody v zapojení Active/Pasive bez SAN/NAS. Uvažoval som o použiťí hypervízoru ESXi na oboch nodoch na následnom navirtualizovaní samotného debianu, kde by bežal SW RAID spolu s drbd a heartbeatom. Predpokladám že v prípade virtualizácie debianu by bolo vhodné použiť paravirtualizáciu, aby sa zbytočne nespomaľovali diskové operácie vitvorením virtuálneho disku ako pri plnej virtualizácií.

Toto zapojenie som si dal v hlave dokopy sám (nikde som sa s tým nestretol). Všase čo vidím je len nainštalovaný Debian a na tom rozbehané openVZ alebo iné riešenie podobné openVZ. Tento druh virtualizácie práve nemusím, tak preto som sa do toho snažil virtualizáciu zakomponovať iným spôsobom. Moja otázka znie, či by takéto zapojenie ako mám v pláne urobiť ja, bolo rýchle hlavne vrámci diskov aj ostatného HW. Ďalšia vec je samotný cluster jediné čo som našiel vrámci clustru na debiane bol Heartbeat (linux-ha.org). Moja ďalšia otázka znie teda, či existuje niečo vhodnejšie ako je heartbeat :). Uvítal by som aj nejaké typy od skusených ľudí.

Pekný deň. :)
« Poslední změna: 17. 01. 2012, 11:24:23 od Petr Krčmář »


Ivan

Re:HA Cluster & Debian
« Odpověď #1 kdy: 17. 01. 2012, 10:21:54 »
Pokud jsi ochotny dat penize nejen za HW ale i za SW tak se podivej co umi Veritas.

Popr. se jeste koukni na keepalived, abebo cokoliv co implementuje protokoly VRRP HSRP.

Re:HA cluster s distribucí Debian
« Odpověď #2 kdy: 23. 02. 2012, 22:28:31 »
a jestli mas poradnou hromadu krejcaru tak treba i AIX HACMP :D

x

Re:HA cluster s distribucí Debian
« Odpověď #3 kdy: 24. 02. 2012, 05:48:23 »
Neni nic lepsiho pro demonstraci, pripadne z nedostatku casu nasadit neco co je snadne, perfektne zdokumentovane, open source a vyrovna se predrazenym dinosaurum ;-)

http://www.openbsd.org/faq/faq6.html#CARP

sofokles

Re:HA cluster s distribucí Debian
« Odpověď #4 kdy: 24. 02. 2012, 07:58:48 »
nejako mi unika, naco tam vlastne chces pouzit tu virtualizaciu


j.

Re:HA cluster s distribucí Debian
« Odpověď #5 kdy: 24. 02. 2012, 09:27:03 »
nejako mi unika, naco tam vlastne chces pouzit tu virtualizaciu

Na to taky cucim jak puk... Ale asi mi neni dano pochopit vse, co se ve vesmiru deje.  ;)

Lol Phirae

Re:HA cluster s distribucí Debian
« Odpověď #6 kdy: 24. 02. 2012, 10:27:25 »
nejako mi unika, naco tam vlastne chces pouzit tu virtualizaciu

No, asi nemá dostatek zdrojů, tak bude "high availability" dosahovat tím, že "cluster" vytvoří z virtuálních strojů? Že to je úplná pitomost, protože když ta jedna mašina klekne, tak je dostupnost nulová, nikoliv high, je tedy zjevné.  ;D

P.S. Pokud se nejedná jen o "demo" za účelem nějaké prezentace.

Josef Liška

Re:HA cluster s distribucí Debian
« Odpověď #7 kdy: 24. 02. 2012, 10:58:36 »
Mno, z textu to není zcela zjevné, ale možné je, že virtualizaci chce tazatel použít kvůli HA pomocí live-migrací celých virtuálek, namísto přehazování IP/MAC mezi aktivním a pasivním strojem.

Dalším důvodem pro virtualizaci může být celkové usnadnění administrace a podpory životního cyklu projektu, jak například budete dělat dist-upgrade celého to HA řešení bez virtualizace? Budete mít dva páry železa na testování?


Josef Krieglstein

Re:HA cluster s distribucí Debian
« Odpověď #8 kdy: 24. 02. 2012, 13:30:51 »
Nevím jestli jsem vás pochopil správně, ale HA řešení na Debianu jsem před pár dny zkoušel a nasadil.
HW:
první stroj: AMD X6, 8GB ram, chipset s iommu (byl to můj desktop který bude po zkušební době nahrazen identickým jako druhý stroj), 2x 1TB.
druhý stroj: AMD X4, 8GB ram, chipset i intergrovanou grafikou, 2x 1TB.
Stroje jsem měl propojené integrovanými síťovými kartami 1gb, + další síťová karta do místní sítě, disky v SW raid1 (mdadm), na poli lvm. Debian s XEN4.0 jako dom0 na obou, drbd synchronizuje vybrané lvm oddíly, dva vytvořené hosty domU (1x Debian(samba, ldap, mail, pgsql, mysql, apache, vše s minimální zátěží), 1x Windows 7 pro(mssql-skoro nevytížené + nějaké účetnictví)).
heartbeat hlídal spuštění virtualizovaných systémů, hlídá si že je puštěn jen jeden, když se jeden stroj vypíná tak se virtuály odmigrují automaticky na ten který zůstane běžet. migraci je možné dělat i ručně, trvá asi minutu(je nastaveno 1GB ram pro hosty) a po celou dobu migrace vše funguje
Zkušenosti:
cca 2 sekundy výpadek na konci migrace (nevrátí se 2x ping), když se kopíruje soubor přes sambu/windows tak ten prostě spadne, ale když jich kopíruju víc tak spadne jen ten jeden a dá se přeskočit a ostatní soubory pokračují, to je jediný výpadek který nastane (soubory které jsou otevřené zůstanou zamčené pro ostatní uživatele), vnc, putty a podobné další služby to ani nepoznali.
nejdůležitější je že se nesmí rozpojit ten vyhrazenej ethernet, jinak se rozpadne drbd synchronizace dat a je problém to dát dohromady, musí se zasáhnout ručně než se ten kabel obnoví, jinak dojde k poškození dat, protože heartbeat v tu chvíli spustí virtuální stroje na tom druhém železe protože si myslí že ten první HW spadnul a naopak. tohle nepřežije ani ext3/4 ani ntfs, jsou jiné systémy které by to možná přežili lépe, s těmito filesystémy je to na format...
byl bych opatrný v nasazení na fileserver, budu testovat vytíženější snad ještě letos, zatím nevím jestli je možné přes drbd provozovat i vytížený fileserver na xenu, zatím to příliš výkonné není, tipnul bych si že maximální výkon tohodle je cca 1/3 než kdyby to byl samostatný HW.
celé to je kritické na odezvu mezi drbd, takže teoreticky pořádné síťovky raid řadič s baterkou a pak se můžou zapnout cache (to je snad jediná věc která mi nefunguje = nečekat na zápis drbd na druhém HW)

Pepa

MBX

Re:HA cluster s distribucí Debian
« Odpověď #9 kdy: 24. 02. 2012, 16:16:47 »

Jaazz

Re:HA cluster s distribucí Debian
« Odpověď #10 kdy: 24. 02. 2012, 22:09:01 »
add rozpad heartbeat propoje, pri pouziti diskoveho pole se pouziva napriklad to, ze node, ktery si usmyslí, že je přeživší odpojí napájení druhému, aby nemohlo dojít ke zmrskání dat (pres IP power switch nebo IPMI). Na to jak zjistit, ktery stroj prezil je rada strategii (ping na router, dostupnost diskoveho pole a dalsi).

Docela pekny popis na toto tema ma redhat pro svuj cluster suite, urcite stoji za prostudovani.

Re:HA cluster s distribucí Debian
« Odpověď #11 kdy: 24. 03. 2012, 22:33:02 »
nejako mi unika, naco tam vlastne chces pouzit tu virtualizaciu

No, asi nemá dostatek zdrojů, tak bude "high availability" dosahovat tím, že "cluster" vytvoří z virtuálních strojů? Že to je úplná pitomost, protože když ta jedna mašina klekne, tak je dostupnost nulová, nikoliv high, je tedy zjevné.  ;D

P.S. Pokud se nejedná jen o "demo" za účelem nějaké prezentace.

Áno, napísal som to trochu nezrozumiteľne.... myslel som to tak, že by boli dva fyzicke stroje, na nich nainštalovaný hypervízor a na jednom hypervizorovi by bol navirtualizoavný debian ako node1 a na druhom stroji resp. na jeho hypervizorovi zase VPSka, ktorá by predstavovala node 2... viem že sa to dá takýto cluster riešiť aj na úrovni Hypervízora, teda že pri páde jedenho stroja by sa len na druhom stroji automaticky zapla celá záložná VPSka, ale chcem to urobiť na úrovni samotného navirtualizovaného OS. Tú virtualizáciu tam chcem preto tak vtrepať, aby sa dali nody ovládať ako fyzické počítače na diaľku, či už cez Vsphere klienta ak použijem ESXi alebo aj cez VNC.

Re:HA cluster s distribucí Debian
« Odpověď #12 kdy: 24. 03. 2012, 23:33:45 »
Docela pekny popis na toto tema ma redhat pro svuj cluster suite, urcite stoji za prostudovani.

Pekna prezentace, jak to vypada v praxi, byla na InstallFestu 2009: http://old.avc-cvut.cz/avc.php?id=8523

brm

Re:HA cluster s distribucí Debian
« Odpověď #13 kdy: 03. 04. 2012, 14:40:16 »
A co takto skusit proxmox? http://www.proxmox.com/products/proxmox-ve Aktulane je verzia 2.
Postavit dva nody a nainstalovanu virtualku nastavit ako HA. Nativne funguje backupovanie a proxmox je postaveny na linux distro. Debian 6

brm

Re:HA cluster s distribucí Debian
« Odpověď #14 kdy: 03. 04. 2012, 14:51:30 »
A co takto skusit proxmox? http://www.proxmox.com/products/proxmox-ve Aktulane je verzia 2.
Postavit dva nody a nainstalovanu virtualku nastavit ako HA. Nativne funguje backupovanie a proxmox je postaveny na linux distro. Debian 6
sorry nevsimol som si ze ty ale nechces openvz :-) takze nic