Fórum Root.cz

Hlavní témata => Server => Téma založeno: johnny31 05. 04. 2013, 21:18:50

Název: Veřejné úložiště dat
Přispěvatel: johnny31 05. 04. 2013, 21:18:50
Zdravim,

rad bych realizoval verejny fileserver, prosim o rady nebo tipy, jake je nejvhodnejsi reseni takovyho projektu?
Jakou distribuce linuxu?
Jaka by mela byt architektura serveru?
Jakym zpusobem je reseny omezovani rychlosti stahovani dat? (primo tok dat ze serveru je omezeny, nebo by mela tok dat ridit az klientska aplikace?
Co se tyka balancovani vytizeni, existuje nejaky system, ktery by umel tridit data mezi servery podle vytizeni nebo na to musim mit vlastni aplikaci?
Reporty o kazdem konkretnim serveru, je mozne nejakym zpusobem distribuovat v realnem case pro dalsi zpracovani?(treba i pro to balancovani zatizeni)

Moje puvodni predstava byla mit windows server, kde bych si potrebny aplikace pro spravu (rozlozeni zateze) dat naprogramoval v .netu, kde by byl ftp server a koncova klientska aplikace by jen zprostredkovala data, pripadne trosku priskrtila prutok dat.

Budu mit nekolik 1U serveru, kazdy bude mit 4x3TB (pocitam ze se zrcadlenim bude pouzitelnych neco pod 6TB na jednom serveru).

Jak uz jsem psal, puvodne jsem chtel pouzit windows server, ale po zjisteni jejich politiky cen jsem moznost pouzivat software od microsoftu zavrhnul, takze se musim priznat ze jsem v linuxu zacatecnikem, necham si ve vsem co se tyka fileserveru, linuxu rad poradit, zaroven hledam nekoho, kdo by mi treba i s realizaci pomohl, zatim si nemuzu dovolit nekoho platit, uz takhle budu mit velky naklady na servery, ale casem proc ne.

Budu vdecny za jakykoliv informace k tematu,

Diky

Jan
Název: Re:Veřejné úložiště dat
Přispěvatel: Pavel 'TIGER' Růžička 05. 04. 2013, 21:47:12
Jestliže Linux, tak jedině debian, či originál RH, ale ten je placený ... takže z těch zdarma jedině debian, protože je to král mezi jednookými. Jinou distribuci bych neinstaloval i když s tím někdo nemusí souhlasit. Možná ještě Slackware, ale tam už se nesetkáš s takovou odezvou v komunitě. Zdůrazňuji, že píši o Linuxu, ještě by se na server dal nasadit nějaký BSD systém, ale na ten se neptáš. Debian má velkou uživatelskou základnu, velké množství balíčků, a ve stable verzi i skvělou stabilitu. To neznamená, že nemá chyby ... ostatně, který systém je bez chyb? Další věcí je, že alespoň bez základních síťových znalostí se určitě neobejdeš. Něco se dočteš tady, s něčím pomůže Google a něco se najde v literatuře. Nicméně asi i ty základní znalosti budou nedostačující, jelikož chceš programovat svou aplikaci, tak znalost tcp/ip a jeho fungování je nutností. No a další věc je ona pomoc. Teď můžeš slibovat o budoucnosti cokoliv, ale pokud do toho někdo půjde, tak bez papírového podložení (rozuměj smlouvy) i když zatím bez úplaty to nepůjde. A já se tomu an nedivím, každou chvíli vidíme, jak někdo s někým vyjebe! Takže tolik asi obecně. Do detailů se pouštět nebudu, protože, to je skoro na seminárku a na to fakt můj volný čas nestačí.
Název: Re:Veřejné úložiště dat
Přispěvatel: JardaP . 05. 04. 2013, 22:00:18
Tady je par odkazu na vyzivne cteni o traffic shapingu v Linuxu: http://en.wikipedia.org/wiki/Traffic_shaping#External_links . Preji prijemnou zabavu. Par clanku vyslo i tady na rootu a asi o tom byly i nejake diskuse na foru.
Název: Re:Veřejné úložiště dat
Přispěvatel: Ondřej Vaniš 05. 04. 2013, 22:55:37
Pro tyto účely by bylo vhodné použít nějaký distribuvaný filesystem třeba http://www.xtreemfs.org/ (http://www.xtreemfs.org/)
Název: Re:Veřejné úložiště dat
Přispěvatel: johnny31 06. 04. 2013, 11:39:53
Diky za odpovedi,

Pavel 'TIGER' Růžička : OK, pro me jako pro laika je ta komunita stezejni, takze zkusim pro zacatek ten Debian, jakej konkretni BSD system? jsem vsem resenim otevrenej, nejaky znalosti programovani sitovejch aplikaci mam z projektu z prace, jenze tam pracujeme vyhradne s technologiema od ms, co se ty pomoci tyka, kdybych hledal primo nejakyho cloveka co by za me udelal praci vubec se nebudu ptat na detaily reseni a rovnou pisu pozadavky na uchazece o zamestnani, verim tomu, ze tenhle typ projektu muze bejt pro nekoho zajimavej proto nabizim spolupraci, rozhodne to pro me neni nutnost, ridim se tim ze vic hlav vic vi, sam se tomu budu venovat ve volnym case a i to bych pripadne od toho druheho ocekaval, takze sis spis spletl moje hledani pomoci s najmutim cloveka na praci, ale kdyz uz zminujes smlouvu, tak i tohle je cesta, musel by k tomu byt dobry duvod.

JardaP . : zatim jsem cetl jen zacatek, trochu mi to pripomina wcf throttling, to byla moje puvodni idea, kdyz tohle by bylo asi lepsi kdyby to bylo primo nastaveni pro ip na strane serveru, jestli jsem to pochopil spravne, poctu jeste vic, diky za info

Ondřej Vaniš : diky za odkaz, me se skoro spis zda, ze tohle reseni je pro zamezeni nedostupnosti nekterjch dat tim, ze se bude duplikovat na nekolik serveru, ale z myho pohledu je to zbytecny mrhani mistem pokud teda neumoznuje mit data jen na jenom serveru soucasne, jeste to prozkoumam, jinak ja potrebuju aby data byla vzdy jen na jednom serveru, ale mohla se podle vytizeni presunout na jinej min vytizenej server odkud by probihal prenos k uzivateli.

Jan
Název: Re:Veřejné úložiště dat
Přispěvatel: Pavel 'TIGER' Růžička 06. 04. 2013, 12:57:47
Z BSD by se na to hodilo FreeBSD. No a s tou smlouvou jsem to myslel vážně, když na tom teď budete dejme tomu dva makat ve volném čase a ponese to zisk třeba za dva roky, tak teď mu sice můžeš říct, hele teď nic, až to ponese, tak x%, ale až to začne nést, tak mu můžeš potom říci už Tě nepotřebuju, dík, čau. Jak se říká, pořádek dělá přátele. Vždyť i někteří manželé si dělají předmanželskou smlouvu.  ;)
Název: Re:Veřejné úložiště dat
Přispěvatel: yenn 06. 04. 2013, 17:35:38
[...] Jinou distribuci bych neinstaloval i když s tím někdo nemusí souhlasit. Možná ještě Slackware, ale tam už se nesetkáš s takovou odezvou v komunitě.

Slackware má velmi přátelskou komunitu na linuxquestions.org, kde ti ochotně poradí se vším, ovšem musíš umět anglicky. V ČR ti komunita asi víc poradí s Debianem.

Pokud to úložiště chceš "jenom" spustit a provozovat, jako začátečníkovi bych ti spíš doporučil Debian (ačkoliv sám používám Slackware), protože tě v lecčem vede za ruku, kdežto ve Slackware spoustu věcí musíš udělat sám (a vědět co děláš). Takže bys s tím nakonec strávil víc času než s Debianem.
Název: Re:Veřejné úložiště dat
Přispěvatel: Pavel 'TIGER' Růžička 06. 04. 2013, 18:53:32
[...] Jinou distribuci bych neinstaloval i když s tím někdo nemusí souhlasit. Možná ještě Slackware, ale tam už se nesetkáš s takovou odezvou v komunitě.

Slackware má velmi přátelskou komunitu na linuxquestions.org, kde ti ochotně poradí se vším, ovšem musíš umět anglicky. V ČR ti komunita asi víc poradí s Debianem.

Pokud to úložiště chceš "jenom" spustit a provozovat, jako začátečníkovi bych ti spíš doporučil Debian (ačkoliv sám používám Slackware), protože tě v lecčem vede za ruku, kdežto ve Slackware spoustu věcí musíš udělat sám (a vědět co děláš). Takže bys s tím nakonec strávil víc času než s Debianem.

Zase pro Slackware mluví i jeho čistota. Ale na konfiguraci je prostě těžší, a komunitu má podle mne menší (můj subjektivní názor, nic víc). Nebylo to myšleno tak, že by se setkal s negativní odezvou. Ale jak jsem prostě psal o Debianu, došlo mi, že by to vůči Slackware nebylo fér a proto jsem ho i zmínil. Na druhou stranu, lze tam nacpat cokoliv a ono to tak nějak poběží, ale ....
Název: Re:Veřejné úložiště dat
Přispěvatel: johnny31 07. 04. 2013, 17:53:39
Pavel 'TIGER' Růžička : jasne takhle nejak jsem ten duvod myslel, ale zalezi jestli by vubec nekdo ochotne potom dlouhodobe treba ty 2 roky na tom pracoval, ale hlavne ze bude smlouva :), btw taky jsem to myslel vazne, tak pokud smlouva ma smysl je dobry ji uzavrit vsichni potom jasne vi na cem jsou a hlavne pokud je vyzadovana

yenn : anglictina mi nevadi, tak jak uz jsem psal zkusim nejdriv debian a uvidime, servery jsou teprve na ceste, ale rad bych se o ne potom staral treba na fulltime pokud by byla moznost ale jak pises ze zacatku to spis budu fakt chtit "jenom" spustit, jinak diky za odpoved
Název: Re:Veřejné úložiště dat
Přispěvatel: yenn 07. 04. 2013, 19:26:14
[...] Jinou distribuci bych neinstaloval i když s tím někdo nemusí souhlasit. Možná ještě Slackware, ale tam už se nesetkáš s takovou odezvou v komunitě.

Slackware má velmi přátelskou komunitu na linuxquestions.org, kde ti ochotně poradí se vším, ovšem musíš umět anglicky. V ČR ti komunita asi víc poradí s Debianem.

Pokud to úložiště chceš "jenom" spustit a provozovat, jako začátečníkovi bych ti spíš doporučil Debian (ačkoliv sám používám Slackware), protože tě v lecčem vede za ruku, kdežto ve Slackware spoustu věcí musíš udělat sám (a vědět co děláš). Takže bys s tím nakonec strávil víc času než s Debianem.

Zase pro Slackware mluví i jeho čistota. Ale na konfiguraci je prostě těžší, a komunitu má podle mne menší (můj subjektivní názor, nic víc). Nebylo to myšleno tak, že by se setkal s negativní odezvou. Ale jak jsem prostě psal o Debianu, došlo mi, že by to vůči Slackware nebylo fér a proto jsem ho i zmínil. Na druhou stranu, lze tam nacpat cokoliv a ono to tak nějak poběží, ale ....

Přesně takhle jsem to pochopil. Asi to jsem to nešťastně napsal. Slackware má menší komunitu, protože ho nepoužívá tolik lidí. Tak to prostě je, netřeba se omlouvat :)
Debian má tu výhodu, že s ním dokáže poradit víc lidí a dají se najít spousty návodů ve stylu "How to do X in Debian", kdežto pro Slackware člověk musí hledat po celém internetu, na slackware wiki a když nic nenajde, ptát se na fórech. Proto jsem tazateli doporučil Debian.

yenn : anglictina mi nevadi, tak jak uz jsem psal zkusim nejdriv debian a uvidime, servery jsou teprve na ceste, ale rad bych se o ne potom staral treba na fulltime pokud by byla moznost ale jak pises ze zacatku to spis budu fakt chtit "jenom" spustit, jinak diky za odpoved

Jestli se ti o servery bude nejdřív starat někdo jiný, tak spíš najdeš člověka, který zná Debian než Slackwaristu.

Ale jestli by ses o ně pak chtěl starat sám a budeš už o Linuxu něco vědět, klidně Slackware vyzkoušej. Třeba proto, že má blízko k BSD systémům a přechod ze Slackware na BSD bude o dost snazší než z jakékoliv jiné linuxové distribuce.
Název: Re:Veřejné úložiště dat
Přispěvatel: Ondřej Vaniš 07. 04. 2013, 22:22:57
Ondřej Vaniš : diky za odkaz, me se skoro spis zda, ze tohle reseni je pro zamezeni nedostupnosti nekterjch dat tim, ze se bude duplikovat na nekolik serveru, ale z myho pohledu je to zbytecny mrhani mistem pokud teda neumoznuje mit data jen na jenom serveru soucasne, jeste to prozkoumam, jinak ja potrebuju aby data byla vzdy jen na jednom serveru, ale mohla se podle vytizeni presunout na jinej min vytizenej server odkud by probihal prenos k uzivateli.

Pokud nebudes pouzivat lokalni mirror mezi disky tak pouzijes miror mezi servery prostredky Xtreemfs. Redundance dat je zachovana a data potom nemusis kopirovat pri vetsim vytizeni na jiny server. Take zalezi na tom cim bude server vytizen jestli I/O operacemi nebo obsluhou http spojeni nebo obsluznou aplikaci. Od toho vseho se odvyji navrh architektry. Jestli pouzit load balancer pred fileservery atd...
Název: Re:Veřejné úložiště dat
Přispěvatel: creco 08. 04. 2013, 13:33:57
Nevis o tom nic a presto to chces udelat... no budes mit mnoho problemu.

Po hardwarove strance urcite narazis na problem vykonu disku... Takze jeden velky problem odstranis tak ze diskove pole postavis na SSD discich a nebo pouzijes SSD caching aspon pro nejcasteji stahovane data. Ale i tak to vyjde pekne draho takze si trikrat rozmysli jestli do toho pudes aby se ti to vubec vratilo protoze takovych sluzeb na internetu je spousty

Co se tyce omezovani rychlosti, tak to umi rada web serveru od apache, lighttpd nebo nginx. Protoze asi pocitas s tim ze budes mit ohromne mnostvi uzivatelu doporucuju pouzit nginx.

Dalsi vec na kterou narazis je konektivita. Sice dnes za rozumne penize muzes ziskat 1Gbits pripojku pro server ale to je vetsinou pouze v ramci ceske republiky.

To ze jsi zavrhnul Windows jako operacni system delas dobre, protoze on ti neda nic navic a jeste pudes platit SPLA za kazdy server.

Jakou distribuci nebo architekturu... to je snad uplne sumak... Proste rozjed web server, v tom asi nejaky skriptovaci jazyk a jedem

Zdravim,

rad bych realizoval verejny fileserver, prosim o rady nebo tipy, jake je nejvhodnejsi reseni takovyho projektu?
Jakou distribuce linuxu?
Jaka by mela byt architektura serveru?
Jakym zpusobem je reseny omezovani rychlosti stahovani dat? (primo tok dat ze serveru je omezeny, nebo by mela tok dat ridit az klientska aplikace?
Co se tyka balancovani vytizeni, existuje nejaky system, ktery by umel tridit data mezi servery podle vytizeni nebo na to musim mit vlastni aplikaci?
Reporty o kazdem konkretnim serveru, je mozne nejakym zpusobem distribuovat v realnem case pro dalsi zpracovani?(treba i pro to balancovani zatizeni)

Moje puvodni predstava byla mit windows server, kde bych si potrebny aplikace pro spravu (rozlozeni zateze) dat naprogramoval v .netu, kde by byl ftp server a koncova klientska aplikace by jen zprostredkovala data, pripadne trosku priskrtila prutok dat.

Budu mit nekolik 1U serveru, kazdy bude mit 4x3TB (pocitam ze se zrcadlenim bude pouzitelnych neco pod 6TB na jednom serveru).

Jak uz jsem psal, puvodne jsem chtel pouzit windows server, ale po zjisteni jejich politiky cen jsem moznost pouzivat software od microsoftu zavrhnul, takze se musim priznat ze jsem v linuxu zacatecnikem, necham si ve vsem co se tyka fileserveru, linuxu rad poradit, zaroven hledam nekoho, kdo by mi treba i s realizaci pomohl, zatim si nemuzu dovolit nekoho platit, uz takhle budu mit velky naklady na servery, ale casem proc ne.

Budu vdecny za jakykoliv informace k tematu,

Diky

Jan
Název: Re:Veřejné úložiště dat
Přispěvatel: Mirek Prýmek 08. 04. 2013, 13:45:51
rad bych realizoval verejny fileserver, prosim o rady nebo tipy, jake je nejvhodnejsi reseni takovyho projektu?
Pokud se ptas na to, na co se ptas, tak nejlepsi reseni je 1. se do toho projektu nepoustet.

Druhe nejlepsi reseni je 2. normalne regulerne zaplatit nejakeho _odbornika_ za to, ze to cele navrhne, spocita naklady, v laboratornich podminkach otestuje a pak nasadi. Pokud na zaplaceni takoveho cloveka nemas, pak je potreba jit cestou reseni 1.

Treti nejlepsi reseni je zmineneho odbornika premluvit, aby do toho sel jako spoluinvestor za procenta a jako vklad do toho dal svoji praci. Pokud takoveho cloveka nenajdes, opet GOTO 1.

(sorry za primost, ale nema smysl si mazat med kolem pusy, tohle neni projekt, ktery ti vyresi student lezic na kolejnim kanapi, to chce clovek, ktery neni hrr a vi, co dela. Neni to sranda.)
Název: Re:Veřejné úložiště dat
Přispěvatel: Mirek Prýmek 08. 04. 2013, 13:47:36
Jo a taky bych nepodcenoval naklady na pravni sluzby. U tohodle budou setsakramentsky potreba.
Název: Re:Veřejné úložiště dat
Přispěvatel: johnny31 08. 04. 2013, 20:03:43
yenn : no predne se s tim zkusim naucit sam, sem realista a je mi jasny ze to bude trvat treba mesice, navic ono pri praci je tezky najit vic volnyho casu, i tak verim ze to pujde :)

Ondřej Vaniš : treba pri vic serverech i kdyz by zustalo kopirovani staticky jen treba mezi 2ma serverama, tak pri vytizeni obou serveru si nedokazu predstavit jak by se data kopirovala na dalsi 3ti min vytizenej server touhle sluzbou, ale jako myslenka se mi to libi, ze by zaloha byla resena kopii na ruznejch serverech a i ta pozice jedny i druhy kopie by se mohla menit v ramci vytizeni, myslim si ze bych tohle pod .netem dal, v tom linuxu to bude vetsi orisek, musim rict ze se mi to ale libi mnohem vic, nez nejaky mirrorovani vzdy jen na jednom disku, navic by kazdej soubor byl 2x dostupnejsi

creco : to mas asi pravdu, presto si nemyslim ze to je duvod vykaslat se na to :), rozhodne neplanuju menit diskovy pole za SSD, takhle, pokud by nebyla jina moznost nez pouzit SSD aby to fugnovalo, tak vzhledem k soucasnejm cenam bych do toho uz predem rovnou odmitl jit, navic rychlost vystupu pri 1Gbps je mensi nez rychlost cteni z 7.2k serverovyho disku, takze kdyz bude mit server 4takovy disky myslim si, ze pujde optimalizovat procesy tak, aby zrovna disky nebyly tou brzdou, inu uvidime :) ale pochybuju ze soucasny datovy uloziste jedou na ssd, co se tyka ssd cache to uz vidim realnejs

ok, o apache jsem slysel hodne, ale nemel jsem tu cest s tim pracovat, ale uz jsem nasel nejaky navody jak prave tam resit ty prutoky, lze prirovnat apache k iis? jo jinak, to co mi porad lezi v hlave je, jak to resi ostatni, maj aplikaci, ktera v ramci requestu na serveru prideli treba podle uctu uzivatele jestli ma mit ip takovej a takovej prutok? Zda se mi ze by to byl pro tu sluzbu hroznej zahul, je to na neco podobnyho staveny? nemusi jit o tisice uzivatelu, pocitam destiky maximalne stovky i tak si myslim ze nebude uplne easy

ta konektivita je to, co me vazne stve, co se cr tyka souhlasim ze cena je fajn, ale kdosi mi nabidl 180kc za 1Mb do zahranici a 180k mesicne za konektivitu do zahranici mi prijde blaznovstvi, nebo to dopovida? Kdyby to bylo vazne celostetove a projekt by byl schopnej to pokrejt tak dejme tomu, ale ted to bude zatim pouze CR

Mirek Prýmek : no ptam se takhle obecne protoze nejdriv potrebuju zjistit info jaky jsou moznosti, priznam se, ze zpocatku jsem to trochu podcenil, ale to zavinilo i to, ze jsem mel pouzit windows server, ten linux to cely pro me zkomplikoval, ale tak z nejakyho duvodu vetsina (jen tipuju podle nabizenejch sluzeb) poskytovatelu hostingu nabizi sluzby prave ty, ktery jedou na linuxu

je fakt, ze co se architektury tyce dost mozna si nakonec na to nekoho najmu, pokud to nedam sam a nejsem blazen, tady snad kazdej nejak dokaze odhadnout jesli je nejaky reseni kloudny nebo jestli je to volovina, precejen je asi dobry vkrocit do toho tou spravnou nohou

naopak uprimnosti si vazim, tak sem s tim, vim ze co se linuxu tyce jsem totalni amater, no co, zacit se nejak musi :)
Název: Re:Veřejné úložiště dat
Přispěvatel: Mirek Prýmek 08. 04. 2013, 20:11:17
naopak uprimnosti si vazim, tak sem s tim, vim ze co se linuxu tyce jsem totalni amater, no co, zacit se nejak musi :)
Ok, tak jeste jednu uprimnou otazku, spis tak ze zvedavosti, jestli je to moc na telo, samozrejme nemusis odpovidat: jakym zpusobem mas v planu porazit velke hrace, ktere se na tomhle poli pohybuji? (ruzne ty ulozto stahnito ukradnito rapidshare fileshare filezilla mega giga a tak) Pocitas s tim, ze oni zatracene dobre vedi, co delaji? (po technicke, marketingove, pravni a jakekoli jine strance)
Název: Re:Veřejné úložiště dat
Přispěvatel: johnny31 08. 04. 2013, 20:20:31
tak nemusim je hned porazet, mam v planu stat se minimalne konkurenceschopnej, ono nemusim bejt lepsi (nejlepsi) nez oni aby me to zivilo, samozrejme je potreba aby projekt byl ambiciozni, ale je nesmysl bejt myslenkama v oblacich, ze pustim server a vsichni se pretrhnout aby pouzivali moji sluzbu, mam nejaky napady a to je pro me podstatny, v nekterejch smerech je to hodne podobny tomu co delaj ostatni ono taky nejde vymejslet furt neco novyho, stejne tak ze je jasny ze vi co delaji tak je jasny si nebudou chtit nechat vzit svuj bussiness, ale to je vsude a nepodnikat jenom kvuli konkurencnimu boji?...
Název: Re:Veřejné úložiště dat
Přispěvatel: Mirek Prýmek 08. 04. 2013, 20:23:00
Podle me je to teda pekne preplneny segment, ze ktereho zadne penize nekoukaji, spis problemy. Ale treba neco zajimaveho vymyslis :)
Název: Re:Veřejné úložiště dat
Přispěvatel: johnny31 08. 04. 2013, 20:33:41
Tak predne je podstatny rict, ze hlavni iniciativa nebyla na tom zbohatnout, ale delat neco co me bude bavit, pokud to bude vynaset penize bude to jenom plus, to, cemu se chci vyhnout je, ze to budu treba dlouhodobe dotovat, ze zacatku to tak samozrejme bude
Název: Re:Veřejné úložiště dat
Přispěvatel: Waseihou 08. 04. 2013, 20:53:15
Hm, tak vám sem vážení taky přihodím nápad, který by onen pán mohl zkusit realizovat. A je na vás, vážení, abyste zhodnotili jeho (ne)realističnost.

Jak jistě tušíme, tak provozovat další stahovací server přináší mnohá prvávní rizika, nejen kvůli pirátství, ale také kvůli jinému možnému nelegálnímo obsahu.

Další takový server momentálně nikdo nepotřebuje, takže bez nějaké té novinky navíc to nemá smysl.

Ale, existuje TAHOE-LAFS: https://tahoe-lafs.org/trac/tahoe-lafs , tam to funguje tak, že provozovatel úložiště netuší, jaká data jeho uzly (servery) obsahují, protože jsou šiforvána.

No a nabízí se hypotetická možnost nabízet takovéto řešení, kdy provozovatel bude pronajímat servery které budou sloužit jako uzly tahoe-lafs. Ano, kdokolvi si takového něco může zařídit přímo, ale mnozí o tom ani neví, takže proč jim to nezjednodušit.

Ony uzly potřebují bránu kde bude docházet k šifrování, ta asi může být v režii uživatele, nebo ji také bude pronajímat provozvatel, a nebo dokonce časem konkurence.

Další věcí je, že může nabízet dalším lidem přivýdělek, pokud poskytnou své nespolehlivé stanice k ukládání dat. Bude třeba vyřešit kontrolu dostupnosti, a podle uptime platit část zisku.

Tento systém může být do jisté míry vzdáleně podobný tomu co plánoval megaupload, tedy nabízet ostatním možnost paraticipace při skladování dat, za možnost malého přivýdělku.

Pokud jde o peníze, stejně dobře může být zajímavým projektem provozování VPNky, hlavně ve Velké Británii a USA teď stoupá poptávka...
Název: Re:Veřejné úložiště dat
Přispěvatel: johnny31 08. 04. 2013, 21:09:57
Waseihou : Tak obecne, pokud nebude server vydelavat (velky penize), pravdepodobne na sebe nestrhne ani pozornost a ani zadny pravni problemy, to, ze doslo na megaupload a na ostatni ne je proto ze ostatni se ani zdaleka neblizili obratum (ziskum) megauploadu, to je muj nazor nebo at je to jakkoliv tak nikdo se nebude dozadovat financni nahrady od nekoho kdo tu financni nahradu neni schopnej uhradit...

Lidi ten server nebudou potrebovat do ty doby dokud se jim nerekne ze ho potrebuji :)

Ne ze bych chtel podcenovat lidi, ale bezne ty co stahujou prave z uloziste o kterem jsme tu psali nepochopi system toho co tu uvadis a uz vibec nebudou nic instalovat, verim tomu, ze treba casem se to stane popularni asi jako torrenty, uprimne nevim kde je ziskovost torrentu jestli vubec nejaka je, samozrejme pokud se nejedna o reklamy, a pokud se to uchyti tak to jeste bude nejakej patek trvat, ja osobne bych do toho nesel, mozna i pro nedostatecnou znalost toho celyho, jinak verim ze to muze bejt sikovna vec, ale ja bych rad kdyby me to casem aspon uzivilo, tomuhle neverim, a co ty, planujes bejt v tomhle vic zainteresovanej?
Název: Re:Veřejné úložiště dat
Přispěvatel: Waseihou 08. 04. 2013, 22:43:44
Hm, tak jsem to asi nemyslel. Cílová skupina zákazníků by byli lidi, kteří chtějí vlastní anonymní úložiště, a chtějí ho s někým sdílet i když jsou offline. Tito by si jenom koupili možnost používat Tahoe-LAFS k ukládání dat.

Pak by ale byla další skupina pokročilých uživatelů, kteří si chtějí přividělat a jsou ochotni poskytnout server. Ty by jsi jim vlastně jen zajistil klienty a procenta ze zisku, který ti přinesou. Tímto způsobem by jsi přesunul část nároků na systém kladených, protože by se o ně postarali jiní. Tato druhá skupina by vůbec nemusel tu službu používat, jenom by pronajímali svůk diskový prostor, a možná za cenu nižší než jakou ti poskytne nějaký hosting. Minimalizace nákladů by mohla být konkurenční výhodou, stejně jako fatk že ty uzly by byly rozesety různě po republice, takže by jsi nemusel tolik řešit load balancing. Zbývalo by teda jenom vyřešit jak hlídat přínos uzlu a přerozdělit zisk.

Další věcí by asi bylo vytvoření atraktivního rozhraní pro BFU, a způsob jejich zpoplatnění. Takováto služba by asi vyžadovala normální platby, tedy by jsi potřeboval zavést propojení systému na bankovní účet (FioBanka nebo mBanka?), kreditní kartou (ehm...), PayPal, PaySafeCard, BitCoin, platby mobilem (osobně považuji za sprosté nabídnout tuto možnost platby zákazníkovi...).

Hlavním problémem všech placených služeb je, jak zajistit aby bylo pro uživatele platba snadná, rychlá a hlavně bezpečná. Zaměření se na minoritu uživatelů bude znamenat, že z reklamy se neuživíte.
Název: Re:Veřejné úložiště dat
Přispěvatel: creco 09. 04. 2013, 08:47:44
Jeden disk 7200Ot/s má cca 70-90 IOPS... sice pouzijes nejake diskove pole ale rekneme ze z jednoho serveru dokaze stahovat deklarovanou rychlosti 200-300 lidi??? A to ti ten server asi nezaplati

Je sice hezke ze jeden disk zvladne cist az cca 150MB/s ale jakmile na nej posles desitky pozadavku za sekundu jeho rychlost padne na 5-10MB/s... zalezi na radici... zalezi na cache... zalezi na aplikaci ale presto narazis. A pokud nemas v zakladu poradnej balik penez abys to uz zprvopocatku postavil poradne akorad stratis cas a penize.

Vim o cem mluvim z dvou duvodu... 1. filesharing vlastni provozuju 2. Provozuju streaming videa a reknu ti ze pri 30k lidi dene uz das diskum poradne zavarit.

Zahranicni konektivita je opravdu draha... jak kde... bezna cena pro novacka v oboru je 4 euro za 1Mbits do zahranici

yenn : no predne se s tim zkusim naucit sam, sem realista a je mi jasny ze to bude trvat treba mesice, navic ono pri praci je tezky najit vic volnyho casu, i tak verim ze to pujde :)

Ondřej Vaniš : treba pri vic serverech i kdyz by zustalo kopirovani staticky jen treba mezi 2ma serverama, tak pri vytizeni obou serveru si nedokazu predstavit jak by se data kopirovala na dalsi 3ti min vytizenej server touhle sluzbou, ale jako myslenka se mi to libi, ze by zaloha byla resena kopii na ruznejch serverech a i ta pozice jedny i druhy kopie by se mohla menit v ramci vytizeni, myslim si ze bych tohle pod .netem dal, v tom linuxu to bude vetsi orisek, musim rict ze se mi to ale libi mnohem vic, nez nejaky mirrorovani vzdy jen na jednom disku, navic by kazdej soubor byl 2x dostupnejsi

creco : to mas asi pravdu, presto si nemyslim ze to je duvod vykaslat se na to :), rozhodne neplanuju menit diskovy pole za SSD, takhle, pokud by nebyla jina moznost nez pouzit SSD aby to fugnovalo, tak vzhledem k soucasnejm cenam bych do toho uz predem rovnou odmitl jit, navic rychlost vystupu pri 1Gbps je mensi nez rychlost cteni z 7.2k serverovyho disku, takze kdyz bude mit server 4takovy disky myslim si, ze pujde optimalizovat procesy tak, aby zrovna disky nebyly tou brzdou, inu uvidime :) ale pochybuju ze soucasny datovy uloziste jedou na ssd, co se tyka ssd cache to uz vidim realnejs

ok, o apache jsem slysel hodne, ale nemel jsem tu cest s tim pracovat, ale uz jsem nasel nejaky navody jak prave tam resit ty prutoky, lze prirovnat apache k iis? jo jinak, to co mi porad lezi v hlave je, jak to resi ostatni, maj aplikaci, ktera v ramci requestu na serveru prideli treba podle uctu uzivatele jestli ma mit ip takovej a takovej prutok? Zda se mi ze by to byl pro tu sluzbu hroznej zahul, je to na neco podobnyho staveny? nemusi jit o tisice uzivatelu, pocitam destiky maximalne stovky i tak si myslim ze nebude uplne easy

ta konektivita je to, co me vazne stve, co se cr tyka souhlasim ze cena je fajn, ale kdosi mi nabidl 180kc za 1Mb do zahranici a 180k mesicne za konektivitu do zahranici mi prijde blaznovstvi, nebo to dopovida? Kdyby to bylo vazne celostetove a projekt by byl schopnej to pokrejt tak dejme tomu, ale ted to bude zatim pouze CR

Mirek Prýmek : no ptam se takhle obecne protoze nejdriv potrebuju zjistit info jaky jsou moznosti, priznam se, ze zpocatku jsem to trochu podcenil, ale to zavinilo i to, ze jsem mel pouzit windows server, ten linux to cely pro me zkomplikoval, ale tak z nejakyho duvodu vetsina (jen tipuju podle nabizenejch sluzeb) poskytovatelu hostingu nabizi sluzby prave ty, ktery jedou na linuxu

je fakt, ze co se architektury tyce dost mozna si nakonec na to nekoho najmu, pokud to nedam sam a nejsem blazen, tady snad kazdej nejak dokaze odhadnout jesli je nejaky reseni kloudny nebo jestli je to volovina, precejen je asi dobry vkrocit do toho tou spravnou nohou

naopak uprimnosti si vazim, tak sem s tim, vim ze co se linuxu tyce jsem totalni amater, no co, zacit se nejak musi :)
Název: Re:Veřejné úložiště dat
Přispěvatel: johnny31 09. 04. 2013, 20:39:53
takze podle tebe je vychodisko jen v SSD? nebo co podle tebe znamena postavit to poradne uz na zacatku? to znamena, ze ty sam provozujes filehosting na ssd discich? Kterej server provozujes? ale ocividne to funguje i na diskovejch polich, protoze pred par lety ssd nebyly tak dostupny jako dneska a uz vubec ne v soucasnejch kapacitach a taky to fugnovalo, navic nemyslim si ze by dneska bylo nejak vyrazne vic lidi co by takovej obsah stahovalo,
Název: Re:Veřejné úložiště dat
Přispěvatel: Johnny 10. 04. 2013, 09:18:17
creco : trochu mi to s tema ssd diskama lezi v hlave, takze treba reseni 1x100GB na os + 2x3TB + 250-500GB SSD by mohlo tenhle problem resit? tak, ze by ssd disk fungoval hlavne jako takovej most mezi uzivatelem a ulozenejma datama, zaroven by to mohlo bejt i z obraceny strany pri uploadu jako zasobnik kdyby disky nestihaly, tohle mi prijde fajn, kdyz v podstate tu hlavni ulohu porad plni diskovy pole
Název: Re:Veřejné úložiště dat
Přispěvatel: j 10. 04. 2013, 09:30:14
Potrebujes mit predevsim dobre navrzenou aplikaci, a vic nez SSD ti pomuze, kdyz mas hromady RAMky. A samo, zatez rozkladas pres cluster X serveru. Tak jako tak, pokud se budem bavit o verejnym sharu, tak pokud uvazujes o necem vic nez sdilenym disku pro par pratel, potrebujes na to hodne moc M$ aby to bylo pro lidi pouzitelny.
Název: Re:Veřejné úložiště dat
Přispěvatel: honz 10. 04. 2013, 10:24:48
Ahoj,

nečetl jsem celou diskuzi, celkově nemám moc co říct kromě výběru distribuce na které to bude založené. Hlavně proboha neinstaluj slackware a podobne obskurdnosti. Vybírej mezi CentOS (klon RedHatu) nebo Ubuntu server/Debian. U těhle distribucí máš alespoň nějakou jistotu stability(tím myslím aktualizace, bezpečnostní záplaty, gatrance dalšího vývoje) a dostupnosti sw (většina sw se dá najít v repository příslušných distribucí a vyhneš se stahování podezřelých balíčků, ruční kompilaci ze zdrojáků a dalším problémům).

Ad doporučovaný Slackware v prvních příspěvcích - tomu se vyhni, jinak si budeš zbytečně komplikovat život. Mezi Centosem a Debianem vyber podle toho, jestli máš v okolí nějakého linuxáka, který jeden z těchto systémů ovládá, jinak je to jedno.

Honza
Název: Re:Veřejné úložiště dat
Přispěvatel: creco 10. 04. 2013, 10:51:18
nebudu ti rikat kompletni know how... jen ri reknu ze si muzes exportovat reporty nejstahovanejsich souboru za 24 hodin a docasne je presunout na ssd a nebo pouzit ssd caching. ciste SSD pole pouzivam hlavne na obrazky a nahledy souboru kde je nejvice IOPS.

creco : trochu mi to s tema ssd diskama lezi v hlave, takze treba reseni 1x100GB na os + 2x3TB + 250-500GB SSD by mohlo tenhle problem resit? tak, ze by ssd disk fungoval hlavne jako takovej most mezi uzivatelem a ulozenejma datama, zaroven by to mohlo bejt i z obraceny strany pri uploadu jako zasobnik kdyby disky nestihaly, tohle mi prijde fajn, kdyz v podstate tu hlavni ulohu porad plni diskovy pole
Název: Re:Veřejné úložiště dat
Přispěvatel: creco 10. 04. 2013, 10:53:51
co je levnejsi? 100GB SSD nebo 100GB DDR3 v RAM?

Potrebujes mit predevsim dobre navrzenou aplikaci, a vic nez SSD ti pomuze, kdyz mas hromady RAMky. A samo, zatez rozkladas pres cluster X serveru. Tak jako tak, pokud se budem bavit o verejnym sharu, tak pokud uvazujes o necem vic nez sdilenym disku pro par pratel, potrebujes na to hodne moc M$ aby to bylo pro lidi pouzitelny.