Fórum Root.cz

Hlavní témata => Software => Téma založeno: Pali 17. 08. 2011, 10:04:56

Název: Souborový systém pro malé soubory
Přispěvatel: Pali 17. 08. 2011, 10:04:56
Viete mi niekto odporucit filesystem na male subory (subory staci mi mat pristupne na citanie)?
Potrebujem uchovat priblizne 20-30 tisic suborov o velkosti 10-20 kB.

Je vhodne takyto FS ulozit ako subor a pripojit ho pomocou /dev/loop?
Název: Re: Filesystem pre male subory
Přispěvatel: Kit 17. 08. 2011, 10:33:55
Na velké množství malých souborů bych doporučil ReiserFS, ale vhodných bude asi víc, např. Btrfs.

Pokud bys ty soubory potřeboval komprimovat do jednoho souboru, tak se mrkni na SquashFS. Ovšem na komprimované soubory již další komprese nezabere.

Také je možné pro tyto účely použít nějakou jednoduchou databázi, např. DB4 nebo CDB.
Název: Re: Souborový systém pro malé soubory
Přispěvatel: wilx 17. 08. 2011, 10:58:50
20 tisic souboru je jako nic. Pouzij na to jakykoliv FS. Jen si dej pozor, aby nebyly vsechny v jednom adresari. Rozdel je do adresaroveho stromu, i viceurovnoveho, max po stovkach souboru v jednom.
Název: Re: Souborový systém pro malé soubory
Přispěvatel: Pali 17. 08. 2011, 11:02:57
staci mi iba read-only pristup k nim, ale musi to byt fyzicky mountnute, teda aby vedeli aplikacie k tomu pristupovat. Takze databaza mi nepomoze.

zvlastny diskovy oddiel koli tomu moc nechcem vytvarat, takze asi pouzijem /dev/loop na moutnutie. Otazka zostava co v takomto pripade pouzit. SquashFS ktory je read-only, ale nebude mat problem s velkym mnozstvom suborov (20 tisic)?
Název: Re: Souborový systém pro malé soubory
Přispěvatel: Pali 17. 08. 2011, 11:04:42
@wilx: s tym rozdelenim bude problem, pretoze potrebujem ich mat v specifickej stromovej strukture. A ta je ze mam asi 30 podadresarov, kde su skoro rovnomerne rozdelene (500-1000 v jednom)
Název: Re: Souborový systém pro malé soubory
Přispěvatel: to je jedno 17. 08. 2011, 11:08:28
to je 20 tisic souboru je mnozstvi ktere ma smysl takhle resit?
moje C:/www na NTFS = 253 844 souborů a i na tom tak strasne hroznem NTFS neni jediny problem, proc by taky mel.
Název: Re: Souborový systém pro malé soubory
Přispěvatel: Kit 17. 08. 2011, 12:24:53
@wilx: s tym rozdelenim bude problem, pretoze potrebujem ich mat v specifickej stromovej strukture. A ta je ze mam asi 30 podadresarov, kde su skoro rovnomerne rozdelene (500-1000 v jednom)
S tím si hravě poradí skoro každý souborový systém. Na ReiserFS i na Ext3 jsem měl 400K souborů v jednom adresáři a problémy s tím nebyly.

Zkus ten SquashFS.
Název: Re: Souborový systém pro malé soubory
Přispěvatel: Pali 17. 08. 2011, 12:48:57
urobil som squashfs image, mountol a vyzera byt funkcny. asi to postaci.

zaujima ma ale ako je to so squashfs. kernel nacita komplet cely image to ramky, alebo nie? (nechcel by som zas plitvat ramkou, kedze to nie je az tak potrebne...)
Název: Re: Souborový systém pro malé soubory
Přispěvatel: Kit 17. 08. 2011, 13:41:28
zaujima ma ale ako je to so squashfs. kernel nacita komplet cely image to ramky, alebo nie? (nechcel by som zas plitvat ramkou, kedze to nie je az tak potrebne...)
Zkusil jsem udělat SquashFS z jednoho 3GB adresáře. Soubor měl cca 2 GB. Po mountnutí jsem zjistil, že stav obsazené paměti se téměř nezměnil.
Název: Re: Souborový systém pro malé soubory
Přispěvatel: trubicoid2 17. 08. 2011, 13:54:20
ve squashfs pouzivate lzma/xz ?
Kód: [Vybrat]
mksquashfs source1 dest.sqfs -comp xz -b 262144
Název: Re: Souborový systém pro malé soubory
Přispěvatel: Sten 17. 08. 2011, 15:31:02
urobil som squashfs image, mountol a vyzera byt funkcny. asi to postaci.

zaujima ma ale ako je to so squashfs. kernel nacita komplet cely image to ramky, alebo nie? (nechcel by som zas plitvat ramkou, kedze to nie je az tak potrebne...)

Ne, kernel načítá pouze ty stránky, které jsou požadovány, stejně jako u ostatních souborových systémů.
Název: Re: Souborový systém pro malé soubory
Přispěvatel: Pali 17. 08. 2011, 17:04:38
ok, potom mi squashfs urcite postaci