Souborový systém pro malé soubory

Pali

Souborový systém pro malé soubory
« kdy: 17. 08. 2011, 10:04:56 »
Viete mi niekto odporucit filesystem na male subory (subory staci mi mat pristupne na citanie)?
Potrebujem uchovat priblizne 20-30 tisic suborov o velkosti 10-20 kB.

Je vhodne takyto FS ulozit ako subor a pripojit ho pomocou /dev/loop?
« Poslední změna: 17. 08. 2011, 10:13:14 od Petr Krčmář »


Kit

Re: Filesystem pre male subory
« Odpověď #1 kdy: 17. 08. 2011, 10:33:55 »
Na velké množství malých souborů bych doporučil ReiserFS, ale vhodných bude asi víc, např. Btrfs.

Pokud bys ty soubory potřeboval komprimovat do jednoho souboru, tak se mrkni na SquashFS. Ovšem na komprimované soubory již další komprese nezabere.

Také je možné pro tyto účely použít nějakou jednoduchou databázi, např. DB4 nebo CDB.

wilx

Re: Souborový systém pro malé soubory
« Odpověď #2 kdy: 17. 08. 2011, 10:58:50 »
20 tisic souboru je jako nic. Pouzij na to jakykoliv FS. Jen si dej pozor, aby nebyly vsechny v jednom adresari. Rozdel je do adresaroveho stromu, i viceurovnoveho, max po stovkach souboru v jednom.

Pali

Re: Souborový systém pro malé soubory
« Odpověď #3 kdy: 17. 08. 2011, 11:02:57 »
staci mi iba read-only pristup k nim, ale musi to byt fyzicky mountnute, teda aby vedeli aplikacie k tomu pristupovat. Takze databaza mi nepomoze.

zvlastny diskovy oddiel koli tomu moc nechcem vytvarat, takze asi pouzijem /dev/loop na moutnutie. Otazka zostava co v takomto pripade pouzit. SquashFS ktory je read-only, ale nebude mat problem s velkym mnozstvom suborov (20 tisic)?

Pali

Re: Souborový systém pro malé soubory
« Odpověď #4 kdy: 17. 08. 2011, 11:04:42 »
@wilx: s tym rozdelenim bude problem, pretoze potrebujem ich mat v specifickej stromovej strukture. A ta je ze mam asi 30 podadresarov, kde su skoro rovnomerne rozdelene (500-1000 v jednom)


to je jedno

Re: Souborový systém pro malé soubory
« Odpověď #5 kdy: 17. 08. 2011, 11:08:28 »
to je 20 tisic souboru je mnozstvi ktere ma smysl takhle resit?
moje C:/www na NTFS = 253 844 souborů a i na tom tak strasne hroznem NTFS neni jediny problem, proc by taky mel.

Kit

Re: Souborový systém pro malé soubory
« Odpověď #6 kdy: 17. 08. 2011, 12:24:53 »
@wilx: s tym rozdelenim bude problem, pretoze potrebujem ich mat v specifickej stromovej strukture. A ta je ze mam asi 30 podadresarov, kde su skoro rovnomerne rozdelene (500-1000 v jednom)
S tím si hravě poradí skoro každý souborový systém. Na ReiserFS i na Ext3 jsem měl 400K souborů v jednom adresáři a problémy s tím nebyly.

Zkus ten SquashFS.

Pali

Re: Souborový systém pro malé soubory
« Odpověď #7 kdy: 17. 08. 2011, 12:48:57 »
urobil som squashfs image, mountol a vyzera byt funkcny. asi to postaci.

zaujima ma ale ako je to so squashfs. kernel nacita komplet cely image to ramky, alebo nie? (nechcel by som zas plitvat ramkou, kedze to nie je az tak potrebne...)

Kit

Re: Souborový systém pro malé soubory
« Odpověď #8 kdy: 17. 08. 2011, 13:41:28 »
zaujima ma ale ako je to so squashfs. kernel nacita komplet cely image to ramky, alebo nie? (nechcel by som zas plitvat ramkou, kedze to nie je az tak potrebne...)
Zkusil jsem udělat SquashFS z jednoho 3GB adresáře. Soubor měl cca 2 GB. Po mountnutí jsem zjistil, že stav obsazené paměti se téměř nezměnil.

trubicoid2

Re: Souborový systém pro malé soubory
« Odpověď #9 kdy: 17. 08. 2011, 13:54:20 »
ve squashfs pouzivate lzma/xz ?
Kód: [Vybrat]
mksquashfs source1 dest.sqfs -comp xz -b 262144

Sten

Re: Souborový systém pro malé soubory
« Odpověď #10 kdy: 17. 08. 2011, 15:31:02 »
urobil som squashfs image, mountol a vyzera byt funkcny. asi to postaci.

zaujima ma ale ako je to so squashfs. kernel nacita komplet cely image to ramky, alebo nie? (nechcel by som zas plitvat ramkou, kedze to nie je az tak potrebne...)

Ne, kernel načítá pouze ty stránky, které jsou požadovány, stejně jako u ostatních souborových systémů.

Pali

Re: Souborový systém pro malé soubory
« Odpověď #11 kdy: 17. 08. 2011, 17:04:38 »
ok, potom mi squashfs urcite postaci