Na velké množství malých souborů bych doporučil ReiserFS, ale vhodných bude asi víc, např. Btrfs.
Pokud bys ty soubory potřeboval komprimovat do jednoho souboru, tak se mrkni na SquashFS. Ovšem na komprimované soubory již další komprese nezabere.
Také je možné pro tyto účely použít nějakou jednoduchou databázi, např. DB4 nebo CDB.