VMWare Hypervisor (ten free) si vystačí s 1GB RAM, 5.5 je na dvě věci (už jsem se k tomu vyjádřoval v několika vláknech a to dokonce i na VMWare foru), lepší jsou 5.1, ale stejně se ti to nevyplatí, protože na rozumnou praci s tim potrebujes Windows klienta, v terminálu to má tak nestandardní příkazy, které podle mě nejsou ani zdokumentované, navíc má ESXi omezenou skupinu ovladačů, takže to na neserverovy hardware ani nemusíš nainstalovat, respektive největší problémy bývají se síťovkou. Pokud si chceš hrát s 2012, tak ti na to budou stačit i 2GB RAM (nepředpokládám, že na tom bude viset tuna uživatelů). Pro domácí účely to bude fakt dostačující. Jdi do KVM.
Jinak, jak tady všichni píšou, pro pár počítačů se s tím fakt nedrbej. Jestli se to chceš naučit, tak jo (testuj si to klidně na dvou virtuálech - server plus klient, ale tady už budeš muset tu RAMku dokoupit), ale doménou od Windows si můžeš způsobit tolik problémů, že ti to za to nebude/nemusí stát.