pro resolver nebo myslíš, aby ti vrátil jen dostupný A záznam? Dnsmasq neumí zjišťovat, jestli vrácené záznamy jsou funkční, hlavně nemá to jak zjišťovat (stačí route? Nebo ping? Co když je icmp zakázané? Nebo má dotazovat nějakou službu na L7?).
Pokud to chceš jen pro sebe, udělej si na localhostu reverzní proxy (nginx, haproxy) a tam nastav více backendů, pak se ti vrátí jen ten, který je dostupný na http (či podle nastaveného checku).
Případně můžeš využít nástroje jako consul, mít agenta na jednotlivých hostech a přes jeho DNS službu vrací poté pouze aktivní IP podle dostupnosti agenta (a případně jeho checků).
Pokud to chceš mít veřejně, tak je asi nejlepší (vzhledem k ceně a složitosti) mít nějakou jednoduchou službu, která bude kontrolovat dostupnost serverů a podle toho přes api upravit DNS záznam. Tak to dělám pro menší klienty, výpadek je vesměs vždy pár minut (při TTL 60) a pro hodně situací to je přijatelné.