1
Hardware / Aké mini PC pre lokálny ChatOllama webserver?
« kdy: 17. 09. 2024, 08:37:56 »
Aké _mini_ PC pre lokálny ollama chat webserver aby zvládal veľké modely (16+ GB) s rýchlosťou aspoň 20 t/s ? Dá sa to vôbec bez dedikovanej grafiky? Či počkať na AMD AI procáky?