1
Nová témata / jaky stroj na inferenci ai?
« Poslední příspěvek od a6b kdy Dnes v 22:15:13 »uvazuji o novem hardware pro hrani s ai na lokale, llama.cpp apod.
uvazuju o variantach:
1) mac pro m3 nebo m4, ktery ma npu.
2) notebook x64 s procesorem co ma npu, ryzen ai apod.
3) koupit jenom lepsi grafickou kartu 5080, 5070 ti do stavajicicho stolniho kompu.
chci si rozjet kvantizovany model a pohrat si s tim, pripadne vyuzit gpu pro blender a cuda.
co by jste si vybrali vy? 60k kc uz je moc, 40k kc je ok.
uvazuju o variantach:
1) mac pro m3 nebo m4, ktery ma npu.
2) notebook x64 s procesorem co ma npu, ryzen ai apod.
3) koupit jenom lepsi grafickou kartu 5080, 5070 ti do stavajicicho stolniho kompu.
chci si rozjet kvantizovany model a pohrat si s tim, pripadne vyuzit gpu pro blender a cuda.
co by jste si vybrali vy? 60k kc uz je moc, 40k kc je ok.
Poslední příspěvky