1
Nabízím zakázku / Re:Poptávám 3D tisk
« kdy: 17. 12. 2025, 22:15:32 »
ok :-)
pred 20 lety jsem nastavajici zene zmeril prst pomoci kousku spagatu :-)
pred 20 lety jsem nastavajici zene zmeril prst pomoci kousku spagatu :-)
Tato sekce Vám umožňuje zobrazit všechny příspěvky tohoto uživatele. Prosím uvědomte si, že můžete vidět příspěvky pouze z oblastí Vám přístupných.
doplnění k mac mini, ten má až 32 GB ram a zanedlouho by mělo být možné jich více propojit přes thunderbolt a využít jako výpočetní cluster pro AI. Výkon je ale slabý.
Mac ještě nabízí mac pro, tam mám třeba variantu s 256 GB ram, což je naprostý luxus, spustím tam skoro jakýkoliv model, ale zase to je spíše na debugování, ověřování, není to na produkci, výkon není kdovíjak dobrý a nelze snadno řídit cluster více maců (ikdyž to by asi šlo dodělat nějak).
Já bych se třeba podíval na bazar, jestli bych tam našel něco zajímavého, a za ušetřené peníze (oproti novému) bych buď dokoupil RAM a nebo to vylepšil (lepší CPU, GPU, zdroj, bedna, podle potřeby).
Dejte si pozor na velikost karty, aby se vešla do skříně a zkontrolujte si, jestli máte dostatečně výkonný napájecí zdroj.
Obecně se spíš obávám toho kam se časem náš obor posune a jestli se časem víc nebudeme dohadovat s chatbotem, než reálně programovat, to bych opravdu nerad a raději bych šel dělat něco jiného..
a6b:
Do 16GB VRAM se vejde jazykový model o velikost asi 12GB, podle kvantizace (4-8 bit) 20B-10B parametrů. Odpověď se bude vypisovat velmi rychle. Pokud část poběží v RAM, bude to dost pomalé. Záleží na přenosové rychlosti paměti.
tak tech 70k uz se blizi 100k za dgx spark, jdu hledat jak jsou vykonove porovnatelne.
Podle různých testů jsou srovnatelně výkonné.
Koukněte sem:
https://www.youtube.com/watch?v=Pww8rIzr1pg
Tady ten člověk testuje spoustu věcí, můžete se inspirovat:
https://www.youtube.com/@DigitalSpaceport/videos
My sme nakupili Strix Halo so 128G unified, cena je okolo 50k KC netto
Zajímavé, kde se ten mini PC dá koupit se 128G za cca 50k? Všude vidím kolem 70k. Díky!