Příspěvky

1

Hardware / Hardware pro provoz lokálního LLM

« kdy: 04. 12. 2025, 23:45:41 »

uz jsem tu s tim tematem otravoval, tak jeste jednou.

chci nejaky hw na lokalni llm. mam asi takove poradi, ktere vykrystalizovalo podle ceny, zabavnosti, uzitecnosti apod.

1) amd gpu rx 9070 s 16gb vram
2) mac mini s m4
3) rtx 5080 s 16gb vram

2

Hardware / Re:Zprovoznění hardware SPARC64 od Sun Microsystems

« kdy: 26. 11. 2025, 20:45:57 »

na stale jeste bezicim abclinuxu.cz jsou navody pro ruzne hw a mozna tam je i navod na sparc :-)
ja jsem tam jeste nasel svuj text o zprovozneni linuxu na starem neobvyklem hardware z roku 2004.

3

Vývoj / Re:Vezme AI ajťákům práci?

« kdy: 25. 11. 2025, 21:27:25 »

ja myslim, ze tu produktivitu a rychlost zvysit muze.
potreboval jsem zpracovat json pomoci nlohmann a je to nudna rutinni prace,
dal jsem ai vstupni json a napsal mi pekny kod pro nlohmann::json.
ne ze bych na tom zavisel, ale zrychli mi to a nemusim sam tolik hledat.

4

Hardware / Re:Výběr herního PC pro děti do 30 000 Kč

« kdy: 25. 11. 2025, 09:58:18 »

Já bych se třeba podíval na bazar, jestli bych tam našel něco zajímavého, a za ušetřené peníze (oproti novému) bych buď dokoupil RAM a nebo to vylepšil (lepší CPU, GPU, zdroj, bedna, podle potřeby).

s tim souhlas, uvazoval jsem o novem notasu, ale ne, radsi koupim bazarovou rtx 5080 a zlepsim si domaci pc
a ze sveho starsiho notasu se budu remote pripojovat k vylepsenemu pc.

5

Hardware / Re:Výběr herního PC pro děti do 30 000 Kč

« kdy: 20. 11. 2025, 22:13:34 »

co by mohlo byt zajimave je stavba pocitace doma za pomoci deticek.
nechte je, aby vam pomohli se stavbou pocitace.

6

Vývoj / Re:Vezme AI ajťákům práci?

« kdy: 19. 11. 2025, 22:11:23 »

tim padem by bylo zajimave zjistit, zda ai/llm vybere vhodne datove struktury a algoritmy pro dany problem.
zda mi ai poradi spravne, ze mam pouzit vektor, nebo double linked list, mapa apod.
to bych mel vyzkouset.

7

Hardware / Re:Jaký stroj na inferenci AI?

« kdy: 19. 11. 2025, 21:53:35 »

Dejte si pozor na velikost karty, aby se vešla do skříně a zkontrolujte si, jestli máte dostatečně výkonný napájecí zdroj.

jo to jo, dik za pripomenuti, my uz jsme drive kupovali obludnou skrin a zbytecne predimenzovany zdroj, takze
to asi bude fungovat.

8

Vývoj / Re:Vezme AI ajťákům práci?

« kdy: 19. 11. 2025, 21:50:00 »

Obecně se spíš obávám toho kam se časem náš obor posune a jestli se časem víc nebudeme dohadovat s chatbotem, než reálně programovat, to bych opravdu nerad a raději bych šel dělat něco jiného..

no mozna se pak bude tvorit algoritmus na vyssi urovni a ai to prevede do kodu.
treba reknes zadani, projdi vsechny polozky vektoru a kazdou lichou polozku vymaz.
mohlo by to vypadat jako funkcionalni programovani a ai by to prechroustalo.

vyssi uroven kodu -> ai -> bezny programovaci jazyk -> kompiler -> binarka

9

Hardware / Re:Výběr herního PC pro děti do 30 000 Kč

« kdy: 19. 11. 2025, 21:22:07 »

nebylo by lepsi deckam koupit notas, aby si to mohly vzit do postele :-)

10

Hardware / Re:Jaký stroj na inferenci AI?

« kdy: 19. 11. 2025, 21:18:03 »

a6b:
Do 16GB VRAM se vejde jazykový model o velikost asi 12GB, podle kvantizace (4-8 bit) 20B-10B parametrů. Odpověď se bude vypisovat velmi rychle. Pokud část poběží v RAM, bude to dost pomalé. Záleží na přenosové rychlosti paměti.

tak tech 70k uz se blizi 100k za dgx spark, jdu hledat jak jsou vykonove porovnatelne.

Podle různých testů jsou srovnatelně výkonné.

Koukněte sem:
https://www.youtube.com/watch?v=Pww8rIzr1pg


Tady ten člověk testuje spoustu věcí, můžete se inspirovat:
https://www.youtube.com/@DigitalSpaceport/videos

asi pujdu do te grafarny rtx 5080 s 16gb a vrazim to domaciho stolniho kompu.
taky chcu pouzivat cuda.

po dlouhe dobe je nejaka pekna designova vec jako dgx spark od jine firmy nez apple, ale ty prachy jsou uz moc.

11

Hardware / Re:jaky stroj na inferenci ai?

« kdy: 19. 11. 2025, 08:39:05 »

My sme nakupili Strix Halo so 128G unified, cena je okolo 50k KC netto

Zajímavé, kde se ten mini PC dá koupit se 128G  za cca 50k? Všude vidím kolem 70k. Díky!

tak tech 70k uz se blizi 100k za dgx spark, jdu hledat jak jsou vykonove porovnatelne.

12

Hardware / Jaký stroj na inferenci AI?

« kdy: 18. 11. 2025, 22:15:13 »

uvazuji o novem hardware pro hrani s ai na lokale, llama.cpp apod.

uvazuju o variantach:
1) mac pro m3 nebo m4, ktery ma npu.
2) notebook x64 s procesorem co ma npu, ryzen ai apod.
3) koupit jenom lepsi grafickou kartu 5080, 5070 ti do stavajicicho stolniho kompu.

chci si rozjet kvantizovany model a pohrat si s tim, pripadne vyuzit gpu pro blender a cuda.

co by jste si vybrali vy? 60k kc uz je moc, 40k kc je ok.

13

Sítě / Re:Lamačka optických vláken

« kdy: 13. 11. 2025, 20:05:35 »

jako si muzu pujcit sbijecku, nejde i tohle nekde pujcit?

14

Bazar / Re:Máte zájem o TR 3970X (32c/64t), 256 GB RAM?

« kdy: 13. 11. 2025, 13:49:11 »

To je zase akademická debata...

a to vadi, ze tu kecame jako u piva?

ja bych si to asi ted nekoupil, ale premyslim nad tim, kolik bych za to treba dal.

15

Bazar / Re:Pruzkum zajmu TR 3970X (32c/64t), 256 GB RAM, omacka okolo

« kdy: 13. 11. 2025, 11:57:37 »

tady je otazkou cena?