11
Software / Re:Lokální AI modely pro citlivá data
« Poslední příspěvek od noob kdy 05. 06. 2026, 20:15:01 »Pro pobavení - jak přemýšlí lokální model qwen 2.5-coder (jinak celkem solidní, ale zjevně má trochu problém s češtinou) 
Poslední příspěvky
12
Software / Re:Lokální AI modely pro citlivá data
« Poslední příspěvek od boardshepherd kdy 05. 06. 2026, 14:57:36 »A není pak lepší nechat ten velký LLM vytvořit nějaký skript a pak ho jen opakovaně spouštět?
Ja napriklad použivvam lokalny LLM na získavanie inofmácií z faktúr. Veľa faktúr k nám chodí ešte na papieri a sú skenované. Tiež máme veľa roznych dodávateľov - roznych typov faktúr, takže použitie custom scriptov je zložité a nespolahlivé. Teraz fakútry ktoré ku nám chodia (okrem tých z XML prílohami) idú všetky cez LLM a automatikcy sa nahrávajú do systému, kde sú následne ešte skotrolované pracovníkom. Chybovosť je pod 5% a dokonca to nemá problém ani z ručne vypísaným faktúrami od drobných živnostníkov.
Najlepšie s mi zatiaľ osvecčili modely gemma4:26B alebo qwen3.6:35b. Beží to na AMD Ryzen AI Max+ 395 s 128GB RAM. Spracovanie jednej faktúry trvá medzi 30 - 60 sekund, čo nie je najrýchlejšie, ale pre moje účely to úplne stačí.
13
Software / Re:Lokální AI modely pro citlivá data
« Poslední příspěvek od noob kdy 05. 06. 2026, 12:59:42 »Záleží na použití.
Z vlastní zkušenosti s Mac mini M4 / 24GB RAM, vyhrazeným pouze na hrátky s LLM:
- i starší RTX 3070 je několikanásobně rychlejší než M4 (ale taky žere 10x tolik elektřiny)
- je velký omyl myslet si, že když se model vejde do (V)RAM tak máte vyhráno - je potřeba počítat s místem pro kontextové okno. Čím delší vstup a složitější prompt, tím větší je potřeba.
- qwen 2.5-coder:14b dokáže v pohodě přepisovat několik set řádkové scripty (PHP, JS, html/css, python ...) - sežere i s rozumným kontextovým oknem 21GB RAM (systém je upravený aby umožnil Ollama démonu alokovat 90% RAM a nepoužívám GUI, takže 3GB pro OS stačí) - není to nejrychlejší, ale vezme si při práci 20W a běží nonstop
- použití lokálního LLM jako agenta je dost problém kvůli potřebné velikosti kontextu a taky je (pro smyslupnou práci) nutné mít chytřejší model - třeba qwen 3.5-agent:latest - tady už 24GB nestačí a hodil by se dvojnásobek (model se při rozumné kvantizaci rozjel, ale neměl dost místa pro kontext a brzo začal halucinovat).
- Hloupější LLM zpravidla neumí používat nástroje - tady vidím největší omezení - například si nic nedohledá na webu, neověří výstup kódu atd. Zatímco třeba Claude už umí ladit scripty přes Chrome DevTools
Teď zkouším nějakou netriviální práci s texty a tvorbu jednoduchých scriptů - tam 24GB sdílené RAM není na překážku. Za 20k Kč na hraní ideál - malá krabička hozená pod stolem, není slyšet a skoro netočí elektroměrem a slouží jako LLM backend pro aplikace běžící někde na VPS
Pro kompletně lokální vývoj bych potřeboval tak 128GB RAM a o kus rychlejší procesor, ale to už je úplně jiná cena za HW.
Pokud nechci pustit cloudový LLM ke kódu - teoreticky se dá použít třeba Claude jako plánovač a agent pro nástroje + lokální model jako kodér a tím odklonit Claude od kódu. (A jako bonus ušetřit spoustu tokenů). Ale je potřeba použít vhodný plugin (ve VSCode možná Roo Coder) a hlavně ho správně nastavit. Tam bych ale raději vyměnil grafiku v PC za 16GB model a šel touto cestou.
Z vlastní zkušenosti s Mac mini M4 / 24GB RAM, vyhrazeným pouze na hrátky s LLM:
- i starší RTX 3070 je několikanásobně rychlejší než M4 (ale taky žere 10x tolik elektřiny)
- je velký omyl myslet si, že když se model vejde do (V)RAM tak máte vyhráno - je potřeba počítat s místem pro kontextové okno. Čím delší vstup a složitější prompt, tím větší je potřeba.
- qwen 2.5-coder:14b dokáže v pohodě přepisovat několik set řádkové scripty (PHP, JS, html/css, python ...) - sežere i s rozumným kontextovým oknem 21GB RAM (systém je upravený aby umožnil Ollama démonu alokovat 90% RAM a nepoužívám GUI, takže 3GB pro OS stačí) - není to nejrychlejší, ale vezme si při práci 20W a běží nonstop
- použití lokálního LLM jako agenta je dost problém kvůli potřebné velikosti kontextu a taky je (pro smyslupnou práci) nutné mít chytřejší model - třeba qwen 3.5-agent:latest - tady už 24GB nestačí a hodil by se dvojnásobek (model se při rozumné kvantizaci rozjel, ale neměl dost místa pro kontext a brzo začal halucinovat).
- Hloupější LLM zpravidla neumí používat nástroje - tady vidím největší omezení - například si nic nedohledá na webu, neověří výstup kódu atd. Zatímco třeba Claude už umí ladit scripty přes Chrome DevTools
Teď zkouším nějakou netriviální práci s texty a tvorbu jednoduchých scriptů - tam 24GB sdílené RAM není na překážku. Za 20k Kč na hraní ideál - malá krabička hozená pod stolem, není slyšet a skoro netočí elektroměrem a slouží jako LLM backend pro aplikace běžící někde na VPS
Pro kompletně lokální vývoj bych potřeboval tak 128GB RAM a o kus rychlejší procesor, ale to už je úplně jiná cena za HW.
Pokud nechci pustit cloudový LLM ke kódu - teoreticky se dá použít třeba Claude jako plánovač a agent pro nástroje + lokální model jako kodér a tím odklonit Claude od kódu. (A jako bonus ušetřit spoustu tokenů). Ale je potřeba použít vhodný plugin (ve VSCode možná Roo Coder) a hlavně ho správně nastavit. Tam bych ale raději vyměnil grafiku v PC za 16GB model a šel touto cestou.
14
Bazar / Re:Prodám QNAP TS-832PXU
« Poslední příspěvek od David Lanc kdy 05. 06. 2026, 11:41:02 »Nas je již připraven k prodeji a součástí je:
QNAP TS-832PXU-4G - cena nového 33 000 Kč
QNAP Rail kit - RAIL-B02 - cena nového 1900 Kč
QNAP QM2 Card - QM2-2P-344A - cena nového 4500 Kč
Celkem: 39 400 Kč, má představa o ceně 20 000 Kč + doprava
QNAP TS-832PXU-4G - cena nového 33 000 Kč
QNAP Rail kit - RAIL-B02 - cena nového 1900 Kč
QNAP QM2 Card - QM2-2P-344A - cena nového 4500 Kč
Celkem: 39 400 Kč, má představa o ceně 20 000 Kč + doprava
15
O serveru Root.cz / Re:Neustálé odhlašování Root.cz
« Poslední příspěvek od Petr Krčmář kdy 05. 06. 2026, 10:36:31 »Vývojáři hlásí, že mají opraveno a já jsem včera už žádný problém nezaznamenal. Snad je to tedy v pořádku.
16
Server / Re:Zamítnutá doména u jednoho ISP
« Poslední příspěvek od BobTheBuilder kdy 05. 06. 2026, 09:45:45 »TIMTOWTDI - nebo jak to měl Larry Wall jako heslo Perlu (mnemonika odpovídá čitelnosti Perlových skriptů) - There Is More Than One Way To Do It.Tak snad odpověď už znáte: kupte si vlastní doménu a tam si můžete dělat, co chcete, a jestli bude na backlistu, tak si zato budete moct sám. Zase tak moc drahé to není.No ale pokud to má doma a ISP dává veřejnou dynamickou IP, tak tam stejně musí mít nějakou DDNS službu a na té jeho doméně bude akorát CNAME na ten DDNS hostname a pokud Telekom blokuje překlad té DDNS domény, tak na tom bude stejně jako předtím, jediná výhoda snad bude, že bude moct v případě problému změnit tu DDNS službu aniž by musel měnit doménu přes kterou mu tam lezou lidi, pokud najde takovou, kterou Telekom nebude blokovat..
Na VDSL u T-Mobile jsem neměl pevnou adresu, a přesto ji neměnili a dokonce, při změně mi to oznámili. Vodafone (exUPC) adresu drží, dokud nevyměním modem.
Takže těch pár změn si v DNS udělám ručně.
Pokud se to mění často, tak si buď připlatím na pevnou adresu, nebo najdu DNS server s API.
Změna DDNS služby je taky možnost, ale pokud ta jeho jen blacklistu proto, že to je DDNS, tak tam může být i jiná.
17
Server / Re:Zamítnutá doména u jednoho ISP
« Poslední příspěvek od aaa158 kdy 05. 06. 2026, 08:40:13 »Zaujimave ze verejnu domenu mas problem tuna zverejnit ;-)
18
Server / Re:Zamítnutá doména u jednoho ISP
« Poslední příspěvek od Marek Staněk kdy 05. 06. 2026, 07:46:03 »To máš naprostou pravdu, ale je zcela mimo mísu si stežovat, že mu nikdo nechce pomoct, když dokonce i snahy o pomoc torpéduje tím, že nejenže relevantní informace nedal rovnou, ale hlavně je dát odmítá, a pošle je (otázka jestli všechny relevantní nebo na x koleček dotazování) pouze konkrétnímu vyvolenému soukromou zprávou.
Kdyby místo toho položil (sám sobě) správné otázky, problém diagnostikoval, a i pokud by ho vyřešit nedokázal sepsal by to do článku nebo do fóra, to by byl úplně jinej level.
Kdyby místo toho položil (sám sobě) správné otázky, problém diagnostikoval, a i pokud by ho vyřešit nedokázal sepsal by to do článku nebo do fóra, to by byl úplně jinej level.
19
Software / Re:Lokální AI modely pro citlivá data
« Poslední příspěvek od Zopper kdy 05. 06. 2026, 07:09:25 »A není pak lepší nechat ten velký LLM vytvořit nějaký skript a pak ho jen opakovaně spouštět?Jsou úlohy, kde to prostě neuděláš, nebo se to nevyplatí. LLM si velmi dobře poradí s fuzzy vstupem, zatímco ten skript se ti velmi snadno rozbije, jakmile je něco trošku jinak. Takže pokud je to třeba něco, co pouštíš jednou týdně, ta LLM to zvládá (a když náhodou něco dost podělá, tak to můžeš detekovat a pustit znovu), zatímco skript budeš každý druhý týden opravovat...
No tazka ci su Macy dostatocne dobre na to aby to zvladali alebo radsej sa pozerat po nejakej zostave s vykonnou GPU? Znovu je to teda otazka na pomer cena/vykon.V určitém rozsahu ten Mac vyjde výrazně lépe, protože pro typicky potřebuješ co nejvíc VRAM a GPU s velkou VRAM jsou teď extra drahé. Například 48GB Mac Mini se sdílenou pamětí stojí na Alze co, 60k? Zatímco AI akcelerátor s obdobně velkou VRAM seženeš tak za dvojnásobek a víc (hráčskou GPU neseženeš vůbec) a k tomu musíš koupit ještě zbytek serveru. (Nebo budeš mít za stejnou cenu jen poloviční VRAM.) U toho Macu sice nebudeš mít takovou rychlost výpočtů, ale vleze se ti tam ten větší a schopnější model za mnohem menší cenu. Plus, pokud to máš na always-on domácí šolíchání a sedí ti to hromadu času v idle, tak ten rozdíl ve spotřebě mezi Mac Mini a big tower se taky projeví.
20
Bazar / Re:Prodám MikroTik CRS354-48G-4S+2Q+RM
« Poslední příspěvek od petrcze01 kdy 05. 06. 2026, 01:21:58 »Dobrý den,
mohl by jste prosím přidat údaj o hw revizi ?
Je ve winboxu v následujícím umístění System > RouterBoard
zajímá mě údaj revize, ideální je "r2" nebo vyšší. U tohoto modelu to důležitá informace.
A údaj z System > Resources hodnota BadBlocks
Díky.
Dobrý den,
omlouvám se, vlákno mi nějak zapadlo. Zasílám níže.
Kód: [Vybrat]
[petr@MikroTik] > system routerboard print
routerboard: yes
model: CRS354-48G-4S+2Q+
revision: r2
serial-number: D8510F737DAA
firmware-type: qca9531L
factory-firmware: 6.49
current-firmware: 7.21.4
upgrade-firmware: 7.21.4
[petr@MikroTik] > system resource print
uptime: 1m39s
version: 7.21.4 (long-term)
build-time: 2026-04-21 06:49:05
factory-software: 6.48.2
free-memory: 24.8MiB
total-memory: 64.0MiB
cpu: MIPS 24Kc V7.4
cpu-count: 1
cpu-frequency: 650MHz
cpu-load: 3%
free-hdd-space: 4080.0KiB
total-hdd-space: 16.0MiB
write-sect-since-reboot: 36
write-sect-total: 26517
architecture-name: mipsbe
board-name: CRS354-48G-4S+2Q+
platform: MikroTik 