Poslední příspěvky

1

Software / Re:Lokální AI modely pro citlivá data

« Poslední příspěvek od Karmelos kdy Dnes v 16:48:16 »

Nechtěl jsem s tím obtěžovat ale nakonec mi to stejně nedá: k čemu vlastně potřebujete soukromé lokální modely? Neřekl bych ani popel, kdyby šlo o investici řekněme do 200 USD ale k čemu vám soukromě jinak budou? Chápu, že pokud se někdo IT živí jako klasický živnostník, je to jeho pracovní nástroj. Chápu totéž z téhož důvodu ve firmě libovolné velikosti. Ale pokud je člověk zaměstnanec, AI je prostě pracovní nástroj, který očekávám od zaměstnavatele.

Samozřejmě ne, že by se nehodila pro soukromé projekty. Ale kupovat kvůli tomu grafiku za čtyřicet tisíc a stroj za dalších třicet (a to ještě s velkým štěstím), to bych asi musel hodně nevědět co s penězi. Navíc i kdybych chtěl, vzhledem k rozvoji NPU jednotek a obecně specializovaných ASIC je kupovat drahý hardware pokud neexistuje bezprostředně ekonomický obhajitelný důvod poněkud předčasné. A fakt se ptám ze zájmu, nikomu to ani neberu ani to není žádný hate.

Tak jako cokoliv co nahraješ do nějakého modelu na netu je někam uloženo. O tom jak moc informací je z toho balíku použito dál a k čemu se už moc (nic) neví. Dobrovolně nahrávat svoje soukromé konverzace, osobní data, soukromé fotky svoje, svých blízkých bůchvíkam, aby se v tom mohl hrabat kdokoliv, nebo generovat z toho cokoliv třeba mi osobně nepříjde jako nejlepší nápad.

2

Vývoj / Re:Nový systém pro vývoj softwaru

« Poslední příspěvek od Martas kdy Dnes v 15:04:04 »

Jediny smer, ktery dneska stoji za to uvazovat pokud chceme mnohem rychlejsi vyvoj (krom toho co uz existuje), je toto: vymyslet novy programovaci jazyk, ktery vyjadri kompletni webovou aplikaci nejstrucnejsim moznym zpusobem tak, aby se v tom delalo co nejlepe AI a zaroven to bylo jeste citelne pro cloveka. Idealne vymyslet nad tim od zakladu znova webovy prohlizec nebo rovnou cely princip webu.

Celý princip webu tak, jak se prosadil, bych spláchl do hajzlíku, protože to je od samého začátku špatně. Celé to bylo vymyšlené jako popis statické stránky plus hyperlinky - vlastně osekaný roff. Ale základem je něco, co primárně sloužilo k sazbě textu pro tisk. Od té doby se to všelijakými hacky více a více dynamizuje a doplňuje o různé prvky programování. Prostě jako by si někdo na začátku postavil domeček, pak si usmyslel, že by bylo fajn, aby se ten domeček dal stěhovat, a pak, že by vlastně bylo fajn, kdyby mohl jezdit skoro jako normální auto, takže k tomu domečku na různá místa přidělával kolečka, brzdy, světla, oj pro traktor, který to může táhnout za sebou...
Webová aplikace je pak celá tato demence umocněná na kvadrát - to je nápad, budeme dělat auta, co vypadají jako domy! Wow!
Správný postup měl být přesně opačný.

Po přečtení jsem si vzpoměl na Silverlight od Microsoftu... když jsem se o něm dozvěděl a něco v něm skoušel tak mi to přišlo super, půjčil jsem si knihu a začal studovat. Pak jsem se na netu dozvěděl, že ukončili podporu a vývoj. Hm tak asi to všem vyhovuje HTML+CSS  za mě je to zastaralý stejně jako udržování zpětné kompatibility ať už to byly x86 tak DOS aplikace ve win. Prostě už by se měl svět začít zbavovat břemena HTML  a když to vezmu kolem a kolem... tak bych šel ještě hlouběji - na co HTML na texty? na co texty? bude AI - kdo by měl číst? a programovat? proč? na co? zdlouhavý - něco psát a číst... AI si s náma popovídá nově narození nebudou chtít číst a psát když bude AI vše povídat...

(r.2036) ...uběhlo desetiletí a já píši: na co povídat? já bych zrušil učení se řeči a povídání... moderní AI bude přesně predikovat co chci udělat a na co asi zrovna myslím... takže bude dělat na co pomyslím a nebo to bude vědět ještě dopředu na co vlastně za chvíli pomyslím

PS: nedělam si *rdel... jen občas přemýšlím dopředu, jinak než ostatní. Pokud se někdo toho dožijete vzpomeňte si na má slova

Tak to jenom takové úvahy při pondělku ;-)

A ty zapomeň na psaní frameworku v době kdy je tu AI - vymysli (neprogramuj) ...vymysli něco co bude prospěšné pro organizaci a zlepšení komunikace mezi AI a člověkem mluveným slovem. V době, kdy programování bude pomalu končit je dle mého neefektivní vymýšlet progamovací jazyk. Začíná doba AI filosofů, návrhářů, inženýrů, testerů... ale ne progamátorů ;-) a kdo tohle pochopí už dnes tak má navrch... filosofové a fantastové s AI dokážou více než senior programátor už dnes. Já a můj spolužák jsme toho jasným důkazem - fantastové každým coulem

3

Bazar / Re:Koupím RAM DDR4 (2x8 GB nebo aspoň 2x4 GB)

« Poslední příspěvek od vcunat kdy Dnes v 13:05:33 »

Není to přesně to dotazované, ale měl bych mít tohle:
RAM Kingston 2x8GB DDR4 2800MHz CL14 (HX428C14SB2K2/16) HyperX Savage Black

4

Software / Re:Lokální AI modely pro citlivá data

« Poslední příspěvek od RDa kdy Dnes v 12:17:48 »

Nechtěl jsem s tím obtěžovat ale nakonec mi to stejně nedá: k čemu vlastně potřebujete soukromé lokální modely? Neřekl bych ani popel, kdyby šlo o investici řekněme do 200 USD ale k čemu vám soukromě jinak budou? Chápu, že pokud se někdo IT živí jako klasický živnostník, je to jeho pracovní nástroj. Chápu totéž z téhož důvodu ve firmě libovolné velikosti. Ale pokud je člověk zaměstnanec, AI je prostě pracovní nástroj, který očekávám od zaměstnavatele.

Samozřejmě ne, že by se nehodila pro soukromé projekty. Ale kupovat kvůli tomu grafiku za čtyřicet tisíc a stroj za dalších třicet (a to ještě s velkým štěstím), to bych asi musel hodně nevědět co s penězi. Navíc i kdybych chtěl, vzhledem k rozvoji NPU jednotek a obecně specializovaných ASIC je kupovat drahý hardware pokud neexistuje bezprostředně ekonomický obhajitelný důvod poněkud předčasné. A fakt se ptám ze zájmu, nikomu to ani neberu ani to není žádný hate.

Treba u me - vyzkousel jsem to u kamose - jo, vypada to pouzitelne, ale je tu ALE - nechci byt zavisly na rozmaru dodavatele sluzby, zda to pojede / nepojede, nechci byt zavisly na cenove fluktuaci - kazdy vime ze se zdanliva nizka cena muze rychle promitnout v znacny zavazek - a nechci byt nekoho otrokem (abych nahanel sve zakazky jen proto, abych uzivil vycuraneho dodavatele.. viz problem adobe subscriptions). A pak je treti bod - citliva data nemuzou opustit vlastni infrastrukturu - mate podepsane NDA, tak tomu musite vyhovet. Dale je zde znacna neduvera ve vytezovani poskytnutych dat - proc bych mel prispivat k uniku vlastnich znalosti ktere sluzba preda konkurenci ?

Tech jednorazovych 40-80K vas opravdu trapi, kdyz je rozumny obrat na hlavu 2-3 mega?

A i kdyby melo jit pouze o hobby - vemte si kolik lidi vlastni M-kove BMW.. pritom v zivote nebyli na zadne soutezi ucastnikem. Proste to lidi bavi - coz je jenom dobre - touhla a zvedavost nas dela necim vice, nez stroji.

5

Bazar / Koupím RAM DDR4 (2x8 GB nebo aspoň 2x4 GB)

« Poslední příspěvek od ho_st kdy Dnes v 12:12:54 »

Přeji hezký den,
sehnal jsem torzo staršího počítače, kterému chybí SSD a RAM. SSD jsem doplnil, ale RAM nemám. Rád bych ten stroj zprovoznil a nabídl někomu v okolí, kdo si nemůže dovolit nový PC.

Má někdo v šuplíku na prodej za symbolickou cenu DDR4 2133 MHz, non-ECC, un-buffered, 1,2 V? Kapacitu ideálně 2x8 GB, ale budu vděčný i za 2x4 GB nebo 4x4 GB.

Předem děkuji za nabídky.

6

Software / Re:Lokální AI modely pro citlivá data

« Poslední příspěvek od LeosB kdy Dnes v 10:20:33 »

Tiez pokukavam po tom aky setup si zariadit na lokalne AI, resp s aktualnym setupom ako z neho dostat co najviac, kedze "free ride" pomaly ale isto konci a tie ucty za AI poletia do minimalne stoviek eur za mesiac, nie ako teraz ze si vystacim s 20€ planom u claude-u (vid napriklad github copilot zmeny za posledny mesiac).

Free ride zatím nekončí všude - tohle mám vyzkoušené a funguje to velmi dobře (připadá mi že výrazně lépe než podobně levný DeepSeek V4 Pro): https://platform.xiaomimimo.com/docs/en-US/news/v2.5-price-update

Dokud budou k dispozici nabídky za takhle nízké ceny (a je mi jedno že na tom poskytovatelé nejspíš prodělávají) tak je rozumné investici do vlastního hardware odložit, protože díky rychlosti vývoje bude za ty samé peníze v budoucnu k dispozici lepší hardware.

7

Software / Re:Lokální AI modely pro citlivá data

« Poslední příspěvek od Martin Poljak kdy Dnes v 08:49:55 »

Nechtěl jsem s tím obtěžovat ale nakonec mi to stejně nedá: k čemu vlastně potřebujete soukromé lokální modely? Neřekl bych ani popel, kdyby šlo o investici řekněme do 200 USD ale k čemu vám soukromě jinak budou? Chápu, že pokud se někdo IT živí jako klasický živnostník, je to jeho pracovní nástroj. Chápu totéž z téhož důvodu ve firmě libovolné velikosti. Ale pokud je člověk zaměstnanec, AI je prostě pracovní nástroj, který očekávám od zaměstnavatele.

Samozřejmě ne, že by se nehodila pro soukromé projekty. Ale kupovat kvůli tomu grafiku za čtyřicet tisíc a stroj za dalších třicet (a to ještě s velkým štěstím), to bych asi musel hodně nevědět co s penězi. Navíc i kdybych chtěl, vzhledem k rozvoji NPU jednotek a obecně specializovaných ASIC je kupovat drahý hardware pokud neexistuje bezprostředně ekonomický obhajitelný důvod poněkud předčasné. A fakt se ptám ze zájmu, nikomu to ani neberu ani to není žádný hate.

8

Software / Re:Lokální AI modely pro citlivá data

« Poslední příspěvek od kanoe22 kdy Dnes v 08:40:12 »

Tiez pokukavam po tom aky setup si zariadit na lokalne AI, resp s aktualnym setupom ako z neho dostat co najviac, kedze "free ride" pomaly ale isto konci a tie ucty za AI poletia do minimalne stoviek eur za mesiac, nie ako teraz ze si vystacim s 20€ planom u claude-u (vid napriklad github copilot zmeny za posledny mesiac).

Dost sa (by som povedal) propaguje 128GB unifikovanej pamete ako maju napriklad DSG Spark, Mac Studio (niektore z nich / pripadne ine modely), AMD Strix Halo. Lenze ako dobre vieme, cim lepsi model, tim viac pamete treba (a aj cip co to pocita, nie je to len o pameti).

Moja otazka/myslienka nad ktorou premyslam je: kde sa zastavia HW parametre aby sme mali taky ten "dlhodoby sweat spot"?

Pretoze ked sa pozriem napriklad na multiplier u github copilota, kolko si uctuju za jednotlive modely, tak tie najnovsie najschopnejsie modely mavaju multiplier 27 (opus 4.6+) az po 57 (GPT 5.5). Najlepsie free modely sa hovori ze su pozadu zhruba pol roka za najlepsimi platenymi modelmi. Pravdaze tiez s adekvatnymi HW poziadavkamy, ak si niekto mysli ze bude prevadzkovat najlepsie modely na thinkpade s 16GB ram a Intel i5- tretej generacie, tak ma smolika. Pretoze najnovsi deepseek V4 pro (ten vacsi model s 1.6T parametrami, ten mensi sa vola flash a ma 284B parametrov) vraj potrebuje 8x H200 grafiky (kazda jedna stoji 30k+ eur) na svoj beh, co je proste nerealisticke pre bezneho cloveka mat doma.

Preco to spominam? Ide mi o to, aby si clovek nekupil za X tisic eur krabicku, ktora mu o rok/dva, nebude schopna utiahnut ani "bezne dobre modely" - nehovorim o top tier modeloch ako napriklad deepseek v4 pro, ale napriklad o ich 70B modely ktory si dnes vystaci so 128GB, pripadne od inych firiem. Aby proste o rok dva nemali ludia doma na stole drahu krabicku a pokukovali po novej drah(s)ej krabicke.

Aky je vas nazor na toto? Sme uz HW zastabilizovany? Budu sa nove modely zlepsovat pri udrzani aktualnych HW poziadaviek alebo to poleti vyssie?

9

Software / Re:Lokální AI modely pro citlivá data

« Poslední příspěvek od balkovic kdy 07. 06. 2026, 20:24:15 »

Pro pobavení - jak přemýšlí lokální model qwen 2.5-coder (jinak celkem solidní, ale zjevně má trochu problém s češtinou)

Je to pochopiteľná mýľka, lebo je nemecké pečivo, ktoré sa volá purzel (druh koblihy) a kotrmelec sa povie purzelbaum. Rozumiem, že je to nesprávne ale tuším, odkiaľ na to prišiel.

10

Software / Re:Lokální AI modely pro citlivá data

« Poslední příspěvek od noob kdy 07. 06. 2026, 16:58:57 »

A co treba aktualni Intel B70 (32GB, cca 20 tis) ?
Je to vykonove cca jako RTX PRO 4000 (24GB, cca 40-48 tis)
Viz testy zde: https://www.youtube.com/watch?v=RcIWhm16ouQ

Hmm, pěkný tip. Intel Arc Pro B70 32 GB ... u nás v obchodech cca 25k Kč bez DPH. Rychlé je to dost. Dokonce ECC RAM. Časem se dá přidat další karta a provozovat 64GB. Otázka zní jaká bude podpora - ovladače, potřeba extra knihovny pro ollama atd.