Poslední příspěvky

Stran: [1] 2 3 ... 10
1
Ja mam uz roky:
MB: Supermicro X11SCH-LN4F
CPU: Xeon E-2236
RAM: 4x32G DR4 ECC
K tomu 9x3.5 hdd, cele pod upskou, okolo upsky este ATS nech sa s nou da cvicit, k tomu 1U mikrotik, nejaky vetrak na skrinu a cele sa to drzi do 80W idle.

Dneska by uz mohla byt aj nejaka novsia generacia s lepsim powermanagementom...

Tady ti zerou nejvic ty disky ( 9 * 5-6 W = 45~54 W ), ta deska a cpu v idle je asi 25W, tam neni moc kam jit dolu (BMC a  4 sitovky delaj 5W cca, dalsich caa 8W ty 4x32G). A ups si taky veme cca 10 W pausalne.

Priblizne od te 8-9 genererace (coffee lake) uz je efektivita na vrcholu, nize muzes jit jedine se SoC resenim (u AMD APU) a bez chipsetu, bez managementu.. a la NUC. Ale to nebude mit ani absolutni vykon a nebude mit ani konektivitu. Proste lepe to uz udelat nejde.

Jsou tedy jen 2 smery kam s tim jit - nahoru s absolutnim vykonem (smer na plnotucne servery, kde moderni zelezo ma stejnou efektivitu jak tenhle desktop), ale bude to samozrejme absolutne vice i zrat. A nebo naopak - absolutnim vykonem dolu / featurama dolu, a pak to bude mit mensi spotrebu.
2
Hardware / Re:Hardware s nízkou spotřebou pro domácí lab
« Poslední příspěvek od RDa kdy Dnes v 14:30:34 »
Jestli ti staci 64G, tak si muzes poridit starej worstation notebook (napr. tady mam HP ZBook se skylake, 4x sodimm = 64GB), novejsi generace notasu/procesoru zvladne pak 4x32G = 128G. Dela se to i ve variante se Xeonem, takze je tam navic moznost to mit s ECC. Do techto workstation rad klidne das 2+ nvme, takze muzes vesele raidovat (neco starsiho bude mit nvme m2 + 2.5" sata kombinaci).

Desktop by mel smysl pokud potrebujes OOB management (BMC, ipmi, KVM over IP), nebo flexibilnejsi I/O a realne PCIe sloty. Pokud ale neprovozujes nejakou silenou sitarinu nebo vyvoj hw.. tak na takovy soft only VM ti staci fakt nejaky lepsi pracovni notas... a UPS i lokalni konzoli budes mit zadaco :D
3
Hardware / Re:Hardware s nízkou spotřebou pro domácí lab
« Poslední příspěvek od redustin kdy Dnes v 13:09:50 »
Tak dle https://aukro.cz/fujitsu-celsius-m740n-intel-xeon-ddr4-az-256-gb-7073998821 by vyšel s 8x 32GB DIMM a nejsilnějším  E5 2683 V3 14C/28T na 2,5k CZK + 8 x 40EUR + 1 x 40 EUR + doprava z SK => nějakých 12-13k CZK. Samozřejmě to by žralo asi o malinko víc, moje konfigurace je 96GB a E5-1650 v4 @ 3.60GHz.
4
Vývoj / Re:Vezme AI ajťákům práci?
« Poslední příspěvek od L.. kdy Dnes v 12:14:37 »
U nás se na používání LLM při programování hodně tlačí, tak s ním mám hezké příhody z praxe.

První: Nedávno jsem tomu dal upravit reducer pro zobrazování notifikací - v principu pokud přijde víc stejných notifikací, tak se zobrazí jedna a jejich počet. Přes LLM jsem dodělával funkci přidání víc notifikací v jednom callu (batch add). Vypadalo to smysluplně, bylo to hezky pokryté testy, tak jsme to nasadili.

Před pár dny jsem dostal bug z produkce který vypadal, jako že to v nějakých případech nededuplikuje, ale zobrazí víc stejných notifikací. A souviselo to nejspíš s tím, že jich přišlo hodně těsně za sebou.

Spustil jsem tedy Claude a zeptal se ho "Může se někdy stát, že tenhle reducer bude mít ve stavu dvě stejné notifikace?" Sebejistě odpověděl, že se to rozhodně stát nemůže, protože podívej, tady se to kontroluje a pokud je notifikace stejná, tak to jen zvýší čítač.

Hmm, řekl jsem si. Tak zkusíme ten podezřelý případ. A zadal jsem mu doplnit test, kdy zavolá batch add s vícero stejnými notifikacemi. Chvíli na tom dělal a pak prohlásil "Ha, našel jsem chybu, v takovém případě to vygeneruje do výstupu dvě stejné notifikace, protože XY. Mám to opravit, nebo mám upravit test?" Badum tsss.

Druhá příhoda, asi dva měsíce zpátky: Měli jsme funkci, která špatně fungovala přes změnu času. Tak jsem napsal testy na problematické cases a zadal Claude: "Oprav funkci, aby testy procházely." Claude šrotil a šrotil a šrotil a po delší době napsal: "Hm, nějak se mi to nedařilo, tak jsem ti posunul testy mimo problematický rozsah a už to prochází." To bylo minimálně na double facepalm.

A třetí příhoda ještě předtím: Měl jsem skript v bashi, který řešil jakési získávání tokenů a potřeboval jsem ho převést do PowerShellu. Tak jsem to zadal do LLM, výsledek vypadal OK, skript běžel a tvářil se, že funguje. Jenže když jsem ho pak zkoušel používat, tak mi to ten token nebralo. Strávil jsem na tom docela dost času, myslel jsem si, že mám špatně někde nějakou konfiguraci nebo práva (skript jsem nepodezíral)... Nakonec jsem získal oficiální PS verzi toho skriptu a ta fungovala. Ooops.

Za je LLM takový hodně hloupý zato hodně sebevědomý junior, který umí dobře hledat na StackOverflow. Pokud člověk musí čas od času udělat něco jednoduchého v oblasti, které moc nerozumí, tak tam LLM hodně pomůže. Pokud dělá něco, kde na kvalitě zas tak moc nezáleží, třeba různé prototypování, generický formulář nebo jiné generické  věci co jsou udělané 1000x (na různá parsovadla logů) tak taky. Ale na něco složitějšího / specifičtějšího je to hodně tricky a ten přínos je tam celkem malý, protože něco to urychlí, ale jinde zase člověka zavede do slepé uličky a nakonec na tom stráví víc času, než když by to dělal sám.
5
Hardware / Re:Hardware s nízkou spotřebou pro domácí lab
« Poslední příspěvek od František Ryšánek kdy Dnes v 12:08:23 »
Sice starší model, ale mám výborné zkušenosti s repasovaných FS Celsius M740n. Idle spotřebu jsem naměřil kolem 50W, na max. něco přes 100W. 256GB DDR4 ECC max, levné Xeony, velice tiché, dobře řešené chlazení, dost PCIe slotů pro NVMe. V kanclu běží pod stolem a nikdo o něm neví. Provoz 24/7 zcela bez problémů (ťuk ťuk). Repas stojí pár tisíc, zrovna teď jeden na aukru za 2.5k CZK.

Na první pohled to nezní vůbec blbě. Byť je to trochu retro :-)
Čtu správně správně Xeon E5-1620 ? To je příkonově úsporná varianta plnotučných xeonů ve "velké" patici. 4 kanály DDR3, zřejmě ECC REG. Jestli se k tomu dá ve výprodeji koupit taky RAMka, je to na hraní možná dost dobrej kauf :-) Jinak 4 jádra s HT = 8 vláken, 10 MB cache, 32nm Sandy Bridge. Ten procesor uvedli v roce 2012, přestali vyrábět někdy cca 2015.
6
Hardware / Re:Hardware s nízkou spotřebou pro domácí lab
« Poslední příspěvek od František Ryšánek kdy Dnes v 11:59:56 »
Mluvíte-li o spotřebě, držte se nějakého skromnějšího Ryzenu 7 = jedna patice AM5, jeden čiplet, možná si odpusťte X3D (L3 cache zvyšuje idle spotřebu). Takže objednací kód procesoru má mít na konci "X" (bez grafiky) nebo "G" (s grafikou). Momentálně bych volil s ohledem na spotřebu AMD - Intel musí napřed dodělat nějaké domácí úkoly :-)

Pokud vezmete gaming motherboard, nebude mít onboard grafiku. Takže potřebujete buď procesor s integrovanou grafikou (G popř. tuším 7800X3D) nebo přidat nějakou minimální grafiku do PCI-e slotu.
Serverové boardy např. od AsRock Rack mají maličkou onboard grafiku integrovanou s IPMI BMC (podpora remote IP KVM v HTML5 browseru). Tyhle boardy případně podporují taky jmenovitě ECC RAM - k tomu komentář níže. Pozor, serverové boardy AsRock Rack s AM4/AM5 mají DIMM sloty podélně, a taky patici CPU otočenou o 90° oproti "desktopové konvenci", a protože rozteč šroubů pro chladič je obdélníková, běžný gaming chladič se stojatým ventilátorem by Vám foukal ne dozadu, ale proti napájecímu zdroji...

A pokud se bavíme o Miditoweru, tak možná taky bacha na výšku chladiče, aby se vešel do skříně. Na trhu je spousta chladičů, které se nevejdou do 4U a potřebují reálně bachratý tower... Což mi připomíná jeden otylý piditower od Intertechu... pro microATX desku, údajně se vejde CPU chladič jenom do 165 mm výšky, což mě překvapuje, protože tahle skříň je široká 205 mm, a cca 164 mm počítám jako maximum ve 4U racku (<178 mm).

Ještě zpátky k RAMkám: socket AM5 má zřejmě vrozenou vlastnost, že z něj vedou 2 kanály DDR5 RAM, každý o dvou slotech. Takže máte 4 DIMM sloty, víc ani ťuk. (Víc mají serverové platformy = plnokrevný EPYC nebo ThreadRippper: hodně moc kanálů s podporou "registered" (buffered) technologie = hodně moc moc DIMM slotů o velké kapacitě.)
AM5 podporuje samozřejmě bezparitní = non-ECC unbuffered RAM, teoreticky také ECC unbuffered. Podporu ECC musí deklarovat procesor (ne všechny Ryzeny to umí, pozor zejm. u modelů s integrovanou grafikou) a měl by ji podporovat taky motherboard, buď explicitně (AsRock Rack) nebo by se to mělo aspoň věrohodně šuškat mezi znalci (tuším AsRock gaming). DIMMy s ECC jsou dražší, a končí s kapacitou reálně na 32 GB per modul (teoreticky snad i 48 GB per modul). Unbuffered DIMMy se na trhu vyskytují s kapacitou až 64 GB per modul, zřejmě i před CU-DIMM (CU-DIMM má otazník ohledně podpory na starých/stávajících deskách). Viděl jsem 64GB non-ECC unbuffered od značek jako Kingston, Crucial, tuším Innodisk... čestné pionýrské, 64GB Kingston má údajně skladem zelená obludka.

Zajímavé je, že AMD ohledně Ryzenů v AM5 dodnes tvrdí na svém webu "128 GB max". Mám podezření, že ta informace je zastaralá a marketingově motivovaná. Zastaralá proto, že v době uvedení AM5 (reálně ještě asi před rokem či dvěma) byly na trhu nejvýše 32GB jednotlivé DIMM moduly. A marketing může velet, že není dobré, kanibalizovat si vyšší produktové řady, nominálně "serverové". Výrobci motherboardů také často tvrdí "128 GB max" = 4 sloty po 32 GB. Přitom ale v seznamu podporovaných pamětí třeba už potkáte 64GB DIMMy (a v manuálech v dnešní době nebývají "mapy povinného osazení" DIMM patic). Všiml jsem si zmínek od lidí, kteří otestovali 192 GB (= 4x 48GB). V tuto chvíli nedokážu dohledat žádnou referenci, že někdo zkusil naskládat do AM5 desky Ryzen a 256 GB RAM. Ale nemohu vyloučit, že by to šlo :-) Musel by se asi rozhoupat někdo, kdo tyhle věci prodává a drží skladem - což já nejsem.

Tzn. ohledně podpory 256 GB jsme momentálně na "desktopových platformách za rozumné peníze" na jakémsi bodu zlomu. Ono to možná funguje už teď, ale pokud ano, tak se výrobci CPU a boardů nehrnou nás k tomu poňoukat.

V DDR5 typu Clock-Buffered = CU-DIMM by kapacita 64 GB měla být běžnější... ale jejich podpora zatím není explicitně deklarována na momentálně běžných motherboardech s čipsety B650 nebo B850. Mimochodem B650 je zřejmě "dělník a univerzální voják platformy AM5".

Pokud by Vám zmíněný svět AM5 přišel ještě zbytečně žravý (můj odhad je něco jako 30-40W celá sestava idle bez točivých disků) a chcete víc uškrtit napájení, tak se podívejte po nějaké desce s ATOMem i3-N305 (Alder Lake N). Je to poměrně výkonné osmijádro se srandovní spotřebou. Samozřejmě x86_64, samozřejmě VT-x, dokonce i VT-d (což mám pocit že nevyužijete). Tuším pouze jeden kanál DDR5, bývá připojen na jedinou SODIMM patici. Zřejmě se do toho dá nacpat 48GB - větší SODIMM moduly se nedělají.

Mimochodem jsem si všiml zajímavých "jinak tvarovaných" skříněk u značky Ablecom (jakási utajená sestra značky Supermicro). Všimněte si těch "kvádrů nastojato pro ležatý ITX motherboard". Ale pravda je, že na NAS jste se neptal...

No a pak je tu ta aktuální situace s cenou RAMek.

Nechcete s nákupem "rozmarnější" sestavy rok-dva počkat? Splaskne AI bublina, přizpůsobí se výrobní kapacity, bude na trhu nová generace procesorů a čipsetů (nebo dvě), s trochou štěstí skončí válka na UA a nerozjede se další na TW... Momentálně třeba začněte s nějakým skromnějším "kozím dechem" a 32-48 GB RAM...
7
Hardware / Re:Hardware s nízkou spotřebou pro domácí lab
« Poslední příspěvek od redustin kdy Dnes v 11:24:38 »
Sice starší model, ale mám výborné zkušenosti s repasovaných FS Celsius M740n. Idle spotřebu jsem naměřil kolem 50W, na max. něco přes 100W. 256GB DDR4 ECC max, levné Xeony, velice tiché, dobře řešené chlazení, dost PCIe slotů pro NVMe. V kanclu běží pod stolem a nikdo o něm neví. Provoz 24/7 zcela bez problémů (ťuk ťuk). Repas stojí pár tisíc, zrovna teď jeden na aukru za 2.5k CZK.
8
Bazar / Re:Prodám zálohy linuxových distribucí na CD a DVD
« Poslední příspěvek od 𝑾𝑰𝑭𝑻 kdy Dnes v 10:09:12 »
Taky mám zajímavou sbírku optických médií, získal jsem ji shodou okolností včera. Jedná se o databázi médií z bývalého CD-R serveru. Ve fyzické podobě, tzn. kolem desítky krabic médií od různých výrobců :). Myslíte, že za to od nějakého sběratele dostanu spoustu peněz? :-D
9
Vývoj / Re:Vezme AI ajťákům práci?
« Poslední příspěvek od Standa Blábol kdy Dnes v 10:02:46 »
Ad viz vyse:

LLM samozrejme nezvysuje senioritu, lec VYRAZNE zvysuje produktivitu.

Anzto vyznamne snizuje mentální zatez zpusobenou trivialitami vukol.

Ukoly typu vytvor typescript formatovaci funkci, ktera prevede cislo na lidsky citelny text se suffixem K,M,G,T davam komplet LLM a funguje to dobre. Usetrim tim 10 minut prace ale hlavne usetrim unavu mozku, ktery svoje kapacity muze venovat necemu podstatnejsimu.

Opravdovou dusevni praci neni mozno delat dyl nez par hodin denne a cokoliv co mozku odlehci od trivialni zateze velice pomaha produktivite.

A casto LLM necham zkontrolovat muj kod a casto prijde s opravdu peknym napadem na vylepseni, najde ci jsem prehlidl, upozorni na side effect.

Programovani se holt meni, stejne jako kdyz prisel C kompiler a libc. Nyni je dulezitejsi analyza, vlastni kodovani vicemene prevezmou stroje.
10
Bazar / Re:Prodám zálohy linuxových distribucí na CD a DVD
« Poslední příspěvek od novomente kdy Dnes v 05:21:42 »
Tak jsem včera shlédl ten film - Sexmise - zasmál jsem se, pobavil a poučil. Pak jsem chtěl jít na fórum, abych si přečetl zdejší nové příspěvky. Ale z nějakého důvodu jsem to neudělal a po filmu šel hned spát.

Ráno jsem se probudil a přemýšlel o prodejnosti nebo neprodejnosti těch záloh. Dostal jsem mnoho vnuknutí, které považuji za velice dobrý důvod, který vedl k mému rozhodnutí si zálohy ještě ponechat.

Ne. Oním důvodem není ani tak příprava na válku, ve které svět už v podstatě je a vždycky byl. Již jsem psal, že věřím, že ta válka nebude v Čechách a ani na Slovensku. Hlavní důvod je historický - studium historie - jak to dělali naši otcové a hlavně naše babičky. Prozradím, že jejich rady jsou neocenitelné.

Nechci tuto diskusi tímto ukončit, ač se zdá být logické ji ukončit. Ale kdo chce se připravit na válku v Čechách, která, jak někteří lidé tvrdí, je za dveřmi, ať se podívá na film - Kdyby tisíc klarinetů z roku 1964 viz.

https://www.csfd.cz/film/7750-kdyby-tisic-klarinetu/prehled/

Vřele doporučuji :)

nm
Stran: [1] 2 3 ... 10