1. Fórum Root.cz
  2. Profil tomvec
  3. Zobrazit příspěvky
  4. Příspěvky

Zobrazit příspěvky

Tato sekce Vám umožňuje zobrazit všechny příspěvky tohoto uživatele. Prosím uvědomte si, že můžete vidět příspěvky pouze z oblastí Vám přístupných.


Příspěvky - tomvec

Stran: [1] 2 3
1
Odkladiště / Re:Paměťová režie malých LLM
« kdy: 08. 04. 2025, 10:27:53 »
Tady je ta zmínka o režii modelu. Cca 13,5GB model (Gemma 2 27b Q4) zabere až 19GB VRAM.

https://blogs.nvidia.com/blog/ai-decoded-lm-studio/

2
Odkladiště / Re:Paměťová režie malých LLM
« kdy: 08. 04. 2025, 06:30:38 »
Pánové děkuji za nakopnutí.

3
Odkladiště / Re:Paměťová režie malých LLM
« kdy: 06. 04. 2025, 18:16:32 »
Nebo spíš tak, nemám GK, na které bych si něco mohl spustit. Také jsem četl, že některé modely lze v LM studiu spustit, i když nedostačuje velikost VRAM, ale klesá rychlost v závislosti na tom, kolik z toho modelu se do VRAM vleze.

4
Odkladiště / Re:Paměťová režie malých LLM
« kdy: 06. 04. 2025, 18:11:06 »
Tak na procesoru si spustím i třeba qwen2.5 72b, ale ta rychlost nic moc, to je tak spustit, jít něco dělat na zahradu a potom si to přečíst. Větší model se mě nechtělo stahovat, protože pomalá linka. Menší modely i na tom procesoru se dají.

5
Odkladiště / Re:Paměťová režie malých LLM
« kdy: 06. 04. 2025, 08:45:35 »
Pro upřesnění, jde mě o lokální spouštění na GK. Jde o to, že 8b model má velikost do 5GB a na 8GB VRAM jde spustit bez problémů. 11b model má 8GB a zřejmě už se nevleze, a takový 14b model má 9GB a tam je potřeba větší VRAM. Pokud tedy je potřeba připočítat nějakou režii paměti, vlezou se 11b a14b modely do 10GB VRAM? Do 12GB se předpokládám vlezou.

6
Odkladiště / Paměťová režie malých LLM
« kdy: 05. 04. 2025, 20:24:29 »
Mám otázku k paměťové režii malých LLM, tedy o kolik víc VRAM si model vezme, než je jeho fyzická velikost (velikost souboru). Na netu jsem někde zahlédl, že má být 1 až 5 GB, ale bez uvedení velikosti souboru. Dá se to někde najít, nebo dopočítat? Děkuji.

7
Sítě / Re:Nefunguje připojení k internetu od O2
« kdy: 15. 03. 2025, 16:22:17 »
A tak to jo, to jsem tedy žil s mylnou představou.

8
Sítě / Re:Nefunguje připojení k internetu od O2
« kdy: 15. 03. 2025, 14:10:42 »
Ty screenshoty jsou z rozhraní toho tp-linku, že?

Já jen že výstup z Terminátora je gigabitový Ethernet. Tak proč je na těch screenshotech vidět snaha o propojení přes PPPoE? Terminátor je už na VDSL připojený. Takže když na výstup z Terminátora připojíš přímo počítač, internet musí běžet, ne?

9
Distribuce / Re:Ubuntu Firefox bez Snap - stále sa vracia snap verzia
« kdy: 07. 03. 2025, 09:18:37 »
Kdysi jsem se snažil se snapem bojovat, taky jsem měl Firefox z PPA a taky se pořád děly nějaké podivnosti. Já si vždycky doinstaloval Synaptic a v něm jsem našel jakýsi metabalik Firefoxu, který tam ten snap nahazoval. Nebo tak nějak si to pamatuju. Teď mám OpenSUSE, tak to nedohledám.

10
Hardware / Re:Stavba vlastní PowerWall
« kdy: 04. 03. 2025, 06:10:48 »
Ano, Multiplus umí pracovat i v takovém režimu, nastaví se mu, kolik maximálně může vzít ze sítě a zbytek dodá z baterie.

11
Hardware / Re:Stavba vlastní PowerWall
« kdy: 03. 03. 2025, 21:34:09 »
Nevím v jakém Západákově chceš ten DYI PowerWall provozovat, ale tady platí, že je to "elektrika",:tedy vyhrazené zařízení, které může realizovat pouze oprávněná osoba, a pokud tedy nemáš potřebné oprávnění tak ti na to žádný revizák razítko nedá. Když nemáš revizi a příslušné zasmluvnění, tak to zařízení nesmíš připojit k distribuční soustavě. A i když ti prodejce bude tvrdit cokoliv, tak vždy budeš mít minimálně technické přetoky ven a jak to distributor zjistí, tak tě nejspíš pěkně osolí. Leda že bys to provozoval jako ostrov, tím se ovšem nezbavíš té záležitosti s oprávněnou osobou.

12
Hardware / Re:Stavba vlastní PowerWall
« kdy: 03. 03. 2025, 19:34:46 »
Trochu jsem to proletěl a mám pár poznámek.

Dělat nějaké seriózní řešení na 12V pro potřeby domácnosti je nesmysl, to leda tak do zahradní chatky nebo karavanu. Na DYI do domácnosti to chce 48V.

Victron Multiplus II je výborná, široce konfigurovatelná hračka. Je to robustní řešení, ale je to relativně velké a těžké. A protože je to nízkofrekvenční řešení s velkým toroidem, tak to hezky bručí. Takže přišroubované na stěnu v paneláku nic moc.

Vyvaroval bych se levných čínských střídačů, byť prodávaných našimi nebo polskými firmami. Je to poddimenzované, má to malé chladiče a hlučné ventilátory. A slušnou poruchovost.

Vlastně (téměř) všechny střídače mají ventilátory a při zátěži se je nebojí použít. A je to prostě slyšet. V bytě nic moc.

Střídač s teoretickým maximálním výkonem 2000W je i na byt prostě málo, při 1f připojení bytu může nastat (a nastane) přetížení i u 4kW střídače.

Vůbec ta myšlenka, že v nízkém tarifu budu nabíjet baterie a tím si přilepším ve vysokém tarifu je ekonomický nesmysl.

13
Windows a jiné systémy / Re:Poslední verze Mapy.cz pro Android zdarma
« kdy: 07. 02. 2025, 07:49:45 »
@Xtrubka: také je příznačné, že když se v diskusním fóru zeptá na něco nějaká Xtrubka a nedostane ihned přesnou odpověď i s návodem jak to udělat, tak začne držkovat a dělat chytrého.

14
Windows a jiné systémy / Re:Poslední verze Mapy.cz pro Android zdarma
« kdy: 06. 02. 2025, 06:54:28 »
Problém pro někoho může být, že musí mít účet u seznamu a musí být přes něj do aplikace přihlášený pro využití placených funkcí.

15
Hardware / HP Z440 na doma - je potřeba něco nastavit, povypínat?
« kdy: 21. 01. 2025, 17:16:55 »
Zdravím, koupil jsem si v bazaru HP Z440 Workstation na takové to domácí žvýkání. Je potřeba pro domácí použití někde něco přenastavit, povypínat, na něco si dát pozor? Jako třeba aby to nevolalo někam domů a tak (IME a podobné srandy). Díky za případné informace.

Stran: [1] 2 3