Poslední příspěvky

Stran: [1] 2 3 ... 10
1
Software / Re:Lokální LLM AI moduly
« Poslední příspěvek od Exceptions kdy Dnes v 22:42:36 »
ve firmě mám dost macbooků m2/m3 s 60 GB GPU RAM se tam dají rozchodit i ty velké modely, ale relativně pomalu, na ladění promptů ale dostatečné.

Na rozumnější testy máme desktop s 4 x A4000, relativně low cost řešení, ale vejdou se čtyři i do malé skříně a nepotřebují tak drahý HW, tam už běhají svižně ledajaké modely. Na produkci nebo trénování pak takové ty srandy za cenu fábie jeden kus nebo se dají za podobné ceny ročně pronajmout v cloudu.
2
Software / Re:Lokální LLM AI moduly
« Poslední příspěvek od Wasper kdy Dnes v 22:36:11 »
S temi LLM moduly se v posledni dobe vysypal pytel ;)
a mne pripada ze provozovat to "lokalne" dava smysl,
nez krmit mojimi daty ty jejich ....cena hdd se dneska do sehnat 1TB za $9.99,
ale chapu ze je to hodne zavisle na velikosti vRAM/GPU ....

Pouziva tady nekdo nejake, lokalne na PC?

Pouzivam "na hrani" ve volnych chvilich, 64GB Ram, 4060Ti/16GB VRam, i5-12600KF.

A nadavam u toho, je toho malo. Jak pameti, tak i VRAM, rozchodit nejaky model na tom je pruda neskutecna (treba ted posledni Janus-7B byl neskutecny opruz, sice accelerate umi offlodovat model z GPU do RAM/disku, ale presvedcit ho, ze Cuda:Out of memory neni spravny vystup dalo dost prace (a pri hledani na HF je par podobnych temat, bez odpovedi. tl;dr: musi se tomu omezit VRAM na 5GB, aby ji to nesezralo vic nez 14GB ;-) ) ale kdyz uz to clovek rozchodi, tak to funguje hezky. (zrovna toho Januse mam v planu zkusit pouzit na roztrideni fotek)

S HDD $9 za tera bacha, pokud se celej model nevejde do cache, tak plotnovej disk neni moc dobrej napad. Na stazeni modelu "pro pripad ze by je nekdo zakazal" je placka dobra, pro praci to chce SSD/NVMe.
3
Software / Lokální LLM AI moduly
« Poslední příspěvek od Jigdo kdy Dnes v 21:38:55 »
S temi LLM moduly se v posledni dobe vysypal pytel ;)
a mne pripada ze provozovat to "lokalne" dava smysl,
nez krmit mojimi daty ty jejich ....cena hdd se dneska do sehnat 1TB za $9.99,
ale chapu ze je to hodne zavisle na velikosti vRAM/GPU ....

Pouziva tady nekdo nejake, lokalne na PC?

Jake a jak a na jakem HW?

Jedna nejmenovana Tel. firma, to pouziva
pro trideni podvodnych volani/spamu svym zakaznikum,
s velkym usechem, a jeste se jim podarilo je zmapovat jak pracuji ....
je nejaky takovy jazykovy modul k mani?


Chysta root.cz nejaky uvod do AI pro bezneho uzivatele?

4
Hardware / Re:Firemní počítač na soukromé použití
« Poslední příspěvek od 🇺🇦 GPU kdy Dnes v 21:38:54 »
Když má důchodce hotovost, stejně pak chodí na poštu platit složenky, a doma pak mají sta/desetisíce na hotovosti, takže je pak často někdo různými způsoby okrádá. Jen ať mají důchodci účty, bezhotovostní platby "složenek", a platební kartu do krámu. Místo vybírání celého důchodu na poště si z účtu vyberou jen nějaké kapesné, třeba z bankomatu - s tím pomohou pomoci potomci, vnoučata, pečovatelka,... složenku nikomu jinému nevyplatí.
5
Software / Re:Stránka se přes Tor dlouho načítá a nenačte se
« Poslední příspěvek od Jigdo kdy Dnes v 21:18:15 »
Narazil jsem na par webu, ktere blokovaly nekolik Tor Nodu,
ale vzdycky se mi podarilo najit nejaky, ktery fungoval -> "New Tor circuit for this site".

Co je zvlastni, ze nedavno jsem potreboval na par dnu pracovat z US IP pres VPN,
a vsiml jsem si, ze i kdyz jsem byl pripojeny za velkou louzi,
moje 3 hop servery byly vzdycky Evropske .......

Take muzete vyzkouset blokovani Exit/Nodes etc.
https://v236xhqtyullodhf26szyjepvkbv6iitrhjgrqj4avaoukebkk6n6syd.onion/t/how-to-select-certain-country-for-exit-node/14080
https://tor.stackexchange.com/questions/733/can-i-exit-from-a-specific-country-or-node

Kód: [Vybrat]
nano ~/.local/share/torbrowser/tbb/x86_64/tor-browser/Browser/TorBrowser/Data/Tor/torrc
Kód: [Vybrat]
ExcludeNodes {au},{ca},{nz},{gb},{us},{sa},{il},{??}
ExcludeExitNodes {au},{ca},{nz},{gb},{us},{sa},{il},{??}
6
Sítě / Re:Školení firewallů
« Poslední příspěvek od kopevi2 kdy Dnes v 20:25:36 »
...si vyberu takoveho co bude mit alespon minimalni znalosti.
nebo jsou poradana za ucelem podojeni statu nebo jsou prilis uzka. Nejlepsi skoleni je praxe, coz pochopitelne bude znamenat, ze ten cas do toho musi investovat predevsim ten zajemce, a pak mozna obcas nejaky ten dozor.


To je taky taky pravda, osobně bych nedoporučoval školení od ENGETA. Minulý rok jsem si zaplatil za svý, python a byla to naleštěná bída. Holka po mateřský co se furt divila že ji něco v jupyteru nefunguje, inzerát zde na rootu to vychvaloval do nebes(což mě dost zklamalo), cena odpovídala individuálnímu přístupu(22k za cca 32h) a nakonec jsem se dozvěděl, že se jedná o rekvalifikační kurz s 60 účastníkama. Tematika vůbec nebyla pokrytá (psali tam, že je to pro každého - už jsem pár věcí v pythonu programoval, ale jsem spíš samouk, chtěl jsem se tam dozvědět best practices, git apod...) ale nic, i když jsem o to žádal. Vím udělal jsem chybu, že jsem jim nenapsal před kurzem o info a přesnou osnovu, ale psali tam že tam bude individuální přístup. Takže vybírejte pečlivě, ať jde o cokoliv...
7
Sítě / Re:Jak zablokovat vše čínské?
« Poslední příspěvek od Jigdo kdy Dnes v 20:07:29 »
Mozna uz se v minulosti resilo.
Chtel bych idealne zablokovat vsechny sluzby, ktere pochazi z Ciny, ale nechci je blokovat jednotlive, spise pouzit nejaky seznam, ktery je zablokuje automaticky.
Ja sam problem s nechozenim na cinske veci nemam, ale chci to zakazat hlavne detem. Tzn potrebuju asi reseni na vice urivnich. Napriklad neco se zablokuje na android tabletu, neco zablokiji na dns. Atp.

Dekuji za rady.


Vy jste uz v teto chvili "produktem"
(znam malo lidi co nejsou,
pocitam ze na root.cz se najde take nekolik,
ale vetsinu lidi to nezajima a nemaji na to
z duvodu krysiho zavodu cas).

A je jen na Vas, jestli budete "produktem" [Vase data]
zapadu, vychodu, obou a nebo vubec ;)

Nevim jestli jste slysel o skandalu
"Facebook-Cambridge Analytica".

O co jde? V zasade vzdy o to stejne, "dominance" a Vase data ...
Vedet co si myslite (Socialni site), co ctete (WWW), sledujete (IPTV, HbbTV),
koho volite, co kupujete (Amazon, ...).

Vite co vsechno o Vas sbira Vas ISP fixni i mobilni, co Vase smart auto, hodinky atd.........?

Co bych Vam doporucil, je pouzivat:
- Operacni system, ktery Vas nebude smirovat (Linux, etc...) a bude tzv. "Up to date".
- Prohlizec, ktery ma minimalne "uBlock Origin" a "NoScript" (ale je to otrava, nez to doladite s tim NS)
- DNS over HTTPS s DNS blokovanim (a nebo na Android DoT)
- VPN ktere nesmiruje a nabizi Quantum resistentni tunel atd.
- Prestat sledovat statni/komercni TV a otevrit oci a trosilinku se rozhlednout ...
(A dovolena v Egypte a hotelu "ALL IN" Vam o kulture a lidech, kteri v te zemi ziji skoro nic nerekne).

Je skoda ze se tomuhle tematu na root.cz nevenuji vice a treba "Specialy"
a nebo rovnou "Privacy" neni v menu ;(
8
Vývoj / Re:Proč se cpe JavaScript na backend?
« Poslední příspěvek od to_je_jedno kdy Dnes v 19:10:46 »
Nezazněly tu hlavní rozdíly mezi ekosystémy. Pokud je na backendu PHP, tak má každý návštěvník vlastní proces, který je po vygenerování výstupu zlikvidován. Tím je zabráněno možnému zaseknutí serveru, při pádu jednoho procesu stačí reload stránky.

Naproti tomu servery s Javou či Javascriptem řeší odpovědi jedním procesem větveným na vlákna. Návštěvníci tedy mohou spolu interagovat bez použití databáze, mohou pracovat se společnými daty. Nevýhodou může být, že při pádu aplikace spadne celý server.

Typový systém nepovažuji za nezbytný. Dá se spolehlivě pracovat i bez něho a vývoj je o to rychlejší. Jen je třeba klást větší důraz na testy, bez kterých se dnes stejně programovat nedá.
Uz je tady zas, Karliku, opakuji uz je tady zas!
Neni schopen pracovat s typama, omlouva si to a navic nechape horizontalni skalovani.
9
Vývoj / Re:Proč se cpe JavaScript na backend?
« Poslední příspěvek od to_je_jedno kdy Dnes v 19:08:41 »
jako backendar jsem se musel ten js nejak, jakkoliv doucit. frontendaci nemaji silu se naucit golang, python atd.

je to nahoda nebo symptom?!!
Kazdy holt nema dano byt raketovy inzenyr ci jaderny vedec. Ale vas nerd ninjy by zase nebavilo lepit ty webiky za par kacek. Stejne jako potrebujes neurochirurgy tak potrebujes i obvodaky, ale dokonce potrebujes i prodavacky v lidlu. Proc se vetsina testeru nema silu naucit goland? Je to nahoda nebo symptom? tak asi takhle hloupy je tvuj dotaz.
10
Vývoj / Re:Proč se cpe JavaScript na backend?
« Poslední příspěvek od to_je_jedno kdy Dnes v 19:06:14 »
Asi mi něco uniká, já jsem nikdy ten boom JS na backendu nepochopil. Nedokážu si představit, jak by na něm fungovaly moje projekty. Dělám e-shopy a mám tam plno blokujících operací, např.:
- Čtení a generování velkých XML/Excel dat (stovky tisíc produktů)
- Následné zpracování (dost často plnohodnotným ORM)
- Různé prasárny, kde se porovnávají obrovská pole atd. I těch rychlejších CPU operací je stejně hodně a podle mě se to nasčítá.
O tom to cele je. Ja zase nevidim duvod proc by vetsina webu mela byt psana v (dosad si sam) kdyz je na to PHP nebo JS mnohem efektivnejsi. A to slovo efektivnejsi ma spoustu duvodu, ale vsechny v zasade konci na ceně.
Stran: [1] 2 3 ... 10