Příspěvky

61

Odkladiště / Re:Vlastní instalace ChatGPT

« kdy: 26. 08. 2023, 21:12:11 »

ach,  nepochybne jsi prehledl, co se dejev instutucich.

Nepřehlédl, jen mi nepřipadá odborný linuxácký server jako vhodný prostor k terfování, teda pokud je to nad rámec tématu. A tam si za mechanismy, jakými se woke dostávé do produktů víceméně stojím.

62

Odkladiště / Re:Vlastní instalace ChatGPT

« kdy: 26. 08. 2023, 13:21:31 »

vareni perniku ani pornografie nejsou v rozporu s ideologii globalnich elit. Kdo by to podle Vas mel cenzurovat?

Představa, že přijde nějaká globální elita a řekne "teď vycenzurujte všechny zmínky na slovo žena" je na úrovni mateřské školky. Ono se to děje protože jsou lidi zblblí a dělají to, aby si vylepšili skore na HR plném aktivistů, nebo (v horším případě) protože tomu věří. Podoba s totáčem u nás čistě náhodná.

Co se týče modelů - tak už tyhle první jsou bohužel poněkud zblblé směrem woke, ale zase tam nehledejte nějakého hlavního konspirátora - vono když někdo vezme hromadu všech možných textů z Internetu převážně z anglosaských zdrojů (čti: největší objem je z poslední dekády) a naháže to do tréningových dat, tak se není čemu divit, že je neuronka zblblá z propagandy taky. A jo, použitelnost pro organizovaný zločin je jedna z prvních věcí, kterou je potřeba LLM odnaučit, ještě předtím než se začne vymýšlet, jak jí vymejt mozek politickou korektností, už kvůli důsledkům pro business.

63

Odkladiště / Re:Vlastní instalace ChatGPT

« kdy: 25. 08. 2023, 20:49:31 »

Ked sa nad tym teraz zamyslam, textovy "18+" material pri pride uplne skvely napad na pokus o dotrenovanie

Staré llamy moc cenzurované nebyly co se týče textu (podařilo se mi samozřejmě v rámci akademického bádání, z Alpacy 13B vytáhnout (víceméně správný) návod na vaření perníku nebo na vyhubení lidstva)

Porno moc textově cenu nemá, pro obrázky doporučuji kouknout na civitai.com (aby to zobrazilo nsfw, je potřeba registrace na mail, klidně anonymní přes kachní relay), tuším tam mají i návod nebo odkaz na instalaci AUTOMATIC111 webui. Ale to už nějakou grafiku chce.

64

Odkladiště / Re:vlastne "chatGPT"

« kdy: 25. 08. 2023, 20:44:02 »

blba otazka: staci sa pozerat na mnozstvo RAM na grafike?

Blbá odpověď: Pro amatéra ano.
Takhle - málo raměti je showstopper. pomalé výpočty jsou jen pomalé výpočty. Asi takhle (spíš jsem si hrál trochu s grafikou).

Real-ESRGAN: (upscaling foto/video, oprava máznutí)
4GB GTX1650 se to dá rozběhat, aby šlo i učit neuronku (na specificky máznutý film), tak to chce hodně hraní s tréningovou sadou. a tréning trval asi 20 dní (při 40W spotřebě)
12GB RTX3060 to jede v pohodě, stejný tréning kolem 6 dní, 170W spotřeby

StableDiffusion: (generování obrázků)
4GB GTX1650 to nejde ani rozjet (neumí fp16 a s fp32 se to tam prostě nevejde).
12GB RTX3060 už většinu normálního generování dá, včetně nového SDXL (1024x1024 native) který je na hraně, pokud tam chce člověk dělat složitější pipe (typicky různé upscalingy), tak je to taky na hraně/za hranou

Tréning - prý LoRA ("patch" do modelu) jde i na 8GB, na 12GB už v pohodě.
DreamBooth (třeba učení modelu vlastního psa) je totálně na hraně, stačí jedna blbost v configu a nebo leak a nevejde se, jinak s odřenými ušima to na 12GB projde.

Ten domácí problém je v českejch asi ten, že 4GB jsou někde na 4k, 12G kolem 8k v ceně a to je z dostupných jen a právě RTX3060 takže moc na výběr není (zkoušet 8GB mě ani nenapadlo, ale kdo nějakou už doma má, může to zkusit, případně jí v rodině posunout dál a koupit si lepší), a cokoli většího v částce, kterou do toho člověk na hraní moc investovat nechce, takže další parametry jako výkon moc nehrají roli ;-)

65

Odkladiště / Re:vlastne "chatGPT"

« kdy: 25. 08. 2023, 11:23:41 »

Jestli si chceš hrát, tak asi takhle:
- Pořiď si nVidia s co nejvíc RAM v rámci limitu, co sis na to nastavil (RTX3060 má 12GB za cca 8k, cokoli míň se ti vymstí při učení resp. neučení, jestli máš na 24GB, jdi do toho.)
- Zbytek narvi do RAM, alespoň 32GB to chce určitě, 64GB se odvděčí.
- Počítej několik tera na různé modely, tréningová data (no terovej SSD pro začátek asi OK, pak časem uvidíš)

Pak začni třeba s https://github.com/nomic-ai/gpt4all případně se staršími modely https://github.com/cocktailpeanut/dalai a dál už sám.

P.S. Ty dva odkazy ti pojedou i na slabém PC bez grafiky. Ale tu budeš stejně potřebovat na skoro cokoli

66

/dev/null / Re:Co se to deje s Wedosem?

« kdy: 24. 08. 2023, 19:51:28 »

Jaky problem bych mel mit s praci pro USA firmu na full remote za americky prijem ze Sumavy? Proc citujete jen tu cast vety, ktera se vam hodi?

Tak nějak bych si tipnulm, že ten plat z Šumavy bude spíš za plat indický než americký...

67

Software / Re:Čínský software v síti

« kdy: 11. 08. 2023, 22:31:57 »

..., ne jak se zbavit zákazníka (nebo přízemně - zdroje peněz).

Naivko, někdy můžeš být vlivem trhu donucen ze zbavit zákazníků(je to výhodnější),

Mno tak nevím, ale pokud je třeba řeš o aktivistickém managementu jako Bud light, Target a rostoucí počet dalších dobrovolných zbavení se zákazníků ve prospěch konkurence, tak si nemyslím, že by šlo o reakci na donucení trhem ve prospěch akcionářů. ;-)

Wiresharkem, jo? Hahaha. Nedávnu proběhla médii kauza, kdy specializovaná firma na bezpečnost v Německu nezachytila bezpečností riziko. Četl jsem rozbor různých odborníků a opravdu to není tak jednoduché odhalit.

Tak ono není takový problém konkrétní aplikaci zabránit špehovat, airgap nebo alespoň izolace je celkem triviální, stejně jako odchytit, jestli aplikace posílá něco, co nemá.

Co je problém, když těch aplikací jsou provozované vyšší desítky, je potřeba aby komunikovaly a aby se updatovaly, navíc každý update může být změna, to pak je to celkem nezvládnutelné, i když na to peníze jsou (a to obvykle nejsou, běžná korporátní představa je víceméně zadarmo)

68

Software / Re:Nenažraný Firefox - jak zjistit, kde je ta černá díra?

« kdy: 10. 08. 2023, 16:23:53 »

Můžeš zkusit toto rozšíření, uspává neaktivní taby: https://addons.mozilla.org/en-US/firefox/addon/auto-tab-discard/

Rád bych se zeptal, tohle rozšíření ten tab opravdu jen uspí (nedává mu CPU a neposílá eventy), nebo ho i nějak discardne? (tvrděj že snižuje memory footprint, což by to taky naznačovalo) Narážím na to, že bych potřeboval něco, co ten tab jen zastaví, ale např. zůstane neběžet otevřený dialog a po přepnutí zpět pokračuje vše dál. Ale když jsem se po něčem (ne)dávno scháněl, tak vše skončilo reloadem stránky, tak jsem se na to vykašlal.

69

Software / Re:Čínský software v síti

« kdy: 10. 08. 2023, 15:41:13 »

1/ fakt neni stejne , kdyz cmucha komunista a kapitalista. tenhle argument se vynoruje znova a znova.
kapitalista te odre o penize, komunista celou tvou rodinu posle do uranovej dolu.

Možná bych srovnával srovnatelné, což 50 léta nejsou - on ten komunista v 80 letech taky člověka neposílal do uranových dolů, spíš makat do kotelny a děti nepřijmout na školu, jen velmi výjímečně bručet (pokud teda nebyl člověk disident). Což kapitalista v rámci DEI dělá taky, někdy i na základě jediného Like.

2/ i kdyz to komunista bude ignorovat a tripismenkova us agentura si to zamce do supliku a nebude to sdilet...
za jak dlouho nejaky megabalik dat jim unikne? kolikrat se to uz stalo?

Co si tak matně vzpomínám na Snowdena, nebyla náhodou část práce i průmyslová špionáž pro domestic firmy?

Pokud je nekdo OK, ze jeho data jdou pres cinani, tak je prinejmensim trdlo.

Optimálně když nejdou (alespoň v defaultu - neřešme teď cílené útoky na cenné cíle) ani tam, ani tam.

70

Sítě / Re:CGNAT - počet domácností za jednou IP

« kdy: 02. 08. 2023, 05:37:20 »

Co jsem slyšel, tak limit počtu uživatelů není technický limit CGNATů, ale interní limity velkých populárních internetových služeb. Údajně, když dáte za jednu adresu víc než 300 - 350 uživatelů, začne jim Google ukazovat CAPTCHA:

Hmm zajímavé. Ale možná bych měl alternativní hypotézu, tohle dělá Google také naprosto spolehlivě, když se na něj leze ze zabezpečenějšího prohlížeče, i když na daném IPčku není vůbec nic dalšího, párkrát mám pocit že i následně pro prohlížeč v defaultu.
Těžko odhadovat, jestli alespoň tahle část není něco jako "my vám to blokování šmírování znepříjemníme".

71

Studium a uplatnění / Re:IT Rekvalifikace

« kdy: 29. 07. 2023, 13:06:18 »

povedzme si to jednoducho: junior IT je niekto, kto ma roky praxe vo vseobecnom rozhlade.

Lidi přece chybí, ne? Něco se naučím sám a něco mě naučí zaměstnavatel.

Jasně, ale nesmí to dojít do situace, kdy nový kolega nemá ani základy a nejužitečnější by byl, kdyby krmil cvičenou vopici a na nic nešahal (možná se ještě účastnil zbytečných korporátních meetingů) a vyhodit nejde, protože HR zrovna hledá, komu by mohli škrtnout FTčko v rámci katování kostů. Bohužel podobných případů jsem potkal docela dost.

Jako asi nejlepší začít někde v L1 supportu, tak se uchytíš celkem v pohodě, a jakmile se budeš cítit na víc, tak změnit pozici.

72

Hardware / Re:UPS pro malou spotřebu a dlouhý čas

« kdy: 04. 07. 2023, 14:36:57 »

Daleko raději bych měl zálohovaných DC 12V, ale to by chtělo mít po celém obydlí roztahaných 12V a maximum věcí napájet z tohoto DC rozvodu. To bych pak řešil jedním macatým zdrojem 13.7V, který bude napájet celý DC rozvod, ke kterému bude přes polyswitch připojená třeba velká trakční gelovka. Samozálohovací a bezpečný systém.

Tohle mi nepřipadá dobře, teda jestli nechcete mít po bytě roztahané měďěné traverzy jak na staré ústředně. Zatím to dělám jako Vy (autobaterka na staré UPS, utáhne to celé odpoledne, a pro nouzi ve stodole benzínový agregát), ale jestli budu dělat nejlépe solárem nabíjený DC rozvod, tak to bude někde kolem 48V nebo i výš.

73

Studium a uplatnění / Re:Zhoršující se chování recruiterů

« kdy: 20. 06. 2023, 20:36:40 »

Jestli vono to nebude spis tak, ze s vekem nam odchazeji chutove bunky... a dochazi trpelivost... a snizuje se tolerance veskereho BS...

Tohle vysvětlení jsem si taky dlouho představoval, nicméně návštěva bývalého kolegy, který se vykašlal na obor a začal farmařit to dokáže vyvrátit celkem zdařile.

74

Software / Re:Aplikační firewall hlídající kaskádu "parent PID"

« kdy: 15. 06. 2023, 02:15:45 »

Přesně tohle je řešitelné přes selinux, jedna z věcí, které umí, je když něco v kontextu např user_t spustilo binárku wget_exe_t tak aby to automaticky nahodilo kontext wget_t, zatímco při puštění z podezrelyprogram_t do nějakého restricted_t.
A každý z těch kontextů může mít jiná práva. Jediný problém je, že je to dost netriviální hračka.

75

Server / Linuxový souborový systém s línou deduplikací

« kdy: 30. 05. 2023, 15:08:53 »

Zdravim vespolek
Nemate prosim nekdo zkusenost/doporuceni, jestli existuje pod Linuxem pouzitelny filesystem, ktery umi deduplikovat data na nem, a da se realne pouzit/nekdo ho pouzivate?

O co jde - hraju si s neuronkama, prakticky kazdy projekt ma jine requirementy (uz jsem rikal, ze nenavidim ekosystem kolem Pythonu?) a vysledkem je dost pres desitku venv-u, ktere jsou z vetsi casti hodne podobne, a jen mamuti jako pytorch uziraji tretinu disku, coz je dost nemile.

Jako last resort mam programek, co prochazi disk a kdyz se shoduje sha256 tak ze 2 fajlu udela pres hardlink jeden, ale jestli to jde nejak elegantneji, tak se rad priucim a zkusim neco noveho.