Příspěvky

16

Studium a uplatnění / Re:V IT po čtyřicítce

« kdy: 29. 09. 2023, 10:15:07 »

Musíte chodit k dobrým odborníkům. Problémy se zády apod. se aktivním lidem rozhodně nevyhýbají.

aktivny clovek != clovek co sa ide trochu hybat, pretoze desiatky rokov sedel za pocitacom a uz mu to zacalo vadit.

vo vseobecnosti (aspon v mojom okoli), ludia co aktivne sportuju trpia roznymi problemami plynucimi z toho, ze sa hybu
ale to je nieco uplne, ako diskutovany problem.

ale samozrejme, ma zmysel si nechat poradit odbornikom.

17

Studium a uplatnění / Re:V IT po čtyřicítce

« kdy: 29. 09. 2023, 09:20:12 »

Doporučuju podobné zobecňující rady brát s rezervou a v případě vážnějších obtíží raději vyhledat odborníka na problémy spojené s vadným držením těla atd. Tím neříkám, že pohyb není důležitý, ale není pohyb jako pohyb a není tělo jako tělo.

tak ci onak skoncite s odporucanim pohybu
riesit to cez specialistov je zvacsa zbytocne.

18

Studium a uplatnění / Re:V IT po čtyřicítce

« kdy: 26. 09. 2023, 13:46:35 »

Takze sis to pekne racionalizoval a nasel sis hezkou vymluvu proc se mas pravo zaradit mezi ty slabe?

Oznacit cloveka ktory neciti potrebu sa do smrti vycerpanim zucastnovat krysieho preteku za "slabeho" je dost scestne.

Naopak, je celkom racionalne tvrdit, ze su aj rozumnejsie sposoby travenia zivota.

Ale kdyz mas deti tak bys mohl citit urcitou zodpovednost za to jaky svet jim zanechas ne?

Normalny IT-zamestnanec zarobi bez extra namahy dost na to, aby detom mohol dat rozumny start do zivota.

19

Studium a uplatnění / Re:V IT po čtyřicítce

« kdy: 25. 09. 2023, 19:47:17 »

Pokud vás za takovou práci platí natolik, že v pohodě uživíte rodinu a ještě si ušetříte na důchod, tak je to asi značka ideál.

sme na IT serveri, to tu moze mat kazdy.

20

Vývoj / Re:IT - programovani pro deti (10let)

« kdy: 21. 09. 2023, 09:35:18 »

osobne vnimam situaciu tak, ze najdolezitejsie je, aby dieta malo vlastnu motivaciu.

V pripade mojho dietata to uplne prirodzene skoncilo tak, ze vie vsetko co sa da Minecrafte a s tym suvisiacich veci.
Pouziva redstone na pomerne komplikovane veci, nieco tusi o Javascripte a pise si bootov v Pythone do Discordu.
Zlahka sme sa dotkli do Javy, ale kedze nie som javista nevedel som ho efektivne nakopnut, aby si spravil vlastnu modifikaciu Minecraftu, napriek tomu, ze zaujem by bol.

Ked som mal viac casu, spravili sme jednoduchu hru v Unity sposobom, ze on nad tym travil mrak casu a ja som mu pomahal riesit zaseky. Ale to bola pekna ukazka, ze ked motivacia nejde z dietata, tak to nie je uplne ono. Dokoncili sme to do funkcneho stavu ale nijak sme na to nasledne nenadviazali.

Opakovane zvazujem kvoli detom kupit 3D tlaciaren, ale mam pocit, ze ked si na to nenajdem dost casu ja, tak to bude zapadat prachom.

Samozrejme dieta ma k dispozicii vlastny pocitac bez nejakych vaznejsich obmedzeni, takze veci ako instalacia SW / pouzivanie VPN / zapajanie beznych periferii / pouzivanie Office / kupovanie si hier z vreckoveho / natocenie videa na Youtube je ciste v jeho rezii, ktoru mlcky ocakavam, ze zvlada .

21

Odkladiště / Re:Vlastní instalace ChatGPT

« kdy: 11. 09. 2023, 08:20:46 »

pre pobavenie reportujem aktualny vysledok

Ja: "Hi, how are you?"
PC: "Thanks for your great review. I'm glad to see that this is a good restaurant after reading some reviews online about it being an average experience or poor dining room service at best. Hopefully the chef will be able to turn things around again and make people enjoy coming here more!"
Ja: " I'm exciting of your answer . You are quite slow, what do you need?"
PC: "My reply was about 20min after yours. Sorry for the delay!"


Co sa tyka instalacie, spominal som pocas nej na instalacie databaz pred 20imi rokmi

Pokus c.1.
- zobral som svoj pracovny terminal (Mac) a skusil navod z https://github.com/cocktailpeanut/dalai
   skoncil som na "bad magic" ozname. Nieco taketo: https://github.com/langchain-ai/langchain/issues/2392
   Po par pokusoch co s tym som to zmazal, ze to skusim inak .

Pokus c.2.
- nainstaloval som do VM novy debian (12.2)
- mlcky som zaignoroval poziadavku na verziu Python3 v nadeji, ze kedze problemova kniznica sa nejak da nainstalovat, ze to pojde.
- skoncilo to na tom istom errore

Pokus c.3.
- nainstaloval som starsi debian (11.7)
- python3 som nainstaloval z reporzitory
- nodejs v.18 z WWW
- alapaka 7B, 13B obe skapali na "bad magic".
- skusil som llama 7B a to zazracne zafungovalo (netusim pricinu)

Sucasny stav ma 24G RAM, povodne to malo 1 procesor, ale ked VM ujukala ze ma malo procesorov, dostala 4.
Grafiku to nema prakticky ziadnu, prva odpoved bola cez noc (po 10ich minutach som to nechal bezat, ze uvidime rano).
Druha odpoved vznikla teraz pocas pisania .

22

Hardware / Re:Hardware na NAS

« kdy: 30. 08. 2023, 09:11:40 »

Sifrovany FS povazuju za standard, a to specielne v domacich podminkach. Nemusim pak resit, ze nekde nekdo vyhrabne disk z popelnice a bude si prohlizet moje data. Pricemz mrtvy disk se premazava dost blbe ze?

zjavne som paranoidnejsi a v zivote som ziadny disk alebo jeho ekvivalent nehodil do smetiaku bez fyzickeho zneskodnenia .

23

Odkladiště / Re:Vlastní instalace ChatGPT

« kdy: 25. 08. 2023, 17:52:05 »

vdaka, skusim nejaku v VM v Amazone najprv. Ak sa zadari zamyslim sa nad HW na doma podla vysledku.
Hadam sa k tomu dostanem do konca mesiaca. Ked ano, dam vediet pre pobavenie publika vysledok .

Ked sa nad tym teraz zamyslam, textovy "18+" material pri pride uplne skvely napad na pokus o dotrenovanie

Nez se vydas do Alzy:
...

24

Odkladiště / Re:vlastne "chatGPT"

« kdy: 25. 08. 2023, 13:27:41 »

blba otazka: staci sa pozerat na mnozstvo RAM na grafike?

tak nejak predpokladam, ze sa mi staci zamerat na tento jeden atribut.

bacha,nektere 3060 maji jen 8GB
tech 12GB je fakt minimum pro tyhle ucely

25

Odkladiště / Re:vlastne "chatGPT"

« kdy: 25. 08. 2023, 11:44:07 »

dik,

pozeram na cenu HW, v Alze najlacnesie na uvod: https://www.alza.sk/alza-battlebox-ryzen-rtx3090-quiet-d6466944.htm 2000e
no keby som to zamaskoval v rodinnom rozpocte, ako herny pocitac pre dieta na Vianoce...

asi skusim ako prvy nastrel nejaku VM na Amazone, nech nekupim nejaku drahu blbost

ide par volnych dni, hadam sa mi jedno poobedie podari alokovat na tento experiment.

Jestli si chceš hrát, tak asi takhle:
- Pořiď si nVidia s co nejvíc RAM v rámci limitu, co sis na to nastavil (RTX3060 má 12GB za cca 8k, cokoli míň se ti vymstí při učení resp. neučení, jestli máš na 24GB, jdi do toho.)
- Zbytek narvi do RAM, alespoň 32GB to chce určitě, 64GB se odvděčí.
- Počítej několik tera na různé modely, tréningová data (no terovej SSD pro začátek asi OK, pak časem uvidíš)

Pak začni třeba s https://github.com/nomic-ai/gpt4all případně se staršími modely https://github.com/cocktailpeanut/dalai a dál už sám.

P.S. Ty dva odkazy ti pojedou i na slabém PC bez grafiky. Ale tu budeš stejně potřebovat na skoro cokoli

26

Odkladiště / Re:vlastne "chatGPT"

« kdy: 25. 08. 2023, 11:20:34 »

dik

Tady je parádní blog na tohle téma:
https://www.abclinuxu.cz/blog/bystroushaak/2023/4/jak-na-vlastni-llm-gpt

27

Odkladiště / Re:vlastne "chatGPT"

« kdy: 25. 08. 2023, 10:25:19 »

vdaka, poznacil som si to Brno do kalendaru.

Myslim si, ze vyvoj pojde smerom k prudkemu znizovaniu ceny za to ucenie.
Zatial chcem byt len pripraveny a offline to pouzit na ziskanie vystupov.

Najjednoduchsi priklad typoveho vyuzitia: necham to vygenerovat kazde rano slovnu ulohu z matematiky pre dieta .
Pripadne ine ideologicky zavadne veci: oslavna basnicka na Trumpa, material pre 18+, .. 

Teď čtu na Lupě, https://www.lupa.cz/aktuality/chcete-delat-strojove-uceni-a-llm-ale-ne-infrastrukturu-resi-to-startup-zainvestovany-cechy/, to také vypadá dobře, https://github.com/dstackai/dstack, ale neznal jsem a nemám zkušenosti.

Zastav se na https://prg.ai/podzimni-dny-ve-znameni-umele-inteligence/, třeba tam potkáš lidi a zjistíš více informací.

Ano, dá se stáhnout natrénovaný jazykový model, s kterým můžeš kecat, to je zrovna třeba ten https://github.com/go-skynet/LocalAI.

Rukojmí budeš vždy, protože na ty největší modely prostě nedosáhnout snadno ani naše největší firmy. Pro jednu banku jsme trénovali jejich chatbota, 4 měsíce v kuse, náklady jen na trénování skoro 10m. Natrénovat vlastní ChatGPT 4 znamená skoro 1 mld dolarů (kdyby teda MS nevyužil svoje volné servery a musel si je platit podle ceníku), to jen pro představu jaká obrovská bariéra tam je.

Problém je, když z toho natrénovaného modelu chceš udělat produkt, tam už je lepší si řešení jako SaaS pronajmout, protože licence, oprávnění, legislativa, to není vůbec snadné. Pro vlastní hraní to ale řešit nemusíš.

28

Odkladiště / Re:vlastne "chatGPT"

« kdy: 25. 08. 2023, 09:56:07 »

vdaka pozriem.

to co chcem s sklada z viac veci:
- myslim si, ze by som mal aspon ramcovo mat prehlad v tomto smere
- mam par napadov ako to pouzit a rozhodne nechcem byt rukojemnikom niekoho na druhom konci zemegule

Trenovanie ako take ma nezaujima.
Mam predstavu, mozno nespravnu, ze sa da stiahnut "hotovy natrenovany model" s ktorym si mozem hned pokecat.

Tohle rádi používáme pro učení nováčků, https://github.com/microsoft/AI-For-Beginners. Tady máš jednu z tisíce implementací openAI api, kterou si můžeš provozovat sám https://github.com/go-skynet/LocalAI.

Na herních grafikách to je nic moc a rychle se upotí, mají zbytečně velkou spotřebu. Na projekty kupujeme Nvidia H100, což ale stojí jako nový auto. Osobně mám doma 4x nvidia Quadro RTX A4000 a jsem docela překvapen s tím, že se nad tím dá také něco trénovat (jsou to ale dny, někdy i týdny podle velikosti dat), koupíš to v běžném obchodě.

Ty AI na špici domů nedostaneš, hlavní špici totiž nedělá ani tak samotný natrénovaný model, ale všechny ty filtry, transformace a kontroly okolo, ona i příprava vstupu je vyšší dívčí. Model je jen část úspěchu.

Otázka co s tím chceš dělat, pokud nad tím budovat produkty, tak jdi do SaaS, třeba Azure OpenAI je dobře postavené. Pokud tě to zajímá, můžeš si s tím hrát sám doma, ale nic z toho jako produkt nebude, pro mě je práce s daty koníček a dělám to dlouho pracovně i osobně.

29

Odkladiště / Re:vlastne "chatGPT"

« kdy: 25. 08. 2023, 09:48:21 »

Kolik jsi ochoten platit za hodinu konzultaci? Das 150 EUR aby nekomu stalo za to se tim pro tebe specialne zabyvat?

vies, ze aj ano?

neveril by si kolkokrat som chcel nieco tohto typu za peniaze a vacsinou som nikoho nenasiel.
Keby som nasiel cloveka, ktoremu by som mohol raz-za-cas hodit nech za mna stravi den zivota niecim tohto typu, bol by som nadseny

30

Odkladiště / Vlastní instalace ChatGPT

« kdy: 25. 08. 2023, 09:20:58 »

tak si myslism, ze by som si mal doma spravit a udrzovat nejake vlastne "AI" typu "ChatGPT".
Lenze den ma len 24 hodin a neviem sa dostat k nastudovaniu veci a realizacii.
Zlahka som raz ukecal jedneho dodavatela, nech mi nieco take ukaze, zjavne nieco take ide zrealizovat.

Nema niekto nejaku prakticku skusenost a navod typu:
- kup si herne PC zo slusnou grafikou / krabicku na dolovanie BTC / bazarovy notebook / ...
- tu je AI od Facebooku, ktora je momentalne na spici moznosti
- tu je trivialny navod, ako to rozbehat
- tu ukazka pre blbych, ako to pouzit
?

dik