16
Odkladiště / Re:vlastne "chatGPT"
« kdy: 25. 08. 2023, 11:23:41 »
Jestli si chceš hrát, tak asi takhle:
- Pořiď si nVidia s co nejvíc RAM v rámci limitu, co sis na to nastavil (RTX3060 má 12GB za cca 8k, cokoli míň se ti vymstí při učení resp. neučení, jestli máš na 24GB, jdi do toho.)
- Zbytek narvi do RAM, alespoň 32GB to chce určitě, 64GB se odvděčí.
- Počítej několik tera na různé modely, tréningová data (no terovej SSD pro začátek asi OK, pak časem uvidíš)
Pak začni třeba s https://github.com/nomic-ai/gpt4all případně se staršími modely https://github.com/cocktailpeanut/dalai a dál už sám.
P.S. Ty dva odkazy ti pojedou i na slabém PC bez grafiky. Ale tu budeš stejně potřebovat na skoro cokoli
- Pořiď si nVidia s co nejvíc RAM v rámci limitu, co sis na to nastavil (RTX3060 má 12GB za cca 8k, cokoli míň se ti vymstí při učení resp. neučení, jestli máš na 24GB, jdi do toho.)
- Zbytek narvi do RAM, alespoň 32GB to chce určitě, 64GB se odvděčí.
- Počítej několik tera na různé modely, tréningová data (no terovej SSD pro začátek asi OK, pak časem uvidíš)
Pak začni třeba s https://github.com/nomic-ai/gpt4all případně se staršími modely https://github.com/cocktailpeanut/dalai a dál už sám.
P.S. Ty dva odkazy ti pojedou i na slabém PC bez grafiky. Ale tu budeš stejně potřebovat na skoro cokoli