co se tyce ceny tak na hladine kolem 20tisic asi fakt muze byt vetsi rozdil. treba nove macbooky pro a max sice jsou trochu drazsi ale maji v zakladu 2x vetsi ssd a i konfigurace RAM se trochu zvedla - treba M5 max s 40 gpu cores zacina na 48GB RAM a 2TB disk, tam za ten priplatek oproti podobnemu M4 max modelu (36GB RAM, 1TB disk) clovek aspon neco dostane navic
Pro testování lokálních LLM bych počkal. Osobně mám Mini M4 Pro a už jsem i chvíli přemýšlel nad upgradem. U Applu je podle mě lepší kupovat základní model vyšší řady než přidávat RAM a uložiště k nižší řade. Stejně je těch 24GB málo protože kontext taky něco zabere, takže dám radši pár dolarů openrouteru pokud nepracuji s firemními daty.
S tím se neztotožňuji. Základní mocel Mini M4 (17k) + 24 GB ram příplatek stojí 21k. Zatímco Mini M4 Pro začíná na 41k (a má shodných 24 GB ram, plus ten 512 disk, ale to nepovažuji za podstatnou výhodu vzhledem k síťovému úložišti). Takže takřka dvojnásobek ceny. Ano, HW sice rychlejší, ale asi to osobně nepovažuji za stroj na doma (viz účel v prvním příspěvku) za odůvodněné. Cenově mi prostě základ za 17 přijde jak super universální stroj prakticky zadarmo. S drobným příplatkem za větší kontextové okno (24 GB) za 21k mi to přijde pořád jako skvělý kauf. 41k na druhé straně už vyžaduje odůvodnění takových nákladů a to se u mě nekoná..
Podle me na sdílený PC na doma jako "pracovní stanice" pro běžnou činnost, občasné hraní, zpracování fotek a videí, client pro připojovaní na pracovní dev stroj, plus nějaké to domácí programování staci M4. Sam pouzivam M1 Pro z 2022 a s vyjimkou hrani (hry nehraju) mi zatim staci (delam presne takovou domaci beznou cinnost, vc. programovani).
Na testování local LLM bych se rozhodoval mezi (min) M4 Pro a M5 Pro. M5 Pro je nove ohlasene, ale za chvilku uz budou na netu vykonova srovnani obou dvou a pujde z toho poznat o kolik moc je M5 Pro vykonnejsi - podle toho se rozhodni. Apple nema moc ve zvyku zdrazovat existujici modely, spis zdrazuje uvedenim novych, takze bych byl klidny ze az do ohlaseni dalsiho eventu budes moct M4 Mini koupit za stavajici ceny - a to ti da cas pockat na benchmarky a rozhodnout se.
To je trefná poznámka. Až na ten usecase LLM bude M4 bohatě dostačovat.. Vzhledem k cenám, viz výše, mi teda dává smysl si počkat na porovnání nákladních modelů M4 vs M5. Příplatek 100 % za občasné testování není odůvodněný. A když bych chtěl s modely dělat víc, stejně bych potřeboval jít do mnohem vyšší kategorie, především s pamětí..
jestli tomu dobre rozumim tak NPU na apple silicon je pro LLM nepouzitelne jak vykonove tak ani Apple nenabizi zadne rozumne API takze softwary typu llama.cpp NPU nepouzivaji. na M4 to jede na GPU pres Metal API. Pokud ty nove AI funkce noveho M5 GPU jsou dostupne pres stejne API mohlo by to jet 4x rychleji nez M4 jak rikaji, ale zadne benchmarky nebo potvrzeni ze je to takto pouzitelne jsem zatim nevidel (ale ani nehledal)
Hmm, taky přesně nerozumím, co od toho čekat. Dává asi smysl počkat na praktické testy.
Myšlenku chápu a protože dotaz zní jestli koupit teď nebo počkat, pak mi vychází, že tu není urgence koupit dnes.
Tím pádem M5 i když vyjde třeba až na podzim, bude mít delší životnost (pokud je v plánu vyždímat do konce životnosti). M4 pro popisované účely poslouží stejně dobře. Apple říká, že se Mac mini bude vyrábět (sestavovat) v USA letos. To tedy vypadá právě na podzim (bez záruky). Asi nic jim nebráni uvedení okolo WWDC. Ohledně paměti to udělalo čáru přes rozpočet nejen apple.
Otázkou tedy je jak moc to spěchá 
Ano, přesně tak
. To mi, ještě v souvislosti s jinými příspěvky, připomnělo vtip, že: na světě jsou 2 typy lidí – ti, kteří dokáží interpolovat z neúplných dat.
Životnost ve své podstatě nebude delší, ale jen začne později a tedy skončí později. Takže jak říkáte, je jen otázkou, kdy do toho vlaku naskočit. Skoro bych řekl že v oblasti 20k ta životnost není důležitá (a také v kontextu Apple, u kterého je to s životností, resp. relevantností zkrátka lepší, stejně tak s prodejem staršího hw, atd..)
19 Odpovědí
3951 Zhlédnutí