Inter Arc B580 a Llama

[Wangarad]

Rozmyslam kupit Inter Arc 12/16GB verziu. Primarne mi ide o to ze moja GTX 1660 sice ide v pohode ale na LLAMA to dost naraza na limit RAM. Ma niekto skusenost s Inter ARC? Da sa na tom rozumne spustat "AI" tak aby som na odpoved necakal 10 sekund? Na nete sa neda najst vela rozumnych informacii a zaujimala by ma prakticka skusenost.

[Reklama]

[anonacct]

Tady máš GPU co má 24GB:

https://www.alza.cz/xfx-speedster-merc310-amd-radeon-rx-7900-xtx-black-d7579376.htm

Na velikost RAM budeš narážet pořád. Možná by bylo i lepší mít třeba 2 GPU po 16GB, atd...

[pruzkumbojem]

s tim jsme se ted prali a fakt to nechces, rozcilovat se s dve GPU misto sehnani jedne s velkou pameti .

Rozchodit 2 RTX5070 Ti.... problemy s velikosti bedny, vzdalenosti PCIe, delkou kabelu, velikosti zdroje.Taky dany motherbord nesmi sdilet PCIe linky s druhym NVME atd. atd.

Samozrejme muzes zabojovat,  misto vetsiho 1200W PSU tam dat 2x750W (druhy pobezi pomoci zkratovani tech pinu, co signalizuji pritomnost motherboardu). Pomoci PCIe exenderu posunout PCIe sbernici o 30 cm atd atd.

A potom to mozna s danym sw nebo motherboardem stejne nebude fungovat.

To uz je fakt lepsi koupit jednu RTX 5090. kdyz zapoctu hodnotu casu, hracek jako PCIe extender co stoji 2 -3000 apod, tak 5090 vubec  neni drazsi nez 2x 5070 a vykon a stabilita bude lepsi.)

muj zaver

Možná by bylo i lepší mít třeba 2 GPU po 16GB, atd...

[anonacct]

Spíš jsem to myslel tak, že těch 16GB GPU je na trhu hodně, i second-hand, takže se dají koupit za hubičku.

Já si třeba pamatuju na těžební časy kdy jsem měl stroj i s 6xGPU Hlavní je SW podpora - tady vůbec nejde o ultimátní výkon GPU (výkonu je dost), ale o tu paměť - to je ten limit.

[Tomáš Rollo]

Velikost RAM je skutecne asi to nejdulezitejsi - a zalezi na tom jake modely na tom chces spoustet.

Letmy pohled na Alzu ukazuje ze (kdyz budu ignorovat ty nejslabsi) 16GB GPUs zacinaji na rekneme 11.000, kdezto 24GB skoro na dvojnasobku (22k) - mozna i proto, ze na 16GB se nic moc rozumne pouzivat neda?

[Reklama]

[pruzkumbojem]

tak skrz bifurcation nebo mozna USB 4 PCIe passthrough se ten karet na pripojit hodne.
mozna 16-> 8 PCIe linek neni zase tak hrozne, niz to predpokladam uz bude tragedie.

Spíš jsem to myslel tak, že těch 16GB GPU je na trhu hodně, i second-hand, takže se dají koupit za hubičku.

Já si třeba pamatuju na těžební časy kdy jsem měl stroj i s 6xGPU Hlavní je SW podpora - tady vůbec nejde o ultimátní výkon GPU (výkonu je dost), ale o tu paměť - to je ten limit.

[Wangarad]

Ako primarne nie je cielom za kartu dat 1000E +. Zasa nespavam s bankarovou dcerou. Je mi jasne ze RAM je tam klucova . Dokonca Intel aj podporuje nieake "vlastne" kniznice. Ide o to ci je to realne pouzitelne. Ci ma niekto skusenost ako sa to sprava = je to odpoved do par sekund? Minut? Funguje to vobec tak aby to bolo pouzitelne a nemusel som ohnut pol systemu? Skusal to niekto?  Mne na mojej smutnej 1660 to ide, ale cakat x sekund / minut na odpoved skrz to ze ram je na limite je bieda. Ako vsetko od 1660 je progress ale ja to nepotrebujem na hranie (CS:GO forever ale ked uz tak na to aby som si vedel rozumne lokalne spustit model a kecat s nim.

[pruzkumbojem]

hratky s LLM jsou drahe. tobe na 1660  neco funguje?

Ako primarne nie je cielom za kartu dat 1000E +. Zasa nespavam s bankarovou dcerou. Je mi jasne ze RAM je tam klucova . Dokonca Intel aj podporuje nieake "vlastne" kniznice. Ide o to ci je to realne pouzitelne. Ci ma niekto skusenost ako sa to sprava = je to odpoved do par sekund? Minut? Funguje to vobec tak aby to bolo pouzitelne a nemusel som ohnut pol systemu? Skusal to niekto?  Mne na mojej smutnej 1660 to ide, ale cakat x sekund / minut na odpoved skrz to ze ram je na limite je bieda. Ako vsetko od 1660 je progress ale ja to nepotrebujem na hranie (CS:GO forever ale ked uz tak na to aby som si vedel rozumne lokalne spustit model a kecat s nim.

[dfxxfd]

Prečo práve  Inter Arc? A na aký model? Najlepšie to funguje, ak sa celý model zmestí do grafickej pamäti u grafických kariet. U Apple Silicon procesorov do spoločnej pamäti.

Najlepšia je optimalizácia pre nVidia karty, ale sú optimalizácie aj pre AMD karty a Apple Silicon procesory. O optimalizácii pre Inter Arc grafiky som eštre nepočul.

[anonacct]

Intel má vlastní oneAPI, takže podpora je, jen nevim jestli ty lidi časem nepropustí a neumře to..

[CPU]

jestli ty lidi časem nepropustí a neumře to..

Teď už propouští 30% lidí, jako když vás je v kanclu deset a tři zmiznou.
Komplet zrušili Clear Linux OS.

Pro-pan-Bu-tan řekl, že se budou soustředit na vývoj procesorů a core jejich businessu.
https://www.zive.cz/clanky/intel-propusti-skoro-tretinu-zamestnancu-a-rusi-plany-na-stavbu-tovaren-v-polsku-a-nemecku/sc-3-a-236094/default.aspx

Když vyházíš 30% zaměstnanců a zbytek má makat hlavně na core jejich businessu, tak je jasné, jakou prioritu budou mít výpočetní kravinky. To bys tu Intel ARK GPU musel dostat třeba za dva tisíce, aby se ti vyplatilo to vůbec krmit...plus to žere hrozně moc šťávy, pokud na tom budeš počítat, za pár let se to prožere někam k ceně 5080 a celá úspora bude v...

[CPU]

Když jsme u těch levných karet, to už je zajímavější tohle:

https://www.alza.cz/inno3d-geforce-rtx-3080-x3-oc-lhr-12g-d7082095.htm

Jinak Inno3D má prý příšerné větráky a hned odejdou, takže lepší je rovnou nahradit, aby se karta dala před konce záruky lehce prodat. Jinak kvalitou jsou trochu nad MSI, takže budget, ale za ty peníze nemůžeš čekat kvalitku...

(LHR už vypnou rovnou ovladače)

[Marek Staněk]

to žere hrozně moc šťávy, pokud na tom budeš počítat, za pár let se to prožere někam k ceně 5080 a celá úspora bude v...

A kolik že za stejnou dobu v elektrice prožere ta 5080?

[anonacct]

Nic to neprožere - to bys musel tu kartu vytížit na 100% 24/7 - takže mít nějakou službu. Že se toho doma něco zeptáš, to nic není, to bude žrát míň než lednička...

[🇺🇦 GPU]

Jinak Inno3D má prý příšerné větráky a hned odejdou, takže lepší je rovnou nahradit, aby se karta dala před konce záruky lehce prodat.

Má cenu tohle vůbec řešit? Jaká bude zůstatková hodnota karty, po téměř dvou letech? A z toho ještě ukrojí cena nových větráků a čas strávený výměnou.

To je snad lepší nechat tu kartu v záruce uvařit a v reklamaci dostat novou, a tu pak prodat.

Jako když mám desítky tisíc na HW v podstatě na hraní, nebo sebevzdělávání, a na propálenou elektřinu, tak tohle už jsou fakt drobné..