- Nem tetszik az EU-nak az új díj, amit az Apple a fejlesztők vállára tesz
- Egy hibás appfrissítés miatt távozott a vezérigazgató
- Csoportos keresetek tömegeit zúdítják a tech cégekre a britek, az Apple az első
- Kiderült, hogy miért nem viszik az NVIDIA új AI-chipjeit
- 300 százalékkal emelné meg az árait az Arm
-
IT café
A legtöbb kérdésre (igen, talán arra is amit éppen feltenni készülsz) már jó eséllyel megtalálható a válasz valahol a topikban. Mielőtt írnál, lapozz vagy tekerj kicsit visszább, és/vagy használd bátran a keresőt a kérdésed kulcsszavaival!
Új hozzászólás Aktív témák
-
#44877
lenox
veterán
MasterDeeJay
#44871
lenox
veterán
válasz
MasterDeeJay
#44871
üzenetére
Igen, de en is arra gondoltam, hogy csak 5%-kal kisebb a savszel, megis 10%-kal lassabb, hogy ez hogy lehet. Persze ertem, hogy idozites, vagy mas is lehet, csak kivancsi vagyok, hogy konkretan mi. Meg nem talaltam meg a neten.
-
#44875
gbors
nagyúr
MasterDeeJay
#44874
válasz
MasterDeeJay
#44874
üzenetére
Pont ez az, hogy nem tudjuk, volt-e throttling - ezt kellene ellenőrizni; hiába ad ugyanannyi áramot a vezérlés, ha az egyik GPU-példány kicsit éhesebb. És valóban, az időzítések között is lehet eltérés, úgyhogy kellene egy baseline mérés, ahol mindkét kártya 20 Gbps-es RAM-okkal megy.
Szóval persze jó, hogy van ilyen bekukkantós teszt, de igazából sokat nem ér - a játékok többségében azt mutatja, amit várni lehetett, viszont van benne egy olyan anomália, ami miatt a többi eredmény hihetősége is kérdőjeles egészen addig, amíg ki nem nyomozza valaki, mi okozza ezt."We put all our politicians in prison as soon as they're elected." "Why?" "It saves time."
-
#44872
X2N
őstag
MasterDeeJay
#44871
X2N
őstag
válasz
MasterDeeJay
#44871
üzenetére
Akkor úgy már érthető, elég overkill
![;]](//cdn.rios.hu/dl/s/v1.gif)
-
#44869
lenox
veterán
MasterDeeJay
#44868
lenox
veterán
válasz
MasterDeeJay
#44868
üzenetére
Egy tesztben 10%-kal lassabb. Ott vajon mi tortenik?
-
#44861
gbors
nagyúr
MasterDeeJay
#44860
válasz
MasterDeeJay
#44860
üzenetére
Igen, ez igaz, és a több cache biztosan kompenzál is valamennyit - azt már végképp nehéz kiszedni a rendelkezésre álló adatokból, hogy pontosan mennyit, de itt továbbra is a kevés % FPS területen mozgunk, ami szabad szemmel nem is látható.
És hát ja, fogyasztói szempontból jogos az elvárás, hogy az olcsóbban gyártott kártyát olcsóbban lehessen elvinni - láthatóan a gyártók ebből a szemszögből nem nézik a dolgot..."We put all our politicians in prison as soon as they're elected." "Why?" "It saves time."
-
#44859
Raymond
félisten
MasterDeeJay
#44857
Raymond
félisten
válasz
MasterDeeJay
#44857
üzenetére
Nominalisan 5% kevesebb savszel nem igen fog meglatszani benchmarkokban szerintem.
Privat velemeny - keretik nem megkovezni...
-
#44858
gbors
nagyúr
MasterDeeJay
#44857
válasz
MasterDeeJay
#44857
üzenetére
Összehasonlítva a 4070 Superrel, aminek ugyanannyi a sávszélessége. A 4070 Super a népszerűen mért játékok többségében enyhe sávszél-limitet mutat (pár % FPS erejéig), úgyhogy azt gondolom, az eredeti 4070-nek nagyon nem fáj az 504 GB/s. Ehelyett a GDDR6-tal lesz 480, ami átlagosan olyan -1% teljesítményt jelent.
Még akár azt is el tudom képzelni, hogy az egy-egy custom SKU core órajelén tekernek mondjuk 2%-ot, és akkor tényleg gyorsabb lesz.[ Szerkesztve ]
"We put all our politicians in prison as soon as they're elected." "Why?" "It saves time."
-
#44853
Teasüti
nagyúr
MasterDeeJay
#44852
Teasüti
nagyúr
válasz
MasterDeeJay
#44852
üzenetére
De ezek a kártyák önálló hűtés nélkül jönnek, nem?
Amit eddig láttam szerver kártyákat, azok mind blower típusú passzív hűtéssel jöttek és kellett mellé a lombfújó. Vagy eleve vizes blokk volt rajta.[ Szerkesztve ]
-
#44561
Raymond
félisten
MasterDeeJay
#44560
Raymond
félisten
válasz
MasterDeeJay
#44560
üzenetére
"Az viszont érdekelne hogy olvastam sok helyen azt hogy vram használat AMD kártyákon magasabb valami tömörítési eljárás más amit használ."
Igen, jatektol fuggoen kb fel vagy egy GB-at tobb a VRAM hasznalat a Radeon-okon, ez mar nagyon regen igy van.
Privat velemeny - keretik nem megkovezni...
-
#44544
b.
félisten
MasterDeeJay
#44543
válasz
MasterDeeJay
#44543
üzenetére
Az lehetséges amúgy a CPU miatt ahogy írja Raymond vagy a sávszél nem tudom, e nálam pl a 12600 k nál nincs gond ugyan azzal a kártyával .tegnap óta tesztelem. A 8700 nál viszont valamiért szaggat ahogy írod, még a hang is problémás néha.
"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)
-
#44542
Raymond
félisten
MasterDeeJay
#44538
Raymond
félisten
válasz
MasterDeeJay
#44538
üzenetére
Biztos? Az allocated alig tobb mint a dedicated es szabad is van meg tobb mint fel giga.
Szerk: a FG-nek is kell VRAM igy ha azt bekapcsolod akkor meg tobbet hasznal.
[ Szerkesztve ]
Privat velemeny - keretik nem megkovezni...
-
#44541
PuMbA
titán
MasterDeeJay
#44540
PuMbA
titán
válasz
MasterDeeJay
#44540
üzenetére
Igen, így van. A Frame Generation-nak plusz 1GB VRAM kell, ezért nem oldja meg
Azért hoztak ki egy 12GB-os 3080-at, mert a 10GB-os verziót sajnos NVIDIA-san alulméretezték. Szeretnek a határon mozogni, de ez adja nekik a legtöbb profitot. Ha nem jön be, mint ebben az esetben, azonnal dobják ki a több VRAM-os vagy Super verziót. RTX2060 esetén így lett 6GB-osból 8GB-os a Super változatra, mert 6GB elkezdett semmire se elég lenni.[ Szerkesztve ]
-
#44539
PuMbA
titán
MasterDeeJay
#44538
PuMbA
titán
válasz
MasterDeeJay
#44538
üzenetére
Igen, VRAM-ban is nagyon éhes a Cyberpunk, igazából mindenben éhes
16-17GB-ot használ PT-ben modok nélkül egy 24GB-os kártyán.[ Szerkesztve ]
-
#44537
X2N
őstag
MasterDeeJay
#44532
X2N
őstag
válasz
MasterDeeJay
#44532
üzenetére
Ezek talán segíthetnek:
Optimized Custom Crowd and Traffic Density
Cyberpunk Ultra Plus Engine Control Panel and HotfixesRaytracing Overdrive Path tracing Optimizations (2.0 compatible)
Az utóbbit próbáltam a performance konfiggal, ezek a beállításai, ha jól fut ki lehet próbálni a 2,2-t is(ez a gyári beállítása a játéknak), a fotó mód 2,6-ot használ.
RayNumber = 1
BounceNumber = 1 -
#44536
PuMbA
titán
MasterDeeJay
#44535
PuMbA
titán
válasz
MasterDeeJay
#44535
üzenetére
"Procim egy szálon gyenge, skylake de a cyberpunk meg pont szereti a sok magot az meg van benne egy pár."
Nem szereti. Egy 6-8 magos mai proci fps-ben sokkal gyorsabb a játék alatt, mint egy régebbi 16 magos, ez a tesztekből tisztán látszik: egy 16 magos Ryzen 9 5950X-nél gyorsabb egy 6 magos Ryzen 5 7600
Egy idő után a feladatok részekre bontása már csak lassít, hiszen szét kell bontani a feladatot, szétrakni a feladatokat a magokra, aztán megvárni, míg minden mag végez a feladattal, hogy össze lehessen kombinálni az eredményt, aztán az eredményt összeszedni az adott helyre. Ezért van az, hogy hiába látszik, hogy a 16 magot 80-90%-ra pörgeti, az fps-ekben ez egyáltalán nem mutatkozik meg.[ Szerkesztve ]
-
#44533
Raymond
félisten
MasterDeeJay
#44532
Raymond
félisten
válasz
MasterDeeJay
#44532
üzenetére
Ha nagy tomegnel lassul akkor az ott CPU problema.
Privat velemeny - keretik nem megkovezni...
-
#44521
b.
félisten
MasterDeeJay
#44518
válasz
MasterDeeJay
#44518
üzenetére
Ez sajnos nem hivatalos. Pornó oldalas reklámok stb. Inkább kihagyom az ilyeneket,de azért kösz.
[ Szerkesztve ]
"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)
-
#44493
lenox
veterán
MasterDeeJay
#44489
lenox
veterán
válasz
MasterDeeJay
#44489
üzenetére
Hat igen, a GP100, GV100 meg Titan V eleg jo volt a sajat idejeben. De tulhaladta a kor, a GP100-akat mar elosztogattam a csaladban, a Voltak meg megvannak, de igazabol azok is elavultak mar. Pedig mindig remenykedem, hogy valamilyen kis projektben fp64 szamitasban milyen jok lesznek, de valoszinuleg sosem jon el az az ido. Aztan most kb. 4060 es 4070 kozott vannak sebessegben. Nincs konkurencia, HBM full kiepitesben tul eros, lentebb meg tul draga. Hatha lesz megint valami specko Titan nemsokara
. -
#44488
S_x96x_S
addikt
MasterDeeJay
#44487
S_x96x_S
addikt
válasz
MasterDeeJay
#44487
üzenetére
> Érthetetlen miért nem raknak rá legalább a top kártyákra HBM ramokat.
a top^top^top kártyákra azért raknak,
pl. HBM3 a H100 -on ( https://www.nvidia.com/en-us/data-center/h100/ )A consumer RTX széria meg (~árban) nem az a TOP kategória az nVidiánál.
Mottó: "A verseny jó!"
-
#44475
b.
félisten
MasterDeeJay
#44474
válasz
MasterDeeJay
#44474
üzenetére
Kb 3070 szintet tud hozni amúgy a Titan V RT ben.Tensor magoknak nincs szerepe abban elméletileg. Jó kis kártya és a magas sávszél + tensor magok miatt amúgy.
der8auer nemrég tesztelte. [link][ Szerkesztve ]
"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)
-
#44030
gV
őstag
MasterDeeJay
#44024
gV
őstag
válasz
MasterDeeJay
#44024
üzenetére
der8auer méréseiből kiindulva [link] én azért rápróbálnék az UV-ra ha lenne Ada-m.
4090 234w/422w=0.554 II 97.6fps/123.49fps=0.790 ->PT 50%(/PT 100%)
2080 107w/205w=0.521 II 26.04fps/31.91fps=0.816 ->UV(/PT 100%)
de ha már PT, a 2080 sem annyira rossz
4090 284w/422w=0.672 II 111.16fps/123.49fps=0.9 ->PT 60%(/PT 100%)
2080 131w/205w=0.639 II 27.01fps/31.91fps=0.846 ->PT 60%(/PT 100%) -
#44023
Busterftw
nagyúr
MasterDeeJay
#44019
Busterftw
nagyúr
válasz
MasterDeeJay
#44019
üzenetére
Plusz ebben a szeriaban siman eleg a power limittel jatszani.
Ha benezel az Ada topikban, tobb user rakott be tesztet kulonbozo power limitekkel,
85-90% lehuzva kb 1-3 FPS veszteseg van es sokkal kevesebb fogyasztas. -
#43729
t72killer
titán
MasterDeeJay
#43726
t72killer
titán
válasz
MasterDeeJay
#43726
üzenetére
egyre nagyobb dögök férnek adott "köbcentibe" ahogy fejlődik a gyártástech
30€ Meta store bónusz Quest headset aktiváláshoz, keress priviben :)
-
#43679
hahakocka
őstag
MasterDeeJay
#43678
hahakocka
őstag
válasz
MasterDeeJay
#43678
üzenetére
6950XT is és a 3090-3090Ti a halálig volt feszelve kb
s húzva. Meg is látszott a fogyasztáson és méreten. No de a 4090 se fogyaszt kevesebbet a hivatalos 450W szerint persze alulfeszelni lehet. De azt sok féle kártyával lehet.
De ott legalább van erő mögötte a 4090 en mögött s magas ár is, s nagy méret, de akinek erre van pénze nem lesz gond. Ott inkább a folyamat füstölős hírek a durvák kb hetente 2 hetente jön ki róla hír. Most is volt egy ahol a kábel mindkét vége égett és tapasztalt figurák elővigyázatosak is voltak, de hiába.[ Szerkesztve ]
-
#43609
lenox
veterán
MasterDeeJay
#43608
lenox
veterán
válasz
MasterDeeJay
#43608
üzenetére
P-bol nekem p2000, p2200, p4000, p5000, p6000 van. A gyari egyslotosak hangjat nem szeretem, hasonloan az a2000 RTX 2000 adanak is kellemetlen hangjat van. P4000-re raktam halk hutest egy 1060-rol, az jo lett. Ezeknek a kis ujaknak szerintem kicsi a bordajuk. Lattam a p4 kepeidet, az eleg jo.
-
#43596
lenox
veterán
MasterDeeJay
#43591
lenox
veterán
válasz
MasterDeeJay
#43591
üzenetére
Mire hasznalnad a doublet?
-
#43592
Raymond
félisten
MasterDeeJay
#43591
Raymond
félisten
válasz
MasterDeeJay
#43591
üzenetére
Ahh ertem. Ehhez nem tudok hozzaszolni, kartya modding temahoz nem ertek, nem foglalkoztam vele soha.
Privat velemeny - keretik nem megkovezni...
-
#43590
Raymond
félisten
MasterDeeJay
#43589
Raymond
félisten
válasz
MasterDeeJay
#43589
üzenetére
Most a banyaszkartyadrol van szo ahol 2:1 kene lenni az arany az FP32 vs FP64 mellett? Nem kapsz annyit?
En arra gondoltam hogy az ujabb kartyaknal ahol mar 32:1 vagy 64:1 az arany meg a Workstation kartyaknal is hogy ott nincs mar mit feloldani.
Privat velemeny - keretik nem megkovezni...
-
#43588
Raymond
félisten
MasterDeeJay
#43587
Raymond
félisten
válasz
MasterDeeJay
#43587
üzenetére
A DP teljesitmeny tudtommal hardveresen fix mar nagyon regen, nincs mit feloldani.
Privat velemeny - keretik nem megkovezni...
-
#43584
Raymond
félisten
MasterDeeJay
#43583
Raymond
félisten
válasz
MasterDeeJay
#43583
üzenetére
Az az AB curve-nel meg jelold be shift+balegerrel a kiemelt +208 es a jobbra toole levo pont kozottol a vegeing utanna csak a balegerrel huzd le azt a +208 utanni elso pontot alulra (menni fog vele a tobbi jobbra levo is) aztan ENTER. Aztan egyenes lesz onnan az 1582@0.794-tol vegeig es marad azon.
Mar ha erre gondoltal.
Privat velemeny - keretik nem megkovezni...
-
#43580
Raymond
félisten
MasterDeeJay
#43579
Raymond
félisten
válasz
MasterDeeJay
#43579
üzenetére
Heh, tenyleg tobbet kellett volna rendelned ezekbol a kartyakbol
Privat velemeny - keretik nem megkovezni...
-
#43578
Raymond
félisten
MasterDeeJay
#43577
Raymond
félisten
válasz
MasterDeeJay
#43577
üzenetére
Ahogy nezem mar letesztelted rendesen?
Generalsz kepet a sima model es VAE kombinacioval, kapsz egy it/s erteket. Aztan generalsz ugyanolyan felbontasu kepet az aktivalt TRT UNet-el es megint kapsz egy it/s ertket. Az a 3 -> 8 az nagy ugras. En csak a 4090-el probaltam par honapja szinten az SD1.5 model konvertalasaval es ott csak olyan 65-75% pluszt hoz igy nem sok ertelme van. Az a kartya mar az SDXL 1024x1024 kepeket is 3-4mp alatt generalja 30 lepessel, nincs sok ertelme az 512x512 vagy 768x768 felbontasu kepeket gyorsitani, foleg mert azoknal mar kell mas is (hiresfix vagy mas upscaler, inpainting stb.) es ott sok a limitacio es a model swapping igy az amit nyersz elveszik a komplett processzben. Nalad viszont egyertelmuen van ertelme ha 2.5x gyorsabban general.Szerk: itt egy illusztracio miert nincs ertelme 4090-nel. Ezt a tesz [kép] 16 darab 768x1280 felbontasu kep az X-en lathato lepesekkel generalva es 92 masodpercig tartott a folyamat. Arra viszont jo volt hogy lassam valami nem oK a geppel mert lassabban general olyan 15%-al mint regebben, mindegy hogy A1111 vagy Fooocus, ra kell nezni mi van
[ Szerkesztve ]
Privat velemeny - keretik nem megkovezni...
-
#43576
Raymond
félisten
MasterDeeJay
#43575
Raymond
félisten
válasz
MasterDeeJay
#43575
üzenetére
Ha maradna is ahogy van, ez egy 2080Ti/3070 teljesitmeny 16GB VRAM-al 150-ert.
Privat velemeny - keretik nem megkovezni...
-
#43568
Raymond
félisten
MasterDeeJay
#43567
Raymond
félisten
válasz
MasterDeeJay
#43567
üzenetére
Hat azt nagyon megerte, egy 16GB gyors VRAM-u kartya 150EUR-ert, a legolcsobb uj a 3x dragabb 4060Ti 16GB most 450EUR-ert.
Privat velemeny - keretik nem megkovezni...
-
#43565
Raymond
félisten
MasterDeeJay
#43563
Raymond
félisten
válasz
MasterDeeJay
#43563
üzenetére
"FP16-ot kellene tudnia pedig."
Tudja es szerintem hasznalja is belsoleg. A Turing RTX2080 is tamogatja az FP16-ot tensor alatt plusz a RAM hasznalatbol itelve is FP16-ban megy a kepgeneralas, maskepp nem lenne igazan eleg a 8GB VRAM a Fooocus-nal se.
Privat velemeny - keretik nem megkovezni...
-
#43564
Raymond
félisten
MasterDeeJay
#43563
Raymond
félisten
válasz
MasterDeeJay
#43563
üzenetére
Az hogy a komplett muvelett lassabb az ertheto a lassu PCIe miatt de hogy a generalas maga is csak 19%-al gyorsabb (1.83 -> 2.18) az erdekes. Na es az is hogy a sokkal magasabb memoria savszel ellenere az LLM inference azzal az 5GB-ot foglalo modellel ugyanaz a sebesseg. De lehet az nem terheli elegge, azzal az RTX4090 is olyan 100 tok/s csak.
Privat velemeny - keretik nem megkovezni...
-
#43562
Raymond
félisten
MasterDeeJay
#43559
Raymond
félisten
válasz
MasterDeeJay
#43559
üzenetére
Megneztem ezt is az RTX2080 gepen LM Studio-ban, kb ugyanaz a sebesseg (57.56 tok/s):
Privat velemeny - keretik nem megkovezni...
-
#43561
Raymond
félisten
MasterDeeJay
#43560
Raymond
félisten
válasz
MasterDeeJay
#43560
üzenetére
Ez eleg lassunak tunik, legalabbis en tobbre szamitottam. A sima RTX2080 csinal az SD1.5-el olyan 9 it/s korul. Nalam a vae-ft-mse-840000-ema-pruned.safetensort van a VAE-ra hasznalva es ahogy nezem nalad azert is sir hogy xformers nincs, nalam az is megy. Az alap SD1.5-bol van egy TensorRT verziom is, az igy fut az RTX2080-on:
A nem konvertalt "alap" ahogy fentebb reszletezve pedig igy:
Probald meg a Fooocus-t. Ott csak ezt a zip-et kell letolteni, kicsomagolni es utanna run.bat [link] letolt maganak mindent ami kell beleertve a model/weight file-okat igy eltart egy darabig az elso inditas (foleg a 6GB+ JuggernautXLv8 letoltese miatt) de utanna szepen megy minden. Ha valtoztatsz a Preset-en (az Advanced alatt, itt allitsd 1024x1024-re a meretet is) akkor letolt mas modelleket is [link] de ezt latod a konzolban hogy miert "nem tortenik semmi azonnal". Az RTX2080 itt 1.83 it/s amit tud. Ez a specs amit detekal:
Total VRAM 8192 MB, total RAM 32714 MB
Set vram state to: NORMAL_VRAM
Always offload VRAM
Device: cuda:0 NVIDIA GeForce RTX 2080 : native
VAE dtype: torch.float32
Using pytorch cross attention
Refiner unloaded.
Running on local URL: http://0.0.0.0:7865
model_type EPS
UNet ADM Dimension 2816Kicancsi lennek mit ir nalad a VAE dtype-ra, itt F32, az RTX4090-nel BF16.
Privat velemeny - keretik nem megkovezni...
-
#43560
MasterDeeJay
veterán
MasterDeeJay
#43559
válasz
MasterDeeJay
#43559
üzenetére
Stable diffussion:
Messze gyorsabb mint a 1080ti vagy az A770, biztos hogy mennek a tensor magok!
-
#43557
Raymond
félisten
MasterDeeJay
#43556
Raymond
félisten
válasz
MasterDeeJay
#43556
üzenetére
"Pcie sáv valóban 1x 1.1 aminek igazán nem nagyon van jelentősége amire használnám."
Ugyis az a fontos hogy beleferjen minden a VRAM-ba es 16GB-al az SDXL nem gond az LLM-ek kozul pedig van jopar 13b ami belefer mind es 30b koruli is talalni ami normalis minoseg mellett belefer.Privat velemeny - keretik nem megkovezni...
-
#43555
Raymond
félisten
MasterDeeJay
#43554
Raymond
félisten
válasz
MasterDeeJay
#43554
üzenetére
Nice! Mar epp gondoltam rad a napokban hogy megjott-e a kartya
Akkor megis ott a 16GB VRAM vagy csak a GPU-Z gondolja ugy? Local LLM-el es SDXL tesztelted mar?
Privat velemeny - keretik nem megkovezni...
-
#43424
Raymond
félisten
MasterDeeJay
#43423
Raymond
félisten
válasz
MasterDeeJay
#43423
üzenetére
Nem PCIe x1, az csak a power saving miatt van, minden kartyanal ez van ha nincs terheles alatt. Arra van ott az a kerdojel, ha rakattintasz akkor kinyit egy ablakot amiben fut egy endering es utanna a valos PCIe spec-et mutatja.
Privat velemeny - keretik nem megkovezni...
-
#43423
MasterDeeJay
veterán
MasterDeeJay
#43422
válasz
MasterDeeJay
#43422
üzenetére
Kártya nevét ne nézzétek 100-210 a modell csak moddolt a drivere. Nem saját még sajnos. Pcie riserben van az sem biztos hogy 1x de igazából annak csak játékoknál lenne jelentősége.
-
#43408
b.
félisten
MasterDeeJay
#43405
válasz
MasterDeeJay
#43405
üzenetére
AD?Az A100 nem?
"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)
-
#43403
lenox
veterán
MasterDeeJay
#43402
lenox
veterán
válasz
MasterDeeJay
#43402
üzenetére
https://www.techpowerup.com/gpu-specs/cmp-170hx-8-gb.c3830
Ez nem Ampere? Nekem van egy rtx 6000 ada meg egy a6000, ezeken szoktam tanitgatni meg inferalni, az ada azert joval gyorsabb.
-
#43400
lenox
veterán
MasterDeeJay
#43389
lenox
veterán
válasz
MasterDeeJay
#43389
üzenetére
Mi az asztali forma? Nekem Titan V es GV100 is van, ezek asztaliak, nem? Mit fogsz vele szamolni?
Ja, latom, mire jo ezeket localban futtatni?[ Szerkesztve ]
-
#43399
Raymond
félisten
MasterDeeJay
#43398
Raymond
félisten
válasz
MasterDeeJay
#43398
üzenetére
A tensor a kepgeneralashoz kell inkabb, a szoveg elvan nelkule, ott inkabb a memsavszel lesz a limit. Az a 7b dolphin eleg kis modell, meg a Q8-nak is csak valami 10GB VRAM kell vagy anyi se, azt is hasznalhatod a Q5 helyett. Az a Q5 egy 4090-el 100 tok/s fut egyebkent es egy i7-13700KF-en 8 tok/s (4800-on ment a RAM)
A 4090 pedig ugyanugy 92-99 kozott general meg 50% power limit mellett is.A Tesla P40 24GB kartyak neznek ki jol a szoveg generalashoz, csakhat ott az a 180EUR koruli ami Kinabol van, a szarazbb erzest ado EU-s (ha talalsz egyaltalan) meg mar 300-350EUR.
Privat velemeny - keretik nem megkovezni...
-
#43396
Raymond
félisten
MasterDeeJay
#43395
Raymond
félisten
válasz
MasterDeeJay
#43395
üzenetére
Igen, meg 12GB-al is van kb 670GB/s, de a 16GB jo lenne mert az sokat dob azon milyen modellt lehet beletuszkolni, egy 13b-snel lehetne Q6 a Q4 verzio helyett. De meg igy is meglesz a 70+ it/s.
Szerk:
"Esélyes még hogy a tensor magok sem működnek"Gondolod hogy azokat is letiltottak?
[ Szerkesztve ]
Privat velemeny - keretik nem megkovezni...
-
#43394
Raymond
félisten
MasterDeeJay
#43393
Raymond
félisten
válasz
MasterDeeJay
#43393
üzenetére
Ami most neked jon akkor az a 16GB-os V100-nak megfelelo banyaszkartya? Mert ha nem tiltottak rajta semmit akkor az nagyon utos kombinacio lenne inferencing-re, szep nagy a savszel.
Privat velemeny - keretik nem megkovezni...
-
#43392
Raymond
félisten
MasterDeeJay
#43389
Raymond
félisten
válasz
MasterDeeJay
#43389
üzenetére
Haha, a te tegnapi kerdesed az elso talalat a gugliban a modellre rakeresve [link]
Privat velemeny - keretik nem megkovezni...
-
#43390
b.
félisten
MasterDeeJay
#43389
válasz
MasterDeeJay
#43389
üzenetére
A Volta speciális kártya volt, abból nőtte ki magát az Nvidia a professzionális szegmens AI részében,tulajdonképpen ott mutatkoztak be a gépi tanulásra kihegyezett generációk. Kísérlet volt es utána mindkét vonal,a gaming es a prof is abból építkezett.De a Turing nem helyette lett .Szigorúan véva az Ampere,A100 az utódja a Titan V is teljesen eltért minden addigi Titan hagyomanytol ,kulonbozott a Pascaltol es a Turingtól is,egyedi architektúra volt minden szempontból.
[ Szerkesztve ]
"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)
![;]](http://cdn.rios.hu/dl/s/v1.gif)
Azért hoztak ki egy 12GB-os 3080-at, mert a 10GB-os verziót sajnos NVIDIA-san alulméretezték. Szeretnek a határon mozogni, de ez adja nekik a legtöbb profitot. Ha nem jön be, mint ebben az esetben, azonnal dobják ki a több VRAM-os vagy Super verziót. RTX2060 esetén így lett 6GB-osból 8GB-os a Super változatra, mert 6GB elkezdett semmire se elég lenni.
s húzva. Meg is látszott a fogyasztáson és méreten. 
Új hozzászólás Aktív témák
A topikban az OFF és minden egyéb, nem a témához kapcsolódó hozzászólás gyártása TILOS!
MIELŐTT LINKELNÉL VAGY KÉRDEZNÉL, MINDIG OLVASS KICSIT VISSZA!!
A topik témája:
Az NVIDIA éppen érkező, vagy jövőbeni új grafikus processzorainak kivesézése, lehetőleg minél inkább szakmai keretek között maradva. Architektúra, esélylatolgatás, érdekességek, spekulációk, stb.
- iPhone topik
- Békéscsaba és környéke adok-veszek-beszélgetek
- Nintendo Switch 2, vagy amit akartok (találgatós topik most még)
- NVIDIA GeForce RTX 5080 / 5090 (GB203 / 202)
- Jön Trump, Zuckerberg és a Meta pedig 180 fokos fordulatot vett
- Disney+
- Fejhallgató erősítő és DAC topik
- One mobilszolgáltatások
- Proxmox VE
- AMD Ryzen 9 / 7 / 5 9***(X) "Zen 5" (AM5)
- További aktív témák...
