Új hozzászólás Aktív témák
-
#15
Komplikato
veterán
.mf
#9
Komplikato
veterán
"Lehet, hogy pár év múlva már lesznek értelmes appok, amik már lokálisan is futnak, ..."
Kérdés mi számít "normális APP-nak"? Mindenféle OpenSource AI most is futtatható erősebb PC-n. Sőt, van pár szénné butított, ami egy erősebb telefonon is. A még friss s forró LLama 3 -70B verzióját egy 3000 dolláros gépen lehet futtatni és alulról súrolja egy ChatGPT4 tudását, persze heteken belül kijöhet egy még jobb. Vagy itt van a Mistral/Mixtral 8x22B, ehhez persze kell vas, ez MÉG nem fut egy desktop PC-n, mert kell neki olyan 268-280GB vram, deeee ... alakul. Más kérdés ki mire használná az ilyen szoftvereket? Lehet van akinek tényleg elég egy MÁSOK által tréningelt program, amitől kérdezhetnek és/vagy a melót megcsinálja helyettük. Az igaz trükk ott kezdődik, amikor valaki a saját céljára ésszel tréningeli, csak azokra mi neki fontosak, de azokra nagyon. Tippre, mihez ehhez érteni is kell, sokkal kevesebb ilyen ember lesz, mint aki mondjuk ért az MS Office-hoz vagy egy Photoshophoz.
"Figyelj arra, aki keresi az igazságot és őrizkedj attól, aki hirdeti: megtalálta." - (André Gide)
-
sb
veterán
Ez mind megvan és/vagy nincs értelme.
6-8 P magot nem tudsz kihajtani 4-6GHZ-en 30W körül TDP-kből... multicore perf/W-ra-ra erre találták ki az E magot: 3.5GHz körül elmegy 8 mag ebből a TDP keretből és több kraftot hoz mint kevesebb P mag nagyobb órajelen.
Esetleg ha a 8db P mag is 3-3.5GHz körül megy akkor hasonló a hatékonysága (mert az is eléggé tévhit, hogy visszavett órajelen kevésbé hatékony lenne esetleg, jól skálázhatóak a P-k is lefelé... viszont akkor minek P mag? Plusz méretben sem fér be több, rosszabb az uncore fogyasztás ami szintén 30W-ból, mobilan probléma, stb...GPU magból mehetne több, szintén nem fér el órajelben. GPU-ban és főleg perf/W-ban nem versenyképes az Intel.
Encoder/decoder úgy tudom már minden megvan AV1-ig az újakban ami kellhet. De ha nem, ezek fixfunkciós blokkok, kb. semmit nem kérnek se helyben, se másban. Csak döntés kérdése mi kerül be.
Félreértés ne legyen, én sem látok óriási, jelenleg hasznos funkciót, főleg lokális AI-ra, de egyrészt azért már akad most is hasznos cucc, azért érdemes egy videóvágó/képszerkesztő progiba belenézni... másrészt pedig eléggé az út elején járunk. De a legfontosabb a fentiek alapján egyszerűen tényleg nem látom mivel lehetne előrelépni adott TDP (főleg kis) kereten belül, szerintem semmivel.
Az AI-ban meg ott a lehetőség, most is, később meg tutira tud olyat amit klasszik programozással és végrehajtókkal nem lehet megoldani.Egyébként én a Ryzen chipletes megjelenésekor is írtam hasonlóakat, desktop, tehát nem csak mobil/ultramobil vonalra. Azért ha a Ryzen előtti időkből nézzük akkor eléggé eljött a kánaán azóta, ez már ott is látszott: desktop/mobil 2/4 magról felmentünk 8-16 magig. Ennek (is) köszönhető, hogy ma notiban is olyan alsó-közép gépet kapsz ami keresztben lenyeli 25-45W-ból is 8-12 maggal, alacsony frekin a régi desktopokat. Gyakorlatilag erőgép ami bármire jó, videót is vághatsz rajta. Asztalon meg ha dolgozol akkor 100-250W között brutál erőgéped van. De ez már akkor látszott, hogy nem skálázható a végtelenségig, 6-8 mag helyett consumer 16-32-64 mag nem lesz kihasználható. Egy ideig a perf/W is javul a nagy magszámmal, de mobil gépnél is van egy sweet spot ami fölé nem érdemes menni. Onnan jön a régi nóta: párhuzamosítás, stb... sw probléma ami miatt a gpgpu/HSA-ból sem lett semmi.
Még egy előrelépési lehetőség azóta azért lenne: igpu-ban is limit volt, főleg a ram sávszélesség miatt. Abban még van egy jó nagy ugrás, ha a cache/X3D megoldásokat bepakolnák az APU-kba. De mivel általános feladatra nem jött el a gpu-k kora, így az most sem fog. Max játékra lenne jó, arra meg van más megoldás is a dgpu-kkal. Mobilban is feljöttek, oda sem musthave egy integrált megoldás.
Új hozzászólás Aktív témák
ph Az Intel látványosan az AI-ra fókuszál, ami nem feltétlenül baj.
Állásajánlatok
Cég: Ozeki Kft.
Város: Debrecen
Cég: Alpha Laptopszerviz Kft.
Város: Pécs