Új hozzászólás Aktív témák
-
S_x96x_S
őstag
Mottó: "A verseny jó!"
-
Low Noise
senior tag
Ezeket, meg az Nvidia kartyáit hadi ipari fejlesztésekre hasznalják, vagy mi ez a nagy MI veseny es őrület mostanában?
[ Szerkesztve ]
-
A "nagy MI verseny" és az "őrület" kifejezései általában a mesterséges intelligencia (MI) területének gyors fejlődésére és a világ különböző részein zajló versengésre utalnak az MI terén. Az MI olyan számítástechnikai terület, amely az emberi intelligenciát utánozó rendszerek és algoritmusok fejlesztésével foglalkozik. Az MI alkalmazásai széles skálán mozognak, beleértve az autonóm járműveket, az egészségügyi diagnosztikát, a pénzügyeket, az oktatást, a robotikát és számos más területet.
Az "őrület" részben az MI technológiák és alkalmazások iránti nagy érdeklődést jelenti, valamint a vállalatok, kutatóintézetek és kormányok versenyét a legújabb és legfejlettebb MI megoldásokért. Ebben a versenyben az országok és vállalatok a vezető szerepre törekednek az MI kutatásban, fejlesztésben és alkalmazásban annak érdekében, hogy előnyhöz jussanak a technológiai versenyben.
A nagy MI verseny mögötti egyik fő dinamika az, hogy az MI képes nagy mennyiségű adatot feldolgozni és tanulni a tapasztalatokból. Az MI alkalmazások széleskörű elfogadása és alkalmazása potenciálisan jelentős gazdasági, társadalmi és technológiai változásokhoz vezethet.
Fontos megjegyezni, hogy a "nagy MI verseny" kifejezése számos kontextusban használható, és a konkrét hírek és események nélkül nem lehet pontosan megmondani, melyik aspektusra vagy eseményre utal a kérdés.
Üdv,
ChatGPTA RIOS rendkívül felhasználóbarát, csak megválogatja a barátait.
-
aktív tag
-
válasz KaszkóPalkó #5 üzenetére
Az kicsit később jön, egyelőre még specifikációit sem hozta nyilvánosságra az NV.
A RIOS rendkívül felhasználóbarát, csak megválogatja a barátait.
-
S_x96x_S
őstag
válasz KaszkóPalkó #5 üzenetére
> Az nvidia nem a H200-nál jár? [link]
VRAM szempontjából még mindig versenyképes:
H200 : "141 GB of memory at 4.8 terabytes per second,"
MI300X (up to) : "192 GB HBM3 at 5.3 terabytes per second,"
> Évre ha nem évekkel van az amd előtt.
Kb egy időben jelenik meg ( MI300 és a H200 )NVIDIA:
"""
H200-powered systems from the world’s leading server manufacturers and cloud service providers are expected to begin shipping in the second quarter of 2024.
Availability
The NVIDIA H200 will be available from global system manufacturers and cloud service providers starting in the second quarter of 2024.
"""
De legalább lesz egy kis verseny!
A Verseny jó!#4lezso6 > Már csak szoftver kell.
igen ..
de hátha az új (dec.5) https://thealliance.ai/ -is besegít, aminek az AMD-is a tagja:
"The AI Alliance seeks to:
- Build and support open technologies across software, models and tools.
- Enable developers and scientists to understand, experiment, and adopt open technologies.
- Advocate for open innovation with organizational and societal leaders, policy and regulatory bodies, and the public."https://thealliance.ai/focusareas persze ebben az nVidia nem érdekelt:
Diversified AI Hardware
Foster a vibrant AI hardware accelerator ecosystem.
AI Alliance members will collaborate on the benchmarking, optimization, and adaptation of AI workloads to advance a diverse set of hardware. This work will focus on scalability, platform adaptation, and advanced power, energy, and carbon modeling. Benchmarks and metrics developed for model inference, fine-tuning and energy consumption of large-scale AI workloads will be contributed to the open-source community.Lisa Su, AMD CEO and Chair: “At AMD, we are committed to advancing technology through collaboration. The history of our industry highlights how open, standards-based development leveraging the capabilities of the entire industry both accelerate innovation and ensure technology advances have the largest positive impact. By embracing open standards and transparency across all aspects of the rapidly developing AI ecosystem, we can help ensure the transformational benefits of responsible AI are broadly available. We are proud to join with other industry leaders as a founding member of the AI Alliance and look forward to working together to ensure the rapid advances in AI are a force for positive change.”
Mottó: "A verseny jó!"
-
válasz Jesus_Shaves #6 üzenetére
Az OpenAI, a szervezet, amely az én modelljeimet, például a GPT-3.5-öt fejlesztette, nem publikálta pontos adatokat arról, hogy egyes modelljeik pontosan mennyi CO2-t bocsátanak ki a kifejlesztésük során. A modellképzés során azonban jelentős számítási erőforrásokat használnak fel, amelyek magukban foglalják a nagy teljesítményű számítógépek működtetését és az adatközpontok energiafelhasználását. Az ilyen nagy erőforrásigényű számítási folyamatok általában járhatnak CO2-kibocsátással.
Az informatikai szektorban az utóbbi években növekedett a tudatosság a fenntarthatóság iránt, és számos vállalat és kutatócsoport törekszik az energiahatékonyság növelésére és az üvegházhatású gázok kibocsátásának csökkentésére. Az OpenAI is elkötelezett a fenntarthatóság iránt, és a jövőben várhatóan folytatja az erőforrások hatékonyabb felhasználására irányuló erőfeszítéseit.
Fontos megjegyezni, hogy a CO2-kibocsátás pontos mérésének kihívásaival és a modellképzési folyamat összetettségével kapcsolatban a pontos adatok megszerzése nem mindig egyszerű.
A RIOS rendkívül felhasználóbarát, csak megválogatja a barátait.
-
S_x96x_S
őstag
válasz Jesus_Shaves #6 üzenetére
> hogy ennek a szövegnek a legenerálása mennyi CO2 kibocsátással járt?
sokat:
"Google’s use of AI alone could use up as much electricity as a small country — but that’s an unlikely worst-case scenario, a new analysis finds."
https://www.theverge.com/2023/10/10/23911059/ai-climate-impact-google-openai-chatgpt-energyAI Is Hurting the Climate in a Number of Non-Obvious Ways
https://themarkup.org/news/2023/07/06/ai-is-hurting-the-climate-in-a-number-of-non-obvious-waysCarbon Emissions and Large Neural Network Training
https://arxiv.org/abs/2104.10350Amúgy az egyik összeesküvés elmélet szerint az a Bitcoint időutazók azért terjesztették el, hogy értékes erőforrásokat vonjon el a készülő AGI-tól.
Mottó: "A verseny jó!"
-
racskobalazs
senior tag
@S_x96x_S: Mindig van valami ilyesmi. Eddig a virtuális pénz bányászata tette tönkre a világot, evett meg városnyi energiát magában, meg az élővilágot pl a tómelegítős bitcoin bánya:
Bitcoin Mining Makes Seneca Lake 'Feel Like Hot Tub' (businessinsider.com)
Most meg az AI használata... SZVSZ ez még mindig jobb/hasznosabb mint ugyanezen hatásokkal virtuális pénzt bányászni...@Low Noise: Ha belegondolunk, elég sok mai mindennapokban használt technológia volt először katonai célú.. Ha azt vesszük az Internet is, GPS, mobiltelefon stb... Úgyhogy teljesen valid és lehetséges, hogy először ezt is hadiparban fogják tovább fejleszteni (sőt valószínű a katonaságnak már most sokkal szofisztikáltabb dolga van mint amit a publikus közösség lát).
[ Szerkesztve ]
Az elmélet az, amikor mindenki tudja, de semmi sem működik. A gyakorlat az amikor minden működik, de senki se tudja miért. Az informatika az, amikor semmi nem működik és senki se tudja miért.
-
S_x96x_S
őstag
válasz KaszkóPalkó #5 üzenetére
> Az nvidia nem a H200-nál jár?
Az AMD-nek talán jobban integrált APU megoldása van
( egységes memória , infinity fabric, ... )
és ha az XDNA-t is be tudja integrálni,
akkor bizonyos feladatoknál kifejezetten erős versenytársa lesz az nVidiának.""""
While it may be tempting to draw comparisons between that chip, now called the GH200, to AMD's MI300A, there are a couple of notable differences worth pointing out.The way the two chips CPUs and GPUs are interconnected is very different.
Rather than the silicon-to-silicon die stacking we see on the MI300-series parts, Nvidia's GH200 uses its 900GB/s NVLink-C2C interconnect to bridge the two chips. While NVLink is fast, it's not even close to the TB/s of bandwidth AMD is pushing through its dies on MI300. With that said, for off-package communications, NVLink is still a hair faster at 900 GB/s vs the 896GB/s enabled by the MI300-series parts.Another key difference relates to memory domains. Nvidia's GH200 uses DRAM for the CPU and HBM for the GPU. This provides the advantage of capacity, data still has to be copied from one to the other before it can be processed. The MI300A, on the other hand, shares its memory between the CPU and GPU seamlessly. Both processors can read, write, and operate on the same pool of HBM eliminating the need for costly copy operations.
The cost of this approach, as we've already explored, is complexity. MI300 is without a doubt a more complicated chip, at least in terms of packaging. Nvidia's GH200 is simpler, but potentially less efficient when it comes to data movement. Which approach is inherently better isn't clear, and will likely depend on the situation the hardware is used for.
Looking at the broader GPU and AI accelerator market MI300X will have to compete with Nvidia's recently announced H200 GPU, which offers higher memory bandwidth than the H100 thanks to the shift to faster HBM3e kit. According to Nvidia's roadmap, that chip is really a placeholder for Nvidia's next generation B100 coming out in 2024.The MI300X will also compete with Intel's long-awaited Gaudi 3 AI accelerator in 2024. While details are thin, Intel claims it will deliver a 4x improvement in brain float 16 performance and 50 percent increase in memory capacity and bandwidth.
"""
https://www.theregister.com/2023/12/06/amd_mi300_gpu/
Mottó: "A verseny jó!"
-
S_x96x_S
őstag
linkek:
1.) AMD CDNA 3 White paper ( created: 2023-dec-5 ; PDF 27 oldal )
https://www.amd.com/content/dam/amd/en/documents/instinct-tech-docs/white-papers/amd-cdna-3-white-paper.pdf2.) PDF: Programming the AMD Instinct MI300 APU Or everything you wanted to know about APU programming but were afraid to ask", Nicholas Malaya, AMD, ESPM2 2023 (SC23), Nov 13 : PublicSC23ESPM2ProgrammingAMDInstinctMI300A.pdf
3.) https://ryzenai.docs.amd.com/en/latest/
Release Information - Version 1.0 : https://ryzenai.docs.amd.com/en/latest/relnotes.htmlMottó: "A verseny jó!"
-
félisten
Ezek ag OAM tokozású gyorsítók belerakhatók asztali pci-e lapba valamilyen átalakítóval?
(ha már a kommunikáció pci-e szabványú)Eladó régi hardverek: https://hardverapro.hu/apro/sok_regi_kutyu/friss.html
-
S_x96x_S
őstag
> OAM tokozású gyorsítók belerakhatók asztali pci-e lapba
ITX ?
De amúgy szerintem az integrátor partnerek
csinálnak majd WorkStation-ön modelleket is, gurulós szekrény formájában ..-----------
Elméletileg ( fél évvel ezelőtti pletyka )
talán lesz MI300P -is ( 64GB ), ami PCIe -s verzió is
De ez CDNA3, vagyis nem ideális Gaming-re.JUN 12, 2023:
https://www.semianalysis.com/p/amd-mi300-taming-the-hype-ai-performance
"MI300P is like a half sized MI300X. It is one that can come in at a lower power in PCIe cards. This again requires host CPUs. This would be the easiest one to get to start developing with, although we think that’s more of a 2024 release."
Mottó: "A verseny jó!"
-
félisten
Kössz!
3D render terén ezek vajon hogy szerepelnek?
Amióta mindenki AI-ról beszél, a hagyományos feladatok már nem nyernek publicitást.
Az RDNA3 karik csúnyán elmaradnak ilyen téren az nV-től, ezért jött a cdna-s ötlet.Eladó régi hardverek: https://hardverapro.hu/apro/sok_regi_kutyu/friss.html
-
S_x96x_S
őstag
AMD MI300 Performance - Faster Than H100, But How Much?
MI400 Broadcom + AMD Anti-Nvidia Alliance Coming With UEC and Open XGMI
( A paywall -os cikk első fele - elérhető , pár információ van benne .. )
https://www.semianalysis.com/p/amd-mi300-performance-faster-than------------
és egy videó a ROCm-ről.
... In this session learn more about the AMD ROCm software stack
Building Powerful Cloud Systems for AI with Open Source Software | BRKFP301H
Microsoft Ignite videó: 2023Nov16:
https://www.youtube.com/watch?v=7jqZBTduhAQ&t=72sMottó: "A verseny jó!"
-
félisten
Még valami felötlött bennem.
Olvasom, hogy a CCD-k és az XCD-k összeköttetése memóriakoherens.Ez ugyanazt jelenti, mint anno a Kaverinél bevezetett "közös címtér"?
Talán kicsit off, de a Zen óta megjelent APU-k esetén megmaradt ez a közös címtér?
Kössz!
[ Szerkesztve ]
Eladó régi hardverek: https://hardverapro.hu/apro/sok_regi_kutyu/friss.html
-
S_x96x_S
őstag
válasz Busterftw #20 üzenetére
> Úgy érti a versenyben, komplett csomaggal a piacon, az AMD előtt.
(szerintem)
Az AMD MI300 -as bejelentés lényege, hogy
most már van reális alternatívája az nVidiának - AI terén.
Mert eddig komoly kihívója nem volt.
És emiatt verseny se volt.
És az erős verseny - szükséges feltétele a piacbarát áraknak.Természetesen az AMD MI300 ajánlatának vannak gyengéi és erősségei,
és mivel ez nem a consumer piac és nem is olcsó ..
eleve csak alapos megfontolások után rendelnek ilyen kütyü-parkot,
és nagyjából tudják mivel kezdenek ki.Pesze aki konzervatív vagy kisebb a fejlesztői erőforrása - de van pénze
az marad a jól bevált nVidia megoldásoknál - és kifizeti a felárat, ami ezzel jár.
Vagyis a reális alternatívát így kell érteni ..
Például a Linux is "reális alternatívája" a Windows-nak, főleg ha hiszel a nyilt fejlesztői modellben de az is biztos, hogy nem mindenkinek ideális.Most AI aranyláz van, és túlkereslet ..
és ilyenkor az alapján kell dönteni, ami elérhető.(spekuláció)
Az (Ár) + (Elérhetőség) + (Alternativa megteremtése) miatt
lehet, hogy a piac közel ~ 2/3 erőteljesen el fog gondolkodni az MI300-on.
és talán a jövőben(2-5 éves időtáv)
a piac 1/3 -a az AMD megoldása mellett dönt,
ami akkor már az MI400, MI500 lehet - sokkal kiforrottabb szoftveres ökoszisztémával.Mottó: "A verseny jó!"
-
S_x96x_S
őstag
válasz Busterftw #23 üzenetére
> Számokat durrogtatni slide-okon eddig is ment az AMD-nak.
A partnerek közül sokan a nevüket és az arcukat adták az eseményhez.
- Lenovo, Supermicro, Dell, Meta, Microsoft, OpenAI, Oracle, HPE, ...
És mivel az EPYC és a HPC terén az AMD elég komoly teljesítményt letett ..
sokan bíznak abban, hogy az MI300 is sikeres lesz.
A piac ki van éhezve az nVidia alternatívára és kedvezőbb árért elnézik hogyha pár területen még nem teljesen tökéletes.Másképpen:
Ha arra hegyezzük ki, hogy az nVidia piacvezetőként kényelmesen hátradölhet-e,
( mert egyesek szerint :"majd meglátjuk és a piac is, hogy mennyire reális alternatíva. Számokat durrogtatni slide-okon eddig is ment az AMD-nak." )
Akkor az én válaszom, hogy NEM.Mottó: "A verseny jó!"
-
S_x96x_S
őstag
válasz Busterftw #25 üzenetére
> Ami ugye nem jelent semmit.
Valószínüleg mást értünk a "semmi" alatt;
Mert a semminél azért többetés már most vannak megfogható dolgok ..
pl. A befektetők a hírekre az AMD részvény árfolyamát
+9.89% -al megtolták ( +11.55 (9.89%) today )
Eközben az nVidia-t csak +2.4%. -al ; az Intel : +2.13%Mottó: "A verseny jó!"
-
S_x96x_S
őstag
válasz Busterftw #27 üzenetére
> Az Nvidia/Intel ma milyen gyorsitokat mutatott be?
ezt arra fel irtam, mikor elkezdted bizonygatni, hogy >> "Ami ugye nem jelent semmit."
Az AI bejelentés + a partnerek kiállása és jelzése, hogy használni fogják az AMD AI megoldását, egy konkrét és megfogható üzenet, aminek van súlya.
Legalábbis olyan szinten, hogy a befektetői elvárások reménykeltőek lettek
és sokan tőkével is beszálltak az AMD-be.> Illetve a részvény emelkedés miképpen javítja a MI300-t,
> mint reális alternatívát a piacon?Nem fordítva ?
a reális alternatíva ténye/reménye/várakozása/lehetősége emelte meg a részvényárakat.
Vagyis hogy az AMD -nek sikerül kiharapnia egy jelentős szeletet az AI piaci tortából.Mert a kulcs szereplők beálltak az AMD mögé (is)
és jelezték,hogy használni fogják az AMD AI megoldását (is).
És az újságírók ez alapján kikürtölték, hogy az AMD AI chip --> nVidia Alternativa !CNBC: Meta and Microsoft say they will buy AMD’s new AI chip as an alternative to Nvidia’s
"Meta, OpenAI, and Microsoft said they will use AMD’s newest AI chip, the Instinct MI300X — a sign that tech companies want alternatives to the expensive Nvidia graphics processors that have been essential for artificial intelligence."Mottó: "A verseny jó!"
-
Busterftw
veterán
Én meg azért kérdeztem, mert témát váltottál.
A nagy neveket hoztad fel a slide-okon, én meg hoztam példát, hogy nagy nevek voltak már az MI60 slide-okon is, aztán látjuk mennyit ért el valójában az AMD a piacon.
Remélem így már érthetőbb a mit akartam mondani.A te válaszod ehelyett kb az volt, hogy az AMD felvett 10 új alkalmazottat, lám-lám a gyorsítók piacán elért eredmények több mint a semmi.
"Mert a kulcs szereplők beálltak az AMD mögé"
Lásd fentebb."Vagyis hogy az AMD -nek sikerül kiharapnia egy jelentős szeletet az AI piaci tortából."
Ezt milyen market share adatokra alapozod?
És mit jelent a jelentős?"És az újságírók ez alapján kikürtölték, hogy az AMD AI chip --> nVidia Alternativa !"
Nézd vissza az MI60 eventet, ott is voltak pontosan ugyanezek a media/customer commentek, hogy "toe-to-toe with Tesla" ésatöbbi. Aztán látjuk, hogy mire mentek a kommentek. -
S_x96x_S
őstag
válasz Busterftw #29 üzenetére
> A nagy neveket hoztad fel a slide-okon, én meg hoztam példát,
Én azt hittem,
- hogy láttad az eseményt ( videót ),
- olvastad a híreket
és az alapján kommentálsz.Amúgy érdemes megnézni az eredeti AMD videót,
vagy legalább átfutni az Anandtech live blog közvetitését - képekkel ..
https://www.anandtech.com/show/21181/the-amd-advancing-ai-live-blog-starts-at-10am-pt1800-utcMottó: "A verseny jó!"
-
sb
veterán
válasz Busterftw #29 üzenetére
Már nem azért, de ettől még nettó kötekedésnek tűnik amiket írtál.
Ilyen alapon az sem jelent semmit, hogy ha X gennel ezelőtt nem lett semmi a tervekből. Most simán lehet... és bár én csak fél szemmel olvasom a híreket, nem úgy néz ki mintha ne hype, óriási kereslet és viszonylagos hw-hiány - legalábbis átmeneti, mikor várni kell rájuk - lenne most ezen a piacon.Ez pedig nem arra mutat, hogy ha itt egy úgy tűnik potens új hw és mellé gőzerővel haladó sw fejlesztés is, akkor a piacnak ne lenne érdeke az AMD felé is nyitni.
Kb. annyira logikus ezzel párhuzamba állítani egy X évvel ezelőtti szituációt mint megfordítani a részvényár-hw teljesítmény okozatot. Az volt a legviccesebb.
@S_x96x_S
Néztem a perf grafikonokat én is, nem tűnt annyira bizalomgerjesztőnek elsőre de nyilván csak a H100-hoz képest lehet nézni jelenleg. Azt is írták valahol, hogy sw oldalon ugyan nagyokat ugrálnak előre de még mindig gyengébb a hatékonyság a nyers perf-hez képest. A fentiek alapján viszont ahol a játékos gpu-k helyett is gyorsítókat gyártó nv-re várnak a vevők szvsz a szintre hozás is igen jó. Itt meg azért vannak már valós mérések is a yners számok mellett ahol lenyomta a H100-at.H200/GH200 vonalon pedig már korábban pedzegettem, hogy talán nem volt véletlen nyáron a HBMe-re váltás. Kísértetiesen az MI300-hoz hasonló sávszélességre és ami még lényeg trainingnél, kapacitásra ugrottak jóval kisebbről.
Szummázva: nem tűnik rosszan, jók a számok, előjelek. A piac meg olyannak tűnik ahol epekedve várnak bármilyen alternatívát.
Egy dolog árnyalhatja airől viszont semmi érdemi infót nem láttam csak 1-2 cikket, hogy az MS és pl. az Amazon is saját gyorsítókat fejleszt. Mondjuk a jelenlegi állapotot látva ez még nem biztos, hogy jelent bármit.
-
Abu85
HÁZIGAZDA
Igazából itt két termékről van szó. Az MI300X az nem rossz, de annyira nem is jó. Tipikus egál szituáció. Viszont akkora a megrendelés az AI-ra, hogy így is el fogják adni az összeset.
Az MI300A viszont masszívan jobb a GH200-nál. Pont ott jelentős az előnye, ahol a GH200-nak problémája van, a lapkák összeköttetésénél. Ez azért gond, mert nehéz lesz meggyőzni a cégeket, hogy írjanak át mindent ARM-ra, ha az MI300A-n meg minden fut on-the-fly, és még jóval gyorsabban is. Pedig a GH200 pont ezért született meg. Egy nulladik generációs termék, hogy meggyőzze a váltásról a piacot, de úgy nem fogja, hogy van nála gyorsabb x86/AMD64 alapokon.
Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.
-
S_x96x_S
őstag
> Szummázva: nem tűnik rosszan, jók a számok, előjelek.
Az XDNA ( FPGA, AIE ) be-integrálása lesz még érdekes.
És kiváncsi leszek, hogy a Chipsetes(legós) fejlesztés, meglátszik-e majd a gyors iterációban ..> Egy dolog árnyalhatja airől viszont semmi érdemi infót nem láttam
> csak 1-2 cikket, hogy az MS és pl. az Amazon is saját gyorsítókat fejleszt.Szerintem mindegyik nagy Cloud -nak kell olcsó+saját AI megoldás is ..
--> mert a Google-nek már van, sőt .. az 5. verzió ..
December 7, 2023: Google TPU v5p AI Chip Launches Alongside Gemini
Az AMD és az nVidia szempontjából az a kérdés,
hogy ezek a cégek árulják-e másnak, vagy csak bérelni lehet.
Egyenlőre szerintem az utóbbi jellemző.Ami viszont érdekes, hogy egyik Cloud -os cég (MS, AWS, Google)
se tagja az új https://thealliance.ai -nak ,
pedig saját AI chipet fejlesztenek ..
Én azt feltételezem, hogy nem akarják (ezzel is) provokálni az nVidiát ..
A gazdasági élet kényes egyensúlyra és kompromisszumokra épül
és felesleges konfliktus nem igazán racionális itt ..
Szerintem később valami külső tagként csatlakoznak.[ Szerkesztve ]
Mottó: "A verseny jó!"
-
ddekany
veterán
Egy nagy kérdés ez lesz, hogy a PyTorch modellek jobbára "maguktól" hatékonyan futnak-e már, vagy még mindig szívás nVidia-hoz képest. Azaz, a szoftver rész jó-e már.
[ Szerkesztve ]
-
S_x96x_S
őstag
> a PyTorch
igéret van rá ( ROCm 6 )
Persze a PyTorch + AMD ROCm 5.7 is relative elég friss hír ..
October 31, 2023 : https://pytorch.org/blog/amd-extends-support-for-pt-ml/Amúgy a "PyTorch on ROCm" projek tlistája elég komoly.
https://github.com/orgs/pytorch/projects/38Mottó: "A verseny jó!"
-
sb
veterán
Az XDNA ( FPGA, AIE ) be-integrálása lesz még érdekes.
És kiváncsi leszek, hogy a Chipsetes(legós) fejlesztés, meglátszik-e majd a gyors iterációban ..
+1Szerintem mindegyik nagy Cloud -nak kell olcsó+saját AI megoldás is ..--> mert a Google-nek már van, sőt .. az 5. verzió ..
Őket azért nem írtam mert régebbi a sztori. Nekem az említettek voltak újak az utóbbi 1-2 hónap cikkeiből. Az MS főként érdekes volt mert elég erősnek tűnt az AMD-s kooperáció, AI-n kívül is és itt is több az összefonódás.Ami nekem fura, hogy annyira nem egyszerű ezt házon belül összerakni szvsz, majd még gyártatni is nagyobb mennyiségben. Kicsit erőltetett megoldásnak tűnik a szolgáltatók felől. Mintha az elérhetőség miatt (gyártó=nv és mennyiségi alapon is) próbálnának függetlenedni. Oké, hogy saját+olcsóbb, de megoldani nem kis feladat. Ha elő tudná húzni bárki más a kalapból rövid időn belül az AMD-n kívül akkor nem itt tartanánk, hogy az NV-nél állnak sorban, pk pedig a profitot sem győzik számolni.
Aztán lehet, hogy totál hülyeség és csak én látom bele. -
sb
veterán
Nyilván nem akarnak rossz helyzetbe kerülni. Az NV profitján most is látszik, hogy azt írnak rá az árcédulára amit akarnak.
És van itt egy nagyobb félelem is most szvsz... ha teljesen kimarad/lemarad valaki az AI versenyben attól talán még jobban tartanak, mintha drága lenne hw beszerzés.Viszont saját megoldást építeni azt meg inkább hosszú távra látnám megoldásnak. Most hirtelen nem lemaradni, erre talán kevésbé jó megoldás.
[ Szerkesztve ]
-
Busterftw
veterán
Láttam a videót, ennek mi köze bármihez is?
Te azt próbáltad érvként felhozni, hogy a videón megjelenő nevek sokat jelentenek.
Én meg hoztam konkrét példát (kettőt is), hogy ott is voltak nevek a slide-okon. Ha ismered a híreket és a piaci viszonyokat gyorsítók piacán, akkor láthatod, hogy sokat nem értek.Aztán erre azzal jöttél, hogy mennyit ugrott a részvény, bezzeg mennyit az Intel/Nvidia, miközben ott nem is volt gyorsító launch.
Aztán utána elkönyvelted az AMD (mi300) sikerét és hogy mennyit harap ki az AI piacból, miközben még piacon sincs kb a termék, kb nincs teszt és nincs market share adat.
Szerintem teljesen világos, hogy mi a gond a
whisfulthinkingjósgömblogikáddal. -
S_x96x_S
őstag
válasz Busterftw #39 üzenetére
> Aztán utána elkönyvelted az AMD (mi300) sikerét és hogy mennyit harap ki az AI piacból, > miközben még piacon sincs kb a termék, kb nincs teszt és nincs market share adat.
????
Nem a sikerét könyveltem el, ( mint biztos esemény a valószinűségszámítás szerint )
hanem a siker lehetőségének adtam 0-nál nagyobb esélyt!
Persze nem biztos, hogy sikerült érzékeltetni a finomságokat
.. és az eltérést a bináris gondolkodástól.És akkor pontosan fogalmazzuk át:
Én: "A partnerek közül sokan a nevüket és az arcukat adták az eseményhez."
Te: Ami ugye nem jelent semmitvagyis neked nem jelentett semmit, és ez normális ..
de sokaknak igen .. ( lásd befektetők, fejlesztők, újságirók, bloggolók, stb . )
és ezekre hoztam példát is, és az is normális ..és ezzel rövidre zárhatjuk a vitát ..
nem kell mindenben mindenkivel egyetérteni ..
és ebben akkor nem értünk egyet ..
Mottó: "A verseny jó!"
-
S_x96x_S
őstag
> Oké, hogy saját+olcsóbb, de megoldani nem kis feladat.
> Ha elő tudná húzni bárki más a kalapból rövid időn belül az AMD-n
> kívül akkor nem itt tartanánk,
Szerintem:
Annyira erős a Cloud piacon a verseny, hogy csak egyedi hw-res customizációval lehet versenyelőnyt és valami profitot elérni. Az AWS -ből én ezt a tanulságot szűrtem le.Amúgy az nVidia/AMD/Intel termékei az általános felhasználást célozza meg
olyan mint a konfekció ..
Ha jó a méret, akkor szerencséd van , egyébként lötyögni fog a megoldás.És ahogy CPU fronton is igény van a licenszelhető ARM-re ..
talán AI fronton is lesz valami hasonló megoldás.Mottó: "A verseny jó!"
-
Busterftw
veterán
Én is hoztam példát a MI60-MI200-ról, ott is volt hype, customer video, fejlesztők nyilatkoztak, cikkek stb. Vissza lehet nézni.
Ahogy 2 éve szintén nagyot ugrott a részvény MI200 bejelentéskor."vagyis neked nem jelentett semmit"
Nem, a piaci részesedés alapján valójában senkinek.
De ugye azt is kérdeztem tőled, hogy mennyi az a szerinted "jelentős".[ Szerkesztve ]
-
S_x96x_S
őstag
válasz Busterftw #42 üzenetére
> Nem, a piaci részesedés alapján valójában senkinek.
Szerintem a véleménykülönbség oka,
hogy másképp nézzük az eseményt.
és mást értünk alatta ..A "siker"[1] ( befejezett múlt ) és a "siker lehetősége"[2] ( várható jövő )
között szerintem nagyon nagy különbség van.Én a [2] -s ről beszélek ..
Te amikor mindig a piaci részesedést hozod fel,
akkor jellemzően [1] -est kéred számon rajtam. és [1] fókusszal nézed.Ami azt is jelenti, hogy te MÁR nem bízol az AMD -ben ..
és meg adok nekik esélyt ..Mottó: "A verseny jó!"
-
Busterftw
veterán
A siker lehetőségére olyan érveket és példákat hoztál, amik már megvoltak az előző Instict gyorsítók bejelentésekor is.
Csupán ezeket soroltam fel, hogy nincs ebben semmi új, ezek nem garanciák a sikerre, hiszen eddigi tényleges tapasztalat alapján nem volt az. Aztán majd az idő elődönti, csak gondoltam tisztázzuk mielőtt túl belemerülsz a jósgömbbe.
-
S_x96x_S
őstag
válasz Busterftw #45 üzenetére
> A siker lehetőségére olyan érveket és példákat hoztál,
> amik már megvoltak az előző Instict gyorsítók bejelentésekor is.Már megint a múlt ...
A "Siker lehetősége" == (valószínűségi) Lehetőség és NEM BIZTOS ESEMÉNY.
ÉS nem Bináris érték
vagyis nem : TRUE vs. FALSE.
És szerintem az biztosan kijelenthető,
hogy a SIKER Lehetősége > 0.00 % ebben az esetben.És az is biztos, hogy a siker esélye több mint az MI60-MI200 esetén:
- Az AMD sok tapasztalatot szerzett a korábbi termékekkel
- és végre a Szoftverre is sokkal több figyelmet szán, mert kezd rájönni, hogy szoftvertámogatás nélkül nem megy.Ezen kivül az AMD is kezd bízni a sikerben
mert berendelt hatalmas nagy kapacitást a TSMC-től.
Valószínüleg a kapacitás negyedére már van megrendelése is.
DigitTimes: AMD to ship up to 400,000 new AI GPUs in 2024, say sourcesEgyes sajtó úgy kommentálja az egészet:
AI Chip Market: Nvidia Leads, but New Competitors EmergeAz AMD-nél már az is siker, hogyha őt komoly tényezőnek tekintik (az nVidia mellett )
és el tudja adni az összes kapacitását amit berendelt a TSMC-től.
Az hogy NvIdia alternativa - nem jelenti azt is hogy piacvezető,
csak azt, hogy már nem csak egy szereplős a piac ..------------------------------------------------
Valószínűségről:
Ez olyan mint a Tűzijáték esete a meterológusokkal;
valószínűségi százalékban célszerű gondolkodni, de sajnos nem mindenki ért a valószínűségekhez ..Mérő L:
"A meteorológusok ugyanis azt mondták, hogy augusztus 20-án este a vihar valószínűsége 75-80%. Más szavakkal: a vihar elmaradásának valószínűsége 20-25%.""Pedig sok esetben valóban ez a helyes válasz. Pontosabban (és itt kapcsolódik a dolog a majdani előadásomhoz) a legszakszerűbb válasz a vihar (vagy az államcsőd, vagy bármi más esemény) előrejelzésére egy tól-ig, hogy hány százalék a dolog valószínűsége. Szerencsés esetben ez a tól-ig lehet 0-0 vagy 100-100, ilyenkor a politikus boldog lehet. De ha nem ez a helyzet, mert a (meteorológiai, gazdasági, hadi stb.) helyzet olyan, hogy ilyen biztosat korrekt szakember nem mondhat, akkor marad a valószínűségi százalék, a tól-ig."
https://telex.hu/velemeny/2022/08/23/dr-mero-laszlo-ha-rossz-dontes-volt-a-tuzijatek-lefujasa-az-a-politikusok-rossz-dontese-voltMottó: "A verseny jó!"
-
S_x96x_S
őstag
> Egyébként méri egyáltalán valaki az AI-ra kihegyezett chipek market share-jét?
nehéz, definiálni .
- mivel már a legtöbb mobiltelefonban is van NPU szerűség ..
- és a CPU -val is lehet AI feladatokat végezni ( pl. intel AMX utasítás , AVX-512 )
- és GPU-val is ( CDNA )
- ráadásul ott a XILINX is az AIE+FPGA megoldásaival ( XDNA Adaptive Computing Solutions )piac egyre csak bővül ..
de eddig jellemzően egyszereplős volt a high-end Data Center AI piac - az nVidiával ..
ez bővülhet most az AMD-vel meg talán később az Intellel ..
A long tail -be meg rengeteg futottak még startupból/cégből áll
szerintem több százas a lista ..
de nagy részük a piac egy adott szegmensére specializálódik.
és nem szállítanak általános megoldást ..---------------
"The AI chip market’s potential for growth is reflected in AMD’s CEO Lisa Su’s prediction of it exceeding $400 billion by the year 2027, signifying an annual growth rate of over 70% in the next four years. This optimism is resonating within the sector, with tech companies like Braze and C3.ai already reporting mixed reactions to their financial outcomes."
( link )Mottó: "A verseny jó!"
-
Abu85
HÁZIGAZDA
Kérdés mit tekintesz sikernek. Amúgy jelenleg az AI GPU-eladásokat az korlátozza, hogy a TSMC mennyit tud gyártani a CoWos dizájnokból. Mert jelenleg konkrétan minden egyes darabot felvásárol a piac. Legyen az NV vagy AMD. Most jelen pillanatban mindenki elad mindent. És valószínűleg a következő két évben is a TSMC kapacitása lesz a limit, nem az, hogy a piacnak kell-e a termék.
Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.
-
S_x96x_S
őstag
> Ha nem tudjuk mennyit adnak el, akkor honnan tudjuk, hogy sikeres-e?
Általában-1:
Az AMD mindig tudja mennyit adott el,
és negyedévente betekintést enged a főkönyv-be.Általában-2:
Ha a befektetők elvárásainak megfelelően mindig egyre több pénzt termel, akkor sikeres, Ha nem akkor sikertelen. Persze a Goodhart's law - mellékhatása, hogyha ez lesz a fő cél, akkor a kudarc is közel , lásd Intel esete, aki annyira ki-maximalizálta a rövid távú nyereségét, hogy ezzel jó időre megölte a hosszú távú nyereségességét és a saját piacát.Általában-3:
Ha alacsony az elvárásod , akkor bármi e felett siker.
Ha meg túl magas az elvárásod, akkor bármi az alatt kudarc.
Mint a túl okos gyereknél , ha magas az elvárás - és becsúszik egy négyes, akkor azt már mindenki kudarcnak éli meg ...Általában-4:
Ha a technológiai stratégiát nézzük, akkor az a kérdés, hogy mennyire hiszünk mi az AMD chipletes stratégiájában. Ha jó az irány, akkor bármilyen lépés abba az irányba egy pici sikernek könyvelhető el .. még akkor is hogyha nem lett belőle hatalmas piaci siker.
Mert amúgy a felgyült tapasztalat és tudás is számít. ( know-how )
Nézhetjük úgy is, hogy az AMD eddigi chipletes tervei a GPU terén nagyrészt nem jöttek be , és hibás stratégia volt erőltetni .. és úgy is nézhetjük .. hogyha valaki kitartó - előbb utóbb meglesz az áttörés ..
Kérdés, hogy a nagy áttörés az MI300 -al lesz vagy az MI400 -al ?és még lehetne folytatni a nézőpontokat ..
Mottó: "A verseny jó!"
-
S_x96x_S
őstag
> Ha nem tudjuk mennyit adnak el, akkor honnan tudjuk, hogy sikeres-e?
de akkor újra ..
Lisa Su szerint ez lesz az eddigi legsikeresebb termékbevezetése az AMD-nak
~ "Ezzel a növekedéssel az MI300 lenne a leggyorsabban 1 milliárd dolláros árbevételt elérő termék az AMD történetében"
és ilyen kijelentéssel nem szoktak viccelődni az "earnings call" -on,Vagyis Lisa Su már előre eldöntötte,
És a többi már hitkérdés .. vagy hiszünk neki vagy nem.
És ő az előszerződésekre alapozza a véleményét ..Lisa Su: Oct 31, 2023 - Q3 2023 Earnings Call Transcript
"Based on the rapid progress we are making with our AI road map execution and purchase commitments from cloud customers, we now expect Data Center GPU revenue to be approximately $400 million in the fourth quarter and exceed $2 billion in 2024 as revenue ramps throughout the year. This growth would make MI300 the fastest product to ramp to $1 billion in sales in AMD history. I look forward to sharing more details on our progress at our December AI event. Turning to our Client segment."Szerintem a legtöbb AI cég vegyes stratégiát követ ..
Tréningre az nVidiát használják ..
Inferencingre meg az MI300-at - mert itt a memória-sávszélesség és memóriakapacitás különösen előnyös.
Persze amúgy az Inferencing ASIC-al történő részbeni kiváltása eléggé ott lóg a levegőben, és sok versenytárs lesz ... de ezen a területen az AMD mindenképpen meg tud kapaszkodni.Mottó: "A verseny jó!"
-
ddekany
veterán
"Ha a technológiai stratégiát nézzük, akkor az a kérdés, hogy mennyire hiszünk mi az AMD chipletes stratégiájában"
Szerintem azt már ki lehet nyugodtan jelenteni, hogy a chilet megközelítésre áttérés szükséges, mindenkinek. A kérdés az időzítés (meddig érdemes halogatni), meg a konkrét megvalósítás sikeressége.
-
S_x96x_S
őstag
válasz Busterftw #54 üzenetére
> Mert bízunk az AMD-ben, onnan tudjuk.
Szerintem, amikor mindig erre alapozol: "MI60-MI200-ról, ott is volt hype"
akkor szerintem egy fontos és lényeges eltérést nem kalkulálsz be:
Az idén bekövetkező ChatGPT által berobbantott extrém technológiai forradalmat és extrém keresletet.
Mert ez már több mint hype ..
Az AI már megfogható és használható közelségbe került,
ami a használatával egyeseknek komoly előnyt tud adni.A ChatGPT felhasználóinak a száma nagyon gyorsan kilőtt az egekbe;
és jelenleg már nincs elég GPU ...
- "ChatGPT has around 100 million weekly active users,"
- "Subscription pause. OpenAI temporarily stops new ChatGPT Plus subscriptions due to high demand following DevDay announcements."és amióta a Microsoft is elkezdte kinyomni a bing felhasználóknak a chat-et és a Google is extrém módon bepánikolt. Mert itt már a céges túlélés a tét ..
Sőt .. szinte a cégek többsége bepánikolt,
hogy nincsenek felkészülve az AI technológiai forradalomra.Mottó: "A verseny jó!"
-
Busterftw
veterán
"Az idén bekövetkező ChatGPT"
Hát nem tudom te milyen idősíkon mozogsz, de a GPT-1 már 2018-ban megjelent, miután a Google elérhetővé tette 1 évvel előtte az LLM-hez szükséges transformert.
Az még Quadro P600-on tréningezett.Az AI technológiai forradalom már több éve berobbant, amire az Nvidia évekkel ezelőtt felkészült.
De ott a MI200, 2 éve jelent meg, hol van az AMD jelenlét az extra igényekre?
A 2022-es GPT-3.5-hoz a Microsoft több tízezer Nvidia gyorsított kötött össze."Mert ez már több mint hype .."
Persze, ez csak az AMD-nak új és friss, jó reggelt.
A konkurencia már letarolta a piacot.
-
válasz Busterftw #56 üzenetére
Izé, ha a ChatGPT és a GPT közötti különbség nem megy, akkor ott baj van a szakmaisággal... A grafikonok meg inkább viccesek, az első jól láthatóan hasraütés ilyen szép kerek számokkal, a második meg olyan, mint a régi itaniumos előrejelzések. Az ilyesmiket inkább fenntartással kezelném, főleg hogy pl az MS is nemrég jelentette be, hogy saját chipeket fog használni AI-ra, így kapásból nem fognak venni az NV-től semmit.
[ Szerkesztve ]
A RIOS rendkívül felhasználóbarát, csak megválogatja a barátait.
-
S_x96x_S
őstag
válasz Busterftw #56 üzenetére
>> Az idén bekövetkező ChatGPT által berobbantott
>> extrém technológiai forradalmat és extrém keresletet.
> Hát nem tudom te milyen idősíkon mozogsz, de a GPT-1 már 2018-ban megjelent,Én nem látok semmilyen korábbi berobbanást - chatgpt terén.
https://trends.google.com/trends/explore?date=today%205-y&q=chatgpt&hl=en-US
> A konkurencia már letarolta a piacot.
A "piac" közgazdasági értelemben két fő összetevőre utal:
az eladott termékek értékére és a keresletre.
és már most is hiány van - vagyis nincs minden kereslet kielégítve.
A piac várhatóan - évente +70%-al nő, amit még az nVidia se képes lefedni.A Fő állítás itt az:
hogy az AMD megoldása életképes alternativa lehet az nVidia -hoz képest.
Valamiben már most is az .. és később még több mindenben az lehet ..
Vagyis szemmel látható piaci részesedést szerezhet. ( a jövőben )> A 2022-es GPT-3.5-hoz a Microsoft
A jövő az a jövő .
És a fókusz a 2024 - 2030 éveken van. ( MI300, MI400, MI500, ... )Mottó: "A verseny jó!"
-
Busterftw
veterán
"Izé, ha a ChatGPT és a GPT közötti különbség nem megy"
Megy, de nem értem miért releváns a vita szempontjából, már akkor is hatalmas volt a kereslet gyorsítókra, hiszen évek óta ment a tréning. Más AI területekről nem is beszélve.De oké nézzük a ChatGPT-t, 1 éve a (publikus) piacon van.
A MI200 már bőven piacon lehetett volna hatalmas stockkal (mivel 2 éve jelent meg) a launchra, hol a "jelentős" szelet a piacból?
Idei évet nézve Q3-ra az Nvidia 4x annyit datatcenter revenue-t csinált, az AMD meg kb pár 100millio+.Omdia statisztikáit ha jól tudom kolléga ismeri és szokta is linkelni. Ezért hoztam forrásnak.
Nyilván ezek nem Microsofttól származó adatok például, de saccperkábé meg lehet különböző metódus alapján határozni.
Illetve teljesen reális számomra a kerek szám, én ha rendelnék, rendelnék 10ezret vagy 20ezret egy-egy szállítmány során, nem pedig 19867-et.A kép második része nem releváns, ignorálható.
-
Busterftw
veterán
Most AI/gyorsító berobbanásról beszélsz, vagy Google trendekről? Attól hogy a publikus AI/LMM az év elején jelent meg, a gyorsítók piacán már évek óta Nvidia uralom van.
A tréninghez is rengeteg gyorsító kellett, lásd fentebb, és ez csak az OpenAi.De írom ugyanezt neked is, demand már 1 éve van a publikus ChatGPT launch óta, miért nincsenek raklapszámra szállítva a MI200-ak?
"A jövő az a jövő"
Igen, várjuk a következő messiást, mert az AMD szokásos módon letolt gatyával ébredt fel. -
S_x96x_S
őstag
válasz Busterftw #60 üzenetére
> Igen, várjuk a következő messiást, ..
Van neked amúgy ChatGPT plusz előfizetésed?
Az ingyenes bing - jellemzően csak ChatGPT 3.5 -re dob át,
és érezhetően rosszabb válaszokat ad, mint a 4.0
Szerintem érdemes saját tapasztalatot szerezni erről a sokkal több mint "hype"-ról.Az "okos hűtők" és a minden is "okos" ... azok jellemzően hype..
de a ChatGPT és kiegészítve a multimodel ( video, hang, text ) -el,
és a fejlődés gyors üteme ..
az már inkább technológiai forradalom ..> Most AI/gyorsító berobbanásról beszélsz, vagy Google trendekről?
A kettő összefügg ( korreláció )
És jelenleg a ChatGPT a legerősebb hajtóerő az extrém magas kereslet iránt.> az AMD szokásos módon letolt gatyával ébredt fel.
A ChatGPT berobbanása szinte mindenkit meglepett ..
Az én lelkesedésem annak szól,
hogy az AMD a mostani 2-5% -os piaci részesedése AI terén
kilőhet 20-30+% -ra a következő években.
( A Big APU -nál több .. A Big GPU -nál kevesebb )
És ha a XILINX ( XDNA ) is jobban be lesz integrálva akkor még több.
( pl. a XILINX-nek FPGA terén 50-60% -os részesedése van és a VERSAL AI technológiája is egyre erősödik )Hosszú távon az Nvidianak talán sikerül megtartania az 50-60%-os piaci részesedést
AI terén , persze ez attól is függ, hogy hogyan definiáljuk a piacot ..
Mert mint tudjuk - GPU terén az Intel a piacvezető és nem az nVidia
"All GPU makers retained their overall market share with Intel securing the top spot with 68%, NVIDIA with 18% and AMD with 14% of all GPUs (dGPUs & iGPUs)."Mottó: "A verseny jó!"
-
Busterftw
veterán
A messiást az AMD következő piacmegváltó megoldására értettem.
Egyébként cégnél van előfizetésünk, illetve nálunk is zajlik a saját LLM fejlesztése/platformunkba való integrálása.
Csak ez nálunk már szintén több éve zajlik, mert ebben érdekelt a cég. (nyelvi fordítás, file transformerek, APIk, ML, auto-subtitling, voicover projektek stb)"A ChatGPT berobbanása szinte mindenkit meglepett .."
Az Nvidiát aligha, ott álltak a megfelelő hardverrel a piacon és aratták a babérokat. Nézd meg az idei data center bevételeket vs AMD.
De gamingnél is több éves múltja van már az AI/DL felhasználásnak." Hosszú távon az Nvidianak talán sikerül megtartania az 50-60%-os piaci részesedést AI terén"
Mire alapozva? Nekem pontosan az ilyen kommentekkel van a legnagyobb problémám.
Csak? Mert Lisa Su valamilyen interjún lelkesedve beböfögte? Mert a jövő az jövő? Mert bízunk az AMD-ben?[ Szerkesztve ]
-
válasz Busterftw #59 üzenetére
A ChatGPT az a technológia, ami berobbantotta az AI piacot, ez egy tök nyilvánvaló tény. Én nem gondolom (s valószínűleg itt más se), hogy az AMD elhozza a csodát, ez egy szalmabáb, szóval ebben nem velem vitatkozol. A versenyképes hardver már gyakorlatilag megvan nekik, csak szoftver kell, ahogy itt írtam.
A képen lévő adatok nem statisztikák, hanem legnagyobb jóindulattal is becslések, jóslások. Leginkább amolyan befektetői marketing. És nincs rajta más, összehasonlításnak. Mert ugye az MS és a Meta is vesz MI300-akat. De nem csak AMD-ről van itt szó, hisz a nagyok saját AI chipet gyártanak, mert az NV-től vásárolni mocskos drága ezeket. Kezdésnek jó, de hosszú távon már nem. Ez komoly változás hozhat a mostani kvázi NV monopóliumban, s végre lesz verseny.
A RIOS rendkívül felhasználóbarát, csak megválogatja a barátait.
-
S_x96x_S
őstag
válasz Busterftw #62 üzenetére
> Egyébként cégnél van előfizetésünk ..
> Csak ez nálunk már szintén több éve zajlik, mert ebben érdekelt a cég.
> (nyelvi fordítás, file transformerek, APIk, ML, auto-subtitling, voicover projektek stb)manapság már minden nagyobb cégnek van AI-s részlege ..
például a Magyar Telekom is szinten mindent kutat, mindennel kísérletezik, mert rengeteg adatuk van. Chatbot-al( vanda és társai ) már vagy 8-10 éve; normál Adatokkal/ML meg szinte mindig;
És még ha egy adott cég marad is az nVidia mellett ( és nem diverzifikál ) abból még nem lehet levonni messzemenő következtetéseket az egész piacra.A kérdés inkább arra irányult, hogy te mire használod,
hogyha nem érzékeled az elmúlt egy év változásait.
( legalábbis én ezt veszem le a kommunikációból )> > Hosszú távon az Nvidianak talán sikerül megtartania
>> az 50-60%-os piaci részesedést AI
> Mire alapozva?Meg se kérdezed, hogy mit nevezek én piacnak?
- Mert mennyi a mobil AI piacon az nVidia részesedése? És mennyi lesz ?
- Embedded piacon ( itt erős az nVidia, de a Xilinx is erős .. )
- Desktop piacon? ( Qualcomm ( CPU+GPU+NPU) és az Apple ( CPU+GPU+NPU) ( és sok más cég, akiket kihagytam ) ... mellett talán az nVidia is belép a saját APU-jával - az arm-es desktop-ra .. ami a WindowsARM -et hajtja ...
- Cloud, HPC : Minden cloud-os cégnek lesz saját AI chipje ( AWS, Google, MS ) de ezen kivűl nem csak az nVidiától vásárolnak hanem az AMD-től is ..
- És ott a sok AI hw startup - amelyekből az igéretesebbeket felvásárolják, hogy legyen saját chipjük ..
- és ott az új alapítvány ... a kvázi nVidia monopóliuma elleni szövetség. https://thealliance.ai/
A fentiekre alapozva - 10 éves távlatban .. talán a 50% nVidia részesedés inkább nVidia elfogultságot tükrözhet ..
az nVidia még "All GPU" terén se piacvezető ..
"All GPU makers retained their overall market share with Intel securing the top spot with 68%, NVIDIA with 18% and AMD with 14% of all GPUs (dGPUs & iGPUs)."Az nVidia nem tud minden AI szegmenst és piacot kielégíteni ..
Mottó: "A verseny jó!"
-
Busterftw
veterán
A 2023-as Nvidia bevetelekbol azert lehet eleg jol kovetkeztetni, ami konkretan kilott.
Omdia pedig nem egy garazsceg, persze becsles az becsles, az aranyokat azert jol szemlelteti.
Amugy egy masik cikk ezt saccperkabe kikalkulalta:
"With that in mind, the latest news is that Nvidia has sold 500,000 of its H100 AI chips in the most recent completed quarter of 2023 according to research outfit Omdia. Most estimates of unit prices of the H100 range between $20,000 to $40,000 a pop, putting Nvidia's revenues for those sales at between $10 billion and $20 billion.
As it happens, Nvidia says its data center revenue for the period clocked in at $14.5 billion, right in the middle of that range. So, it all adds up.""Leginkább amolyan befektetői marketing."
Becsult leszallitott mennyiseg szerintem nem befektetoi marketing, arra ott van a rekord revenue, zsinorban 3 negyedeven at."Mert ugye az MS és a Meta is vesz MI300-akat"
Csak ugye nem tiszta mennyit, ahogy a cikk is emliti, milliardokert, vagy csak epp annyit, hogy az Nvidiat kicsit falhoz nyomjak.
Ekozben az AMD is ovakodik a MI300 becsult revenue-tol."What isn't clear from this event is whether companies like Microsoft plan to spend billions with AMD or if their involvement at this point is as much about keeping Nvidia on it toes with the appearance of willingness to buy a competing product as it is about actually buying truly significant quantities of AMD's new GPU."
"Equally, AMD is being very conservative about its predictions for revenue from MI300X."
Amivel ugye nincs semmi baj, csak ezt a hasrautok whisfulthinking sikeres lesz es jo ha az Nvidia 50-60%-at meg tudja tartani josgombozest nem tudom toleralni. -
válasz Busterftw #65 üzenetére
ezt a hasrautok whisfulthinking sikeres lesz es jo ha az Nvidia 50-60%-at meg tudja tartani josgombozest nem tudom toleralni
Ez illusztrálja legjobban, hogy továbbra is szalmabábérvelsz, így nem lehet értelemesen beszélni, ha nem arra válaszolsz amit írok.
A RIOS rendkívül felhasználóbarát, csak megválogatja a barátait.
-
Busterftw
veterán
"Hosszú távon az Nvidianak talán sikerül megtartania az 50-60%-os piaci részesedést AI terén"
vs
"És még ha egy adott cég marad is az nVidia mellett ( és nem diverzifikál ) abból még nem lehet levonni messzemenő következtetéseket az egész piacra."
De te azert messzemeno kovetkezteteseket levonsz az egesz piacra, mert csak."A kérdés inkább arra irányult, hogy te mire használod, hogyha nem érzékeled az elmúlt egy év változásait. "
En erzekelem, mint irtam ez nem iden kezdodott, iden lett csak "publikus".
A hatterben mar ment a munka, ami tobb tiz/szazezer gyorsitot kivant.
Az Nvidia mar ezt a demandot es a 2023-as "publikus" boomot is teljesitette.
Hol van a Mi200, amibol 2 ev alatt mar tobb szazezer gordulhetett le a gyartosorokrol es a piacra? Ezert mondom, hogy az AMD nem erzekelte ezt, es allt letolt gatyaval a piacon."Meg se kérdezed, hogy mit nevezek én piacnak?"
Feltetelezem azt a piacot, ahol a cikkben szereplo megoldas erkezik.
Ha mar ontopikban errol beszelgetunk. -
S_x96x_S
őstag
válasz Busterftw #67 üzenetére
kritzálni könnyű
Inkább írd le, hogy szerinted 1 és 2 év múlva hogyan fog állni az AI piac ..
Mekkora részesedése lesz az nVidiának, AMD-nek , Intelnek,És akár gyere a Manifold-ra ( prediction market) , ahol lehet fogadni ..
"Prediction markets let you bet on future events.
The price of an outcome reflects the odds of that outcome, which varies as people buy and sell. Manifold's probabilities are very accurate at forecasting the future!"Például:
"Will a model be trained using at least as much compute as GPT-3 using AMD GPUs before Jan 1 2026?" 72%chance
- februárban még csak 34% volt.
https://manifold.markets/LeoGao/will-a-model-be-trained-using-at-le
"This question resolves yes if it is public knowledge that any ML model is trained using more than 3.14E+23 flops entirely using AMD GPUs (or, hypothetically, other ML accelerators produced by AMD in the future). Resolution is based on announce time; if the model is trained before but only announced later, this resolves NO.If the trained model is substantially worse than such a model should be, then it does not count towards resolution (i.e if a LM is trained and it's only comparable in performance on standard benchmarks to a model trained with 1/10th the compute). This is mostly intended to exclude failed attempts."
"Will Superalignment succeed? (self assessment)" 33%
https://manifold.markets/SG/will-superalignment-succeed"Will Jensen Huang cease to be CEO of Nvidia before 2030?" 40% chance
https://manifold.markets/cash/will-jensen-huang-cease-to-be-ceo-o-244ce3a37885"Will any chip maker other than NVIDIA, Intel, and AMD create accelerators for Deep Learning and be profitable by 2030?" 81% chance
https://manifold.markets/yk/will-any-chip-maker-other-than-nvid"Will Jensen Huang (CEO of Nvidia) be charged with a serious crime before 2030?"
7% chance
https://manifold.markets/ScroogeMcDuck/will-jensen-huang-ceo-of-nvidia-be"When will Nvidia's GH200 "Grace Hopper" superchip be released."
- 2024H1 60%
- 2024H2 19%
- 2025: 9%
- 2026 : 5%
https://manifold.markets/TobiasH/when-will-nvidias-gh200-grace-hoppe[ Szerkesztve ]
Mottó: "A verseny jó!"
-
sb
veterán
válasz Busterftw #59 üzenetére
Olyasmi önellentmondásokra hívnám fel a figyelmedet, hogy:
1. Te magad írtad, hogy az AMD le volt maradva korábban. Ez igaz is, hozzátenném, hogy nem készültek speciálisan hw oldalon (inkább HPC-re gyúrtak, arra is lemaradva, lásd később...) és mennyiségi téren sem az AI-ra annyira mint az NV. Most viszont erre gyúrtak és láthatóan megérkeztek.
2. Említetted az sw-t mint igen fontos tényezőt amiben sehol nem voltak korábban.
Most ezt is gőzerővel fejlesztik és már vannak eredmények láthatóan.Akkor ebből és a fent írt tényekből - láthatóan mindent felszív a piac, mert kevés a hw - mire alapozod, hogy most ugyanúgy lesz, mint 2-3-5 éve... és egy darabot nem adnak el belőle? Ez logikus következtetés?
Az AI "berobbanása" tényleg valami ilyesmi volt, egy gyújtópont. Két vetülete van szerintem, az egyik a consumer felhasználás ami ugyan létezett, de marginális volt eddig. Itt óriási ugrás van. A másik a kutatási/ipari felhasználás ami jóval előrébb tartott eddig is, alap kutatások, gyógyszerfejlesztések, önvezetés, stb... itt eddig is komolyan fejlesztettek, de ennek is lökést adhat az általános áttörés. A szakértőkön felül akik valószínűleg eddig is tisztában voltak a potenciáljával meg kellett győzni a kevésbé szakértőket is. Most átlendült az inga a kételyek felől a mindent IS megold az AI vélekedésre. Így ha semmi nem történik akkor is mindenki előre menekül.
Az NV-nek egyébként AI nélkül is előnye volt régóta a gyorsítóknál, ide célzott az AMD anno. Aztán pedig specializáltan AI tekintetében is előbb kapcsoltak, valahol az önvezetés indulása körül, jó régen. Bőven a ami ChatGPT-s robbanás előtt.
[ Szerkesztve ]
-
Busterftw
veterán
Hoztam szamokat, hoztam relevans cikkeket, hoztam AMD-tol ugyanazt a gyorsito trackrekordot, amit a kollega most uj "bizakodo" szellemben probal eladni.
En ezekre alapozom az allitasaim es nem ugy vitazok, hogy az Nvidia 2 ev mulva megveszi az Intelt, az AMD pedig a MI400-al Holdra megy, mert igy keltem fel es mert csak.
Vitazzunk igy? -
Busterftw
veterán
1. En azt irtam, hogy ugyanezek a "feltetelek" mar korabbi hardver launchkor is adottak voltak, csak Oscar bacsi nem gyutt.
Az AMD most aztan sikeres lesz, mert bealltak moge a nagy nevek.
En: A korabbi Instinct launchkor is voltak nagy nevek, nem volt sikeres, tehat nincs akkora jelentosege onmagaban a slideokon megjeleno neveknek.Meta/Microsoft biztos vesz belole:
En: hoztam szamokat, hogy mar a publikus boom elott is tarolt az Nvidia hardver a gyorsitok piacan, illetve az idei boom alatt pedig pont ezek a cegek vettek a legtobb AI cuccot."Most ezt is gőzerővel fejlesztik és már vannak eredmények láthatóan"
Mint peldaul? Csuszkak es % a bemutatokon? Erre terjunk vissza fel ev mulva."mire alapozod, hogy most ugyanúgy lesz, mint 2-3-5 éve... és egy darabot nem adnak el belőle?"
En ilyet nem irtam, a joslast meghagyom masnak itt.
En pont azt vitattam, hogy a siker nem garantalt csak azert, mert jobb labbal kelt fel a forumozo es megalmodott egy market sharet, illetve mert Lisa Su feher sast latott repulni.
Mert a konkret "ervek" kb ilyen szintuek. -
S_x96x_S
őstag
December 11, 2023
".... AMD is shipping MI300X systems from some OEMs this month, and we expect at least one OEM to have $300M+ of MI300 bookings before Christmas 2023 and those systems are not for Microsoft. If AMD can deliver the MI300X chips, it is going to blow out a $2B forecast in 2024."Next-Gen Broadcom PCIe Switches to Support AMD Infinity Fabric XGMI to Counter NVIDIA NVLink
https://www.servethehome.com/next-gen-broadcom-pcie-switches-to-support-amd-infinity-fabric-xgmi-to-counter-nvidia-nvlink/
"It seems like Broadcom is not just looking at PCIe and CXL, but it also has plans to have switches for things like Infinity Fabric. At a system level, that is a big deal. NVIDIA HGX V100, A100, and H100 systems have one internal level of NVSwitches to provide an interconnect within a chassis, and then an external link for external switches. NVIDIA also briefly had a 16-GPU configuration in the NVIDIA DGX-2 with tray-to-tray NVSwitch links.For AMD, this is a big deal. A switched topology will allow more than eight GPUs per node without having to use less efficient PCIe signaling.
..."Mottó: "A verseny jó!"
-
S_x96x_S
őstag
Mi az az AI-boom?
"AI-boom Magyarországon: egyre többet költenek mesterséges intelligenciára a cégek."
"Deloitte: összesen 129 szervezettel készítettek mélyinterjút idén május és október között."
"A MEGKÉRDEZETT HAZAI SZERVEZETEK MINTEGY NEGYEDE (26%) AZ AI-FEJLRESZTÉSEKRE DEDIKÁLT BÜDZSÉVE RENDELKEZIK, ÉS A SZERVEZETEK 80 SZÁZALÉKA ARRA SZÁMÍT, HOGY JÖVŐRE TÖBBET KÖLT AI-RA."
https://www.portfolio.hu/uzlet/20231212/ai-boom-magyarorszagon-egyre-tobbet-koltenek-mesterseges-intelligenciara-a-cegek-657219Mottó: "A verseny jó!"
Új hozzászólás Aktív témák
- Luck Dragon: Asszociációs játék. :)
- Vicces képek
- Azonnali informatikai kérdések órája
- Intel Core i3 / i5 / i7 / i9 10xxx "Comet Lake" és i3 / i5 / i7 / i9 11xxx "Rocket Lake" (LGA1200)
- Vezeték nélküli fejhallgatók
- Genshin Impact (PC, PS4, Android, iOS)
- Star Citizen
- Windows CE fórum
- sziku69: Szólánc.
- sziku69: Fűzzük össze a szavakat :)
- További aktív témák...
- Beszámítás! ASRock B550M R3 4300G 16GB DDR4 240GB SSD GTX 970 4GB FSP CMT160 fekete FSP 600W
- Gamer PC
- Ultracsendes gamer setup
- GAMER PC! Ryzen 3600X / RX 6600 XT / B550 / 16GB 3600MHz / 512GB NVMe / 500w!
- Beszámítás! ASUS H170 i5 6500 8GB DDR4 120GB SSD 500GB HDD GTX 1050 Ti 4GB ZALMAN Z1Neo Chieftec400W
Állásajánlatok
Cég: Alpha Laptopszerviz Kft.
Város: Pécs
Cég: Ozeki Kft.
Város: Debrecen