- Így tréningezi az AI-modelleket az EU-ban a Meta
- 500 milliárd dollárnyi AI-szervert gyárt le az USA-ban az NVIDIA
- Gyengülő gazdasági kilátások, erősödő infláció: kevesebb okostelefont veszünk
- Az AMD készen áll, hogy elindítsa a chipgyártást a TSMC arizonai gyárában
- Elképesztő tervei vannak Grönlanddal a Szilícium-völgynek
- Mikrotik routerek
- XPEnology
- Otthoni hálózat és internet megosztás
- Telekom otthoni szolgáltatások (TV, internet, telefon)
- Linux kezdőknek
- Hálózati / IP kamera
- Információbiztonság, kiberbiztonság, adatvédelem
- One otthoni szolgáltatások (TV, internet, telefon)
- Zyxel NAS326
- Volumio (minden verzió: RPi(ARM), x86/x64, bármi)
-
IT café
A legtöbb kérdésre (igen, talán arra is amit éppen feltenni készülsz) már jó eséllyel megtalálható a válasz valahol a topikban. Mielőtt írnál, lapozz vagy tekerj kicsit visszább, és/vagy használd bátran a keresőt a kérdésed kulcsszavaival!
Új hozzászólás Aktív témák
-
Raymond
titán
válasz
yarsley
#51031
üzenetére
Mindegy lesz ennel a kartyanal szerintem. Messze a legolcsobb 16GB NV kartya es most a savszel is eleg ahhoz hogy a VRAM-ba belefero LLM+KV$+ctx olyan 25-30 tok/s generaljon. Kettobe pedig a Qwen2.5 32B es Gemma3 27B belefer Q6-al a Mistral 24B pedig Q8-al is es azok is elmennek 15 tok/s korul "csupaszon" es 25-30-al ha van draft modell is. A Deepseek R1 Distill verzioi 32B meretben is OK, a QwQ 32B is ugyan belefer, de 15 tok/s azert ott lehet valakinek az idegeire menne mert bonyolultabb valaszoknak 10-15K token is megvan a "gondolkodas" es hat 10-15 percet varni a valaszra nem az igazi.
Új hozzászólás Aktív témák
A topikban az OFF és minden egyéb, nem a témához kapcsolódó hozzászólás gyártása TILOS!
MIELŐTT LINKELNÉL VAGY KÉRDEZNÉL, MINDIG OLVASS KICSIT VISSZA!!
A topik témája:
Az NVIDIA éppen érkező, vagy jövőbeni új grafikus processzorainak kivesézése, lehetőleg minél inkább szakmai keretek között maradva. Architektúra, esélylatolgatás, érdekességek, spekulációk, stb.
- Milyen autót vegyek?
- Hobby elektronika
- Mibe tegyem a megtakarításaimat?
- Android alkalmazások - szoftver kibeszélő topik
- AMD Ryzen 9 / 7 / 5 9***(X) "Zen 5" (AM5)
- Megvált az Altera többségi tulajdonától az Intel
- Xbox Series X|S
- OLED TV topic
- Unlimited Power! Megnyitotta a Honor a 8000 mAh-s mobilok sorát
- Luck Dragon: Asszociációs játék. :)
- További aktív témák...
- Windows! Logitech Mx Keys Magyar!
- Honor Pad X8 64GB, Wi-Fi, 1 Év Garanciával
- Bomba ár! HP Elitebook 850 G3 - i7-6GEN I 16GB I 256GB SSD I RadeonI 15,6" FHD I Cam I W11 I Gari!
- Beszámítás! Apple Mac Mini 2018 i7 32GB 256GB SSD számítógép garanciával, hibátlan működéssel
- Konzol felvásárlás!! Xbox Series S, Xbox Series X
Állásajánlatok
Cég: Laptopszaki Kft.
Város: Budapest
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest