Legfrissebb anyagok
IT café témák
- Teljes szoftveres megújulás vár az Apple iPhone-okra és Macekre
- Sweet.tv - internetes TV
- Windows 11
- Linux kezdőknek
- Synology NAS
- Milyen routert?
- Trump meglépte: készül a stratégiai bitcoin-tartalék
- Direct One (műholdas és online TV)
- WLAN, WiFi, vezeték nélküli hálózat
- Alternatív kriptopénzek, altcoinok bányászata
PROHARDVER! témák
Mobilarena témák
Új hozzászólás Aktív témák
-
S_x96x_S
addikt
válasz
5leteseN
#1780
üzenetére
> Például: egy 10GB-os LLM mekkora VRAM-ot igényel összesen?
attól függ.
pl.
https://huggingface.co/spaces/NyxKrage/LLM-Model-VRAM-Calculator
pl. egy Qsen2.5-14B-Instruct - Q4_K_S -el 8192 Context -el
ami -->
7.88 GB model size ( + 2.16 GB Context Size ) = 10.04GB Total Size
Új hozzászólás Aktív témák
Aktív témák
- Videós, mozgóképes topik
- Google Pixel 9 Pro XL - hét szűk esztendő
- A fociról könnyedén, egy baráti társaságban
- Nők, nőügyek (18+)
- Kerékpárosok, bringások ide!
- Luck Dragon: Asszociációs játék. :)
- Milyen asztali (teljes vagy fél-) gépet vegyek?
- Youtube Android alkalmazás alternatívák reklámszűréssel / videók letöltése
- Dell notebook topic
- Kedvenc zene a mai napra
- További aktív témák...
Új fizetett hirdetések
- Apple iPhone 14 Pro 128GB, Megkímélt, Kártyafüggetlen, Töltővel, 1 Év Garanciával!
- Samsung Galaxy A72 6/128GB, Normál, Kártyafüggetlen, Töltővel, 1 Év Garanciával!
- Lenovo ThinkPad T14 gen4 I L14 gen4 I P14s gen4 GYÁRI MAGYAR billentyűzet. ÚJ BONTATLAN!
- Samsung Galaxy S23 8/256GB, Mekímélt, Kártyafüggetlen, Töltővel, Dobozzal, 1 Év Garanciával!
- Apple iPhone 13 256GB, Megkímélt, Kártyafüggetlen, Töltővel, 1 Év Garanciával!
Állásajánlatok
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest