Új hozzászólás Aktív témák
-
S_x96x_S
addikt
válasz
S_x96x_S #1399 üzenetére
És egy 28GB -os modell ; csak 1.55 token/sec
cpu mód:
"""
# ollama run gemma2:27b-instruct-q8_0 --verbose
>>> hello
Hello! 👋
How can I help you today? 😊
total duration: 26.185456189s
load duration: 72.464752ms
prompt eval count: 10 token(s)
prompt eval duration: 17.71s
prompt eval rate: 0.56 tokens/s
eval count: 13 token(s)
eval duration: 8.372s
eval rate: 1.55 tokens/s
"""
( Minisforum UM790 Pro - Ryzen 9 7940HS - 32 GB DDR5 RAM )Persze kinek mire kell;
de a nagy modellek sebessége egyre csak csökken és nem árt a memória sávszélesség.
emiatt a CPU módot hamar ki lehet nőni ...
Új hozzászólás Aktív témák
- Samsung Galaxy A53 5G 128GB, Kártyafüggetlen, 1 Év Garanciával
- AKCIÓ! MSI B450M R5 5600X 32GB DDR4 512GB SSD RX 6700XT 12GB AIO Enigma XL Seasonic 650W
- Prémium PC házak akár 20-40% kedvezménnyel eladók garanciával, számlával!
- Bomba ár! HP Elitebook 850 G7 - i5-10GEN I 8GB I 256GB SSD I 15,6" FULLHD I Cam I W11 I Gari!
- AKCIÓ! Dell Alienware AW2721D 27 QHD 240Hz 1ms monitor garanciával hibátlan működéssel
Állásajánlatok
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest