Új hozzászólás Aktív témák
-
ddekany
veterán
Egyrészt egyenlőre valószínűleg tréningre kell, ami sokkal többet kér (és az otthon messze nem reális, nyilván).
Másrészt, szélesebb alkalmazásra jó modellek egyenlőre nincsenek, egy Claude 3 Opus is (aminek futtatásához messze kevés egy otthonigép) rendesen "hallucinál". Így nem tudjuk mekkorák lesznek, mire tényleg jók lesznek. Plusz, a fejlődés várható iránya, hogy az LLM-nek iterálni kell a válaszon, mielőtt kiírná neked (most ugye fix számú rétegen átfolyik, és rögtön kiírja neked a következő tokent), és úgy már sokkal de sokkal lassabb lesz, tehát gyorsabb vas kell alá. (Mondom ezt azzal együtt, hogy LLaMa 3 8B-t pont tegnap próbálgattam saját gépen, és érzetre már az 1 évvel ezelőtti felzúdulást kirobbantó kb. 200B-s ChatGPT 3.5 szintje.)
-
kilua
senior tag
Már 8giga ramos laptopomon is rendesen fut a LLaMA3 8B ami nem is rossz, és a stable diffusion 1.5 alapú modellek
Sőt már régi nem direkt MI chipes telefonon is:
[link]
[link]Elhülyéskedni már az is jó.
Egyébként a "mire fel az energia igény" abban egyetértek hogy lehet túl lett tolva hirtelen és ebből akár valamekkora bukta is lehet de egyelőre úgy néz ki hogy egyre több dolgot kiválthat ami ... na igen vagy valami kényelmes utópia vagy valami disztópia felé visz.
Új hozzászólás Aktív témák
- Fél tucat Core Ultra CPU jöhet az asztali piacra
- Star Trek Online -=MMORPG=-
- Nem indul és mi a baja a gépemnek topik
- LG C4 tévé, a népszerű OLED-sorozat legfrissebb tagja
- Ukrajnai háború
- Házimozi belépő szinten
- EA Sports WRC '23
- DIGI kábel TV
- bambano: Bambanő háza tája
- Nvidia GPU-k jövője - amit tudni vélünk
- További aktív témák...
- Bomba ár! Asus VivoBook X412F - i5-8GEN I 8GB I 256GB SSD I 14" FHD I HDMI I Cam I W11 I Garancia!
- Bomba ár! HP ProBook 650 G5 - i7-8GEN I 8GB I 256GB SSD I 15,6" FHD I Cam I W11 I Garancia!
- Bomba ár! Lenovo ThinkPad L380 - i5-8GEN I 8GB I 256SSD I 13,3" FHD Touch I Cam I W11 I Gari!
- Bomba ár! Asus VivoBook S410U - i5-8GEN I 8GB I 256GB SSD I 14" FHD I HDMI I Cam I W11 I Garancia!
- Bomba ár! HP ProBook 450 G3 - i7-6G I 8GB I 256GB SSD I HDMI I 15,6" FHD I Cam I W10 I Gar!
Állásajánlatok
Cég: Promenade Publishing House Kft.
Város: Budapest
Cég: Ozeki Kft.
Város: Debrecen