Új hozzászólás Aktív témák
-
ddekany
veterán
Egyrészt egyenlőre valószínűleg tréningre kell, ami sokkal többet kér (és az otthon messze nem reális, nyilván).
Másrészt, szélesebb alkalmazásra jó modellek egyenlőre nincsenek, egy Claude 3 Opus is (aminek futtatásához messze kevés egy otthonigép) rendesen "hallucinál". Így nem tudjuk mekkorák lesznek, mire tényleg jók lesznek. Plusz, a fejlődés várható iránya, hogy az LLM-nek iterálni kell a válaszon, mielőtt kiírná neked (most ugye fix számú rétegen átfolyik, és rögtön kiírja neked a következő tokent), és úgy már sokkal de sokkal lassabb lesz, tehát gyorsabb vas kell alá. (Mondom ezt azzal együtt, hogy LLaMa 3 8B-t pont tegnap próbálgattam saját gépen, és érzetre már az 1 évvel ezelőtti felzúdulást kirobbantó kb. 200B-s ChatGPT 3.5 szintje.)
-
kilua
senior tag
Már 8giga ramos laptopomon is rendesen fut a LLaMA3 8B ami nem is rossz, és a stable diffusion 1.5 alapú modellek
Sőt már régi nem direkt MI chipes telefonon is:
[link]
[link]Elhülyéskedni már az is jó.
Egyébként a "mire fel az energia igény" abban egyetértek hogy lehet túl lett tolva hirtelen és ebből akár valamekkora bukta is lehet de egyelőre úgy néz ki hogy egyre több dolgot kiválthat ami ... na igen vagy valami kényelmes utópia vagy valami disztópia felé visz.
Új hozzászólás Aktív témák
- VR topik (Oculus Rift, stb.)
- exHWSW - Értünk mindenhez IS
- Samsung Galaxy S23 Ultra - non plus ultra
- Adatmentés - HDD - SSD - Flash
- Luck Dragon: Asszociációs játék. :)
- Szünetmentes tápegységek (UPS)
- Külpolitika
- bb0t: Gyilkos szénhidrátok, avagy hogyan fogytam önsanyargatás nélkül 16 kg-ot
- Gyúrósok ide!
- Renault, Dacia topik
- További aktív témák...
- AKCIÓ! Okos otthon és biztonság - BOLTI ÁR FELÉÉRT!
- Bomba ár! HP EliteBook 840 G2 Touch - i3-5G I 8GB I 128SSD I 14" HD Touch I Cam I W10 I Garancia!
- Bomba ár! Lenovo ThinkPad T440P - i7-4710MQ I 16GB I 256SSD I Nvidia I 14" FHD I Cam I W10 I Gari!
- Bomba Ár! Lenovo ThinkPad W540 - i7-4800MQ I 16GB I 128SSD I K1100 I 15,6" FHD I Cam I W10 I Gari!
- Apple iPhone 14 Pro
Állásajánlatok
Cég: Alpha Laptopszerviz Kft.
Város: Pécs
Cég: Ozeki Kft.
Város: Debrecen