Új hozzászólás Aktív témák
-
ddekany
veterán
De mit csináló AI-hoz kell az a 40 TOPS? Mert belátható időn belül elérhető notebook/desktop gép nagyságrendileg kevés pl. egy értelmesebb LLM futtatására. Kapásból a memóra méret és szávszélesség sehol nincs meg hozz. És jelenleg legtöbb területen az AI még erősen korlátos intelligenciája (megbízhatatlansága) a szűk keresztmetszet, és úgy, hogy azok nagy modellek, értsd, párszáz GB RAM kell neki, meg egy "fióknyi" monstrum GPU sem árt, ha nem akarsz megőszülni.
[ Szerkesztve ]
-
ddekany
veterán
válasz Döglött Róka #49 üzenetére
Csak persze ezek a már módjával használható copilot funkciók mögött akkora LLM van, aminek belátható időn belül nagyságrendileg kevés marad egy saját gép. Meg az MS stb. nyilván azt preferálja bevétel szempontjából, ha ez előfizetéses szolgáltatás. Plusz nyilván nem engedi ki a szerver teremből a csúcs AI modelljeit, amit csilliárdokért tréningezett, és alapvetően befolyásolja a versenyképességét.
-
ddekany
veterán
Ahol én vagyok, ott közel sem csak programozókat érinti (azaz nem csak Github Copilot), ha sikeresen túllépnek a pilot fázison. Legkülönfélébb pénzügyi papírmunka felgyorsítására próbálják bevezetni. Meg hogy a hegyomlásnyi belső dokumentációról (mindenféle policy, stb.) lehessen kérdezni (RAG). És nem csak bérelnek, hanem veszik a H100-okat, hogy totál házon belül is fusson model, meg fine tuning. Jelentős nagyon-nagy vállalatról van szó, gondolom a többi is ezt csinálja. 1-2 év múlva lehet ebből pislogás szinte minden "ülős" munkakörben ha bejön.
-
ddekany
veterán
A kulcsszavak: vector database, RAG.
"Win eleve tudjon normálisan keresni a gépen?"
Nekem van is ilyen összeesküvéselméletem, hogy azért akarja kliens oldalra ezt az MS, mert néhány ilyen alap dolgot 30 éve képtelenek megugrani, és talán majd akkor az AI megoldja... Pl. a vezérlőpultos vergődés gordiuszi csomót átvágják azzal, hogy betesznek egy pici LLM-et, ami beállítja, amit emberi nyelven kérsz. (Mondjuk itt is erősen kérdéses, hogy mennyire lehet az pici... 7GB-t evő LLM már meglehetősen pici, pláne ha megbízhatóra akarod, de kicsit fájó beröffenteni, mikor mondod, hogy "Hé, Windows, a másik mikrofont használjuk!")
[ Szerkesztve ]
Új hozzászólás Aktív témák
- Kerékpárosok, bringások ide!
- KERÉKPÁR / BRINGA / ALKATRÉSZ beárazás
- Samsung Galaxy S23 Ultra - non plus ultra
- gban: Ingyen kellene, de tegnapra
- PlayStation 5
- Motorola Edge 30 Neo - wake up, Jr...
- Milyen légkondit a lakásba?
- Támogatja a legújabb Windows frissítést az új AIDA64
- Milyen billentyűzetet vegyek?
- Diablo IV
- További aktív témák...
- HP ProBook 645 G4 szép állapotban, AMD Ryzen 2700U, magyar világítós bill. gyári gari 2024-ig
- HP EliteBook 860 G10 (A13YRE8) - ÚJ - 16" üzleti notebook - i7-1365U, 16GB, 512SSD, W11 pro
- HP 14-em0001ne - ÚJ - 14" FullHD IPS notebook - Ryzen 3-7320U, 8GB
- Új bontatlan Sandisk Ultra 3d SSD 4TB és Samsung 2.5 870 Evo 500GB SATA3 (MZ-77E500B)
- BONTATLAN ÚJ iPad Pro 2021 2022 M1 M2 Chip 11 és 12,9 128-2000GB DEÁK TÉRNÉL AZONNAL ÁTVEHETŐ
- Samsung Galaxy S23 128GB és 256GB új BONTATLAN 2év garancia
- Eladó Dell R720 Xeon processor 2 x E5-2650 1,70 Ghz / ( 2 x10 core ) ( 40 vcpu ) Ram 48 Giga
- Sony digital-8 kazik (bontatlanok)
- PS5 Slim, Digital Edition, 1TB, ÚJ, BONTATLAN, CFI-2016, 2 év garancia, szállítás is van
- Logitech G5 egér súlyok
Állásajánlatok
Cég: Ozeki Kft.
Város: Debrecen
Cég: Alpha Laptopszerviz Kft.
Város: Pécs