Új hozzászólás Aktív témák
-
5leteseN
aktív tag
Sziasztok!
Vmi otthoni vason ismerkedni szeretnék a témával.
Milyen minimum vas és (ha lehet ingyenes) program segíthet elindulni (nem nulláról).
Ha magyarul is tud a program, akkor még a barátnőm megsimizi az ő buksiját is! -
5leteseN
aktív tag
válasz Mp3Pintyo #130 üzenetére
Mivel a táp és a hűtés gond lett volna a P40-eknek asztali gép alapra, ezért a hobynak vett HP ML350p szerver-dinoszauruszba tervezem. Ezért már kapott is két e5-2680v2-t frissítésnek a vásárláskori 2620-ak helyett, a 64GB DDR3 fölé. Ebben lazán tud menni a két Tesla P40.
Ha kell még 64 GB RAM, az is akad!
Ugyan csak DDR3, de 4 csatornán adja elő.
A két P40 van együtt a 3060 szintjén?[ Szerkesztve ]
-
5leteseN
aktív tag
Kösz ezt az infót is.
Elméletileg a két P40-nel dolgozik majd a szerverből munkaállomássá konvertált sz-gépem, ha a "halandóknak" elérhető AI-programok tudnak kettőt használni egyszerre.
Tudnak?Közben nézegetem a videókat sorban, az elejétől.
Mp3Pinyto konfigurációja nem tartalmaz GPU/VGA-t. Nála a combos Ryzen végzi a munkát, vagy az emlegetett 3060-as, csak azt nem írta külön?
[ Szerkesztve ]
-
5leteseN
aktív tag
Sok AI/MI program W10-et használ. Nekem W11 fut. Gond?
Mintha lennének spec területeken Linuxra is jó AI-programok.
Itt melyik változatot célszerű feltenni.
Ha több is van akkor vmelyik magyarul is tudó változatot telepíteném.[ Szerkesztve ]
-
5leteseN
aktív tag
Ha jól értem (jó lenne), akkor mindegyik W10, W11-es AI/MI programnak megvan a Linuxra a változata.
Mert a tapasztalataim szerint a Linux sokkal jobban bánik az erőforrásokkal.
Ha nincs jelentős különbség a frissítések területén a kettő között, akkor én Linuxra telepíteném.
Mintha találkoztam volna hírekkel, amik szerint a Linuxos meghajtó-programok több beállításokat tesznek lehetővé.
Amik miatt bonyolultabb lesz a kezelésük.Melyik az AI/MI- vel legjobban elláttt Linux vajon?
Arra hegyezném ki a kérdést, hogy ebből a szempontból (AI-programokkal való ellátottság) mi jó, vagy jobb választás.
Vannak-e olyan elismert és valószínűleg szükséges AI/MI-programok amik csak az egyik op-rendszeren álllnak rendelkezésre?[ Szerkesztve ]
-
5leteseN
aktív tag
T5810 egy E5-2680v4-gyel, + 64 GB RAM, hogy örüljön.
A Vega RX 56 még a legkarcsúbb, de ebbe a passzív hűtésével a Tesla P40 nem megy .Hétvégén telepítések
P.S: Ezt tévedtem, csak bent maradt kettővel ezelőtt, egy helyett.
[ Szerkesztve ]
-
5leteseN
aktív tag
válasz Geller72 #151 üzenetére
Mp3Pintyo csinált egy nagyon jó csatornát a Yt-on, ahol most nézegetem a videókat, azért vagyok ennyire csendben.
Nézz be oda te is, és pár napig el leszel foglalva
A vasad jó, a 7070-et gondolom elírtad, 4070-re tippelek.Jó ötletek!
Közben lenne kérdésem, segítség kérésem Mp3Pinyo felé :
Ha szeretnék képet és 3D animációkat(rövidet:5-25mp) egy (vaduljunk ) Rába-Steiger-ről, amiben az eredeti motor helyett egy amcsi Hemi-V8 van, és a fülkéje egy Trabi kaszni, Csillagkapu sci-fi-s stílusú facelift után, akkor miket telepítsek ehhez a T5810 munkaállomásomra a 64GB RAM/E5-2680v4/Vega 56(8GB VRAM) és egyebekre?Ha: ennek a vasnak az ereje elég egy ilyen tipikus példa projekthez!
[ Szerkesztve ]
-
5leteseN
aktív tag
Van beta-s AMD változat a Fooocushoz, bat file módosított indítás, meg nyilván egy csomó minden ami mögötte van.
Indítanám is, de azóta új lett a Python, mire letöltöttem újak a modellek.
Mire letöltöttem a 2-3x 2-3GB-ot, addigra új aFooocus is (már a2.1.752-es).
6-7x 3-4-5-6 GB újraletöltés 48 óra alatt.[ Szerkesztve ]
-
5leteseN
aktív tag
válasz Mp3Pintyo #164 üzenetére
Nem ezzel van gondom, bírná az 500GB-os SSD-m, a netem akadozik, és ha jól látom, akkor egy megszakadt kapcsolat esetén is újra kell kezdenie a letöltést. sokadszor a sok GB-os allományoknál elég idő pazarló.
Hogyan tudom kikapcsolni ezt az automatikus frissítést?
Találtam még valamit. A Fooocust írja induláskor, hogy nincs telepítve vmi torchaudio, torchtext, functorch és xformers.
Ezeket hogyan tudom a jó helyre tennie vagy tetetni a programmal?Az AMD-khez írnak vmi sebesség 4-szerező tensor-akármit.
Segíthet? Letöltöttem, who, nem indul.
Nem fog ütközni?[ Szerkesztve ]
-
5leteseN
aktív tag
válasz 5leteseN #167 üzenetére
AMD-seknek: Ezek a hibaüzenetek nem érdekesek, mert az AMD-hez módosított run.bat szedné le ezeket, de nincsenek is telepítve ezért írja a hiba üzenetet, lényegtelen! Helyettük a torch-directml-t telepíti.
Közben szerintem elvész vhol a VRAM beállítás, mert miután ezeket befejezi, csak 1GB VRAM-ot lát a Vega 56 8GB-jából, és további összetevők indításai után végül mindig corrupt lesz a refiner...safetensor 6GB-os file és töltögetné újra századszor.Szerintem a két hiba összefügg.
[ Szerkesztve ]
-
5leteseN
aktív tag
válasz 5leteseN #170 üzenetére
A modul könyvtár patch.py állomány 489-es sorában megadott érték miatt tekinti korruptnak hibásnak az állományt, ezért töltögetné újra mindig az alig 6GB-ot.
Vmi korábbi verzió mérete lehet ott, amit az AMD-s rrun.bat változat használna, csak azóta ömlenek a javított változatok és mivel viszonylag kevés AMD-svan, nem bukott ki a hiba.
Emiatt a hiba miatt az AMD-ken nem fut, ezért még kevesebb AMD-s lesz. -
5leteseN
aktív tag
válasz Mp3Pintyo #174 üzenetére
1. A Fooocust git repobol tedd fel és ne töltsd le a zip fájlt.
Ilyenkor a frissítés mindig csak pár kbyte vagy MByte lesz.Én: A videód alatti Fooocust linket használtam. Gondolom az jó.
2. run.bat fájlt írd át erre:
.\python_embeded\python.exe -m pip uninstall torch torchvision torchaudio torchtext functorch xformers -y
.\python_embeded\python.exe -m pip install torch-directml
.\python_embeded\python.exe -s Fooocus\entry_with_update.py --directml
pauseÉn: Igen, én is megtaláltam ezt az AMD-seknek megadott run.bat javaslatot, ezzel jönnek a leírt hibaüzenetek.
Ennek a végén adja a méret hibát a module konyvtár patch.py alappján, aminek az erre vonatkozó utasításai alapján átnevezi corrupted-nek és következő indításkor elkezdi ugyanazt letölteni.
Erre írtam, hogy az AMD-s bat-módosítás valami korábbi verziós AMD összetevőt telepíthet a kizárólag nVidia-s helyett. Viszont ez az eltérés hozzá a hibát a reklamált méretű és vagy verziójú sd_xl_refine...-nál, mert annak változott a mérete a most ismét telepített AMD-t használó modul óta .3. Nem tudom mire gondolsz. Link?
Én: Az AMD írt vmi tensor-... .whl-t ami segíti a tanulást, és akár négyszeres teljesítményt hoz. Hivatalos oldalukon volt, most nem találom.
Megvan viszont a letöltött file neve: tensorflow_directml-1.15.8... .whlAz a VRAM méret is bosszant, 1GB-ot lát a Vega 8GB-jából.
Valamilyen opcióval ez megoldható, de én még kezdő vagyok, nem ismerem ezt.Arra gondoltam, hogy kis sikerélményt adnék magamnak és generálnék vmi egyszerű képet csak a CPU-mal, amíg alszom lesz ideje megcsinálni
Ehhez hogyan kellene elindítanom a run.bat-tal a Fooocus-t?Bónuszka: Lora-t én is tudok vajon építeni?
Ötlet: Abban a patch.py-ba ki rem-elném az ide vonatkozó méretet verziót ellenőrző és javító sorokat.
Mi vajon ez az utasítás a Python-ban, amit a sor elejére írva a sor tartalma csak szöveg lesz, és nem hajtja végre, bármi van ott?[ Szerkesztve ]
-
5leteseN
aktív tag
Maradt az 1Gb VRAM-ból fakadó problémám(a többi rendben van), 8 GB van a Vega 56-nak.
Erre tud valaki megoldást(beállítás valahol)? Fooocus ról van szó még mindig.
[ Szerkesztve ]
-
5leteseN
aktív tag
Levettem a polcról a poros GTX 960-4GB-ot, és mindent letakarítottam és újra telepítettem, a legújabb driverek szintjéig. Műűűxik!
A Fooocus:
Könnyen használható program, nagyon élvezetes, ez a kép volt az ötödik próbálkozásom.
Csináltam egy teljesítmény összehasonlító listát ITT, ahol a sikertelenül próbálgatott Vega 56-om mellé betettem a vésztartalék, és most berakott 960-ast, a jövó-heti-terv TESLA P40-est és Mp3Pintyo 3060-asát is.
A fenti a sikerültebb kép a gyárilag beállítottan legenerált két képből, a látható felbontásban. Nekem 2-8-perc közötti időket futott a GTX960-as VGA-val, ami nem rossz, szegény nagyjából 5-10-szer lassabb a listán házibajnok 3060-asnál!Javaslom mindenkinek, 4GB VRAM-mal is jó sebességgel fut a Fooocus!
A CPU+RAM nem számít, nem azt használja.
Nekem Lowram beállításon futott, nem keresgéltem a jobb beállítást, így 2,6GB-ot használva a 4GB VRAM-ból, 65% körüli terheléssel, 60C-fok körüli max. hőmérsékleten hozta a teljesen jól élvezhető képeket, jó szintidő alattÉlvezetes!
[ Szerkesztve ]
-
5leteseN
aktív tag
Mi történik vajon, ha az LM Studio-t feltelepíteném egy régi CPU-s, AVX2 CPU-utasítás nélküli gépre?
1: Sikerül-e?
2: Futtatja-e?A sima AVX azért megvan.
[ Szerkesztve ]
-
5leteseN
aktív tag
válasz Mp3Pintyo #216 üzenetére
Ami linkeket egyebeket írtam, az nem a GPU-t tudja kiváltani, hanem a CPU-esetében lehet megoldás az AVX2 nélküli processzorok esetében, ami követelmény az LM Studio futtatásához.
Nálam például segítene: ML350p G8, két E5-2680 CPU-val.
Processzor-erő van bőven, gondolom nem lesz jelentős a CPU-utasítás(AVX2) emulálása miatti teljesítmény veszteség, főleg mert a hírek szerint nem a processzor, hanem GPU végzi a munka oroszlánrészét.
...remélem.Ezért lenne érdekes nekem ez az AVX2 kérdés, mert 4 duplaszéles VGA helye van az ML350p-s "doboznak", 1200 W-os táppal, ami sok lehetőséget jelenthet!
-
5leteseN
aktív tag
Az LM Studio-val támadt gondom.
1, Ha jól értettem a videót, akkor csak a *.gguf kiterjesztésű állományokat tudja használni.
2, Letöltöttem, és bár "Failed" üzenettel zárult alul, de a szerver választási listán zöld "Downloaded" volt a bejegyzés. Próbál is elindulni, de soha nem sikerült a sok-tucat alkalomból!A kapott hibaüzenetek:
1, ... a 600 másodperc alatt nem tudtam betölteni, megszakítva!
2, "Failed to load model 'TheBloke • llama 2 chat 13B q5_0 gguf'
Error: Error loading model. Exit code: -36861"Megnéztem a letöltött állományok méretét, amiket próbál betölteni, nem egyeztek. Hibás, szerintem befejezetlen volt mindkét *.gguf állomány letöltése(ugyanazt próbáltam letölteni), de nem kaptam erről betöltés előtt hiba-üzenetet.
--- ? ---Mi a megoldás?
[ Szerkesztve ]
-
5leteseN
aktív tag
válasz Geller72 #223 üzenetére
Ez érdekes, mert tegnap valóban frissített valamit(Yes-kattintottam szokásból), de ma is a V0.2.7 van az induló képernyő bal-alsó sarkában.
Neked?még: Jól értettem Mp3Pintyo videóját, hogy csak a *.gguf állományokkal tud dolgozni az LM Studio, vagy félreértettem, és a többivel is, ami az LM által kereshető állományok címén van?
[ Szerkesztve ]
-
5leteseN
aktív tag
A sok sikertelen betöltés alatt/miatt ezer dolgot megnéztem. Például: mialatt (elméletileg) betölti a gguf/bin állományt, nem változik nálam sem a VRAM sem a DDR3 lefoglalt mennyisége a feladatkezelőben.
A Foocus alatt a másik gépen viszonylag gyorsan követi az ilyen állapotváltozásokat.
-
5leteseN
aktív tag
A sokadik Fooocus-ból indított sikertelen(Corrupted-el végződő) modellletöltési próbálkozás után sikeresen letöltöttem a program által megkövetelt modell-állományt a program közreműködése nélkül a weboldalról, bemásoltam, ééééés elsőre jó, tép ezerrel a Tesla P40, a maga 24 GB VRAM-ján!
3-4-szeres sebességgel generálja a képeket a 4GB-os GTX 960-hoz képest, elégedett vagyok vele. A GPU-Z szenzor infói némi aggodalomra adnak ugyan okot:
... az a "Hot Spot" paraméter 100 Celsius fokra is benéző értéke kicsit aggaszt!Fel is tűnt, hogy az ML350p
gázturbináihűtő-ventijei nem zúgtak fel. Sürgősen javítandó hiba!A Foocus-ról: A kezek a közben frissült programnál sem tökéletesek, néha még mindig nem sikerülnek jól és az a kard sem lett szemmel láthatóan az a szamurájkard, amit kértem.
Ezek ellenére jó játék a Fooocus!
LM Studio:
Mivel a programból indított frissítés valamiért ennél sem volt sikeres, ezért itt is jön a manuális, de bevált kézi-letöltős, bemásolós megoldás: letöltöm a teljes új verziót és újratelepítem.
Mindenre van megoldás.
Kíváncsi vagyok a programra és a magyar tudására.[ Szerkesztve ]
-
-
5leteseN
aktív tag
Ahogy ott hivatkozgatott a program "mindenre", keresztbe-hosszába: azt nem egyszerű jól összerakni. Legalábbis ezek szerint nem csak nekem lett érthető.
Tanulmányi emlékeim szerint az átlagnak középiskolában jött ez a szint össze! A társadalom egy jelentős részének meg kb. soha!
...és ennek a rétegnek a többsége önmaga tehet erről az alacsony műveltségi- és intelligencia-szintről![ Szerkesztve ]
-
5leteseN
aktív tag
Arra is érdekelne megoldás, amit mintha láttam volna Mp3Pintyo videói között, hogy saját gépen fordítom a Yt/egyéb(?) videókat magyarra. Rá is nézek a Yt-ra.
-
5leteseN
aktív tag
Lehet, hogy fáradt vagyok, de nem tudtam kibogarászni a lényeget, pedig szükségem lenne rá feljavítani az E5-2680 v2-őt!
Le tudná fordítani ezt nekem valaki jobban érthetővé?https://www.youtube.com/watch?v=8uWODayNAiE
[ Szerkesztve ]
-
5leteseN
aktív tag
Jó hír!
Én is hozok egyet(vagy egy felet): Akinek régebbi gépe van, és kellene a processzornak tudnia az AX2-t, de mivel koros szegény CPU és nem tudja ezt az utasítást, akkor EBBEN a videóban elmondják, hogyan lehet ezt megoldani!
És azért lehet, hogy csak fél jó hír, mert én nem tudtam kibogarászni, de ne adja fel senki, mert lehet, hogy ez rajtam múlt!
Ha valakinek sikerült, ne habozzon megosztani velünk! -
5leteseN
aktív tag
válasz 5leteseN #244 üzenetére
Az előző INTEL-es AVX2/... emuláció témában idézett YT-videóban kicsit összevissza módon adta elő a srác, hogy hogyan kell az INTEL AXV2/AVX512/... emulátorát bedörrenteni, de EZEN a videón ez sokkal érthetőbb az emulátoros indítás, ha valaki szintén érintett még ebben a kérdésben rajtam kívül.
Érdeklődve várom a tapasztalatokat!
[ Szerkesztve ]
-
5leteseN
aktív tag
válasz Mp3Pintyo #245 üzenetére
A Bagossy Brother klipeket is tudja feliratozni, egész jóóó.
A VLC lejátszóm meg alapból a felirattal kezdi lejátszani, amikor talál a videóval egyező nevű feliratot.A .bat állományos felirat készítést használom, de én nem írogatom át a file neveket mindig, hanem csináltam egy Videó könyvtárat a program saját helyén és akkor még a teljes útvonalat sem kell megadni. Utána oda (a Video könyvtárba) másolgatom be, amit feliratoztatni akarok és batch-file-os kötegelt(csoportos ?) feldogozásra írt .bat állományodat használom utána. Sirály+Király!
Köszönetek érte!
Így lett nekem a leggyorsabb, legegyszerűbb.
A lustaság viszi előre a VilágotAnnyival kiegészítettem még, hogy beszúrtam a *.bat végére egy új sorba a "pause" utasítást, mert így a végén nem zárja be elolvashatatlanul gyorsan az ablakot és látom, hogyha valami hibával fejezte be, vagyis könnyen tudom is azonnal az okot keresni. Nem nagyon szokott lenni.
Ahogy más is írta: már csak fordítani kellene tudnia. és tökéletes![ Szerkesztve ]
-
5leteseN
aktív tag
A legutóbbi "Próbáld ki a legmenőbb nagy nyelvi modelleket (LLM) a saját gépeden/telefonodon teljesen ingyen" videóban az első LLM egész jó! Tud magyarul is kicsit, jobban, mint én angolul!
Lehetne ebből is egy jó kis ismertető-telepítő videó?
A demóját próbálgatta. Mintha ennek lenne Uncensored modelje is, amivel gondolom lehet már felnőttesen is csevegni végre. -
5leteseN
aktív tag
Király+Sirály , Köszönet!!!
[ Szerkesztve ]
-
5leteseN
aktív tag
válasz Geller72 #275 üzenetére
Engem is érdekelne a dolog,
Csatlakozom az előttem szólóhoz!
annak ellenére, hogy nálam valamiért nem akar a szép reményekkel induló LM Studio műxeni, de az oogabooga is elmenne ugyanazzal a kiegészített modellel.Közben a Rejtő Jenős anyagot újranézem. mert mintha az érintené azt a témát.
Egy összedolgozást esetleg kialakíthatnánk ez ügyben az LLM-magyarítás témában.
[ Szerkesztve ]
-
5leteseN
aktív tag
EZT nem tudom beolvasni az oobagooba-val, hiába csak 19GB.
A 24 GB-os P40-hez tud valaki ajánlani egy uncensored LLM modelst, ami a tervezett magyarosítással is kiegészítve várható méretét tekintve bele fog férni a 24GB-nyi VRAM-ba.
Esélyes egy 16GB-os folytatás is, esetleg arra is gondolva...
-
5leteseN
aktív tag
Vállalkozó kedvű ezermestereknek egy Best-Buy/Legjobb-Vételi javaslat: A "kikötőben" 30€ körül ("kilóra", majdnem)lehet kapni MI25(TechPowerUp) 16GB-os AI/MI GPU-t, 250W-os fogyasztással, 1070Ti-1080(+, kis "húzással") közötti teljesítménnyel.
A hátlap rögzítést kell megoldani,ha fekve kerül beépítésre, ha állítva, akkor elég eltávolítani az akadályozó részt a (7 ?)-csavar kicsavarós-leszerelés után, majd vissza csavarozás.
Kicsit többért hirdetik, de hozzám-vágtak kettőt 60€-ért.
Éppen "fűrészelek", ne zavarjatok![ Szerkesztve ]
-
5leteseN
aktív tag
Ismerős mondta, hogy vesznek tizet a céges projekthez, de pénteken délután már nem "tudták" elküldeni a megrendelést!
Asszem, hogy a srác hétfőn rugdosni fogja a falat!A dolog érdekessége, hogy olyan drágán akartak nekem a két MI25-höz nyomtatni a 2x10$-os ventihez légcsatornát(ami kell a civil sztali gépeknél, mert nincs saját hűtése!), hogy összegezve kevesebbért (40€!)vettem egy ML350p-t 32GB RAM-mal, 750W-os táppal ventikkel, amik alapból hűtik!
Najó, legyen teljes a kép, sérült: karcos az oldallap! Ééérted, fele, harmad-ár, mert karcos, a levehető oldallap!
Hogy fogom túlélni?[ Szerkesztve ]
-
5leteseN
aktív tag
Köszönöm, "eltettem"!
Most a vásárlással megoldottam, ráadásul járulékos előnyként lassan kilóra adják a DDR3-as szerver-RAM-okat is, sejthető, hogy jövőre "kukázni" is lehet majd=> ajándékba adják majd "mindenhez-is".
Pár hete lemaradtam négy ML360G8-ról 50€/db-os áron
...256GB RAM!Te milyen VGA-val ismerteted az AI/MI programokat?
-
5leteseN
aktív tag
Sokadszori próbálkozásra sikerült letöltenem egy Puli LLM-et innen:
https://huggingface.co/NYTK/PULI-GPT-3SX... de nem tudja ki Kossuth Lajos! ???
2x5GB letöltés után, 11GB VRAM-ot használva.
Mi is lenne területe?
Nem tudom egyébként, csak rákerestem a Hagg...-on, és a 112... közül ez tűnt jónak és letöltöttem.
Új hozzászólás Aktív témák
- Eladó! AMD Wraith Prism RGB LED (Foxpost az árban!)
- Magic Keyboard iPad PRO 12.9 magyar fekete, fulldoboz!
- HP Pavilion 15-eg3148nia - ÚJ 15,6" FullHD IPS notebook - i5-1335U, 16GB, TOUCH
- HP Pavilion 15-eg3001ne - ÚJ 15,6" FullHD IPS notebook - i5-1335U, 16GB, 512SSD, GeForce
- HP Pavilion 15-eh3003np - ÚJ 15,6" FullHD IPS notebook - Ryzen 7-7730U, 16GB, 512SSD, Win11
Állásajánlatok
Cég: Alpha Laptopszerviz Kft.
Város: Pécs
Cég: Ozeki Kft.
Város: Debrecen