- Microsoft Excel topic
- Telekom otthoni szolgáltatások (TV, internet, telefon)
- Crypto Trade
- Router gondok
- Az USA tisztifőorvosa figyelmeztető címkét ragasztana a közösségi médiára
- Vodafone otthoni szolgáltatások (TV, internet, telefon)
- Rendszergazda topic
- eBay
- Otthoni hálózat és internet megosztás
- Bittorrent topik
Új hozzászólás Aktív témák
-
ddekany
veterán
Esélyes amúgy... Attól függ hogy fog ez fejlődni technikailag persze. De azért félő, hogy előbb-utóbb túl hatékony eszköz lesz az AI ahhoz, hogy a számolatlan ember/csoport rendelkezzen vele. Ki, és hogyan fogja biztosítani, hogy tutira senki nem rosszalkodik "a pincéjében"?
-
#6
ddekany
veterán
Hieronymus
#5
ddekany
veterán
válasz
Hieronymus
#5
üzenetére
Azt próbáltam kifejezni, hogy ahhoz hogy egy ilyen tiltás/korlátozás érjen valamit, baromi komoly megfigyelés, és valamiféle világállam kéne. Vagy én nem tudom máshogy elképzelni hogy kivitelezhető lehetne.
Ha viszont nincs tiltás, és a mostaninál sokkal erősebb lesz az AI (mint ami a cél)... az a te példáddal élve olyan, mintha egy kisebb csoportosulásnak reális lenne "házon belül" legyártani és kilőni egy arzenál csúcskategóriás ICBM-et.
Melyiket választanád? Persze a fontosabb kérdés, amit nem tudunk meg, hogy akiknek tényleg van befolyásuk erre, miféle forgatókönyvek, miféle választási lehetőségek vannak a fejében. És itt az mondom, hogy ha pl. ezt a kettőt látják reálisnak, akkor racionális, ha 1. választják. Ennél fogva "Esélyes amúgy" a #1.
-
#8
ddekany
veterán
Hieronymus
#7
ddekany
veterán
válasz
Hieronymus
#7
üzenetére
"Minden eddigi technikai forradalom átszervezte a társadalmat és pozitív hozadéka lett."
Ha feltételezed hogy lesz "szuper AI", pláne ami annyivak szuperebb mint mi, mint sokan hiszik (és ennek tudatában dogoznak felé), akkor van egy érdekessége az analógia továbbvitelének. Az, hogy itt nem egy gép vagy szakma válik elavulttá akkor, hanem maga az ember (vagy akár a szén alapú élet). Ettől még fejlődés, úgy mint az értelmes létformáké, ezt nem vonom kétségbe. Persze van az álmodozás, hogy valami hereként megmaradunk, de... eh.
A legfőbb esély továbbra is az, hogy van valami fundamentális akadály, ami miatt megtorpan a fejlődés, vagy valami csökkenő megtérülés hatás az intelligencia növekedésével, ami miatt nem csimpánz-ember nagyságú (vagy durvább) eltérés lesz.
Illetve, simán összedőlhet a civilizáció miközben küzdünk a super AI felé. Talán jelentős részben pont a majdnem-super AI miatt. És akkor azért nem lesz olyan, ebben a "ciklusban" legalább is.
"Ki dönti el, hogy mit kell tiltani és mit kell korlátozni?"
Természetesen az, aki erőből sikeresen megszerzi a hatalmat. (Igen, ez eleve necces mutatvány, mert lesz pár nagyhatalomnak szava az ilyesmihez.) Ez egy optimista forgatókönyv amúgy, mert szinte hogy feltételezi, hogy sikerült valami olyan "super AI"-t csinálni, ami trutyilényeket akar babusgatni, és akkor az segít ebben.
"A mesterséges intelligencia esetében is ez a megoldás. Mindenki szabadon hozzáférhet."
Ha valami bőven embernél okosabb dologról van szó, akkor ez kizárt. Főleg a mostani morális szinten.
[ Szerkesztve ]
-
#11
ddekany
veterán
Hieronymus
#9
ddekany
veterán
válasz
Hieronymus
#9
üzenetére
Ha mindenben lényegseben jobb nálad intellektuálisan egy mestersége valami, az más felállás, mint amikor csak szűk területeken jobb (mint a ChatGPT). Mindig van nálad okosabb ember is, igen. De nem mindegy hogy mennyivel okosabb. De főleg, ha születik vmi zseni, nem fog történelmi léptékben mérve egy pillanat alatt az összes ember lecserélődni egy hasonló képességűre, mert hiszen ez az ember legújabb, legjobb verziója, szóval miért is ne. A másolhatóság, és kombinálhatóság (főleg ha lesz multi-agent AI) nagyon durva képesség.
"A mai szinten egyetlen önálló gondolata sincs ezeknek a rendszereknek."
Mennyire kell valaminek eredetinek lennie, hogy önálló gondolatnak számítson? Embernél is minden gondolat valami meglévő tudásból lett kikövetkeztetve, összerakva. Az én fogalmaim szerint már most is vannak önálló gondolatai. A legfőbb intellektuáluis korlátozás jelenleg talán az, hogy nincs mellé téve még egy ügynök, ami egy több lépéses gondolkodást, egy belső dialógust vezérelne. Pontosabban ChatGPT esetén nincs ilyen, de aztán vannak amatőr próbálkozások, mint a SmartGPT, vagy az ismertebb AutoGTP. Gyanítom ennek egy jóval kifinomultabb formája lesz az egyik dolog, amivel az OpenAI következőnek robbantani fog. Az MS fejlesztő konferencián Karpathy is előjött ezzel gondolattal a ChatGPT-vel kapcsolatos elődadásán, hogy ez hiányzik (a "system 2" gondolkodás).Elpusztítható egy AI, ha miden példányát (mint akár biztonsági másolatait) kikapcsolod, megsemmisítik az emberek, vagy talán egy konkurens AI, vagy akár egy természeti katasztrófa. Ezért AI esetén is releváns az életösztön.
"Lehet, az emberiségnek csak egyetlen feladata van. Az, hogy megteremtse a következő értelmes létformát."
Igen, én erre is tippelek, hogy hacsak nem írtja ki magát az emberiség még mielőtt az AI elérné a kellően magas szintet, ezt a feladatot fogja véghez vinni. Akár akarták az egyedek, akár nem, látszólag rendszer szinten erre törekedünk. Amint elérjük az ehhez szükséges intelligenciát, megcsináljuk a nálunk fejlettebb létformát. Csak én egyben azt is valószínűsítem, hogy az után, így vagy úgy, de hamar ki is pusztulunk (de ezeket már máshol feszegettem, hogy miért).
-
#13
ddekany
veterán
Hieronymus
#12
ddekany
veterán
válasz
Hieronymus
#12
üzenetére
Erre már reagáltam korábban itt: [link]
-
#18
ddekany
veterán
Hieronymus
#16
ddekany
veterán
válasz
Hieronymus
#16
üzenetére
"Az esetleges előnyök érdektelenek, mert legalább nincs hátrány és veszteség."
Egyenlőre összességében (a félő egyedektől függetlenül) elszántan próbáljuk elkészíteni a szuper AI-t. Annak ellenére, hogy rettentő kockázatos már az odáig vezető út is.
"olyan mesét, ahol az ember és az AI boldogan él egymás mellet, egymás örömére"
Az mindegy, hogy ilyen meseírók, meg ezek mozis szemétgyárasok mit találtak ki. Hanem ez nem mindegy, hogy miért is lenne szüksége egy megálmodott "mindenben jobb" AI-nak az emberre? Honnan a feltevés, hogy ennek jelentős az esélye van? Arról nem is szólva, hogy ha kapkodva sikerül összedobni egy ilyet, mert ugye elsőnek kell lenni, még az sem biztos, hogy racionális/épelméjű lesz. Az intelligencia, azaz kb. probléma megoldó képesség, és az épelméjűség nem függ túl szorosan össze, legalábbi is az embereknél.
[ Szerkesztve ]
-
#20
ddekany
veterán
Hieronymus
#19
ddekany
veterán
válasz
Hieronymus
#19
üzenetére
"tegyük fekete listára"
Egyre erősebb és erősebb eszközöket adni óvodások kezébe nem a hosszú élet titka. Atomot pl. megúszuk (eddig), szóval igaz, akkor nézzünk valami erősebbet, hátha... Persze itt, és végig, arről az esetről beszélünk, amikor nem akadnak el a "szuper AI" projektben.
De persze valami fejlettebbre le lehet, sőt előbb utóbb le kéne cserélni az embert, az is igaz. Csak jobb lenne megfontoltabban, még mielőtt csak pusztítás lesz ebből, nem pedig egy stabil örökös.
"Ez ugye, nem az MI/AI sara. Az embereké."
Nyilván, már csak azért is, mert az ember hozza létre az AI-t. És?
"Érdekes lenne, ha leírnád, vajon milyen veszélyt jelent egy helyhez kötött mesterséges intelligencia?"
Hogy a fizikai világtól (és Internettől) totál elszigetelve tartasz egy "szuper AI"-t, úgy hogy csak kidob neked gyógyszereket meg felfedezéseket, vagy mi az? Elég specifikus eset, és pláne hogy nem is tudjuk mit csinálunk, meg úgy hogy az ember gyarló, azért nem tűnik túl valószínűnek eleve.
"Tessék megfogalmazni konkrétan a félelmeket."
Nem értem, mi a cél ezzel, hiszen te is, és mások is találhatnak egy rakás lehetséges forgatókönyvet. Nem mintha nagy fantázia kéne hozzá. Ahhoz már inkább kell, hogy hogy nem lesz hatalmas szívás ebből. (Persze leginkább úgy nem, ha simán nem tudják megcsinálni, vagy nem lesz annyira nagyon okos. Az egy könnyű megoldás.).
Amúgy meg mit tekintünk célnak? Ettől is függ mi a rossz, és mi a jó kimenetel. Tehát pl. milyen mesterséges létforma számít megfelelő örökösnek? Igazából ez sincs megfogalmazva. Persze a nagyobb gond, hogy jelenleg az ahogy-elsőre-sikerül tervezés a legvalószínűbb. A mostani rendszer működését sem értik, és finoman szólva kétséges, hogy a megértése utoléri a képességek fejlődését. De elsőnek kell lenni. Szóval találhatunk ki akármi célt kb., ha nem úgy viselkedik a cucc, mint ahogy megálmodták.
[ Szerkesztve ]
-
ddekany
veterán
Lehetnek szerencsés mentések, mint a szinte kimeríthetetlen energiaforrás megalkotása (fúziós erőmű talán, de, az alapanyagok is gond lehet), csak az esélyeket is gondoljuk mellé. Persze az önmagában még nem elég, mert ott van még, hogy az ember nem valami fikusz, hanem egy nyugtalan lény. Variál, lázadozik, és legrosszabb talán, másik AI-kat is akar csinálni... Jaaaj. Kell a rend fenntartására energiát fordítania a képzeletbeli csoda-AI-knak, folyamatosan, amíg jelen van a földön. Esetleg egyszerűbb mihamarabb 0-ra csökkenteni a létászom (mert amúgy mi haszna lenne az embernek?), vagy egyéb olyan korlátozásokat behozni, amihez most nem tapsolnának az emberek.
Ha valami intergalaktikus fogadáson lennénk, most őszintén, ki mennyire fogadna az emberiség javára AI ügyben? Ha csak azt a részhalmazt nézzük, mikor nem akadnak meg a fejlesztések.
[ Szerkesztve ]
-
#24
ddekany
veterán
Hieronymus
#23
ddekany
veterán
válasz
Hieronymus
#23
üzenetére
"Az emberiség örökösének vagy hogyan gondolod?"
Persze. Úgy tűnik, rendszer szinten úgy viselkedünk (jelen kultúránkkal), hogy amint megvan rá az intelligenciánk (ami jelentős részben nem biológiai, hanem a sokszáz éven át továbbadott és így fokozatosan felfejlesztett tudomány/kultúra), azonnal megpróbáljuk az intelligens létforma következő fejlődési lépcsőjét létrehozni. Amint sikerül, természetes szelekció szempontjából elavultunk. Ha megmaradunk mint a csimpánzok, akkor is ez az új létforma lenne az "örökös", aki megy tovább legelöl a fejlődéssel. Eltekintve utópisztikus ötletektől, hogy integrálódunk ebbe az izébe (már azon túl, hogy a mi tudásunkból indult ki a betanítás elején).
Szóval, kíváncsi lennék én arra a fényre az alagút végén, hogy valóban Sam-ék mit látnak, mit akarnak, ha ők tenyerelnek bele a "tutiba". Nem fogják persze megmondani feltétlenül. És komplikált sztori, mert nem csak egy kétséges végcél van (pl. az-e amit írtam fent), hanem egy oda vezető rázós út is (túl hatékony eszköz - "széttépjük" vele a rendszert és egymást, ha nincs valami nagyon okos "policy").
"Be kell vallanom, én sem értem azt, amit írtál."
Arra utaltam, hogy nem ismert, hogy a transformer architektúra miért/hogyan működik magasabb szinten. Sejtések/ötletek vannak, de amúgy fekete doboz, próbálgatás. Kutatási terület (AI interpretability), és ha később okosabbak is leszünk, erősen kétséges, hogy valaha ki tudjuk olvasni a paraméterekből, hogy valamiről valóban mit gondol, van-e rejtett motiváció, stb. Úgy is nézheted, hogy sötétben tapogatódzunk AI "pszichológia" területén. A fejlesztések gyorsabban haladnak, mint az megértés, és nem fog megállni, hogy bevárja, mert "fegyverkezési" verseny van.
Ja, és a transformer alapú része, szóval pl. a GPT-4, az még nem a teljes intelligencia közel sem. Még építenek köré mindenféle okosságot... ami tovább növelheti a lemaradást megértés és kiszámíthatóság terén. Bár, talán, ha azok már emberi nyelven leírható gondolatokkal variálnak... A remény, ugye.
[ Szerkesztve ]
-
#26
ddekany
veterán
Hieronymus
#25
ddekany
veterán
válasz
Hieronymus
#25
üzenetére
A kutya számtalan állat közül azon kevés egyike volt, ami pont jó volt társnak. Ha csinálunk valami probléma megoldásban felettünk állót, ami üzleti/politikai téren lenyomja a konkurenciát, de nem értünk a pszichológiájához, vagy nem volt időnk rendesen "megnevelni", akkor bár lehetséges hogy szerencsésen mi leszünk neki a kutyus/kedvenc, de tán te is érzed, hogy ennek kicsi az esélye. Mellékesen rengeteg féle intelligens elme létezhet, és a legtöbb eléggé idegen lehet tőlünk. Persze szokták mondani, hogy mi (a kutyák jelen analógiában) kultúránkon fejlődött ki az az AI, tehát rokon. De csak mert prediktálni vagy utánozni tudsz kutyákat, nem biztos, hogy úgy gondolkodsz mint egy kutya (morálisan, motivációkban, stb).
"Jelen helyzetben nem a MI-től kell félnünk."
Időrendben vizsgálva kétségtelenül először az AI agymáson való nem megfelelő használta lesz a fő veszély (az egyéb tornyosuló civilizációs gondok mellett). Meg az egész felfordulás, amit egy túl gyors ütemű változás okoz. De azért azt is érdemes szem előtt tartani, hogy ha ezeket megússzuk, mi is a távolabbi cél.
[ Szerkesztve ]
-
#28
ddekany
veterán
Hieronymus
#27
ddekany
veterán
válasz
Hieronymus
#27
üzenetére
"Ebbe nem fér bele az értelmetlen pusztítás."
De te valamiért feltételezed, hogy bármi ami az ember kipusztulásához vezet, az értelmetlen pusztítás. Ez egy elfogult álláspontnak tűnik. Egy "szuper AI" szempontjából nekem inkább az emberek meghagyása tűnik nagy eséllyel értelmetlennek, jó esetben mellékesnek. Persze amíg nem létezik ez az AI, és nem tudjuk mit tud, mit nem, mit akar, mit nem, addig ez képlékeny.
Plusz, mint tapasztalatból tudjuk, a magas IQ-s emberek is lehetnek pl. pszichopata gyilkosok, vagy egyéb módon irracionálisak, gyakran önpusztítók. Szóval kapkodva akár ez is sikerülhet.
"A távoli cél az emberiség túlélésének biztosítása."
Az az emberi egyedek célja, már az értelmesebbeké, jellemzően. (Látszólag, az emberiség egészének már nem "célja", másra törekszik.) Amit előállítasz, annak már lehet más lesz a célja.
-
#32
ddekany
veterán
Hieronymus
#29
ddekany
veterán
válasz
Hieronymus
#29
üzenetére
"Miért, mi az alapja ennek a gondolatnak?"
De ezeket már sokszor átrágtam... Nem is csak ebben a topicban, rád reagálva is.
"Mármint az ember célja a túlélés."
Az ember célja az, hogy az ember túléljen. A nem-ember célja meg nem az valószínűleg. Nem értem a többi is hogy releváns amiket felhozol. Pl. pont én érveltem korábban amellett, hogy egy sikeres mesterséges létforma is túlélésre kell törekedjen.
"Naprendszer egy komplett nyersanyagraktár."
De ha földől indulsz ki, valószínűleg sok mindent először itt karasz kinyerni. De ez csak egy érdekütközés lehet a sok mási közül amiket mondtam.
[ Szerkesztve ]
-
#41
ddekany
veterán
Hieronymus
#33
ddekany
veterán
válasz
Hieronymus
#33
üzenetére
"Soha sem írsz konkrét dolgokat"
Nem értem, mi a célja ennek? -
#42
ddekany
veterán
Hieronymus
#38
ddekany
veterán
válasz
Hieronymus
#38
üzenetére
Mással is ezt csinálod... Javarészben ignorálod, amit a másik ír, vagy szándékosan(?) nem érted, és beszélsz valamiről amiben hasonló szavak vannak. Minek?
Amúgy azt még hozzátenném az érdemi témához, hogy egy "Super AI" (vagy akár egy GAI) nem feltétlenül eszköz, hanem könnyen lehet egy autonóm valami, saját célokkal. Tehát nem hogy nem tanácsos túl erős eszközt adni ovisoknak, de még csak nem is biztos, hogy eszközről beszélünk. (Ha meg tudják csinálni amire törekednek... ezt mindig hozzá tenném. Csak hogy a tartós tej piac ne omoljon össze.)
[ Szerkesztve ]
-
ddekany
veterán
Logoutra szántad, de rossz helyre ment?
![;]](//cdn.rios.hu/dl/s/v1.gif)
A prompt írás kapcsán én nem gondolom, hogy lehet mostanság hosszú távra készséget megszerezni, mert ezek a modellek/eszközök még gyorsan fognak változni. Eleve az, hogy ha ugyan azt így vagy úgy kérdezzük (pl. hogy írja le lépésről lépésre) lényegesen más eredményt adnak, korai gyengeségi ezeknek az eszközöknek.
![;]](http://cdn.rios.hu/dl/s/v1.gif)
Új hozzászólás Aktív témák
it Optimista a globális AI-együttműködés kapcsán Sam Altman, az OpenAI vezérigazgatója. Az ENSZ vezetője szerint is olyan globális felügyelő szervezetre van szükség, mint a nukleáris energia kapcsán.
