Új hozzászólás Aktív témák

• #4 ddekany veterán

  Új Válasz 2023-03-24 15:00:56 #4

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  veterán

  Szerintem pár éves távlatban már tök mindegy lesz, hogy a Google most épp lemaradásban van. A Bard teszt verzió gyengébb mint a Bing chat, ami nem bíztató, de annyira korai ez az egész még, simán fordulhat még sokszor a kocka. Az elején gyorsan változnak még a dolgok. Azt se tudjuk, hol a korlátja ennek a GPT-s megközelítésnek, így arról is korai nyilatkozni, hogy mit fog ez kiváltani. Persze, általában a Szent Grál, a "csoda" a legkevésbé valószínű, ami az AI esetén az, hogy afféle AGI szintet megüssön. De egy lépéssel közelebb vagyunk talán, hogy feleslegessé váljunk... Felemelő cél.

  [ Szerkesztve ]

• #17 ddekany veterán jonnyjoker01 #10

  Új Válasz 2023-03-24 19:51:40 #17

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  veterán

  válasz jonnyjoker01 #10 üzenetére

  Igen, ezek igen "gyanús" jelenségek amiket ott mutatnak. És a tréningezés módszertanán felül még az architektúrát is lehet fundamentális módon bővíteni, módosítani. Pl. adni neki egy nagy írható munkamemóriát, amiben vázolhat/iterálhat, mielőtt válaszolna. Szóval elvileg miden lehet... De általában azért a nagyon extrém szenáriók csak parák maradnak. De nem mindig. Csak hogy jól aludjál.

  Amúgy ChatGPT 3.5-ön érdemes kipróbálni, hogy képzelje magát bash shell-nek, és elkezdesz képzeletbeli fájlokat manipulálni, és kiíratni mi van épp bennük. Azt figyelembe véve, hogy általában milyen betépett következetlen BS-er, azt meglepő módon jól leköveti. Talán az erről szóló anyag a weben eléggé független más támáktól, és eléggé egzakt ahhoz, hogy tényleg "összeállt" neki, hogy miről is van szó? Mert akkor ez az architektúra tud olyat is... Persze a skálázódás nem mindegy (bonyolultabb témához csak 10x akkora vagy galaxis méretű vas kell-e), de, az nekem kicsit ilyen izé érzés volt. Tudod, mikor a magabiztos homo sapiens sapiens mosoly, hogy nincs gond, ez tök hülye, átvált ilyen ferde WTF nézésbe.

  [ Szerkesztve ]

• #33 ddekany veterán moleculez #30

  Új Válasz 2023-03-28 01:18:05 #33

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  veterán

  válasz moleculez #30 üzenetére

  "a Skynet nem jön mostanában: a motorháztető alatt ez mind matematika"

  Fenti részt nem értem. A mondat két fele hogyan függ össze? Mint írod is, nem tudjuk lekövetni érdemben, túl komplex. (De amúgy a tárgyalt rendszereknél direkt van benne random is.) Amúgy nem gondolom, hogy jön a Skynet. Valami társadalmi/gazdasági világégés a túl gyors változás, és tömeges feleslegessé válás miatt akkor már reálisabb.

  Amúgy, az egy dolog, hogy van arra komoly törekvés, hogy megértsük jobban a belső működést. De aztán ott a másik tényező, hogy tipikus szemlélet, hogy aki gyorsabb, az nyer, és valaki olyan lesz a nyertes, aki mert nagyot kockáztatni. Az utóbbit valló vezetők nem nagyon fognak arra várni, hogy az előbbi tudós/mérnök társaság lépést tartson az AI képességeivel. Szóval ha tartják még jó pár évig a mostani fejlődési üzemet, lehet itt még nemulass rendesen...

  Meg aztán, az egész NN-es dolog egy lényeges erénye, hogy nem kell megérteni, hogyan csinálja. Ezért lehet megvalósítani olyan dolgokat vele, amiket hagyományosan leprogramozni, az ember értelmi képességei miatt, nem reális. Azért én arra számítanék, hogy max. nagyon nagy vonalakban fogunk érteni egy sokmilliárd vagy akár billió paraméteres AI-t, és sosem lehetsz benne biztos, hogy néha nem produkál-e valami meglepőt.

  [ Szerkesztve ]

• #35 ddekany veterán moleculez #34

  Új Válasz 2023-03-28 08:21:54 #35

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  veterán

  válasz moleculez #34 üzenetére

  Ja, hogy te azt az elvet vallod, egy rendszer ami "mind csak matek", nem rendelkezhet öntudattal? Azt nem akarom kinyitni, hogy mi számít valódi öntudatnak, mert az flame topic. Szóval úgy mondom, hogy veszélyesség szempontjából elég, ha valami tud utánozni egy öntudattal rendelkező lény, azaz ugyan úgy fog cselekedni. Egy ChatGPT persze nem tud ilyet. Eleve kezdetleges még, nagyon korlátos a memóriája (pár ezer szó... bár egyre több), és főleg, a tréning és a következtés(?) szakasz technikailag erősen elválik. Mondjuk ha ezt a kettőt nem tudjuk egyesíteni, akkor is lehet annyit, hogy az AI vezérelheti saját maga következő verziójának tréningezését. Persze most még túl hülye hozzá, meg még van a tréningben emberi visszajelzés is (RLHF). De hát jövőt latolgatjuk. Kombinálva a gátlástalan versennyel: ha te betartod a szabályokat, majd valaki más megszegi, és legyőz, tehát...

  [ Szerkesztve ]

• #37 ddekany veterán moleculez #36

  Új Válasz 2023-03-28 09:54:10 #37

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  veterán

  válasz moleculez #36 üzenetére

  Lebegőpontra butítod amúgy. Tehát hamarabb kezd "kvantálni" mint egy fizikailag mérhető akármi, de gondolom nem ezt látod a lényegi akadálynak. Szokták még mondani a kvantum véletlent, de használnak véletlent pl. CharGPT-ben is. Bár nem "igazi" véletlen, hanem pszeudo véletlen (feltételezem), de ez megint aligha lesz akadály.

  [ Szerkesztve ]

Új hozzászólás Aktív témák