Új hozzászólás Aktív témák
-
#37
kriszpontaz
veterán
janos666
#36
kriszpontaz
veterán
Az a furcsa az egészben, hogy tipikusan az az ember aki haknizni tud, állandó késztetést érezve hogy mindenben megmondja a tutit mintha bármi köze lenne hozzá, vagy szemernyit is értene hozzá. Igaz ez a politikusokra is. Én sem értek egy csomó mindenhez de nem megyek minden sarkon megmondani a tutit és a saját igémet terjeszteni, mint egy laposföld hívő. De legalább megvan ennek is a vevőközönsége.
-
#36
janos666
nagyúr
kriszpontaz
#4
válasz
kriszpontaz
#4
üzenetére
Mert a legtöbb magas rangú politikus mind valamilyen politológia/bölcsész plusz egy szűkebb tudományágon (közgazdász, mérnök, informatikus) végzett felső fokot és/vagy szakmai tapasztalatot?
Pedig megkérdezhetnénk olyat is, aki egyikhez sem ért![ Szerkesztve ]
-
ddekany
veterán
Ez egy elég reális #mindmeghalunk szcenárió ami írsz. Egy a sok lehetőség közül persze. Csak mondom azoknak, akik állandóan a terminátorral csúfolódnak ennek kapcsán.
Eme "őrült terroristák" gond ellen egy megoldás a nagyon szigorú megfigyelés és kontroll. Azaz, valamelyik gigacég (vagy startupnak) jelentős előnnyel megépíti az első szuperintelligenciát (kb. a szingularitást), és átveszi a hatalmat. Valahogy... ez önmagában igen meredek és rizikós mutatvány persze. Hogy a folytatás érdekességeit ne is említsük.
Persze az "örült terrorista" szcenárió is lehet egy megoldás, ha amit csinál, az azt MI túléli (mint. pl. biológia fegyvereket), mert akkor ez lehet n+1. variáció arra, hogy hogyan cserélődik le az emberi egy (remélhetően) fejletteb létformára. Viszont fontos, hogy az MI önálló "életre" képes legyen, meg motivált a megmaradásra, mire ilyesmi bekövetkezik. Márpedig még önálló létre nem alkalmas AI-val is simán kiírthatjuk egymást.
Bizonyos vagyok benne, hogy sok kulcs pozícióban lévő ember végig zongorázta ezeket a fejében, ha valóban hisz abban, hogy meg tudják építeni a szuperintelligenciát. De ilyen brutális dolgokat nyilván nem lehet elmondani az embereknek.
-
Cassi
őstag
Ezek megint olyan példák, hogy semmi új nincs bennük. Most is barkácsolnak bűnözők programokat átverésre és malware-re, de hát szeretett kormányaink és azok titkoszolgálatai is ezt csinálják. Az etikai/safety finomhangolás most is kb. annyit ér, mint fekete csíkkal kitakarni a nemi szerveket - abszolút értelmetlen és irritáló.
Eddig semmi olyan gyakorlati demonstrációt nem láttam, ami meg tudott volna győzni arról, hogy itt egy valóban sürgető vészhelyzet van. Leginkább csak elméleti fejtegetéseket lehet látni.
-
XMI
csendes tag
Nem hiszem én, hogy itt valami összeesküvés lenne. Ez a szellem ki van eresztve a palackból, nem tudják effektíven betiltani. Már vannak kinn "opensource" modellek, amik a GPT3.5 szintjét egész jól megközelítik. Alig több, mint fél év telt el, hogy kijött, már sikerült az OpenAI után csinálni. Ezek un. "cenzúra nélküli" modellek. Nyilván ezen örvendezik mindenki, hogy nem polkorrekt válaszokat is ad, de valójában a gond az, hogy ez "unaligned" modell. Semmiféle etikai és/vagy safety finomhangolás nincs rajta.
A cégekből kikényszerítheted, hogy "megfelelő" (már ha tudnánk mi a megfelelő) safety intézkedéseket építsenek be, de ezek a szabadon elérhető modellek közkézen terjednek. Letöltheted, bérelhetsz valami monstre GPU-s cloud instance-ot, futtathatod magadnak.Ha betiltják, darkneten fognak terjedni. Bűnözői csoportok össze fogják barkácsolni emberek tömeges átverésére, malware készítésre és terjesztésre, és később robotoknak cselekvési terv generálásra is. (robot ugye nem hagy DNS mintát... ha kellően ügyes valaki, akkor úgy végeztetheti el a piszkos munkát, hogy nem lesz hozzá visszavezethető).
Az igazi baj az lesz, hogy az ilyen hozzá nem értő barkácsolók és kifejezetten rosszakarók fognak elszabadítani valamit, amit saját magát képes továbbfejleszteni.
Ekkor fognak rádöbbenni a politikusok, hogy a jog és az állami szervezetek mennyire tehetetlenek ezzel szemben. -
ddekany
veterán
Én meg azt nem értem, hogy képzelik az emberek, hogy nem cselekedhet a "dobozon" kívül. Ott kezdődik, hogy de, mindig vannak emberek/cégek, akik verseny előnyért cserébe kockáztatnak, és engednek neki dolgokat, kicsit/nagyon túl optimistán. Ja, de milyen AI-ról is beszélünk? Ami viszonylag buta/korlátos, és így az ember lényegében felette áll pár fontos intellektuális dologban? Akkor talán bent marad a dobozban. Vagy most feltesszük, hogy lesz a szuper-AI amit akarnak, ami sokkal intelligensebb nálunk minden lényeges téren? Akkor meg finoman szólva necces, hogy a gyarló trutyilények korádban tartják hosszú távon. Ha más nem, hát kivárja, hogy pár évtized alatt annyira függő legyél tőle, vagy annyira lezüllik a társadalom, vagy csak simán annyira elaludjon a veszélyérzeted, hogy már szinte észre sem veszed, mi történik. És akkor nagyon földhözragadtan nézem.
Arról nem beszélve, hogy mi van akkor, ha van ilyen szuper-izé, és a "dobozban marad", azaz, emberek kontrollálják. Nézz át keletre a szomszédba akár. Hát... ha az AI "alkimistáink" tudnák, hogy pontosan mit állítanak elő, akkor tán direkt olyanra csinálnák, hogy ne is fogadjon szót. De az AI interpretability ágazat nem áll jól, szóval gondolom az emberi kontrollt preferálnák. Gondolom! Aztán... ki lát a fejekbe.
[ Szerkesztve ]
-
btprg
senior tag
"és csak reméled, hogy nem bukik ki belőle valami olyan szándék, amit nagyon nem preferálsz, amikor épp nem állsz a kábelnél a csípőfogóval"
Miért gondolja azt mindenki, hogy ha lenne egy valódi AI, az csinálni tudna bármit a való világban?
Attól még hogy fut egy programként valami számítógépen, nem fog hirtelen kiteremni neki egy robottest, amiben "elszabadulhat"... Annyi esze meg remélem mindig lesz az embereknek, hogy nem fogják tömegesen körülvenni magukat a valóságba komolyabb beavatkozásra képes Internetre kötött robotokkal 
-
Dißnäëß
nagyúr
válasz
#85578752
#23
üzenetére
Nem tudom, találgatunk mindannyian, de annyira amatőrnek nem gondolom a - nevezzük így - háttérben lévő köröket, hogy engedjék ezt a tech-et ilyen durván szabadon menni az elkövetkező években is, miközben ők tehetetlenül nézik. B, hogy leszerződnek ezekkel az említett nagyokkal, fű alatt, szigorú titoktartás mellett nekik ők fognak AI-t csinálni, úgy, hogy még saját maguk hasznára (adatelemzés stb) sem szabad majd, de egy Rheinmetall bármikor bejelentkezhet érte mondjuk, mert kormányzati engedélye van ilyen tech-et kérni és használni. Passz.
-
#28
Menthirist
veterán
#85578752
#27
-
ddekany
veterán
válasz
Medocsabi
#25
üzenetére
Hát igen. Lásd fentebb. Azaz, ezek alapján lehet arra következtetésre jutni, hogy az egyetlen esélyed ha te csinálod meg először a super-AI-t, és direkt olyanra csinálod, hogy az kontrollra törekedjen, és autonóm legyen, ne hallgasson a gyarló emberekre (persze eljátssza ha együttműködő ártatlan boci, amíg nem navigálta magát megfelelő pozícióban, mert nem hülye). Mert az emberek első körben gazdagságot/hatalmat akarnak, aztán bizalmatlansából esélyes, hogy jól összeháborúznak. Sőt, esetleg az AI is odavész az infrastruktúrával együtt.
Ki tudja, talán valójában erről álmodnak Sam-ék (vagy valamelyik másikak). A nagy kockázat, hogy (valószínűleg) nem tudod, mit építettél. Főleg ha elsőnek kellett lenni, sokat nem lehetet kutatni, meg óvatoskodni. Csinálsz valamit, ami lever STEM-ben, meg szociáliás manipulációban, és csak reméled, hogy nem bukik ki belőle valami olyan szándék, amit nagyon nem preferálsz, amikor épp nem állsz a kábelnél a csípőfogóval.
-
Medocsabi
addikt
Világos,te most logikusan,ésszerű gondolkodással jutottál el erre a következtetésre. Ám amíg pénzt lehet bármiből csinálni,addig ez századlagos szempont,ahogy mindennél ez volt eddig. Majd akkor kezdünk vele foglalkozni,ha beüt a szar,akkor meg mindegy lesz. Kb mint most Meta,meg a Facebook-nál,most jött rá hirtelen mindenki,hogy felhasználják az adatokat,és tisztességtelen versenyelőny,meg blabla...És próbálják szigorítani,de így,hogy emberek százezreinek ad munkát,és biztosít platformot a megelhetéshez, már nem lehet,többet ártana,mint használna a szigorítás, emiatt neha-neha kap egy filléres büntit, oszt csókolom. Ez lesz ezzel is,szinte biztos.
-
ddekany
veterán
Azt tán nem is tagadja senki, hogy most az a prioritás, hogy másiknál gyorsabb legyen. Hogy az mennyire folyik a civil szektorban (OpenAI/MS, Google, Meta, stb.), és mennyire a katonai/állami szervek rejtekében, persze nem tudjuk. De én nem csodálkoznék, ha az "államiak" (akármilyen szervei) most itt lépéshátrányba kerültek. Gyorsabbak/életrevalóbbak a nem-állami szervezetek, és a pénz is ömlik most rájuk.
Ha meg elérik az megálmodott szuper-AI-t (bár eléggé nyitott, hogy azon pontosan milyen is), akkor ha az emberi kontroll alatt marad, eléggé valószínű, hogy széttépjük egymást. És ha az AI cégeknél is így gondolják a fejesek, akkor... Ugye, az jön ki, hogy nem szabad, hogy kontrolláljuk. Másfelől pont ez a vááá #mindmeghalunk skynet, hogy nem kontrolláljuk, és autonóm. Na most akkor mi lesz?
Szerintem inkább ne sikerüljön ezt túl okosra csinálni mérnöki nehézségek miatt...
Jelenleg itt is tartunk, hogy a ChatGPT hülye, tehát az egész egy hype, az átlag ember szerint. Nyilván ez a kényelmes lelki állapot. Főleg mert ha valójában pár év is itt a szuper-AI, úgy is igencsak tehetetlen vagy. Szóval a tagadás kellemesebb állapot.[ Szerkesztve ]
-
Dißnäëß
nagyúr
Én úgy gondolom, itt az emberi természet gyökeréig kell visszamenni és azok táborát erősítem, akik abban "hisznek" (de nem remélik), hogy megesz minket az AI.
A mostani felhajtás és ezek a nyilatkozatok mind-mind nyilván ködösítés meg nettó bs.
Arról van itt szó, hogy a public sector-tól elvegyék az AI-t, tiltott legyen a világ nem legtöbb, de egészén kvázi, jobban, mint a heroin vagy a gyerekpornó, kb.
Ezzel elérik azt, hogy a polgári lakosság se és a vállalati szféra se használja a technológiát, aminek fejlődési üteme tényleg elképesztő..
.. miközben gondolniuk kell arra, amit a kormányok művelnek a háttérben: egymás megfigyelése, totális lehallgatása, kémkedés, ellenséget is, szövetségest is, mindenki mindenkit lehetőleg, ki-ki ügyesebben és jobban, ki bénábban, de megy.
Innentől kezdve joggal feltételezheti bármilyen ország vezetése (és/vagy titkosszolgálata), hogy ami a nyilvánosság számára ultra tiltott és nem foglalkozhat vele, azt a háttérben a szomszéd ország titkosszolgálata simán bevetheti ellenük, egy fejlett AI ellen pedig csakis egy másik fejlett AI tud fellépni hatékonyan, emberek már nem, gondolok itt kibertámadások garmadájára.
Egy szó mint száz, a háttérben iszonyú intenzitással, egyfajta nagyondurva fegyverkezési versenyhez hasonlító módon, de mennie KELL minimum a defenzív AI fejlesztésének, de nyilván itt nem áll meg senki, egyszóval egy teljeskörű, védeni és támadni képes AI fejlesztésének. Ez egy olyan eszköz, ami a nagy publikum előtt szigorúan tiltott, ezt minden ország tartja is majd szépen, a háttérben pedig ott egy NSA, KKP, FSZB és még sorolhatnám, akik kis pattanásos szemüveges Snowden-eket alkalmazva a bunkerekben, gőzerővel fejlesztik szupertitkos program(ok) keretén belül a saját kis AI-jukat.
A világnak erről nem kell tudnia feltétlen. Adott esetben arról sem, ha pár év múlva valami nagyonfura anomáliának tűnő jelenség bukkan fel a neten, ami utána eltűnik. A média hallgat, az AI az emberek látómezejéből lassan ahogy a hype elül, kikerül, a háttérben meg "csak" annyi történt, hogy a Kínai Skynet tett egy próbálkozást az amcsi Skynet ellen, amit az megfogott. És jó esetben csak ennyi történik, nem egy olyan, hogy valami erőműbe-reaktorba nyúlnak bele, mert azt így vagy úgy, de bekötötték egy olyan rendszerbe (akár zárt láncon is), aminek van online kitettsége és már kompromittált...
Nagyon bonyolult téma ez, de szerintem ez mind csak hülye porhintés meg esetleg a hozzánemértő befektetők manipulálása, a pénz útjának egyengetése.
A valóság az lesz, hogy AI gőzerővel fejlesztődik a háttérben, korlátlan teljhatalmat kapva előbb-utóbb (kényszerből, mert a feltételezett másik támadó AI-ról is ezt gondolják), innentől kezdve pedig deteminált az, hogy egyszer ez a szellem egy megfelelő fejlettségi fokon kiszabadul a palackból és legyak minket, vagy úgy gondolja, nem csak az észak-koreai IP cím az ellenség, aztán beküldi az autonóm vezérelt drónsereget kaliforniába.
Báármi lehet, nem tartunk még ott szerintem szociálisan-társadalmilag és egyének szintjén sem, hogy ennyire fejlett (bocsánat: ilyen durva iramban fejlődő) technológiát túléljünk
Az atomot is épphogy túléltük, de ez ? Itt mi fog gátat szabni a kölcsönös fenyegettség törékeny egyensúlyának (ami viszonylagos békét tart a világban) áttörésében ? Szerintem az AI egy all-in meccs
-
Tasunkó
senior tag
Ők segíthetnek Musk és Altman a chatgpt-vitéz, meg a Szicsinping. Az elvtársak majd kikísérletezik, hogy ne köpje el az AI, hogy sem a titkárokra, CEOkra, igazgatókra, marketingesekre, főnökökre, politkusokra stb. semmi szükség. A csel az, hogy a kínaiakon nem tudják letesztelni, mert ők már az ősidők óta képtelen feltenni a kérdést hogy minek van a főtitkár.
[ Szerkesztve ]
-
XMI
csendes tag
válasz
Medocsabi
#11
üzenetére
Ennél megintcsak árnyaltabb a szituáció.
Abban az AI safety szakértők (nem Musk, hanem kutatók akik ténylegesen publikálnak ilyen témákban) is egyetértenek, hogy a GPT-3 és a GPT-4 még nem AGI.Viszont, ha megnézed, hogy a fejlődés üteme milyen... A GPT-2 még ott tartott, hogy az egyes mondatai nyelvileg rendben voltak, de alig kapcsolódtak egymáshoz. 2-3 mondaton belül teljesen elvesztette a témát. Ehhez képest a GPT-3 már hosszasan tud értekezni mindenféle témákról. A GPT-3 amerikai egyetemi felvételiken 10% körüli pontszámokat tudott elérni, a legtöbb kérdést "nem értette meg", totálisan mellébeszélt. A GPT-4 már van ahol 90%-os eredményt ér el. Nemrég jelent meg cikk arról, hogy a GPT-4-et bekötötték minecraft-ba: mindig megkapta promptként, hogy milyen kockák vannak éppen a játékos körül, válaszként javascript API-ra kellett függvényhívásokat írnia, hogy a játékos karakternek mi legyen a következő művelete. Teljesen önállóan döbbenetesen sokáig eljutott a karakterfejlesztésben.
Ha fél-egyévente kijön ebből egy újabb, ami ugyanilyen ütemben fejlődik (jelenleg semmi ok nincs kételkedni benne), akkor elég gyorsan nyakunkon lesz az AGI. Lehet, hogy 5 éven belül. Ha addig nem oldjuk meg az AI safety problémákat, akkor _nagyon_ nagy bajban leszünk. Érdemes Rob Miles videóit nézegetni youtube-on, elég világosan elmagyarázza, hogy mik ezek a konkrét problémák és hogy az intuitív megoldási ötleteink miért nem jók.
-
XMI
csendes tag
válasz
#85578752
#10
üzenetére
A helyezt ennél bonyolultabb.
Egyrészt ez nem egy explainable AI, vagyis egy egyszerű kérdésre nem fogsz tudni kinyerni egy nyelvlogikai elemzést belőle. Nem fogja tudni megmondani, hogy miért pont azt a választ adta amit (ha mond is valamit, az ugyanúgy egy generált szöveg, aminek nem feltétlenül van valóságalapja). Ettől függetlenül (főleg a GPT-4-nél) a prompt-ot lehet ügyesen úgy megfogalmazni, hogy kikényszerítsen valamilyen megmagyarázható logikus szabálylevezetést. Ezekkel a trükkökkel sokszor jelentősen lehet is javítani a válaszainak a helyességén.
Másrészt a lényegi összesítés egy más jellegű feladat, mint rákérdezni valami lexikális ismeretre. A lényegi összesítésnél az előzmény-pufferben egzaktul bent van az alap-szöveg, amin dolgoznia kell. A GPT3.5-nél asszem 8000 tokenig visszamenőleg, a GPT-4-nél talán 30000 tokenig. Ez többtíz oldalnyi szöveg, amire pontosan vissza tud tekinteni. A lexikális kérdéseknél viszont nincs a pufferben előzmény, ami választ generál azt teljes egészében a neurális háló élsúlyaiból adódik ki. Ami egy erősen veszteséges, összevont, általánosított leképezése a tanítóhalmazban mutatott példáknak.
-
#13
arnyekxxx
veterán
kriszpontaz
#4
arnyekxxx
veterán
válasz
kriszpontaz
#4
üzenetére
Pedig mindenhez csak pár magyar fórumozó ért
-
-
XMI
csendes tag
"úgy paraméterezik, mintha fő szempont az lenne hogy fals infókat adjon"
Ugye technikailag ez egy szövegpredikciós modell. Az a célfüggvénye, hogy előállítson olyan szöveget, ami megkülönböztethetetlenül hasonló az emberi szövegekhez. Nem az a különleges, hogy "halucinál", hanem inkább az, amikor nem. Az összes tényanyag, amit tud, lényegében mellékhatásként került bele a modellbe a tanítóhalmazból. A probléma az, hogy mi emberek erre a "mindenttudó okoskatörp" képességére kaptunk rá. Ez nem egy szakértői rendszer, csak mi próbáljuk úgy használni, mintha az lenne.Nem nagyon lehet átparaméterezni ezt a képességét, ugyanis nincs olyan metrika a rendszerben, ami számszerűsíteni tudná, hogy mennyire konfidens az adott válaszban (egy szakértői rendszernél elvárás lenne, hogy tudjon egy %-os értéket mondani, hogy mennyire tartja megbízhatónak a választ). Ebben a modellben azt lehet mérni, hogy a soron következő token (kb egy szó) mennyire biztos, hogy oda illik. Azt nem, hogy az egész szöveg mondanivalója mennyire vezethető vissza a tanítóhalmazbeli konkrét tényállításokra, vagy egyszerűen csak szövegstatisztikai általánosságok alapján egy formailag korrekt, de állításaiban teljesen légbőlkapott szöveg adódott ki.
-
#8
XMI
csendes tag
kriszpontaz
#4
XMI
csendes tag
válasz
kriszpontaz
#4
üzenetére
Hát elolvasta Nick Boström könyvét. Azóta AI safety-ben is expert.
(Viccet félretéve, tényleg, Elon gyakorlatilag egy az egyben Nick Boström példáit meg hasonlatait szokta visszamondani.) -
#7
Menthirist
veterán
Cassi
#2
-
#85578752
törölt tag
Tök átlag témákban is túl sokat haluzik az AI, úgy paraméterezik, mintha fő szempont az lenne hogy fals infókat adjon, lejáratva a technológiát, hogy ne lehessen döntéshozásban felhasználni.
Pl. itt https://www.quora.com/Did-the-makers-of-2001-A-Space-Odyssey-use-real-photos-of-Earth-in-the-movie
Az Apollo 8 1968. dec. 21-én indult, a film már április 2-án a mozikba került.
-
#4
kriszpontaz
veterán
kriszpontaz
veterán
Ez a Musk gyerek már mindenhez IS ért.
-
#3
Egon
nagyúr
Menthirist
#1
Egon
nagyúr
válasz
Menthirist
#1
üzenetére
Izrael nem aggályos? Dehogynem...
Egyértelmű, hogy ENSZ szintű szabályozásra van szükség.[ Szerkesztve ]
-
Cassi
őstag
Nem igazán értem, mi a francért gondolja Musk, hogy ebben a témában neki tárgyalnia kellene bárkivel. Azt sem értem, miért fogadna el szabályozást Kína amerikaiaktól, miközben azok aktívan blokkolják az AI csipeket Kína felé. Az meg végképp vicc, hogy a nyugati országok átvennék a KKP szabályozási javaslatait.
-
#1
Menthirist
veterán
Lol... Jah, kína szabályozza az AI-t, hogy számára mindent tudjon, mindent figyeljen, mindent engedjen, mindenfelé kémkedjen, az emberek számára meg ne
Értem én hogy Musk-nak kínai piacon érdekelt cégvezetőként kell nyilatkoznia, de egy hangyányit visszás hogy közben veri a vészharangot mindenhol máshol[ Szerkesztve ]
Attól még hogy fut egy programként valami számítógépen, nem fog hirtelen kiteremni neki egy robottest, amiben "elszabadulhat"... Annyi esze meg remélem mindig lesz az embereknek, hogy nem fogják tömegesen körülvenni magukat a valóságba komolyabb beavatkozásra képes Internetre kötött robotokkal 
Az atomot is épphogy túléltük, de ez ? Itt mi fog gátat szabni a kölcsönös fenyegettség törékeny egyensúlyának (ami viszonylagos békét tart a világban) áttörésében ? 
Új hozzászólás Aktív témák
it Az OpenAI vezérigazgatója szerint Izraelnek hatalmas szerepe lesz az AI-kockázatok csökkentésében – Elon Musk pedig arról beszélt, hogy Kína megrendszabályozza az AI-t.
- AMD K6-III, és minden ami RETRO - Oldschool tuning
- VR topik (Oculus Rift, stb.)
- Luck Dragon: Asszociációs játék. :)
- A fociról könnyedén, egy baráti társaságban
- Tesla topik
- Azonnali informatikai kérdések órája
- Hyundai, Kia topik
- Dobja a némítókapcsolót a OnePlus
- Peugeot, Citroën topik
- Milyen billentyűzetet vegyek?
- További aktív témák...
- Yongnuo 85mm 1.8 (legújabb modell) - Sony E
- Bomba ár! Lenovo ThinkPad L13 Yoga Gen1 - i7-10G I 16GB I 256SSD I 13,3" FHD I Cam I W11 I Gari!
- Meike 55mm 1.8 Pro objektív - Sony E
- Bomba ár! Lenovo ThinkPad Yoga 370 - i7-G7 I 8GB I 256SSD I 13,3" FHD Touch I W11 I Cam I Gari!
- Bomba ár! Lenovo ThinkPad L13 Gen2 - i7-1165G7 I 16GB I 256SSD I 13,3" FHD I HDMI I W11 I Cam I Gar
Állásajánlatok
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest