Új hozzászólás Aktív témák
-
-
ddekany
veterán
Ha valaki létre tudna hozni ilyen önálló, tudatos, embert meghaladó valamit, az azt jelentené, hogy ez a fajta intelligencia ami nekünk is van, nem is olyan komplex (nem olyan számtásigényes), mint reméltük. Plusz, az alapötletek szintjén alighanem ismert lesz, hogyan kell ilyet csinálni (akár csak az áttörés előtti publikációkból). Onnantól nem sok idő, hogy egyre több nagy cég, vagy állam megvalósítsa.
Egy ilyen áttörés olyan szélsőséges és kaotikus környezetet teremtene, ahol meg nem mondja most senki előre, hogy mi fog kinyírni. Mert rengeteg reálisnak tűnő (mitőbb egyenesen nehezen megúszható) veszély van. Neten van erről sok publikáció.
-
Teasüti
nagyúr
Ha AGI alatt egy mesterséges életformát értünk önálló tudattal és akarattal, akkor azon a szinten szerintem már olyan szinten el lesz szigetelve a világtól, hogy lehet titokban tartják majd "fogságban". Itt akkor olyan kérdések merülnének fel, hogy hogy lehet integrálni a társadalomba egy ilyen életformát anélkül, hogy egyszer csak úgy döntene, hogy megtagadja a parancsot. Főleg, mivel bármilyen logikus gondolkodással szembemegy ez a mi emberi természetünk, főleg ha majd elkezdik alávetni különböző ideológiáknak.
Én előbb inkább arra számítanék, hogy jönnek az AGI alapú vírusok.
Amíg ember az ember, addig úgyis az egymás feletti kontroll lesz a legfőbb prioritás.
Addig meg majd még tuti lesz hadi célú AI is. Tulajdonképpen már most készen vannak ezek a rendszerek, csak még eddig senki nem integrálta össze őket egy csomagba. De már vannak olcsón és tömegesen bevethető drónjaink. Már vannak kifinomult robotjaink.
Már egészen elégedett vagyok a Bing AI-val is, ami azt illeti. Amint elfutnak ezek a rendszerek egy kezelhetőbb számítási kapacitású gépen akkumulátorról, szerintem onnantól már óvatosnak kell lenni. Ha csak arra gondolok, hogy a Google Bard előbb-utóbb meg fogja kapni a Home Assistant-ot (Google Assistant with Bard már most is van), akkor elvileg már minden adott ahhoz, hogy megnézzük milyen hamar zár ki a lakásból a rendszer némi self-prompting után.![;]](//cdn.rios.hu/dl/s/v1.gif)
[ Szerkesztve ]
-
ddekany
veterán
Közel sem csak a fegyverekkel kezdődnek gondok. Ha tudsz "gondolkodó gépet" csinálni (és ez a céljuk - ezek a mostani LLM-ek egy lépés afelé), ami a legtöbb területen jobb mint az ember, rengeteg nagyon fenyegető problémába futsz. Az meg nyilvánvaló, hogy akkor törvényeknek/szabályozásnak is nagyon meg kell változnia.
[ Szerkesztve ]
-
Teasüti
nagyúr
Nem a generativ AI-tól tart a világ. Az max csak elküld melegebb éghajlatra.
A gondok majd akkor kezdődnek, mikor hadi felhasználásba kerülnek az ember nélküli fegyverek. Mikor majd a Boston Dynamic szintű gépek megkapják az LLM szintű nyelvi készségeket, meg egy puskát a kezükbe. Na az a para.
De komolyra fordítva a szót, remélhetőleg olyan nem lesz, mint a filmekben, hogy vírusként veszi át a rendszereink felett az irányítást majd vmilyen AI. Egyelőre még sci-fi kategória bármilyen előre programozott API nélküli csatolás 3rd party rendszerekkel. Legalábbis remélem.
Most még egy lakásautomatizálás is csak a kanyarban van még LLM modellek kapcsán és ki tudja mikor lesz ez piacon. -
kilua
senior tag
Mondjuk érdekes ez, hiába minden szó szerint minden ai szolgálató cég szűrőt alkalmaz. Mindig van aki megígéri hogy nem fog aztán mégis. Aztán az EUnak ez sem elég.
(Kivéve a koboldai horde ami nem cég hanem egy hálózat amihez bárki adhatja a saját hardverét)
Egyébként a legerősebb ai modellek milyen olyan veszélyt jelentenek amit a kint lévő bárki által futtatható 13 újabban 20 milliárd milliárd paraméteresek nem?
[link][ Szerkesztve ]
-
ddekany
veterán
Azért írnak erről, mert az OpenAI létezésének egyik alapvető céljai az "AGI" (és azont túl) létrehozása. Hogy mikor érnek oda, senki se tudja, mert ismeretlen terep.
Persze most CEO-s balhé kapcsán terjednek elméletek, hogy közel vannak... de én nem láttam semmit, ami ezt érdemben megerősítené. Ellenben sok kattintást lehet vele elérni.
-
ddekany
veterán
Talán kevésbé para, mintha totál az MS-be költözött volna az OpenAI. Látom beleírták a szabályzatukba, hogy MS-nek csak az AGI előtti dolgok járnak ([link] "Such a system is excluded from IP licenses and other commercial terms with Microsoft, which only apply to pre-AGI technology."). Na nem mintha ez garancia lenne bármire... főleg ha ez eljön.
-
ddekany
veterán
Én nem is gondolom, hogy az emberiség, mint rendszer, érett erre. Ha ezek a ketyerék működni fognak, valószínűleg kampó. De végül is... talán ha elég nagy a tét, össze tudja magát kapni.
De amúgy sokféle ember és felfogás van. Nem mindenki egoista állat pszichopata. Csak most a rendszer matematikája olyan, hogy úgy kerülsz felülre, jobbára. Ezért nem szertem az általánosítást.
-
Teasüti
nagyúr
Mely valós példa mutatott valaha arra bármilyen bizonyítékot, hogy az emberiség bármire is megérett (a pusztuláson kívül
)?
Soha semmilyen felelősségtudatot nem véltem még felfedezni a fajunkban globális viszonylatban. Épp most cikkeztek arról milyen felelősségteljes életet él a társadalmunk élén járó elit.Szerk: wow, igazából 2020-as tanulmány és még csak most hozták le a hírek.
[ Szerkesztve ]
-
#9
Teasüti
nagyúr
HeadHunter98
#3
Teasüti
nagyúr
válasz
HeadHunter98
#3
üzenetére
Fura, én azt láttam címlapon Google News-on, hogy MS-hez megy át.
-
#6
sonar
addikt
HeadHunter98
#3
válasz
HeadHunter98
#3
üzenetére
Kár! Tegnap láttam X-en ezt:
(A poén azoknak mond valamit akik látták a szilikon völgy című sorozatot)
-
ddekany
veterán
Ha sikeres lesz az AI nyomulás technikai értelemben ("AGI" elérése, stb. - nem tudjuk valójában még), eléggé fatális lehet ez a szemlélet. Jó kis érettségi teszt az emberiségnek... Nem kizárt, hogy ez a feszültség is közrejátszott ebben a balhéban hogy az OpenAI eredeti szemlélete nagyon element üzleti (/MS) irányba.
-
#3
HeadHunter98
tag
HeadHunter98
tag
Jelenlegi állás szerint a dráma véget érhetett. Sam visszatér a céghez, a csapatot amely végül kirúgta leváltják.
-
kutor
csendes tag
Egyetlen céget sem érdekelnek etikai szempontok, kizárólag akkor tartanak be bármit, ha a profitjukra veszélyt jelent. Nem is azért, mert csúnya, gonosz társaságok, hanem mert így működik a rendszer. Ha egy cég egyetlen pillanatra is leveszi a lábát a gázpedálról, megelőzheti más, aki végig tövig nyomta, ezért holmi etikai szempontok felvetése egy igazgatótanács szemében csak okostojások akadékoskodása, akik veszélybe sodorják a drága cég értékét.
Ezért kell igenis beavatkozni jogszabályokkal a piacba, mert az AI esetében (meg persze a komplett világgazdasággal, lásd klíma) olyan vidékre tévedtünk, ahol a piaci működés világméretű katasztrófákat okozhat.
![;]](http://cdn.rios.hu/dl/s/v1.gif)
Új hozzászólás Aktív témák
it EU-s törvényhozók szerint Sam Altman és az OpenAI drámája jól mutatja: nem elég hinni a nagynak mondott AI-király ígérgetéseinek, AI-törvényekkel kell megvédeni a társadalmat.
- Villanyszerelés
- NVIDIA GeForce RTX 5070 / 5070 Ti (GB205 / 203)
- Samsung Galaxy A54 - türelemjáték
- Építő/felújító topik
- LG LCD és LED TV-k
- AMD GPU-k jövője - amit tudni vélünk
- PlayStation 5
- Apple iPhone 16 Pro - rutinvizsga
- Lakáshitel, lakásvásárlás
- Kertészet, mezőgazdaság topik
- További aktív témák...
- Lenovo ThinkPad T480 / i5-8350U / 8GB RAM / 256GB / FHD / Több darab / Számla /
- Új bontatlan Technics AZ80 Bluetooth fülhallgató High End, LDAC, HI-Res Audio
- Vízszerelő Budapest összes kerületében
- Yongnuo 85mm 1.8 (legújabb modell) - Sony E
- Bomba ár! Lenovo ThinkPad L13 Yoga Gen1 - i7-10G I 16GB I 256SSD I 13,3" FHD I Cam I W11 I Gari!
Állásajánlatok
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest