Új hozzászólás Aktív témák

• #172 Hieronymus addikt totron #171

  Új Válasz 2023-06-05 16:38:22 #172

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Hieronymus

  addikt

  LOGOUT blog

  válasz totron #171 üzenetére

  A konstansok a hagyományos programozásban teljesen jól használhatóak.

  "...belekódolták a mesterséges intelligenciába azt is, hogy saját operátorát nem szabad kilőnie, mert az a legrosszabb dolog, amit a hatékonyság ellenében tehet."

  Ez így egy konstans érték. De egyben a rendszer komoly biztonsági rése. Ha lecserélem a kezelőt, a sajátomra, nekem fog tovább dolgozni a rendszer.

  Talán a legegyszerűbb megoldás, ha mindent objektumnak tekintek. Van baráti objektum, semleges és ellenséges. Az objektumokhoz tulajdonságokat rendelek, Ezen tulajdonságok alapján dönthető el, az objektumok hova tartozása.
  Ha egy ház semleges objektum, akkor nem támadom. Ha a házban baráti objektumok vannak, hiába semleges az alap objektum, védem. Ha az amúgy semleges objektumban ellenséges objektumok vannak, lehetőség szerint támadom.
  Ha egy baráti objektum, fegyverrel lövöldözve közeledik, támadom.
  Az objektum besorolása és cselekménye határozza meg a végrehajtandó tevékenységet.

  Nyilván nagyon le van egyszerűsítve, de gondolom érthető.

  Ebben a felállásban nincs szükség kivétel konstansokra. A szabályok finomításával lehet a rendszert optimalizálni. Egy ellenséges halott katonát nem kell támadni. Egy haldoklót sem. Viszont egy fegyverrel a kezében mozdulatlanul fekvő ellenséges katonát komoly veszélyforrásnak kell tekinteni.
  Ha egy baráti harckocsit elfoglal az ellenség, nem védeni, hanem támadni kell.
  Ha a szabályrendszert túl biztosa tervezem, nem fog semmit sem csinálni az AI. Ha túl megengedőre, akkor sokat fog hibázni.

  Egy ilyen rendszer 100%-s biztonságát nem lehet elvárni. Azt lehet feltételnek szabni, hogy kevesebbet hibázzon mint az ember. De ez még mindig szakértői rendszer és nem mesterséges intelligencia.

  Ha azt a feladatot kapja, hogy a saját szavaival fogalmazza meg, hogy mit kell tennie, gyorsan kívül kerül a saját értelmezési tartományán. (Ez még emberek esetében is előfordul. Ha olyan dologról kérdezik, amit nem ért, de a hozzá tartozó információt vers szerűen sikerült megtanulnia.)

  Egyszóval. Ha elesett az irányítóközpont vagy átállt a kezelő, azonnal támadni kell. Meg kell előzni a rendszer átállítását, Nincs konstansnak helye a rendszerben.

  Legyen béke! Menjenek az orosz katonák haza, azonnal!

• #173 ddekany veterán totron #171

  Új Válasz 2023-06-05 22:57:17 #173

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  veterán

  válasz totron #171 üzenetére

  Ha nem tudjuk hogy "az AI" mit csinál adott rendszerben, akkor ez nem tárgyalható. De ezért valószínűleg olyan rész megoldására akarják használni, ami hagyományos programozással nem megy. Pl. képfelismerés az tipikus lenne. Azt, hogy miután a mágia megtörtént, és már fel van címkézve minden, akkor kit kell és kit nem szabad kilőni, azt talán inkább hagyományos programozással oldod meg.

  De aztán ott a jövőbeni AI réme, ami "generalista", azaz nem célgép, absztrahál, következtet, autonóm. Ez jobbára elborult kutatók hóbortja volt, meg techno-utopista milliárdosoké (mint Larry Page). Szinte mindenki úgy volt vele, hogy nyilván úgysem lesz belőle semmi. Majd ilyen gradient descent-el meg hasonlókkal pont kijön valami olyan "agy", mi? Pfff... Na, ez elkezdett megváltozni az utóbbi kb. 7 évben, hogy lehet, hogy még sem ők voltak a hülyék. Közvéleményben meg kb. idén. Nem lennének illúzióim, hogy mi lesz (mondjuk 10 éven belül vagy ilyesmi), ha ez így folytatódik. Túl erős eszköz. Ez nem való óvodásoknak.

Új hozzászólás Aktív témák