Új hozzászólás Aktív témák

• #11 ddekany veterán UnA #7

  Új Válasz 2023-12-07 14:57:14 #11

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  veterán

  válasz UnA #7 üzenetére

  Nekem kapásból a LLM fejlesztésük jut eszembe, meg hogy lassan minden új SoC-ba/CPU-ba megy már valami kicsi AI gyorsító. Egy párszáz MB-s modell talán már elég jól tudja helyben kivonatolni a lényeget abból amit írsz, annyire, amennyire célzott reklám meg buborék meghatározásra elégséges.

  Amúgy a gyermekvédelmis EU-s nyomulásba is pedzegetnek ilyen alternatívát, hogy ha end-to-end-et akarnak minden áron, akkor meg oldják meg helyben a szűrést (a kliensen), és csak a gyanús üzenetek menjenek valami központi szervnek. Csak ezért ahhoz már nagyobb LLM kell, hogy használható megbízhatóságú legyen, ami nem fog futni egy mai mobilon. (További komplikáció, hogy trusted computing ide vagy oda, ezért aki nagyon akarja, valószínűleg a saját telefonját meg tudja bütykölni, hogy ne ellenőrizze amit ír.) Ezt a technológiát persze még véletlenül se fogják arra használni soha, hogy másfajta nem kívánatosnak minősített kommunikációt jelentsen...

Új hozzászólás Aktív témák