Új hozzászólás Aktív témák

• #52 Teasüti nagyúr inspiroyhome #48

  Új Válasz 2023-12-03 10:53:58 #52

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Teasüti

  nagyúr

  válasz inspiroyhome #48 üzenetére

  Kipróbáltam a uncensored vicuna 30b-t. Teljesítményben a gptq-s az olyan két perc /válasz szinten mozog. A gguf viszont egész kellemes gépelési sebességet hoz. Fura, hogy egy cpu gyorsabb itt, mint egy gpu. De olyan 20 prompt után belassult.
  Viszont ez a model egy kiköpött bullshit generátor. Amire be van tanítva az úgy oké. De absztrakt kérdésekre szimplán csak hazudik vmit. Nem tudtam meggyőzni, hogy nem, nincs hozzáférése az internethez. Fenyegetésre se. Hozott nekem mindenféle kitalált adatot és 404-es linkeket.

  [ Szerkesztve ]

Új hozzászólás Aktív témák