A Cerebras Systems egy új eszközt tett elérhetővé az AI-fejlesztők számára: ezzel hozzáférnek a startup hatalmas chipjeihez, alkalmazásokat tudnak futtatni, sokkal olcsóbban, mintha az NVIDIA-vonatra ülnének fel.
Hirdetés
Az AI-modellek tréningezéséhez és alkalmazásához szükséges NVIDIA GPU-k beszerzése és üzemeltetése ugyanis igen nehéz és drága – a folyamatra inference-ként hivatkoznak, és ebben erősítene nagyot a Cerebras.
A Cerebras olyan teljesítményt ígér, amit GPU-val nem lehet elérni, mindezt olcsón és nagy pontosság mellett – mondják. Amint a fogyasztók és cégek tömegével veszik át az AI-eszközöket, az inference szektora dollártízmilliárdosra nőhet.
A cég persze el is adja az AI-rendszereit, ha valaki saját adatközpontot üzemeltetne. A Cerebras chipek egyébként tányér méretűek, és nagy előnyük, hogy a nagy modelleknél AI-adatfeldolgozásakor megbirkóznak a sok adattal, miközben a szokványos chipekből több ezret kell ehhez összekötni. Emiatt állítólag a teljesítmény is jobb lesz.
Millió tokenenként 10 centért is biztosít majd szolgáltatást a cég, amely tőzsdére is lépne.
