Microsoft Research ha recentemente presentato BitNet b1.
I tempi di latenza sono un altro punto di forza del nuovo modello Microsoft.
In benchmark come ARC-Challenge, OpenbookQA e BoolQ, il modello Microsoft ha ottenuto punteggi rispettivamente di 49,91, 41,60 e 80,18, superando in molti casi i rivali più "pesanti".
Con due miliardi di parametri addestrati su quattro trilioni di token, questo innovativo sistema si distingue per la sua leggerezza che lo rende operativo anche su hardware di fascia consumer, incluse CPU come quelle all'interno del SoC Apple M2 di un MacBook (non la sua NPU), senza necessità di costose schede grafiche o acceleratori neurali dedicati.
