la libreria per usare la NPU dei nuovi Core Meteor Lake Intel rilascia una libreria open source che permette agli sviluppatori di eseguire alcuni modelli generativi (come TinyLlama e Gemma-2b-it) direttamente sulla NPU dei processori Core Ultra Meteor Lake.
Come funziona l’accelerazione via NPU e come abilitarla sui chip Intel Core Ultra Meteor Lake Tony Mongkolsmai, Intel Software Architect, ha pubblicato su X un esempio di configurazione basata su un notebook MSI Prestige 16 AI Evo con processore Meteor Lake, capace di eseguire senza problemi un chatbot basato su TinyLlama 1.