Home Applicativi IA PowerInfer, i modelli generativi funzionano con una GPU consumer Cos'è e come funziona PowerInfer, il modello che porta i LLM (Large Language Models), quindi i modelli generativi più potenti e versatili, sulle GPU di fascia consumer.
Michele Nasi Pubblicato il 1 gen 2024 Business È di questi giorni la presentazione di PowerInfer, un nuovo progetto che consegna nelle mani di sviluppatori e utenti normali un “motore di inferenza” ad alte prestazioni, progettato per supportare LLM (Large Language Models) su PC dotati di GPU di fascia consumer.
