Accessibilità by design nel Data Act: cosa cambia dal 12 settembre

3 Settembre 2026

AI nella PA italiana, due modelli per passare dai pilota alla scala

3 Settembre 2026

Eseguire grandi LLM in locale: le soluzioni per superare il limite della VRAM

3 Settembre 2026

Eseguire grandi LLM in locale: le soluzioni per superare il limite della VRAM

FreeToken, KTransformers e AirLLM puntano a eseguire grandi LLM su workstation con poca VRAM, spostando pesi ed esperti tra RAM, GPU e disco. Le architetture Mixture of Experts riducono i parametri attivi, ma velocità e casi d’uso restano molto diversi

L'articolo Eseguire grandi LLM in locale: le soluzioni per superare il limite della VRAM proviene da Agenda Digitale.