Le 22 septembre 2026, Hugging Face a ajouté à Transformers la prise en charge native des modèles GGUF, le format quantifié de llama.cpp qui alimente Ollama, LM Studio et Jan. Si vous faites tourner des modèles locaux sur Apple Silicon en Python, adoptez `from_pretrained` avec un fichier GGUF et oubliez les conversions maison.

Le 20 août 2026, Liquid AI publie des modèles draft DSpark pour sa famille LFM2.5, avec un gain de débit allant jusqu’à 3,18× sur GPU et 2,87× sur appareil, sans altérer la sortie. Les équipes qui servent du LLM en production ont une raison concrète de réévaluer leur coût par token.

Ollama, vLLM et llama.cpp couvrent tous les cas d’usage de l’inférence locale, du poste développeur au cluster GPU. Ce guide compare leurs performances réelles, leur empreinte VRAM et le prix de chaque approche — pour que vous sachiez laquelle adopter avant la fin de la journée.