Sur un Mac Apple Silicon avec 16 Go, une IA locale fonctionne déjà très bien. Encore faut-il choisir le bon modèle, la bonne taille et le bon usage.
En bref
- 16 Go suffisent pour débuter
- LM Studio simplifie l’usage hors ligne
- Bonsai 2 privilégie la compression
Sur un Mac Apple Silicon avec 16 Go de mémoire, le sujet n’est pas seulement d’installer une IA locale. Le vrai sujet, c’est de savoir quel modèle reste fluide une fois macOS, vos applis ouvertes et l’historique de conversation en mémoire. C’est là que beaucoup se trompent.
Le bon point de départ, ce n’est pas la puissance brute
Pour commencer, Gemma 4 12B QAT est le choix le plus logique pour écrire, traduire ou résumer des textes courts. Sa version officielle en 4 bits pèse autour de 7 Go. Le détail compte, quand même. Le sigle QAT signifie que le modèle a été entraîné en tenant compte de cette compression.
Mais ces 7 Go ne racontent pas toute l’histoire. Une fois le modèle chargé, la machine doit encore réserver de la place au système, aux autres logiciels et au texte de l’échange. Plus la conversation s’allonge, plus cette part grimpe. Si le Mac commence à tirer la langue, Qwen3.5 4B, disponible en versions d’environ 3 à 4 Go, est une option plus légère.
LM Studio permet d’être opérationnel très vite
Le parcours le plus simple passe par LM Studio. Il faut récupérer la version macOS pour Apple Silicon, glisser l’application dans Applications, puis lancer le tout. Ensuite, dans Discover avec ⌘ + 2, on colle l’adresse de la fiche officielle de Gemma 4, on choisit la version GGUF Q4_0 et on télécharge la version récente. (ouvrir un compte sur Hugging Face) LM Studio vous permet aussi de télécharger et d’essayer de nombreux autres modèles d’IA.
Après ça, direction l’onglet Chat. Sélection du modèle téléchargé, puis réglage initial à 4 096 tokens si l’objectif reste des échanges courts. Pour un premier vrai test, le plus utile est de coller quelques paragraphes et de demander un résumé en cinq points, avec dates et actions à retenir, en signalant les informations manquantes.
Et oui, le hors ligne se vérifie simplement. Une fois le modèle chargé, vous coupez le Wi-Fi et vous reposez une question. LM Studio peut aussi joindre des documents au chat local, avec de meilleurs résultats sur un PDF au texte sélectionnable.
[Une IA locale occupe surtout de la place sur le SSD de ton Mac. Compte environ 7 Go pour Gemma 4 12B ou 3 à 4 Go pour Qwen3.5 4B, selon la version choisie. Si tu installes les deux, prévois 10 à 11 Go pour les modèles seuls, plus un peu de place pour l’application. Les 16 Go de mémoire vive de ton Mac servent, eux, à faire tourner le modèle pendant que tu l’utilises.]
Bonsai 2 27B mise sur la compression pour tenir sur 16 Go
Présenté le 17 septembre 2026, Bonsai 2 27B dérive de Qwen3.8 27B. PrismML compresse l’essentiel des poids avec trois valeurs, -1, 0 et +1, complétées par des coefficients d’échelle. L’entreprise annonce une représentation compacte de 5,9 Go et 98,2 % du score moyen du modèle d’origine sur ses propres tests.
Le seul verdict qui compte, c’est la comparaison sur vos tâches
Pour l’essayer en mode texte, il faut ouvrir Terminal. Si Homebrew est déjà là, on installe llama.cpp, on vérifie que llama-cli affiche la version b11556 ou plus récente, puis on lance la commande liée à prism-ml/Ternary-Bonsai-2-27B-gguf:Q2_0 avec -ngl 99, -fa on et -c 4096. Au premier lancement, le fichier se télécharge, puis la conversation démarre dans le terminal. Sortie avec Ctrl + C.
Sur 16 Go, mieux vaut ne charger qu’un seul modèle à la fois. Bref, le bon test consiste à donner la même tâche quotidienne aux deux modèles, par exemple transformer des notes en liste d’actions avec échéances. Vous regardez les dates, les oublis, les ajouts injustifiés, puis le temps d’attente. C’est le tri le plus honnête.
