faire tourner un modèle
Ce que vous pouvez faire tourner sur une Puce Apple, 24 Go unifiés
18 Go utilisables sur 24. macOS ne laisse pas au processeur graphique toute la mémoire unifiée — les trois quarts environ est le chiffre honnête.
ça rentre confortablement
ça rentre, mais tout juste
ça ne rentre pas
Chiffré avec des poids en 4 bits — ce que presque tout le monde utilise — et un contexte de 8 mille jetons. Les deux changent le résultat : raccourcir le contexte est le premier levier quand ça passe de peu. Fiche du modèle relevée le 2026-08-02.
ce que la génération coûte
- 1 h par jour
- 3 € par an · 13 kWh
- 2 h par jour
- 6 € par an · 26 kWh
- 8 h par jour
- 26 € par an · 102 kWh
À 35 W en charge et 0.25 € le kWh — la moyenne européenne, puisque cette page ne demande pas où vous habitez. La consommation au repos n'est pas comptée ici : c'est le métier du configurateur, et l'additionner reviendrait à facturer deux fois la même prise.
comment on le fait tourner
ce que cette page ne vous dira pas
Combien de jetons par seconde vous obtiendrez. C'est un benchmark — ça dépend de la bande passante mémoire, du moteur, du contexte et de la longueur des réponses. Ce site n'invente pas de benchmark, et tous ceux qui vous en citent un pour votre configuration exacte devinent.
Une carte n'est pas un serveur. Le configurateur s'occupe du reste — la machine, les disques, l'électricité et la sauvegarde.