Aller au contenu
selfhostr
Ouvrir le menu

faire tourner un modèle

Faire tourner gpt-oss 120B

Tient sur une seule carte de 80 Go, ou sur un Mac largement doté en mémoire unifiée.

120 milliards de paramètreslicence : Apache 2.0les poids ↗

mémoire nécessaire

81,6 Go

Rien dans notre catalogue n'a la mémoire pour celui-là. C'est la réponse honnête : à cette taille, on loue une machine à l'heure, on n'en achète pas une.

les autres qui le font tourner

Puce Apple, 128 Go unifiés96 Go utilisables

le fait tourner, tout juste

7 659 € · relevé le 2026-08-02page produit ↗

« Tout juste » veut dire que ça marche, jusqu'au jour où vous rallongez le contexte ou ouvrez autre chose. C'est-à-dire le jour où vous concluez que l'outil vous a menti.

pas assez de mémoire

si vous changez de format

poids en 4 bitsce que presque tout le monde fait tourner, et l'hypothèse du tableau ci-dessous
81,6 Go
poids en 8 bitsvisiblement meilleur sur les réponses longues ou précises
146,4 Go
poids en 16 bitsle modèle tel qu'il a été entraîné, rarement rentable à la maison
290,4 Go

Tout ce qui précède suppose des poids en 4 bits et un contexte de 8 mille jetons. Monter en précision coûte de la mémoire ; raccourcir le contexte est l'autre levier, et le moins cher quand il ne manque pas grand-chose. Fiche du modèle relevée le 2026-08-02.

comment on le fait tourner

Installer Ollama sur son serveur→

ce que cette page ne vous dira pas

Combien de jetons par seconde vous obtiendrez. C'est un benchmark — ça dépend de la bande passante mémoire, du moteur, du contexte et de la longueur des réponses. Ce site n'invente pas de benchmark, et tous ceux qui vous en citent un pour votre configuration exacte devinent.

configurateur

Chiffrer une machine complète autourUne carte n'est pas un serveur. Le configurateur ajoute la machine, les disques, l'électricité et la sauvegarde.
tous les matériels qu'on sait chiffrer →