IA locale en entreprise
L’IA locale : le modèle tourne sur votre machine, pas chez un fournisseur.
Un LLM local (modèle de langage) tourne sur votre machine, sur vos documents, sans facture au token. Machines dimensionnées à votre besoin au configurateur, en commande en ligne ou sur devis, installation en option.
Cloud ou local
La même IA, deux façons de l’utiliser
Une IA comme ChatGPT tourne d'habitude sur les serveurs d'une entreprise tierce : chaque fois que vous l'utilisez, votre texte part là-bas et vous payez à l'usage. En local, le même type de modèle tourne sur votre machine : ce qu'il traite n'a pas à partir chez un tiers, vous l'achetez une fois, et vous ne dépendez pas d'un quota ou d'un changement de prix décidé ailleurs. Pour une analyse plus poussée (Cloud Act, RGPD, dépendance stratégique), consultez notre guide IA souveraine.
Ce qui est traité en local reste chez vous
Un achat, pas un abonnement au token
Vos documents interrogeables
Choisir une taille
8B, 32B, 70B : la taille du modèle, pas la vôtre à choisir
Le nombre suivi d'un « B » indique la taille du modèle en milliards de paramètres : plus il est grand, plus il comprend de nuances, mais plus il demande de puissance. Vous n'avez pas à trancher seul — le configurateur choisit le modèle et la machine selon votre besoin.
8 milliards
Lire →
24–32 milliards (PRO)
Lire →
70 milliards et plus (DGX Spark, GMKtec EVO-X2 128 Go)
Lire →
Voir la gamme complète, notre guide sur Llama 70B pour comparer des modèles ouverts, ou pour un agent qui agit sur vos fichiers plutôt qu'un simple assistant, les agents IA.
Plusieurs sites
Trois façons d’organiser la puissance de calcul quand on a plusieurs sites
Avec plusieurs agences, la question n’est plus « quel PC ? » mais « où mettre la puissance de calcul ? ». Trois montages reviennent, du plus simple au plus robuste.
1. Tout au siège
- Quand la choisir
- Quelques agences bien reliées au siège. Une seule machine, bien remplie, et une seule à surveiller : c’est le montage le moins cher par personne.
- Sa limite
- Si le lien entre l’agence et le siège tombe, l’agence n’a plus d’IA.
2. Une machine par agence
- Quand la choisir
- Agences isolées, ou réseau peu fiable : chaque agence travaille même sans réseau.
- Sa limite
- Autant de machines à acheter, installer et mettre à jour que d’agences, souvent à moitié vides. C’est le montage le plus cher.
3. Mixte
- Quand la choisir
- Un réseau d’agences qui ne doit jamais s’arrêter : le gros modèle tourne au siège, un petit boîtier prend le relais dans l’agence en cas de coupure, et un service d’IA hébergé en France absorbe les pointes.
- Sa limite
- Plus de pièces à faire tenir ensemble. En secours, l’agence travaille avec un modèle plus petit, et ce qui part vers le service en ligne n’est plus traité chez vous : à décider dans la charte d’usage.
Pour la machine d’une agence ou le boîtier de secours : nos stations et nos DGX Spark / GB10.
Source : comparaison qualitative, notre étude d’octobre 2026.
Dimensionner
Combien de machines pour combien de personnes ?
On ne compte pas les salariés : on compte les conversations qui ont lieu en même temps. Tout le monde n’écrit pas au même moment, et seule une petite part des personnes attend une réponse à un instant donné. Un agent (un programme qui enchaîne des actions sans pause : lire un dossier, chercher, écrire) compte comme une conversation permanente.
Conversations en même temps égale personnes fois part active, plus agents en continu.PersonnesPart activeAgents en continuConversations en même temps
Aucun constructeur ne publie de règle pour la part active : un rapport d’éditeur retient 5 à 10 % des personnes. Pour choisir la machine, on vise ensuite 25 jetons par seconde et par personne (le seuil dit « interactif » de MLPerf), et plus le modèle est gros ou les échanges longs, plus il faut de mémoire et de cartes.
10 personnes
Un seul site
- En même temps
- 0,5 à 1 personne (part active de 5 à 10 %), plus les agents qui tournent en continu.
- Ordre de grandeur
- Une machine avec une carte graphique de 96 Go, ou un boîtier GB10 de 128 Go (dans ce cas, des modèles de 8 à 30 milliards de paramètres quand plusieurs personnes s’en servent en même temps).
- Dans notre catalogue
- Nos stations et nos DGX Spark / GB10.
50 personnes
Réparties sur 3 agences
- En même temps
- 2,5 à 5 personnes (part active de 5 à 10 %). Avec les agents, comptez 15 à 25 conversations (hypothèse de calcul).
- Ordre de grandeur
- Au siège, 2 cartes graphiques de 96 Go (192 Go au total) ; un boîtier GB10 par agence en option.
- Dans notre catalogue
- Fiche SERVEURIA (2 à 4 cartes), sur devis.
200 personnes
Réparties sur 10 agences
- En même temps
- 10 à 20 personnes (part active de 5 à 10 %). Avec les agents, comptez 50 à 100 conversations (hypothèse de calcul).
- Ordre de grandeur
- De l’ordre de 8 cartes graphiques de 96 Go (768 Go au total), idéalement réparties sur deux serveurs et deux sites ; un boîtier GB10 par agence en option.
- Dans notre catalogue
- Au-delà de 4 cartes : étude sur mesure, sur devis.
Au-delà de 10 personnes, le catalogue en ligne ne suffit plus à lui seul : voir nos fiches « Station et serveur IA RTX PRO 6000 » (STATION96 et SERVEURIA) ou une demande de devis sur mesure. Réponse sous 24 h ouvrées.
Le réseau n’est presque jamais le frein
Sources, notre étude d’octobre 2026. Part active de 5 à 10 % : rapport d’éditeur (iternal.ai, guide de dimensionnement 2026, ratio de 1 pour 10 à 1 pour 20, relu le 15/10/2026). Personnes en même temps : calcul (personnes × part active) ; conversations avec les agents pour 50 et 200 personnes : hypothèses de calcul. Cartes des repères 10, 50 et 200 personnes : ordres de grandeur calculés à partir de MLPerf (seuil interactif de 25 jetons/s par personne) et des réglages vLLM. Réseau : 40 à 260 kbit/s, calcul sur le format des messages de vLLM ; copie de 40 Go : calcul. Ce sont des ordres de grandeur pour choisir une classe de machine, ils ne remplacent pas un essai sur votre usage réel, à faire avant d’acheter.
Sous le capot
Le chemin d’une question, de la page web à la carte graphique
Votre navigateur
Vous écrivez votre question dans une page web, comme sur un service de chat en ligne. Rien d’autre à utiliser sur votre poste.
L’interface de chat
par exemple Open WebUI ou LibreChat
Elle vous reconnaît grâce au compte de l’entreprise, garde vos conversations et transmet la question au reste du système.
La passerelle et les droits
par exemple LiteLLM
Un point de passage unique vérifie ce que vous avez le droit de faire, applique un budget à chaque agence et peut renvoyer vers un service en ligne si le siège est saturé.
Le serveur de modèles
par exemple vLLM
Ce logiciel fait tourner le modèle d’IA et le partage entre des dizaines de conversations à la fois.
La carte graphique
Les calculs se font ici, au siège et éventuellement dans un petit boîtier par agence.
La réponse, mot à mot
Elle repasse par le même chemin et s’affiche au fur et à mesure qu’elle s’écrit. C’est ce flux continu qui occupe le réseau, de 40 à 260 kbit/s.
Et pour une ou deux personnes ?
Source : chemin d’une question et rôle de chaque logiciel, notre étude d’octobre 2026 (les logiciels cités sont des exemples, pas une liste complète). Débit de 40 à 260 kbit/s : calcul sur le format des messages de vLLM. Comportement par défaut d’Ollama (une demande à la fois) : documentation d’Ollama ; limite de 2 ou 3 personnes en même temps : notre étude, d’après une mesure de Red Hat comparant Ollama et vLLM sur la même carte.
En vidéo
Se former à l’IA locale en vidéo
Pratiquer · 69 € TTC
Un modèle d’IA local sur son poste, sans être technicien
Installer LM Studio ou Ollama et garder vos documents sur votre poste, sans technicien.
Découvrir · 29 € TTC
IA locale : décider avant d’acheter
Savoir si une IA locale répond à votre besoin, et quelle machine choisir avant d’acheter.
Maîtriser · 79 € TTC
IA locale en pratique : installer, mesurer, exploiter
Installer un modèle d’IA local, mesurer ce qu’il donne sur votre machine et l’exploiter.
C’est quoi l’IA, au juste ?
Qu’est-ce qu’un LLM, et un LLM local ?
Qu’est-ce que le NVIDIA DGX Spark ?
Que comprend l’option installation et configuration ?
Une IA locale remplace-t-elle ChatGPT ou Claude ?
Mes données restent-elles vraiment chez moi ?
Mémoire unifiée ou carte graphique : que choisir ?
Puis-je utiliser un modèle ouvert, et ce qu’il produit, pour mon activité ?
Quelle formation pour prendre l’outil en main ?
Lexique
Les mots du guide, expliqués simplement
Un mot vous échappe ? Voici ceux qui reviennent le plus sur cette page. Ce sont des définitions simplifiées, pour comprendre, pas des définitions techniques complètes.
Afficher les 12 définitionsMasquer les définitions
- Inférence
- Faire tourner un modèle déjà entraîné pour obtenir une réponse. C’est ce que fait votre machine quand vous posez une question ; l’entraînement, beaucoup plus lourd, a été fait avant par l’éditeur du modèle.
- Modèle ouvert
- Un modèle dont l’éditeur publie les fichiers : vous pouvez les télécharger et les faire tourner chez vous. Ce n’est pas toujours de l’open source complet, et la licence fixe ce que vous avez le droit d’en faire, y compris pour une activité payante.
- Jeton
- L’unité de texte que le modèle lit et écrit : un morceau de mot, parfois un mot entier. Un mot long ou peu courant en demande souvent plusieurs.
- Jetons par seconde (débit)
- La vitesse à laquelle le modèle écrit sa réponse. Les débits affichés pour nos machines (fiches, configurateur, comparateur) sont des estimations calculées, pas des mesures : avec l’option installation, le débit réel est mesuré sur votre machine et consigné au procès-verbal de recette.
- Contexte
- La quantité de texte que le modèle garde en tête dans une conversation : votre question, ses réponses et les documents joints. Au-delà de cette limite, il « oublie » le début.
- Cache KV
- La mémoire où le modèle garde ce qu’il a déjà lu de la conversation pour ne pas tout relire à chaque mot. Plus le contexte est long et plus il y a de conversations en même temps, plus elle prend de place, en plus du modèle lui-même.
- Quantification
- Compresser un modèle pour qu’il prenne moins de place en mémoire. Il tient alors sur une machine plus modeste, au prix d’une qualité parfois un peu moindre.C’est comme… Une photo plus compressée : plus légère, un peu moins nette.
- Mémoire unifiée
- Une seule mémoire partagée entre le processeur et la puce graphique, comme sur nos DGX Spark / GB10. On peut y loger de gros modèles, mais elle est en général lue moins vite que la mémoire d’une carte graphique dédiée.
- VRAM
- La mémoire propre à une carte graphique. Pour répondre vite, le modèle doit y tenir en entier.C’est comme… Un meuble qui doit passer la porte : s’il est plus large que l’ouverture, il ne rentre pas, même si la pièce est immense.
- Bande passante de la mémoire
- La vitesse à laquelle la mémoire est lue. Elle limite la vitesse d’écriture du modèle : plus le modèle est gros, plus elle pèse sur le débit.
- Modèle « à experts » (MoE)
- Un modèle composé de nombreux petits spécialistes, dont seuls quelques-uns travaillent à chaque mot. Il faut la mémoire pour tous, mais il écrit plus vite qu’un modèle « dense » de taille comparable.C’est comme… Une grande équipe où chacun a son bureau, mais où l’on ne consulte que quelques personnes par question.
- RAG
- Avant de répondre, le modèle va chercher les passages utiles dans vos documents et s’appuie dessus.C’est comme… Un élève qui a le droit d’ouvrir son classeur pendant l’examen.
À lire aussi
Pour continuer
Guide
Quelle machine selon mon budget ?
Lire →
Guide
IA souveraine : CLOUD Act, RGPD, hébergement
Lire →
Comparatif
DGX Spark ou Mac Studio ?
Lire →
Quelle machine pour vos usages ?
Répondez à quelques questions : on vous dit quelle machine il vous faut et ce qu’elle fait tourner. Sans engagement.
