IA locale ou IA en ligne : 3 ans de coûts comparés sur 2 cas réels

18 octobre 2026 · Aliocha Iordanoff

Cette semaine, j’ai renoncé à acheter un serveur d’IA pour Sémawé, la société d’accompagnement des organisations que je dirige. Le projet consistait à installer dans nos locaux un ordinateur dédié, qui ferait tourner une IA open source accessible par le réseau interne. Le motif était d’alléger la facture des abonnements à un assistant d’IA en ligne. J’ai fait le calcul complet sur 3 ans, et j’ai décidé de ne rien acheter.

À vrai dire, cette question est venue de nos clients, qui nous ont demandé quelle était la meilleure option. La question ne se pose pas vraiment sous l’angle du coût. Le plus souvent, c’est la confidentialité et la protection des données personnelles qui inquiètent face aux services en ligne. Je raconte ici les 2 cas avec leurs chiffres, parce qu’ils corrigent plusieurs idées reçues sur l’IA open source, l’IA locale et l’IA payante en ligne.

Ce que Sémawé paie pour l’IA et ce qu’un serveur local pouvait en retirer

Sémawé paie environ 600 € par mois pour un assistant d’IA en ligne, avec un forfait d’équipe pour les 7 membres de l’entreprise.

J’ai mesuré la consommation du poste le plus actif. 81 % de cette consommation sert au développement des logiciels internes, un travail que seuls les modèles d’IA les plus puissants font correctement. Les tâches qu’un modèle local pourrait reprendre (transcription et correction des comptes rendus de réunion, tri du courrier, résumés de documents) ne représentent que 5 à 8 % de la charge.

L’économie atteignable sur la facture est donc faible, 134 € par mois dans le cas le plus favorable.

La machine nécessaire et la qualité mesurée des modèles open source

Pour faire tourner à une vitesse utilisable un modèle open source de 27 milliards de paramètres, il faut un ordinateur doté de 128 Go de mémoire. Avec un onduleur, cette configuration coûte entre 2 500 et 3 450 € en 2026. Une carte graphique dédiée aurait coûté bien davantage, parce que le prix de la mémoire a fortement augmenté cette année.

J’ai testé les modèles sur un ordinateur existant de 64 Go. Un modèle de 27 milliards de paramètres y produit 12,8 jetons par seconde (un jeton correspond à peu près à un fragment de mot), soit une lecture lente. Un modèle de 20 milliards en produit 47 à 52.

La qualité des réponses du modèle local m’a surpris. Sur la correction d’un verbatim de réunion, il obtient 19 sur 20, contre 20 sur 20 pour l’assistant en ligne. Le test ne concerne qu’un échantillon, mais l’écart mesuré par ailleurs entre modèles ouverts et modèles fermés est du même ordre, autour de 3 %. Le logiciel de transcription open source testé convertit une heure d’audio en un peu plus de 2 minutes, avec 2 % d’erreur sur une voix de synthèse. La séparation des locuteurs, elle, n’a pas été testée.

Le temps d’exploitation coûte plus que l’économie attendue

Sur 3 ans, la configuration retenue revient à 3 840 € décaissés, achat, onduleur et électricité compris. Le chiffre change d’échelle quand on compte le temps. Un serveur local demande 16 à 24 heures d’installation, puis environ 4 heures par mois pour les mises à jour, les sauvegardes et la sécurité du service. Le logiciel le plus répandu pour servir des modèles locaux n’a aucune authentification par défaut, donc n’importe quel poste d’un réseau partagé peut l’interroger.

Je compte ce temps à 100 € de l’heure, une hypothèse basse pour un associé dont la journée se facture autour de 1 800 €. 4 heures représentent alors 400 € par mois, 3 fois l’économie maximale de 134 €. Sur 3 ans, avec environ 160 heures d’installation et d’exploitation, le coût complet dépasse 20 000 €. Sans compter le temps, l’achat serait amorti au bout de 91 mois, c’est-à-dire plus de 7 ans, bien après l’obsolescence de la machine. En comptant le temps, l’achat ne serait donc jamais amorti.

La location de puissance de calcul chez un hébergeur coûte moins cher, environ 1 580 € sur 3 ans. Elle fait en revanche sortir les données de l’entreprise, ce qui supprime le seul avantage qu’on pouvait trouver à cette option, et la raison même pour laquelle la question s’était posée.

On peut comparer cela à la gestion des emails. Installer son propre serveur de mail est aujourd’hui à la portée de toute personne un peu à l’aise avec la technique. L’administrer ensuite (sécurité, filtrage du spam, mises à jour, délivrabilité des messages) demande tant de temps qu’aucune petite entreprise ne prendrait le risque de se lancer là-dedans pour autant. Toutes passent par un fournisseur, comme Google Workspace, Microsoft, OVH ou Infomaniak. Un serveur d’IA local soulève la même question, avec des logiciels plus jeunes qui changent chaque mois.

Le prix du jeton baisse plus vite qu’une machine ne s’amortit

J’ai relu ces chiffres à la lumière d’un entretien de Vincent Luciani, président exécutif d’Artefact, cabinet de conseil en données et en IA, dans l’épisode 552 de Génération Do It Yourself, le podcast de Matthieu Stefani, diffusé en juillet 2026. Il rappelle que le prix d’un jeton, à qualité égale à celle des premiers assistants grand public lancés fin 2022, a été divisé par 200 en un peu plus de 3 ans, et qu’il continuera de baisser.

Pour lui, acheter sa propre puissance de calcul revient à échanger des coûts variables contre des coûts fixes. Ce choix se justifie pour un besoin lourd et durable, comme un grand industriel qui produit sa propre électricité. Les performances du matériel doublent tous les 2 à 3 mois, si bien qu’une machine achetée aujourd’hui perd vite sa valeur relative, et la plupart des entreprises ont intérêt à acheter le calcul en gros à un fournisseur.

Pour une petite structure, chaque mois d’attente rend l’achat d’une machine moins rentable, parce que la même tâche coûte de moins en moins cher en ligne alors que le prix de la machine reste fixe. L’économie qu’apporte une machine locale diminue donc d’année en année.

Pour maîtriser la dépense, il recommande plutôt de confier chaque tâche au modèle le moins coûteux qui la réussit.

Le cas d’un client dont l’équipe refuse la transcription des réunions

Chez un client d’Heterostasia, plusieurs membres de l’équipe refusent que leurs réunions soient enregistrées et transcrites par une IA en ligne. Ils craignent de ne pas savoir où partent les enregistrements. Le manager a décidé de ne rien enregistrer avant d’avoir présenté la méthode à l’équipe.

Je lui ai proposé une alternative, un ordinateur dédié, sans lien avec les services d’IA en ligne, qui transcrit et résume les réunions dans les locaux. La recommandation comprenait des logiciels open source de transcription et de séparation des locuteurs, un modèle de langue local, un pare-feu et un micro de conférence. Il faut compter un ordinateur de 32 Go de mémoire, nettement plus cher que les modèles d’entrée de gamme à 1 000 €, et plusieurs jours d’accompagnement pour l’installer, le régler et former l’équipe.

La recherche menée pour cette recommandation a aussi fait apparaître ses limites. En réunion de groupe, la séparation des locuteurs se trompe sur 17 à 20 % du temps de parole. Le logiciel de transcription invente du texte dans environ 1 % des cas. Les résumés produits en local sont moins bons que ceux d’un assistant en ligne.

Le calcul du client ressemble au mien. Sémawé paie environ 50 € par mois pour l’outil en ligne qui transcrit ses réunions, soit 1 800 € sur 3 ans. La machine locale coûte davantage dès la première année, accompagnement compris, avant même le temps de maintenance, pour une transcription de moindre qualité. Pour une TPE, la formule est financièrement insoutenable.

Elle répond pourtant à une question que l’abonnement laisse ouverte, celle de l’accord de l’équipe. Le frein ne venait pas de la technique. Il venait de la confiance dans ce que deviennent les enregistrements, et une machine locale ne crée pas cette confiance à elle seule. Une règle écrite sur ce qui s’enregistre, qui y accède et quand les fichiers sont effacés, puis le choix d’un fournisseur dont le contrat exclut l’entraînement des modèles sur vos données, coûtent moins cher et répondent à la crainte exprimée.

5 constats tirés des 2 cas

Un modèle open source n’est pas gratuit. Le logiciel l’est, mais la machine, l’électricité et surtout le temps de la personne qui l’administre ne le sont pas. Dans mon cas, le temps d’exploitation dépasse à lui seul l’économie attendue.

L’économie se mesure sur la facture réelle. La part du travail qu’un modèle local peut reprendre reste faible quand l’essentiel de la consommation sert au développement.

Les modèles ouverts sont proches des modèles fermés sur les tâches simples, comme la correction de texte, la transcription ou le résumé court. L’écart reste net sur le développement et les raisonnements longs, qui sont les tâches les plus consommatrices.

La confidentialité est le seul motif solide pour installer une IA dans ses locaux. Il faut alors savoir si cette confidentialité relève d’une préférence ou d’une ligne rouge. Une ligne rouge peut justifier une machine locale pour les seules données concernées, à condition de budgéter cette machine comme le coût d’une contrainte, et non comme une économie.

Le premier levier d’économie ne demande aucun matériel. Il consiste à choisir le modèle selon la tâche et à garder un coût de changement de fournisseur faible. « Être souverain, c’est avoir le choix », dit Vincent Luciani.

Si vous envisagez un serveur d’IA dans vos locaux, faites d’abord 3 calculs : ce que la machine retire réellement de votre facture, le temps de la personne qui l’administrera, et la liste des données qui ne doivent pas sortir de vos murs.