LLM : définition, fonctionnement et comment en choisir un en entreprise.

Vos équipes utilisent déjà un assistant, et un prestataire vous parle de LLM, de tokens et de fenêtre de contexte. En 2025, parmi les entreprises d’au moins 10 salariés qui utilisent l’IA, 43 % se servent d’outils de génération de texte ou de parole, selon l’Insee. Quatre critères départagent les modèles : la tâche, les données envoyées, le prix au volume de texte et le lieu d’hébergement.

Qu’est-ce qu’un LLM ?

Un LLM, sigle de l’anglais « large language model », est un grand modèle de langage : un programme entraîné sur de très grands volumes de texte, qui écrit du texte ou du code en calculant, morceau après morceau, la suite la plus probable. Le terme français, abrégé GML, a été publié au Journal officiel du 6 septembre 2024.

FranceTerme, la base des termes publiés au Journal officiel, y voit un modèle génératif qui « calcule des probabilités des enchaînements de jetons textuels en vue de la génération automatique de texte ou de code informatique ». La CNIL parle de modèle de langage, et qualifie de grands ceux dont la taille est « généralement de l’ordre du milliard de poids ou plus ». Un poids, ou paramètre, est une valeur que le modèle a apprise pendant son entraînement.

Trois mots anglais reviennent dans les devis et les documentations. FranceTerme leur donne un équivalent :

• Token, en français jeton textuel : le morceau de texte, mot ou fragment de mot, que le modèle manipule. Le nombre de jetons sert aussi à facturer l’usage des modèles commerciaux.
• Prompt, en français instruction générative : la consigne, écrite en langue courante, qui décrit la tâche à accomplir.
• Chatbot, en français dialogueur : le logiciel qui dialogue avec vous. Le terme date de 2018.

Le modèle et l’application sont deux produits distincts. Le modèle calcule le texte ; le dialogueur l’entoure d’un écran, d’un historique et parfois d’outils. Un même LLM peut animer plusieurs applications, et FranceTerme relève que ces modèles servent aussi à transcrire la parole.

Comment fonctionne un LLM ?

Un LLM apprend d’abord, sur des textes, à prédire le mot qui suit. Il répond ensuite à chaque question en ajoutant un jeton après l’autre au texte qu’il vient de lire. Tout ce qu’il sait vient de ces deux moments : son entraînement, puis le texte que vous lui envoyez.

L’entraînement

Les textes d’entraînement sont en général collectés sur le web, indique FranceTerme, et personne ne les annote à la main : le modèle s’exerce à deviner la suite de chaque passage. Cet apprentissage repose sur une architecture appelée Transformer, décrite en juin 2017 dans l’article « Attention Is All You Need ». Anthropic précise qu’un modèle sorti de cette étape répond mal aux questions et suit mal les consignes : un second entraînement en fait un assistant.

Les jetons et la fenêtre de contexte

Votre question est découpée en jetons avant d’atteindre le modèle. OpenAI donne un repère pour l’anglais : un token vaut environ quatre caractères, soit trois quarts de mot. Anthropic compte environ 555 000 mots pour un million de tokens avec son découpage actuel. Un token n’a donc pas la même taille d’un éditeur à l’autre, ni d’une langue à l’autre.

La fenêtre de contexte est la quantité de texte que le modèle peut lire pour répondre, réponse comprise : votre consigne, les documents joints et l’historique de la conversation. Anthropic la décrit, en anglais, comme une « mémoire de travail », distincte des données d’entraînement. Une fenêtre plus grande ne donne pas un meilleur résultat à elle seule : le même éditeur écrit que la précision baisse quand le volume de texte augmente.

Les connaissances tirées de l’entraînement s’arrêtent à une date de coupure, que les éditeurs publient : juin 2026 pour les modèles actuels d’Anthropic, le 30 avril 2026 pour GPT-6 Astra d’OpenAI. Un dernier réglage, la température, dose la part de hasard dans le choix de chaque jeton.

Que ne fait pas un LLM ?

Un LLM ne consulte aucune base de faits : il écrit la suite la plus probable, qui peut être fausse et plausible à la fois. La CNIL l’écrit ainsi : « Les modèles génératifs ne sont pas des bases de connaissance ». Elle nomme hallucinations ces résultats inexacts qui « peuvent, pourtant, paraître plausibles ».

Quatre autres limites tiennent à son fonctionnement :

• Un LLM ignore ce qui s’est passé après sa date de coupure, sauf si l’application lui fournit une source à jour.
• Par l’API, chaque appel repart de zéro. Anthropic et OpenAI parlent d’une API « sans état » : l’application renvoie tout l’historique à chaque question.
• Deux demandes identiques peuvent recevoir deux réponses différentes, même avec une température réglée à zéro, écrit Anthropic.
• Il produit du texte et rien d’autre. Pour lire vos documents internes, il faut le relier à une base documentaire, ce que fait un assistant documentaire. Pour agir dans vos logiciels, il lui faut des outils, ce que fait un agent IA.

Pour les calculs et l’analyse de données, ces deux éditeurs fournissent un outil avec lequel le modèle écrit du code, puis l’exécute. Le calcul est alors fait par un programme.

Anthropic écrit que même les modèles de langage les plus avancés peuvent produire un texte factuellement incorrect. L’éditeur conseille d’autoriser le modèle à répondre qu’il ne sait pas, et de lui faire citer le passage du document sur lequel il s’appuie. La CNIL en tire une consigne pour vos équipes : « ne jamais reproduire telles quelles les sorties de ces systèmes ».

Quels sont les principaux LLM en 2026 ?

Anthropic, Google, Mistral AI et OpenAI publient chacun une famille de LLM généralistes, du modèle le plus capable au moins cher. Leurs modèles mis en avant annoncent une fenêtre de contexte d’environ un million de tokens ; ils se distinguent par le prix, la licence et le traitement de vos données.

Le tableau retient deux modèles par éditeur : celui qu’il recommande ou présente comme son plus capable, et un modèle moins cher. Les tarifs sont les tarifs publics de l’API, relevés le 14 novembre 2026, en dollars par million de tokens : l’entrée, ce que vous envoyez, puis la sortie, ce que le modèle écrit.

Chez OpenAI, ces prix valent jusqu’à 272 000 tokens envoyés ; chez Anthropic, Claude Haiku 5.5 coûte plus cher au-delà de 100 000. Anthropic vend aussi Claude Fable 5.2, à 8 $ et 40 $.

Ces tarifs changent : Google annonce que celui de Gemini 4 Carbon double le 1er décembre 2026. Ils ne se comparent pas ligne à ligne, puisqu’un token n’a pas la même taille chez chaque éditeur, et ces huit modèles ne sont pas de même niveau. Notre guide sur le coût d’un projet IA montre ce que ces prix donnent sur une facture.

Un modèle a aussi une durée de vie. Anthropic annonce que ses modèles actuels ne seront pas retirés avant septembre 2027, et la fiche de Mistral Medium 3.5, datée du 28 avril 2026, porte une date de dépréciation au 31 octobre 2026. Prévoyez de tester de nouveau votre usage à chaque changement de modèle.

Sur leurs offres professionnelles, Anthropic et OpenAI écrivent qu’ils n’entraînent pas leurs modèles sur vos données par défaut. Le guide IA locale ou cloud compare les engagements de quatre éditeurs sur l’entraînement, la conservation et l’exécution en Europe.

Quels sont les LLM français ?

Mistral AI est l’éditeur français de ce tableau : ses conditions commerciales le présentent comme une société de droit français dont le siège est à Paris. Mistral publie deux sortes de modèles, commerciaux ou à poids ouverts, c’est-à-dire dont le fichier se télécharge : Mistral Small 4 sous licence Apache 2.0, Mistral Large 4 sous une licence propre à l’éditeur.

Son centre d’aide écrit : « Par défaut, vos données sont hébergées dans l’Union européenne. » Il précise que les échanges avec son assistant servent par défaut à entraîner ses modèles, sauf opposition de votre part, et que le forfait Enterprise en est exclu. Ce guide ne nomme que les éditeurs dont nous avons lu la documentation à la date du relevé.

Comment choisir un LLM pour son entreprise ?

Un LLM se choisit à partir de la tâche et des données, avant toute comparaison de modèles. La CNIL recommande de « partir de besoins concrets », puis de vérifier cinq points selon la sensibilité de l’usage :

• La sécurité : le système refuse-t-il les demandes malveillantes ou illicites ?
• La pertinence pour votre besoin : limite-t-il les hallucinations, cite-t-il ses sources ?
• La robustesse : a-t-il déjà été éprouvé sur la tâche visée ?
• L’absence de biais, en particulier discriminatoires.
• La conformité : sa licence et ce que l’éditeur publie sur ses données d’entraînement.

La CNIL donne aussi une échelle du risque : un assistant mis à la disposition des salariés pour rédiger pèse moins qu’un système qui aide à décider du sort de clients, de candidats ou de citoyens. Testez le modèle sur vos propres documents, avec des exemples dont vous connaissez la bonne réponse, avant de regarder son prix. Sans tâche précise à ce stade, commencez par le guide choisir un premier projet IA.

Trois façons d’accéder à un modèle

Le même modèle s’utilise dans un service grand public, par une offre professionnelle ou une API sous contrat, ou sur une machine que vous exploitez s’il est à poids ouverts. Selon l’Insee, 80 % des entreprises qui utilisent l’IA achètent des logiciels prêts à l’emploi.

L’accès se décide selon les données. L’ANSSI recommande de « proscrire l’utilisation d’outils d’IA générative sur Internet pour un usage professionnel impliquant des données sensibles ». Dès que vous envoyez des données personnelles ou des documents confidentiels, le lieu d’exécution passe avant le prix : le guide IA locale ou cloud traite ce choix.

Reste à placer le modèle là où vos équipes travaillent. Le rendre disponible dans votre ERP, votre CRM ou votre application métier est l’objet de notre mission d’intégration de l’IA aux outils métier.

Quand un LLM ne convient pas

Un LLM ne convient pas à une tâche dont l’erreur ne se rattrape pas. L’ANSSI demande qu’un système d’IA ne puisse pas exécuter seul des « actions critiques » sur le système d’information, et cite les transactions bancaires ou la production de contenu public. Elle recommande aussi de prévoir un mode dégradé, c’est-à-dire un moyen de travailler sans le système d’IA.

RGPD, AI Act : quelles obligations avec un LLM ?

Les obligations que le règlement européen sur l’IA attache aux modèles pèsent sur leurs éditeurs. L’entreprise qui utilise un LLM reste responsable de l’usage qu’elle en fait et des données personnelles qu’elle lui envoie.

Ce que demande la CNIL

La CNIL écrit que « c’est l’organisme utilisateur qui engagera sa responsabilité légale en cas de mauvaise utilisation de l’IA par son personnel ». Elle recommande une charte interne « définissant clairement les usages autorisés et les usages interdits », et veut que le délégué à la protection des données soit associé au projet.

La plupart de ces systèmes ont été mis au point avec des données personnelles, rappelle la même page : « il vous revient donc d’interroger le fournisseur sur la conformité de son système au RGPD ». Posez la question par écrit avant de signer, et gardez la réponse.

Ce que prévoit le règlement européen sur l’IA

Le règlement (UE) 2024/1689 n’emploie pas le sigle LLM. Il parle de « modèle d’IA à usage général », et son considérant 99 précise : « Les grands modèles d’IA génératifs sont un exemple typique d’un modèle d’IA à usage général ». Depuis le 2 août 2025, les fournisseurs de ces modèles « élaborent et tiennent à jour la documentation technique du modèle » et publient un résumé du contenu utilisé pour l’entraîner.

Le règlement appelle déployeur l’organisme « utilisant sous sa propre autorité un système d’IA ». L’article 4, réécrit par le règlement (UE) 2026/1744 du 8 juillet 2026, demande aux déployeurs de prendre des mesures « pour favoriser le développement de la maîtrise de l’IA par leur personnel ». L’article 50 veut qu’un système destiné à dialoguer avec des personnes soit conçu pour qu’elles soient « informées qu’elles interagissent avec un système d’IA ».

Les quatre éditeurs du tableau figurent parmi les signataires du code de bonnes pratiques publié par la Commission européenne le 10 juillet 2025, un outil volontaire. Les échéances propres aux systèmes à haut risque sont dans notre guide sur l’IA agentique.

Questions fréquentes