C'est quoi un LLM ?

LLM est l'acronyme de Large Language Model, ou grand modèle de langage en français. C'est un type de réseau de neurones artificiels entraîné sur des quantités massives de texte (des milliards de pages web, livres, articles, code source) pour apprendre à prédire le mot suivant dans une phrase. ChatGPT, Claude, Gemini, Llama, Mistral, DeepSeek : tous ces noms que vous voyez partout depuis 2023 sont des LLM ou des produits construits sur des LLM.

Le principe peut sembler ridiculement simple pour une technologie qui génère du code, écrit des essais, résume des documents de 500 pages et passe des examens de médecine : prédire le prochain mot. Mais quand vous entraînez un réseau de neurones suffisamment grand sur suffisamment de texte, cette tâche de prédiction fait émerger des capacités que personne n'avait vraiment anticipées : raisonnement, traduction, résolution de problèmes, génération de code, et une forme de compréhension du langage qui, sans être humaine, produit des résultats souvent indiscernables de ceux d'un humain.

Comment fonctionne un LLM

Un LLM est une fonction mathématique très complexe. Il prend une séquence de mots (ou plus précisément de "tokens", des fragments de mots) en entrée, et produit une distribution de probabilités sur tous les tokens possibles en sortie. Le token ayant la probabilité la plus élevée est sélectionné comme prochain mot, puis ajouté à la séquence, et le processus recommence. C'est ainsi que le modèle génère du texte, mot par mot (ou token par token).

L'architecture sous-jacente s'appelle le Transformer, introduite par des chercheurs de Google en 2017 dans un article intitulé "Attention Is All You Need". L'innovation clé du Transformer est le mécanisme d'attention : au lieu de traiter les mots un par un de gauche à droite (comme les réseaux récurrents qui existaient avant), le Transformer peut considérer tous les mots de la séquence simultanément et calculer les relations entre chaque paire de mots. C'est ce qui lui permet de comprendre le contexte : quand vous écrivez "la banque du fleuve", le modèle sait que "banque" fait référence au bord de l'eau et non à un établissement financier, parce qu'il a calculé la relation entre "banque" et "fleuve".

En 2026, l'architecture dominante est le Mixture of Experts (MoE) : le modèle contient des milliers de milliards de paramètres au total, mais seule une fraction (quelques dizaines de milliards) est activée pour chaque token. C'est comme un immeuble avec des centaines de bureaux spécialisés : pour chaque question, vous n'êtes dirigé que vers les 2 ou 3 bureaux pertinents, pas vers les 200. Cela permet d'avoir la qualité d'un modèle géant avec un coût de calcul beaucoup plus raisonnable.

Les trois étapes de création d'un LLM

Un LLM ne naît pas capable de tenir une conversation. Sa création passe par trois étapes distinctes, chacune lui donnant des capacités différentes.

Le pré-entraînement. Le modèle est entraîné sur un corpus massif de texte (des milliards de pages web, des livres, du code source, des articles scientifiques, des discussions de forum). L'objectif est simple : prédire le mot suivant. À force de le faire des milliards de fois sur des milliards de textes, le modèle apprend la grammaire, les faits, le raisonnement logique, le style, et une forme de "connaissance du monde" encodée dans les relations statistiques entre les mots. Le pré-entraînement est la phase la plus coûteuse : entraîner GPT-3 a consommé 1 287 MWh d'électricité, l'équivalent de l'alimentation de 330 foyers américains pendant un an. Les modèles de 2026 consomment encore plus.

Le fine-tuning supervisé (SFT). Après le pré-entraînement, le modèle sait compléter du texte, mais il ne sait pas répondre à des questions, suivre des instructions ou avoir une conversation structurée. Le fine-tuning supervisé consiste à l'entraîner sur des exemples de conversations de haute qualité : des paires question-réponse rédigées par des humains, des exemples de suivi d'instructions, des tâches de raisonnement. C'est cette étape qui transforme un "compléteur de texte" en un assistant conversationnel.

L'alignement (RLHF, DPO, GRPO). La troisième étape consiste à aligner le comportement du modèle avec les préférences humaines. La méthode historique est le RLHF (Reinforcement Learning from Human Feedback) : des humains comparent deux réponses du modèle et indiquent laquelle est meilleure. Un modèle de récompense est entraîné sur ces préférences, puis utilisé pour optimiser le LLM via l'apprentissage par renforcement. Des méthodes plus récentes comme DPO (Direct Preference Optimization) et GRPO (Group Relative Policy Optimization) simplifient ce processus. L'alignement est ce qui empêche le modèle de produire du contenu toxique, de suivre des instructions dangereuses ou de répondre de manière inutilement verbeuse.

Les tokens : l'unité de base

Les LLM ne travaillent pas avec des mots mais avec des tokens. Un token est un fragment de texte : un mot courant est souvent un seul token, un mot rare peut être découpé en plusieurs tokens, et un caractère spécial ou un signe de ponctuation est généralement un token à lui seul. En moyenne, pour du texte en français ou en anglais, un token correspond à environ 3/4 d'un mot. Un texte de 1 000 mots fait environ 1 300 tokens.

Cette distinction est importante parce que les LLM facturent et limitent en tokens, pas en mots. La "fenêtre de contexte" (la quantité de texte que le modèle peut traiter en une seule fois) est mesurée en tokens. En 2026, les modèles de pointe offrent des fenêtres de contexte allant de 128 000 à 1 million de tokens (Gemini, Claude), et Meta Llama 4 Scout atteint 10 millions de tokens. Mais "fenêtre de contexte" et "contexte efficace" ne sont pas la même chose : la plupart des modèles perdent en précision sur les informations situées au milieu d'un long contexte.

Ce que les LLM savent faire

La liste des capacités des LLM en 2026 est longue, et elle s'allonge à chaque nouvelle génération de modèles.

Génération de texte. Rédiger des emails, des rapports, des articles, des scripts, des publications sur les réseaux sociaux. C'est l'usage le plus courant et le plus visible.

Résumé et analyse. Résumer un document de 200 pages en quelques paragraphes, extraire les points clés, identifier les arguments principaux, comparer deux textes.

Traduction. Les LLM traduisent entre des dizaines de langues avec une qualité qui rivalise souvent avec les traducteurs humains pour les textes courants (moins fiable pour les textes très spécialisés ou littéraires).

Génération et analyse de code. Écrire du code dans pratiquement n'importe quel langage de programmation, déboguer du code existant, expliquer ce que fait un programme, convertir du code d'un langage à un autre. En 2026, environ 85 % des développeurs utilisent régulièrement des outils de codage assistés par LLM.

Raisonnement. Les modèles de raisonnement (GPT-5 avec effort configurable, Claude avec "extended thinking", Gemini 3, DeepSeek R1) peuvent résoudre des problèmes mathématiques complexes, des puzzles logiques et des tâches nécessitant une planification en plusieurs étapes. Ils "réfléchissent" en produisant une chaîne de pensée interne avant de donner leur réponse finale.

Multimodalité. Les LLM modernes ne se limitent plus au texte. Ils peuvent analyser des images (décrire une photo, lire du texte dans une image, interpréter un graphique), traiter des fichiers audio (transcription, traduction vocale), et dans certains cas générer des images ou de la vidéo.

Ce que les LLM ne savent pas faire

Malgré leurs capacités impressionnantes, les LLM ont des limites fondamentales qu'il faut comprendre pour les utiliser correctement.

Les hallucinations. Les LLM inventent parfois des informations fausses avec une assurance totale. Ils peuvent citer des études qui n'existent pas, attribuer des citations à des personnes qui ne les ont jamais prononcées, ou donner des chiffres complètement inventés. Le problème vient de leur nature même : ils génèrent le texte le plus probable, pas le texte le plus vrai. Pour un LLM, une affirmation fausse mais qui "sonne bien" peut avoir une probabilité plus élevée qu'une affirmation vraie mais formulée de façon inhabituelle. Le taux d'hallucinations a diminué avec chaque génération de modèles, mais il n'est pas nul, et ne le sera probablement jamais.

Le raisonnement fiable sur de longues chaînes. Les LLM peuvent enchaîner 3 à 5 étapes de raisonnement de manière fiable. Au-delà, les erreurs se composent. Un problème qui nécessite 15 étapes de raisonnement logique sera résolu de manière incohérente, même par les meilleurs modèles. Les modèles de raisonnement (qui "réfléchissent" plus longtemps) améliorent ce plafond, mais ne l'éliminent pas.

La connaissance à jour. Un LLM est figé dans le temps. Il connaît les informations contenues dans ses données d'entraînement, mais ne sait rien de ce qui s'est passé après la date de coupure de son entraînement. Pour accéder à l'information récente, il faut lui donner des outils (recherche web, accès à des bases de données), ce qui revient à construire un agent IA autour du LLM.

Les mathématiques et le comptage. Paradoxalement, les LLM sont mauvais en arithmétique de base quand ils doivent la faire "de tête" (compter les lettres dans un mot, multiplier de grands nombres). Ils fonctionnent bien sur le raisonnement mathématique (comprendre un problème et formuler l'approche) mais pas sur le calcul brut. C'est pour ça que les meilleurs systèmes leur donnent accès à un interpréteur de code pour exécuter les calculs plutôt que de les faire eux-mêmes.

La mémoire entre conversations. Par défaut, un LLM n'a aucune mémoire entre deux conversations. Chaque échange commence de zéro. Les systèmes de mémoire (résumés de conversations précédentes, bases de données de contexte) sont des surcouches ajoutées par les applications, pas une capacité native du modèle.

Les principaux LLM en 2026

L'écosystème des LLM s'est structuré autour de deux catégories : les modèles propriétaires (accessibles uniquement via API ou interface web) et les modèles open source (téléchargeables et exécutables localement).

GPT-5 (OpenAI) est le modèle phare d'OpenAI, successeur de GPT-4. Il intègre un mode de raisonnement configurable qui lui permet de "réfléchir" plus ou moins longtemps selon la complexité de la tâche. ChatGPT, construit sur GPT-5, atteint 900 millions d'utilisateurs hebdomadaires actifs en 2026.

Claude (Anthropic) est la famille de modèles d'Anthropic, avec une architecture axée sur la sécurité et l'alignement. Claude est disponible en plusieurs tailles (Haiku, Sonnet, Opus) adaptées à différents rapports qualité/coût/vitesse. Anthropic sert plus de 300 000 clients entreprises.

Gemini (Google) est la famille de modèles de Google, intégrée dans la recherche Google, Gmail, Google Docs et Android. L'application Gemini dépasse 900 millions d'utilisateurs mensuels actifs en 2026. Gemini se distingue par ses très grandes fenêtres de contexte (jusqu'à 1 million de tokens).

Llama (Meta) est la principale famille de modèles open source, téléchargeable et modifiable librement. Llama 4 Scout atteint 10 millions de tokens de contexte. Les modèles Llama sont massivement utilisés par les entreprises qui veulent héberger leur propre LLM sans dépendre d'un fournisseur cloud.

DeepSeek (DeepSeek) est un modèle open source chinois qui a provoqué un séisme dans l'industrie début 2025 en démontrant des performances comparables à GPT-4 avec un coût d'entraînement bien inférieur. DeepSeek a prouvé que les performances de pointe ne nécessitent pas forcément des budgets de pointe.

Mistral (Mistral AI) est le principal modèle européen, développé par une startup française. Mistral se positionne sur l'efficacité : des modèles plus petits mais très performants pour leur taille, particulièrement adaptés aux cas d'usage où la latence ou le coût sont critiques.

Les paramètres : qu'est-ce que ça veut dire

Quand on parle d'un modèle à "70 milliards de paramètres" ou "1 000 milliards de paramètres", les paramètres sont les valeurs numériques ajustées pendant l'entraînement qui définissent le comportement du modèle. Chaque paramètre est un nombre à virgule flottante stocké dans le réseau de neurones. Grossièrement, plus il y a de paramètres, plus le modèle peut encoder de connaissances et de relations complexes entre les mots.

Mais la taille n'est pas tout. Un modèle de 8 milliards de paramètres bien entraîné sur des données de qualité peut surpasser un modèle de 70 milliards mal entraîné sur des données médiocres. La qualité des données d'entraînement, l'architecture du modèle et les techniques de post-entraînement comptent autant, sinon plus, que le nombre brut de paramètres. C'est la leçon qu'a donnée DeepSeek à l'industrie : la performance ne dépend pas seulement du budget.

Modèles propriétaires vs open source

Le débat entre modèles propriétaires et open source est l'un des plus actifs de l'industrie en 2026.

Les modèles propriétaires (GPT-5, Claude, Gemini) sont accessibles uniquement via API ou interface web. Vous ne pouvez pas voir leur code source, ni les télécharger, ni les modifier. L'avantage : ils sont généralement les plus performants, constamment mis à jour, et vous n'avez pas besoin de gérer l'infrastructure. L'inconvénient : vous dépendez du fournisseur (prix, conditions d'utilisation, disponibilité, politique de confidentialité des données).

Les modèles open source (Llama, DeepSeek, Mistral, Qwen) sont téléchargeables, modifiables et exécutables sur votre propre infrastructure. L'avantage : contrôle total sur les données (rien ne sort de vos serveurs), possibilité de fine-tuner le modèle pour votre cas d'usage spécifique, pas de dépendance à un fournisseur. L'inconvénient : vous devez gérer l'infrastructure (GPU coûteux), les performances sont généralement légèrement inférieures aux meilleurs modèles propriétaires, et les mises à jour sont moins fréquentes.

En 2026, l'écart de performance entre les deux catégories se réduit. DeepSeek V3.2, Qwen3 et Llama 4 rivalisent avec les modèles propriétaires sur de nombreux benchmarks. Pour beaucoup d'entreprises, le choix se fait moins sur la performance brute que sur les exigences de confidentialité, de coût et de contrôle.

Le coût d'utilisation

Les LLM propriétaires facturent par token (en entrée et en sortie). Les prix varient considérablement selon le modèle et le fournisseur. Un modèle de pointe coûte typiquement entre 2 et 15 dollars par million de tokens en entrée, et entre 8 et 60 dollars par million de tokens en sortie. Les modèles plus petits ou plus anciens coûtent une fraction de ces prix.

Pour les modèles open source auto-hébergés, le coût principal est le matériel : un GPU professionnel (NVIDIA A100 ou H100) coûte entre 10 000 et 30 000 euros, et un modèle de grande taille nécessite plusieurs GPU. Le coût par token est plus bas une fois l'infrastructure en place, mais l'investissement initial et la maintenance sont significatifs.

Le marché global des LLM est estimé à 7,81 milliards de dollars en 2025 et devrait atteindre 130 milliards d'ici 2034. OpenAI a dépassé les 20 milliards de dollars de revenus annualisés, Anthropic a atteint 14 milliards.

Les risques et limites à garder en tête

Confidentialité des données. Quand vous envoyez un texte à un LLM via une API cloud, ce texte est transmis aux serveurs du fournisseur. Vérifiez toujours la politique de confidentialité : certains fournisseurs peuvent utiliser vos données pour entraîner leurs futurs modèles. Si la confidentialité est critique, envisagez un modèle open source auto-hébergé ou un contrat entreprise avec des garanties explicites.

Biais. Les LLM reflètent les biais présents dans leurs données d'entraînement. Si les données surreprésentent certaines perspectives culturelles, géographiques ou démographiques, le modèle reproduira ces biais. Les fournisseurs travaillent à réduire ces biais via l'alignement et le filtrage, mais le problème n'est pas résolu.

Consommation énergétique. L'entraînement et l'utilisation des LLM consomment des quantités considérables d'énergie. Le secteur de l'IA pourrait consommer entre 85 et 134 TWh par an d'ici 2027, soit presque autant que les Pays-Bas. C'est un sujet de préoccupation environnementale croissant.

Dépendance. La concentration du marché autour de quelques fournisseurs (OpenAI, Google, Anthropic, Meta) crée des risques de dépendance. Un changement de prix, de politique d'utilisation ou une panne peut affecter des millions d'utilisateurs et d'applications.

Un LLM est un réseau de neurones entraîné à prédire le prochain mot. Cette tâche simple, appliquée à une échelle massive, fait émerger des capacités de raisonnement, de rédaction, de traduction et de programmation qui ont transformé l'informatique en trois ans. En 2026, les LLM sont utilisés par des centaines de millions de personnes, mais leurs limites (hallucinations, raisonnement fragile sur les longues séquences, absence de mémoire native) restent réelles. Comprendre ce qu'un LLM est et ce qu'il n'est pas est la condition pour l'utiliser efficacement.