RAG vs fine-tuning : quelle différence, et lequel choisir ?

« Comment je fais pour que l'IA connaisse mes documents ? » C'est la vraie question derrière RAG et fine-tuning, deux sigles qui reviennent sans jamais être posés simplement. Réponse directe : le RAG va chercher les bons extraits dans vos documents au moment de la question et les donne à lire au modèle. Le fine-tuning, lui, poursuit l'entraînement du modèle pour lui faire adopter une forme, un ton, une façon de répondre. Ce ne sont pas deux techniques concurrentes, ce sont deux réponses à deux besoins différents.

Qu'est-ce que le RAG, exactement ?

RAG signifie retrieval-augmented generation, génération augmentée de récupération. Concrètement : au moment où on pose une question, le système cherche dans une base documentaire (contrats, procédures, catalogue produit) les passages les plus pertinents, puis les transmet au modèle en même temps que la question. Le modèle ne « sait » rien de plus qu'avant, il lit, comme on lirait un dossier avant de répondre à l'oral.

L'analogie la plus juste est celle de l'examen à livre ouvert. L'étudiant n'a pas mémorisé le cours par cœur, mais il sait où trouver la bonne page et comment en tirer une réponse cohérente. Le modèle lui-même ne change pas, seuls les documents consultés changent, et ils peuvent être mis à jour du jour au lendemain. Cette architecture, posée par Meta AI dès 2020, est documentée par tous les grands fournisseurs cloud, dont AWS.

Qu'est-ce que le fine-tuning, exactement ?

Le fine-tuning consiste à poursuivre l'entraînement d'un modèle déjà existant sur un jeu d'exemples fournis par l'entreprise, une pratique documentée par les éditeurs eux-mêmes, notamment dans le guide officiel de fine-tuning d'OpenAI. Ce n'est pas une lecture ponctuelle comme le RAG : c'est une modification durable des réglages internes du modèle.

Voici la confusion la plus répandue, et la plus coûteuse quand elle n'est pas levée : le fine-tuning n'apprend pas des faits, il apprend une forme. On l'utilise pour faire adopter un ton de marque, un format de réponse imposé (un gabarit de compte rendu, une structure de fiche produit), ou un style d'échange propre à un métier. L'analogie utile est celle du geste sportif : on entraîne quelqu'un à un mouvement précis, on ne lui fait pas apprendre un dossier par cœur. Un modèle fine-tuné sur des exemples de 2024 ne sait toujours rien de ce qui s'est passé en 2026, sauf si on l'entraîne à nouveau.

Quelle est la règle pour choisir entre RAG et fine-tuning ?

Une phrase suffit à trancher dans la grande majorité des cas. Si le besoin est de connaître un contenu qui change (un catalogue, une politique interne, un contrat en cours), c'est RAG. Si le besoin est de répondre toujours dans une forme précise, indépendamment du sujet traité, c'est fine-tuning.

Les deux ne s'opposent pas : un modèle fine-tuné pour respecter un ton et un format peut très bien aller chercher ses informations via RAG. On combine souvent les deux dès que le besoin de forme et le besoin de contenu à jour coexistent.

Qu'est-ce qui décide réellement en PME ?

Deux réalités opérationnelles pèsent plus lourd que la technique.

Le fine-tuning suppose un jeu d'exemples propre, cohérent et nombreux, sans quoi le modèle apprend des tics au lieu d'une méthode. Il suppose surtout qu'on refasse l'opération à chaque changement de modèle de base : un nouveau modèle sorti chez l'éditeur ne conserve pas automatiquement le fine-tuning fait sur l'ancien. C'est un coût récurrent, souvent oublié au moment de décider.

Le RAG, lui, suppose surtout que les documents soient à jour et correctement découpés en extraits exploitables. C'est là, et pas dans la technique, que se joue la qualité du résultat final : un RAG branché sur des documents périmés ou mal structurés produit des réponses fausses avec la même assurance qu'un RAG bien alimenté. Dans la grande majorité des cas rencontrés en PME, le premier pas raisonnable est le RAG, précisément parce que la qualité documentaire est un chantier qu'on maîtrise en interne, alors que le fine-tuning ajoute une dépendance technique récurrente.

Quel est le lien entre RAG et fenêtre de contexte ?

Le RAG existe parce que la fenêtre de contexte d'un modèle est finie, et que la remplir a un coût à chaque question posée. Plutôt que de renvoyer l'intégralité d'une base documentaire à chaque échange, le RAG ne sélectionne que les extraits pertinents pour la question posée. C'est ce qui rend l'ensemble utilisable et abordable sur des bases de plusieurs milliers de pages.

Le RAG réduit-il vraiment les hallucinations ?

Il ne les élimine pas, mais il réduit le recours à la mémoire du modèle, qui est justement le terrain où naissent les hallucinations. En ancrant la réponse sur des extraits identifiés, on peut demander au modèle de citer sa source, ce qui donne un signal de vérification qu'une réponse purement mémorisée n'offre jamais. Un modèle fine-tuné sur un ton, à l'inverse, n'apporte aucune garantie supplémentaire sur l'exactitude des faits : ce n'est pas son rôle.

Comment trancher en une phrase ?

Une question sur un contenu qui bouge appelle du RAG. Une exigence de forme qui ne bouge pas appelle du fine-tuning. Pour la plupart des PME qui veulent que l'IA connaisse leurs documents, le RAG est le point de départ le plus simple, et la qualité de la base documentaire compte davantage que le choix technique. Pour cadrer ce choix dans un projet complet, le cadre de décision coût, latence et qualité pose les questions à se poser avant d'aller plus loin.