Mes petites entreprises LLM localisées avec RAG

Bonjour tout le monde, ici Nina d’agntbox.com, et aujourd’hui j’ai un sujet amusant pour vous ! Nous allons plonger dans un sujet qui fait beaucoup de bruit sur mes canaux Slack et mon fil Twitter : la localisation des grands modèles de langage pour les petites entreprises.

Plus précisément, nous allons parler d’un cadre qui rend tout ce processus beaucoup moins intimidant : la génération augmentée par la recherche (RAG) avec un accent sur l’implémentation pratique à petite échelle.

Maintenant, je sais ce que certains d’entre vous pensent : « Nina, RAG ? C’est de l’ancienne nouvelle ! » Et vous auriez raison, dans un sens. Le concept existe depuis un petit moment. Mais ce qui *est* nouveau, et ce que je veux souligner aujourd’hui, c’est à quel point cela devient accessible et véritablement utile pour les entreprises qui ne sont pas Google ou Meta. Nous parlons d’entreprises qui ont besoin qu’un LLM parle leur langue, comprenne leurs documents internes et serve leur clientèle sans se ruiner ni avoir besoin d’une équipe de 20 chercheurs en IA.

Ma boîte de réception a été inondée de questions de personnes qui ont expérimenté des LLM disponibles dans le commerce, pour découvrir qu’ils hallucinaient des politiques d’entreprise, mal comprenaient des nuances de produits, ou sonnaient simplement… génériques. Et c’est là que RAG, bien mis en œuvre, entre en jeu. Il ne s’agit pas de former un tout nouveau modèle – heureusement ! – mais de donner un contexte approprié à un modèle puissant existant au bon moment. Pensez-y comme si vous donniez à votre IA une feuille de triche surpuissante spécialement adaptée à votre entreprise.

J’ai récemment travaillé avec une petite startup de commerce électronique, « Crafty Kits », qui vend des boîtes d’abonnement pour des fournitures d’artisanat artisanales. Ils avaient un chatbot de service client assez correct basé sur un LLM populaire, mais il se trompait sur des choses simples. Des questions sur le contenu de kits spécifiques, les politiques de retour pour des articles faits main, ou même juste la teinte exacte du fil dans la boîte « Spring Meadow » étaient souvent rencontrées avec des réponses vagues ou, pire, des informations complètement incorrectes. Leurs clients, c’est compréhensible, commençaient à se frustrer. C’est exactement le genre de problème que RAG est conçu pour résoudre, et je veux vous expliquer comment nous l’avons abordé.

L’Avantage de RAG pour les Petites Entreprises : Pourquoi Cela Compte Maintenant

Pendant longtemps, la barrière à l’entrée pour des expériences d’IA vraiment personnalisées semblait assez élevée. L’ajustement des modèles nécessitait des données significatives, de la puissance de calcul et de l’expertise. Mais RAG change la donne. Voici pourquoi c’est particulièrement excitant pour les petits acteurs en 2026 :

• Rapport Coût-Efficacité : Vous n’avez pas besoin de peaufiner un modèle massif. Vous payez principalement pour la génération d’embeddings et les appels API à un modèle fondamental. C’est un énorme avantage pour les budgets.
• Réduction des Hallucinations : C’était le plus gros point de douleur de Crafty Kits. En fondant les réponses du LLM sur vos propres données vérifiées, vous réduisez considérablement le risque que le modèle invente des informations.
• Information à Jour : Votre base de connaissances peut être mise à jour indépendamment du LLM. Nouvelle ligne de produits ? Politique de retour mise à jour ? Il vous suffit de l’ajouter à vos documents, de ré-embedder, et votre IA devient instantanément plus intelligente.
• Confidentialité des Données : Vos informations propriétaires restent sous votre contrôle, souvent dans votre propre base de données ou stockage local, plutôt que d’être utilisées pour entraîner un modèle public.
• Itération Plus Rapide : Changer la façon dont votre IA répond est souvent aussi simple que de peaufiner vos documents sources ou d’améliorer votre mécanisme de recherche, sans avoir à réentraîner un modèle entier.

Avant de plonger dans les détails, rappelons rapidement ce qu’est RAG. En substance, RAG fonctionne en :

1. Prenant la requête d’un utilisateur.
2. Recherche d’une base de connaissances (vos documents internes, FAQ, catalogues de produits, etc.) pour des informations pertinentes.
3. Fournissant à la fois la requête originale ET les informations récupérées à un grand modèle de langage.
4. Le LLM utilise ensuite ce contexte combiné pour générer une réponse beaucoup plus informée et précise.

C’est comme donner à votre ami incroyablement intelligent mais parfois distrait un coup d’œil rapide à la page exacte du manuel avant qu’il ne réponde à une question.

Construire un Système RAG à Petite Échelle : Le Parcours de Crafty Kits

Lorsque Crafty Kits est venu me voir, leur chatbot actuel était, disons, un peu trop créatif. Nous devions le canaliser et en faire une véritable source de vérité pour leurs clients. Voici le plan simplifié de la manière dont nous avons procédé, en nous concentrant sur des outils open-source et des services cloud accessibles.

Étape 1 : La Base de Connaissances – Où se Trouve Votre Vérité ?

La première étape, et sans doute la plus cruciale, est de rassembler vos données. Pour Crafty Kits, cela signifiait :

• Leur document FAQ complet (PDF et Google Doc).
• Des descriptions détaillées des produits pour chaque kit (exportations CSV de leur plateforme de commerce électronique).
• Leurs documents de politique interne (retours, expédition, confidentialité – principalement des documents Word).
• Quelques articles de blog décrivant des techniques d’artisanat courantes pertinentes pour leurs kits.

Conseil de Nina : Ne vous contentez pas de tout verser. Curatez ! La redondance est acceptable, mais des informations contradictoires confondront votre RAG tout autant qu’un humain. Nettoyez d’abord vos données.

Étape 2 : Découpage et Embedding – Rendre Vos Données Recherchables

Les LLM ont des limites de fenêtre de contexte. Vous ne pouvez pas simplement alimenter un document de politique de 50 pages à chaque fois. Donc, nous décomposons nos documents en « morceaux » plus petits et gérables. Ensuite, nous convertissons ces morceaux en représentations numériques appelées « embeddings ». Ces embeddings sont ce qui nous permet de trouver rapidement l’information pertinente par la suite.

Pour Crafty Kits, nous avons utilisé Python avec quelques bibliothèques :

• langchain pour le chargement et le découpage des documents (il rend cela étonnamment facile).
• sentence-transformers pour générer des embeddings localement. Nous avons commencé avec un modèle plus petit et performant comme all-MiniLM-L6-v2 pour réduire les coûts et permettre des expérimentations locales avant de passer à l’échelle.

from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain_community.document_loaders import TextLoader, PyPDFLoader
from sentence_transformers import SentenceTransformer

# Charger un document exemple
loader = TextLoader("crafty_kits_faq.txt")
documents = loader.load()

# Découper en morceaux
text_splitter = RecursiveCharacterTextSplitter(
 chunk_size=500,
 chunk_overlap=50,
 length_function=len,
 is_separator_regex=False,
)
chunks = text_splitter.split_documents(documents)

# Initialiser le modèle d'embedding (local)
model = SentenceTransformer('all-MiniLM-L6-v2')

# Générer des embeddings pour chaque morceau
chunk_texts = [chunk.page_content for chunk in chunks]
embeddings = model.encode(chunk_texts)

print(f"Generated {len(embeddings)} embeddings.")

Étape 3 : Le Vector Store – La Boîte de Cartes de Votre IA

Une fois que nous avons les embeddings, nous avons besoin d’un endroit pour les stocker afin de pouvoir les rechercher efficacement. C’est là qu’intervient un vector store. Pensez-y comme à un index super efficace pour vos embeddings. Pour Crafty Kits, nous avons opté pour une instance locale de FAISS (Recherche de Similarité AI de Facebook) au départ, car c’est excellent pour commencer sans avoir besoin d’un serveur de base de données dédié. Pour une option légèrement plus évolutive, mais toujours facile à gérer, quelque chose comme ChromaDB ou même un service hébergé comme Pinecone ou Weaviate serait une bonne prochaine étape.

from langchain_community.vectorstores import FAISS
from langchain_community.embeddings import HuggingFaceEmbeddings # Pour l'intégration Langchain

# Réinitialiser les embeddings pour Langchain FAISS
embeddings_model = HuggingFaceEmbeddings(model_name="all-MiniLM-L6-v2")

# Créer le vector store FAISS
vectorstore = FAISS.from_documents(chunks, embeddings_model)

# Sauvegarder le vector store (important !)
vectorstore.save_local("faiss_crafty_kits_index")

print("FAISS index created and saved.")

Ce index contient maintenant la représentation numérique de toute la connaissance de Crafty Kits. Lorsque qu’un client pose une question, nous allons convertir sa question en un embedding, puis trouver rapidement les embeddings les plus similaires (et donc, les morceaux les plus pertinents) dans notre index FAISS.

Étape 4 : La Boucle de Récupération et de Génération – Mettre Tout Ensemble

C’est là que la magie opère. Lorsque qu’un utilisateur pose une question :

1. Nous incorporons leur requête en utilisant le *même* modèle d’embedding que nous avons utilisé pour notre base de connaissances.
2. Nous interrogeons notre vector store pour trouver les N morceaux d’information les plus similaires.
3. Nous construisons ensuite un prompt pour notre LLM, combinant la requête originale de l’utilisateur avec ces morceaux récupérés.
4. Le LLM génère une réponse, ancrée dans le contexte fourni.

Pour le LLM, Crafty Kits a commencé avec l’API GPT-3.5-turbo d’OpenAI, car elle offrait un bon équilibre entre performance et coût. Cependant, la beauté de RAG est que vous pouvez remplacer le LLM par presque n’importe quel autre modèle (par exemple, Claude d’Anthropic, ou même un modèle open-source auto-hébergé comme Llama 2 si vous avez l’infrastructure) sans devoir refaire toute votre base de connaissances.

from langchain_community.llms import OpenAI
from langchain.chains import RetrievalQA
from langchain_community.embeddings import HuggingFaceEmbeddings
from langchain_community.vectorstores import FAISS
import os

# Définissez votre clé API OpenAI
os.environ["OPENAI_API_KEY"] = "YOUR_OPENAI_API_KEY" 

# Chargez l'index FAISS sauvegardé
embeddings_model = HuggingFaceEmbeddings(model_name="all-MiniLM-L6-v2")
vectorstore = FAISS.load_local("faiss_crafty_kits_index", embeddings_model, allow_dangerous_deserialization=True) # allow_dangerous_deserialization est nécessaire pour charger depuis le disque

# Initialisez le LLM
llm = OpenAI(temperature=0.1) # Temperature plus basse pour des réponses plus factuelles

# Créez la chaîne RAG
qa_chain = RetrievalQA.from_chain_type(llm=llm, retriever=vectorstore.as_retriever())

# Testez-la !
query = "Quelle est la politique de retour pour un kit 'Enchanted Forest' endommagé ?"
response = qa_chain.invoke({"query": query})
print(response["result"])

query_2 = "Puis-je utiliser de la peinture acrylique sur la toile fournie dans le kit 'Starry Night Stitch' ?"
response_2 = qa_chain.invoke({"query": query_2})
print(response_2["result"])

Les résultats ont été immédiats et impressionnants. Le chatbot a commencé à donner des réponses précises sur les délais de retour, les matériaux spécifiques inclus dans les kits, et même des conseils nuancés basés sur leurs articles de blog. Les hallucinations ont chuté. Les clients étaient plus satisfaits, et l’équipe de support passait moins de temps à corriger les erreurs du bot.

Au-delà des Bases : Affiner Votre RAG pour de Meilleurs Résultats

Bien que la configuration de base offre une amélioration massive, il existe toujours des moyens d’affiner votre système RAG :

H3 : Expérimentez avec des Stratégies de Découpage

La taille et le chevauchement de vos morceaux de texte peuvent avoir un impact significatif sur la qualité de la récupération. Trop petits, et le contexte pourrait être perdu. Trop grands, et vous pourriez dépasser les fenêtres de contexte ou diluer la pertinence. Expérimentez avec différentes valeurs de chunk_size et chunk_overlap. Pour Crafty Kits, nous avons constaté que les descriptions de produits bénéficiaient de morceaux plus petits, tandis que les documents de politique fonctionnaient mieux avec des morceaux légèrement plus grands.

H3 : Améliorez Votre Modèle d’Inclusion

Bien que all-MiniLM-L6-v2 soit un excellent point de départ, envisagez des modèles plus puissants (mais potentiellement plus gourmands en ressources) à mesure que vos besoins évoluent, ou même des modèles d’inclusion spécifiques au domaine si votre terminologie est très niche. Hugging Face est une véritable mine d’or ici.

H3 : Recherche Hybride

Parfois, la simple similarité sémantique n’est pas suffisante. Combiner la recherche vectorielle avec une recherche par mots-clés traditionnelle (comme BM25) peut améliorer la récupération, surtout pour les requêtes contenant des mots-clés très spécifiques ou des codes de produit. Des bibliothèques comme Langchain peuvent vous aider à intégrer des stratégies de recherche hybride.

H3 : Réévaluation Post-Récupération

Même après avoir récupéré les N meilleurs morceaux, il se peut qu’ils ne soient pas tous également pertinents. Une étape de « réévaluation », où un modèle plus petit et plus concentré évalue les morceaux récupérés et les réorganise par pertinence à la requête, peut considérablement améliorer l’exactitude. C’est une technique avancée courante en RAG.

H3 : Boucles de Retour et Suivi

Aucun système IA n’est « à installer et à oublier ». Mettez en place un moyen de recueillir les retours des utilisateurs sur les réponses du bot (par exemple, un simple « Cela a-t-il été utile ? Oui/Non »). Surveillez les requêtes qui mènent systématiquement à de mauvaises réponses. Ce retour est une aubaine pour améliorer votre base de connaissances ou affiner votre processus de récupération.

Points à Retenir pour Votre Entreprise

Donc, vous êtes une petite entreprise cherchant à rendre votre IA plus intelligente et plus spécifique ? Voici votre feuille de route :

1. Audit de Vos Données : Quels documents internes, FAQ, spécifications produit et interactions avec les clients pouvez-vous utiliser ? Nettoyez-les ! C’est la base.
2. Commencez Petit, Itérez Rapidement : Ne tentez pas de construire un système monolithique. Choisissez un cas d’utilisation clair (comme un bot de service client pour des requêtes spécifiques) et construisez un système RAG pour cela.
3. Adoptez l’Open Source : Des outils comme Langchain, Sentence Transformers et FAISS rendent le RAG incroyablement accessible sans énormes coûts initiaux.
4. Priorisez l’Exactitude sur la Créativité : Pour les applications commerciales, en particulier celles à destination des clients, l’exactitude factuelle est généralement primordiale. Réduisez la température de votre LLM.
5. Prévoyez la Maintenance : Votre système RAG n’est aussi bon que votre base de connaissances. Établissez un processus pour mettre à jour régulièrement vos documents sources et les ré-inclure.

Le parcours avec Crafty Kits m’a montré que les LLM localisés ne sont plus réservés aux géants de la technologie. Avec un cadre RAG pratique, même une petite équipe peut construire une IA qui comprend vraiment et parle la langue de leur entreprise. Il s’agit de travailler plus intelligemment, pas plus dur, et de donner à vos clients les informations exactes et riches en contexte qu’ils méritent.

J’espère que cette exploration approfondie du RAG a suscité des idées pour vos propres projets. Faites-moi savoir dans les commentaires si vous essayez le RAG ou si vous avez découvert des astuces et des conseils intéressants !

Articles Connexes

• Meilleurs Outils de Revue de Code pour Améliorer Votre Flux de Travail
• Assistants de Codage IA : Mon Exploration Personnelle du Pays des Outils de Développement
• Danse ComfyUI : Faites Bouger Vos Vidéos IA avec Vos Mouvements

🕒 Published: March 26, 2026