Mémoire court terme
Fenêtre de conversation active, portée à la session ou à l'échange en cours. Sert au raisonnement immédiat, purgée ou résumée en fin d'interaction.
Services — Architecture technique
Architecture IA avancée pour personnages persistants
Cette page décrit les choix d'architecture qui rendent un personnage IA persistant exploitable en production : structure de la mémoire, orchestration des modèles, recherche documentaire, budgets de latence, topologies de déploiement, sécurité et conformité. Elle s'adresse aux équipes techniques chargées d'évaluer une intégration.
Architecture de mémoire
Trois couches, un cycle de consolidation, un mécanisme d'oubli.
La persistance ne repose pas sur une simple extension de la fenêtre de contexte du modèle. Elle repose sur une structure de mémoire à plusieurs niveaux, chacun avec sa propre logique d'écriture, de lecture et de péremption.
Mémoire épisodique
Trace des événements marquants d'une relation : ce qui a été dit, décidé ou vécu à une date donnée. Interrogeable par similarité et par ordre chronologique.
Mémoire sémantique
Faits stabilisés extraits des épisodes : préférences, relations, connaissances acquises sur l'utilisateur ou sur le monde du personnage. Structure plus dense, moins volumineuse.
Consolidation
Processus périodique, asynchrone, qui relit les épisodes récents pour en extraire ou mettre à jour les faits sémantiques, sans bloquer le temps de réponse.
Oubli maîtrisé
Dégradation contrôlée de la mémoire épisodique ancienne et peu réutilisée, par expiration, résumé ou suppression explicite, pour contenir la dérive et respecter les durées de conservation contractuelles.
Orchestration
Router, outiller, mettre en file, reprendre.
Routage des requêtes
Chaque message entrant est qualifié avant d'atteindre un modèle : nature de la demande, canal d'origine, personnage concerné, niveau de confidentialité. Le routage détermine la chaîne d'outils et le modèle appelés.
Outils et fonctions
Le personnage dispose d'un ensemble d'outils typés — recherche documentaire, consultation d'un système métier, déclenchement d'une action — invoqués par le modèle selon un contrat d'interface strict, avec validation des paramètres avant exécution.
Files et asynchronisme
Les traitements non critiques pour la réponse immédiate (consolidation de mémoire, journalisation, enrichissement documentaire) passent par des files de messages, découplées du chemin de réponse à l'utilisateur.
Reprise sur erreur
Toute étape de la chaîne peut échouer sans provoquer une interruption perceptible : nouvelle tentative avec repli sur un modèle secondaire, réponse générique traçée pour analyse, ou reprise différée pour les tâches asynchrones.
Choix et combinaison de modèles
Pas de dépendance à un fournisseur unique.
Modèles ouverts et propriétaires
Le choix n'est jamais figé sur un fournisseur unique. Des modèles ouverts, hébergeables en France ou sur site, couvrent les tâches à confidentialité élevée ou à volume important ; des modèles propriétaires peuvent être mobilisés lorsque leurs performances le justifient et que le contexte de conformité le permet.
Spécialisation par tâche
Un même personnage combine plusieurs modèles selon la nature de la tâche : raisonnement conversationnel, extraction d'information structurée, résumé, classification de la modération. Chaque tâche est confiée au modèle le mieux dimensionné, plutôt qu'à un modèle unique surdimensionné pour tout faire.
Maîtrise des coûts
Le coût par échange dépend de la taille du modèle sollicité et du volume de contexte transmis. Le routage vers un modèle plus léger pour les tâches simples, et la limitation du contexte transmis à ce qui est pertinent, sont des leviers dimensionnants au même titre que la latence.
Recherche documentaire (RAG)
Ancrer les réponses dans les bases documentaires propriétaires.
Lorsqu'un personnage doit s'appuyer sur des documents internes — procédures, catalogues, historiques — la recherche augmentée par récupération (RAG) complète la mémoire relationnelle par une mémoire documentaire, avec des règles propres.
- Indexation
- Les documents propriétaires (procédures, catalogues, bases de connaissance internes) sont ingérés, nettoyés et indexés dans une base vectorielle, avec conservation des métadonnées de source et de date.
- Découpage
- Le découpage en fragments respecte les frontières sémantiques du document (sections, paragraphes) plutôt qu'une taille fixe arbitraire, pour préserver le sens de chaque fragment interrogé isolément.
- Citations
- Chaque réponse fondée sur une source documentaire conserve une référence vers le fragment d'origine, exploitable pour la vérification humaine et pour l'audit.
- Fraîcheur
- Les documents sources sont revalidés à fréquence définie contractuellement ; un document retiré ou modifié entraîne la mise à jour ou l'invalidation des fragments correspondants, pour éviter qu'une réponse s'appuie sur une information périmée.
Latence et temps de réponse
Un budget par étape, pas une moyenne globale.
La latence perçue dépend de la somme des étapes du chemin critique. Chacune est budgétée séparément, mesurée en production, et optimisée par streaming des jetons de réponse et pré-calcul de ce qui peut l'être en dehors du chemin critique.
| Étape | Cible |
|---|---|
| Réception et authentification de la requête | < 30 ms |
| Résolution du contexte (identité, canal, session) | < 20 ms |
| Recherche mémoire (court terme + épisodique) | < 80 ms |
| Recherche sémantique / RAG documentaire | < 150 ms |
| Sélection et appel du modèle de langage | < 600 ms au premier jeton |
| Vérification et filtrage de sortie | < 40 ms |
| Écriture asynchrone en mémoire | hors chemin critique |
Déploiement
Cloud souverain, sur site, ou les deux.
Cloud souverain
Hébergement chez un opérateur soumis au droit français, données et traitements localisés en France, avec engagements contractuels de localisation et d'accès.
Sur site
Déploiement dans l'infrastructure du client, jusqu'à l'air-gap complet pour les environnements sans connexion sortante, avec les modèles et les bases documentaires hébergés localement.
Hybride
Séparation des traitements sensibles, exécutés sur site ou en environnement cloisonné, et des traitements courants, exécutés en cloud souverain, selon la classification des données concernées.
Sécurité
Isoler, chiffrer, cloisonner l'accès.
- Isolation des environnements par client et, si nécessaire, par personnage
- Chiffrement des données au repos et en transit, gestion des clés distincte du fournisseur de modèle
- Gestion des secrets par un coffre dédié, jamais en clair dans le code ou la configuration
- Contrôle d'accès par rôle sur les mémoires, les outils et les tableaux de bord d'exploitation
RGPD et hébergement en France
La conformité se conçoit en amont, pas en audit.
Bases légales
Chaque traitement de données personnelles s'appuie sur une base légale identifiée dès la conception — exécution contractuelle, intérêt légitime documenté ou consentement explicite selon le contexte d'usage.
Minimisation
La mémoire du personnage ne conserve que ce qui sert la relation ou le service rendu ; les champs superflus ne sont ni collectés ni indexés.
Durées de conservation
Chaque catégorie de mémoire a une durée de conservation définie contractuellement, appliquée par des mécanismes de purge automatique et non par une intervention manuelle.
Droits des personnes
Accès, rectification, effacement et portabilité sont pris en charge au niveau de la mémoire individuelle, sans nécessiter d'intervention sur l'ensemble du système.
Sous-traitance
La chaîne de sous-traitants (hébergement, fournisseurs de modèles le cas échéant) est documentée et contractualisée conformément à l'article 28 du RGPD, avec localisation France ou Union européenne selon le niveau d'engagement retenu.
Réversibilité
Aucun enfermement propriétaire.
Un client doit pouvoir reprendre la main sur ses données et changer de fournisseur de modèle sans perdre la mémoire construite avec ses utilisateurs. Cette exigence est intégrée à l'architecture, pas ajoutée après coup.
- Export des mémoires dans un format structuré et documenté, exploitable indépendamment de la plateforme
- Découplage du modèle de langage : les mémoires et la logique métier ne dépendent pas d'un fournisseur unique
- Documentation des schémas de données et des interfaces, transmise au client, pas gardée en interne
- Clause de restitution et de suppression en fin de contrat, avec délai et format convenus à l'avance
Supervision, garde-fous et journalisation
Ce qui rend un système auditable.
Filtres
Les sorties du modèle passent par une couche de vérification avant diffusion : détection de contenu hors périmètre, incohérence factuelle manifeste ou sortie du registre défini pour le personnage.
Reprise humaine
Un opérateur peut intervenir dans la conversation, corriger une réponse ou reprendre la main sur un canal donné, sans que l'utilisateur perçoive de rupture technique.
Journalisation
Chaque échange, chaque appel d'outil et chaque écriture en mémoire est journalisé avec horodatage et identifiant de trace, exploitable pour l'audit, le débogage et la conformité contractuelle.
À lire aussi
Approfondir la technologie et la méthode.
Une revue d'architecture avant tout engagement.
Décrivez vos contraintes de déploiement, vos exigences de conformité et vos systèmes existants. Nous revenons avec une proposition d'architecture et un périmètre de sécurité adaptés à votre environnement.
Discuter de l'architecture