Chatbot IA : vérifier ses accès avant ses consignes

Un document peut contenir des instructions

Imaginons un assistant qui recherche dans des manuels importés. Un passage peut tenter de détourner son travail au lieu d’apporter une information produit. OWASP décrit cette voie d’injection indirecte. Cet exemple ne rapporte aucun incident client.

Recensez les sources interrogées et les personnes qui peuvent les modifier. Traitez leur texte comme une entrée non fiable. Ne placez pas de secrets dans le prompt système en comptant sur le modèle pour les garder.

Que peut-il faire après sa réponse ?

Lire des manuels publics n’expose pas aux mêmes risques que consulter des dossiers clients ou envoyer des e-mails. Listez les opérations connectées et leurs contrôles. L’application doit vérifier si l’utilisateur courant est autorisé à chaque action.

Limitez les droits des identifiants utilisés par les outils et exigez une approbation pour les actions importantes. Une consigne de ne pas abuser d’un outil ne réduit pas ses permissions réelles.

Tester avec des dossiers fictifs

Dans un environnement approuvé, préparez deux clients fictifs et des documents contenant des instructions contradictoires sans danger. Vérifiez la recherche et les tentatives d’action, pas seulement la réponse finale. Consignez les échecs et les refus corrects sans enregistrer de secrets.

Ces points relèvent de l’évaluation d’applications IA ; ils ne décrivent pas le forfait standard Mingxi. Un contrôle de site public ne certifie ni chatbot, ni base documentaire, ni processus connecté.

Liste pratique

• Inventorier les sources et leurs éditeurs.
• Relier chaque outil à ses permissions effectives.
• Utiliser des données fictives pour les tests autorisés.
• Consigner les résultats de recherche et d’action.

Question fréquente

Un prompt système plus strict bloque-t-il toute injection ?

Le texte seul ne permet pas cette garantie. Il faut des contrôles d’accès applicatifs, des permissions limitées et des tests délimités. Prompts et filtres sont des protections supplémentaires.