MingxiSecurity CheckKI-Chatbots: Erst Zugriffe prüfen, dann Prompts
Auch Dokumente können Anweisungen enthalten
Stellen Sie sich einen Supportbot vor, der hochgeladene Handbücher durchsucht. Ein Absatz könnte ihn umleiten wollen, statt Produktwissen zu liefern. OWASP beschreibt diesen indirekten Injektionsweg. Das Beispiel ist hypothetisch, kein Kundenvorfall.
Erfassen Sie Datenquellen und Bearbeitungsrechte. Behandeln Sie abgerufene Texte als nicht vertrauenswürdige Eingaben. Hinterlegen Sie keine Geheimnisse im Systemprompt in der Erwartung, das Modell werde sie schützen.
Was kann der Bot außer antworten?
Öffentliche Handbücher zu lesen ist etwas anderes, als Kundendaten abzurufen oder E-Mails zu senden. Listen Sie verbundene Operationen und ihre Kontrollen auf. Die Anwendung muss prüfen, ob der aktuelle Nutzer jede Aktion ausführen darf.
Beschränken Sie Tool-Zugangsdaten auf nötige Rechte und verlangen Sie Freigaben für folgenreiche Aktionen. Eine Aufforderung, ein Tool nicht zu missbrauchen, begrenzt dessen tatsächliche Berechtigungen nicht.
Mit fiktiven Datensätzen testen
Bereiten Sie in einer freigegebenen Umgebung zwei erfundene Kunden und Dokumente mit harmlosen widersprüchlichen Anweisungen vor. Prüfen Sie Abrufgrenzen und versuchte Tool-Aktionen zusätzlich zur Antwort. Dokumentieren Sie Fehler und korrekte Ablehnungen ohne Geheimnisse.
Dies sind Fragen für eine KI-Anwendungsprüfung, keine Leistungszusage des Mingxi-Standardpakets. Eine öffentliche Website-Prüfung zertifiziert weder Chatbot noch Wissensbasis oder angeschlossene Geschäftsabläufe.
Praktische Checkliste
- Quellen und Bearbeitungsrechte erfassen.
- Jedes Tool seinen durchgesetzten Rechten zuordnen.
- Freigegebene Tests mit fiktiven Daten durchführen.
- Abrufe und Aktionsergebnisse dokumentieren.
Häufige Frage
Verhindert ein strengerer Systemprompt jede Injection?
Das lässt sich durch Formulierungen allein nicht garantieren. Nutzen Sie anwendungsseitige Zugriffskontrollen, begrenzte Tool-Rechte und abgegrenzte Tests. Prompts und Filter sind zusätzliche Schutzschichten.
Quelle und weiterführende Informationen
Allgemeine Lerninhalte, keine Befunde zu Ihren Systemen. Tests erfordern einen vereinbarten Umfang und eine Autorisierung.
Leistungsumfang
Standardprüfung öffentlicher Sicherheit · US$120
Eine ausdrücklich vereinbarte Website oder öffentliche API. Subdomains, verbundene Anwendungen und weitere Assets sind nicht automatisch enthalten.
Keine Tests angemeldeter Funktionen, mehrerer Kontorollen, Geschäftsabläufe oder komplexer Geschäftslogik.
Leistungsumfang · Kontakt