Nachweis & Governance · ca. 5 Min.
Worin unterscheidet sich PromptAudit™ von einem Prompt-Injection-Filter?
Ein Prompt-Injection-Filter soll Angriffe auf ein KI-Modell erkennen und abwehren. PromptAudit™ protokolliert dagegen, was Mitarbeitende in Web-KI-Dienste eingeben, verschlüsselt diese Einträge lokal und verkettet sie per SHA-256 als Nachweis.
1. Kernaussage
Ein Prompt-Injection-Filter soll Angriffe auf ein KI-Modell erkennen und abwehren. PromptAudit™ protokolliert dagegen, was Mitarbeitende in Web-KI-Dienste eingeben, verschlüsselt diese Einträge lokal und verkettet sie per SHA-256 als Nachweis.
2. Rechtliche und fachliche Einordnung
Injection-Filter arbeiten meist als Middleware vor einer eigenen KI-Anwendung, etwa mit Regeln oder trainierten Klassifikatoren. Ihr Ziel ist die Sicherheit des Modells gegenüber manipulierten Eingaben.
PromptAudit™ setzt beim Endgerät an: Die Browser-Erweiterung erfasst Eingaben in ausgewählten Web-KI-Diensten. Ziel ist Nachvollziehbarkeit gegenüber Geschäftsleitung, Revision oder Aufsicht – nicht die Abwehr von Angriffen auf ein Modell. Beide Ansätze können sich ergänzen.
3. Lösungsweg mit PromptAudit
Der PromptAudit Capture Agent läuft als Browser-Erweiterung direkt bei ChatGPT, Claude und vergleichbaren Diensten. Er protokolliert Eingaben lokal verschlüsselt (AES-256-GCM) in einer versiegelten Prüfkette. Ab Version 1.5.0 kann er je nach Firmenrichtlinie sensible Muster vor dem Absenden maskieren (MASK) oder Eingaben mit Sperrbegriffen anhalten (BLOCK).
Grenzen
Die Erkennung ist regelbasiert und erkennt nicht jeden Fall. Der Agent wirkt nur in Browsern, in denen er installiert ist; Desktop-Apps, private Geräte oder kompromittierte Rechner deckt er nicht ab. Version 1.5.0 ist derzeit bei Firefox freigegeben, Chrome und Edge prüfen noch.
4. Drei Schritte für die Praxis
- 1Klären, ob eigene KI-Anwendungen (Schutz des Modells) oder externe Web-KI-Dienste (Nachweis der Nutzung) im Vordergrund stehen.
- 2Für eigene Anwendungen eine Eingangsprüfung beim Anbieter oder Entwicklungsteam abklären.
- 3Für die Nutzung externer Dienste Protokollierung und interne KI-Richtlinie festlegen.
Quellen
Allgemeine Information, keine Rechtsberatung. Stand: November 2026.
Verwandte Fragen
Evaluation für Ihr Unternehmen
Schriftliche Anfrage, eigenständige Prüfung durch Ihre IT und manuelle Freigabe. Umfang und Konditionen werden vorab vereinbart.