Halluzinationen in MCP vermeiden: Vor dem Schreiben verifizieren

Genauigkeit in MCP-Workflows sichern, indem Daten vor der Nutzung verifiziert werden. Dieser Guide zeigt, wann Tools zum Verifizieren von Aufgabendetails aufzurufen sind, wie Quellen aus der Tool-Ausgabe zitiert werden und wie erfundene Status, Daten und andere Halluzinationen vermieden werden.

Was dieser Guide abdeckt

Dieser Guide hilft, Halluzinationen in MCP-Workflows zu vermeiden:

Themen

Verifizierungsmuster: Wann Tools zum Verifizieren aufrufen
Zitierweise: Quellen aus der Tool-Ausgabe angeben
Halluzinations-Vermeidung: Erfundene Status, Daten, IDs vermeiden
Assistenten-Checkliste: Schritte für Genauigkeit
Best Practices: Muster, die Fehler vermeiden

Wann Aufgabendetails verifizieren

Vor Schreiboperationen

Immer Aufgabendetails verifizieren, bevor aktualisiert oder angelegt wird:

Sicheres Aktualisierungs-Muster

"Bevor du Aufgabe [Aufgaben-ID] aktualisierst, hole zuerst die aktuellen Aufgabendetails mit get_task. Zeige mir den aktuellen Status, Bearbeiter und Fälligkeitsdatum. Dann sage ich dir, was geändert werden soll."

Was die KI macht:

Ruft get_task auf, um den aktuellen Stand zu holen
Zeigt die tatsächlichen Aufgabendetails (nicht angenommen)
Nutzt verifizierte Daten für Updates
Verhindert falsche Aufgabe oder falschen Status

Vor dem Reporting

Daten verifizieren, bevor sie in Berichte einfließen:

Genauer Reporting-Prompt

"Erstelle einen Statusbericht aus meinen Corcava-Aufgaben. Für jede erwähnte Aufgabe rufe get_task auf, um den aktuellen Status und das Fälligkeitsdatum zu verifizieren, bevor du sie in den Bericht aufnimmst."

Was die KI macht:

Ruft list_tasks für die Aufgabenliste auf
Für wichtige Aufgaben get_task zur Verifizierung auf
Nutzt verifizierte Daten im Bericht
Zitiert Quelle: „Laut Aufgabendaten abgerufen um [Uhrzeit]“

Quellen aus der Tool-Ausgabe zitieren

Immer angeben, woher die Information stammt:

Zitier-Muster

"Liste meine Aufgaben mit Fälligkeit diese Woche. Für jede Aufgabe nenne die Quelle: 'Laut Aufgabendaten aus Corcava:' bevor du die Details auflistest."

Was die KI macht:

Ruft list_tasks auf, um Daten zu holen
Formatiert die Ausgabe mit Quellenangaben
Zeigt: „Laut Corcava-Aufgabendaten: [Details]“
Macht die Quelle für den Nutzer klar

Beispiel: Bericht mit Quellen

Bericht mit Zitaten

Statusbericht (mit Quellen):

Laut Aufgabendaten aus Corcava, abgerufen um 10:00 Uhr:

Aufgabe „Auth implementieren“ – Status: in_progress (verifiziert via get_task)
Aufgabe „API-Refaktor“ – Status: open (verifiziert via get_task)

Dieses Muster: Quelle klar, Verifizierung erkennbar

Erfundene Informationen vermeiden

Typische Halluzinationen

⚠️ Vermeiden

Erfundene Status: Aufgabenstatus nicht annehmen – immer abrufen
Erfundene Daten: Fälligkeiten nicht ableiten – aus Aufgabendaten holen
Falsche IDs: IDs nicht raten – immer auflisten und wählen
Angenommene Bearbeiter: Nicht annehmen, wer zugewiesen ist – verifizieren
Abgeleiteter Fortschritt: Erledigung nicht raten – tatsächlichen Status prüfen

Präventionsmuster

Immer-verifizieren-Muster

"Beim Erstellen eines Statusberichts nur Informationen aus Tool-Aufrufen verwenden. Wenn du keine Daten aus einem Tool-Aufruf hast, sage 'Information nicht verfügbar', statt zu raten."

Vorteile:

Verhindert erfundene Informationen
Erzwingt Tool-Aufrufe für Daten
Macht fehlende Daten explizit

Assistenten-Checkliste

Genauigkeits-Checkliste für Assistenten

Vor Schreiben verifizieren: Immer get_task/get_project vor dem Update aufrufen
Quellen nennen: Immer angeben, woher die Daten stammen (Tool-Ausgabe)
Keine Annahmen: Status, Datum, Bearbeiter nie annehmen – immer abrufen
IDs verifizieren: Immer Objekte auflisten, um richtige IDs zu finden, nicht raten
Zeitstempel prüfen: Notieren, wann Daten abgerufen wurden (können veraltet sein)
Fehlende Daten: „Nicht verfügbar“ sagen statt erfinden
Kritische Infos doppelt prüfen: Bei wichtigen Operationen zweimal verifizieren

Vollständige Beispiele

Beispiel 1: Sicheres Status-Update

Vollständiger sicherer Update-Prompt

"Ich möchte den Status von Aufgabe [Aufgaben-ID] auf 'in_progress' setzen. Zuerst rufe get_task auf, um die aktuellen Aufgabendetails zu holen. Zeige mir: - Aktueller Status (aus Tool-Ausgabe) - Aufgabentitel (aus Tool-Ausgabe) - Projektname (aus Tool-Ausgabe) Dann bestätige, dass es die richtige Aufgabe ist. Erst dann den Status aktualisieren. Den aktuellen Status nicht annehmen – immer aus dem Tool holen."

Dieses Muster: Verifizieren → Zeigen → Bestätigen → Aktualisieren

Beispiel 2: Genauer Statusbericht

Vollständiger genauer Bericht-Prompt

"Erstelle einen Statusbericht aus meinen Corcava-Aufgaben mit Fälligkeit diese Woche. Für jede Aufgabe im Bericht: 1. Rufe get_task auf, um aktuellen Status und Fälligkeit zu verifizieren 2. Nenne die Quelle: 'Laut Aufgabendaten abgerufen um [Uhrzeit]' 3. Nur Informationen aus Tool-Aufrufen einbeziehen 4. Bei fehlenden Daten 'Information nicht verfügbar' sagen Keine Aufgabendetails annehmen oder erfinden."

Dieses Muster: Jede Aufgabe verifizieren → Quellen nennen → Keine Annahmen

Best Practices

Best Practices zur Halluzinations-Vermeidung

Immer verifizieren: Tools aufrufen, um aktuelle Daten zu holen, bevor sie genutzt werden
Quellen nennen: Immer angeben, woher die Information stammt
Keine Annahmen: Status, Daten oder andere Details nie annehmen
Fehlende Daten: Explizit sagen, wenn Daten nicht verfügbar sind
IDs verifizieren: Immer auflisten, um richtige IDs zu finden
Kritisches doppelt prüfen: Bei wichtigen Operationen zweimal verifizieren
Zeitstempel notieren: Angeben, wann Daten abgerufen wurden

Fehlerbehebung

KI erfindet Informationen

Symptom: KI berichtet Status oder Daten, die nicht der Realität entsprechen

Lösung:

Tool-Aufrufe explizit verlangen: „Rufe get_task zur Verifizierung auf“
Annahmen verbieten: „Nicht annehmen, immer abrufen“
Quellenangaben verlangen: „Quelle für alle Informationen nennen“

Veraltete Daten in Berichten

Symptom: Bericht zeigt veraltete Informationen

Lösung:

Frische Daten verlangen: „Rufe get_task auf, um aktuellen Status zu holen“
Zeitstempel einbeziehen: „Angeben, wann Daten abgerufen wurden“
Vor dem Reporting verifizieren: „Jede Aufgabe vor der Aufnahme verifizieren“