So prüfst du eine KI-Antwort vor der Verwendung

Eine KI-Antwort kann nützlich sein und trotzdem ein falsches Datum, einen erfundenen Nachweis oder einen unbelegten Schluss enthalten. Prüfe die Teile, auf die du dich verlassen möchtest, bevor du sie in eine Kundennachricht, einen Bericht oder eine Entscheidung übernimmst.

Bestimme, was geprüft werden muss

Kläre zuerst den Zweck. Ideen für Überschriften zu sammeln ist etwas anderes, als technische Daten zu erklären oder einen Vertrag zusammenzufassen. Markiere Aussagen, die dein Handeln oder das anderer Menschen beeinflussen könnten.

Trenne Fakten, Deutungen und Vorschläge. Ein Datum ist eine Tatsachenbehauptung. Die Erklärung einer Umsatzänderung kann eine Deutung sein. Ein empfohlener nächster Schritt ist ein Vorschlag. Jede dieser Arten braucht eine andere Prüfung.

Öffne die Quelle selbst

Fordere bei Bedarf Nachweise an und rufe sie selbst auf. Prüfe, ob das Dokument existiert, von der genannten Organisation stammt und die Aussage tatsächlich stützt. Auch ein funktionierender Link kann auf etwas anderes verweisen.

Kontrolliere Veröffentlichungsdatum, betrachteten Zeitraum und geografischen Geltungsbereich. Vorjahreszahlen oder Regeln eines anderen Landes beantworten nicht automatisch die heutige Frage. Suche bei wichtigen Aussagen nach Originalforschung, offizieller Dokumentation oder zuständigen Stellen statt nach einer Kette von Zusammenfassungen.

Rechne und vergleiche wichtige Details nach

Prüfe bei Zahlen Einheit, Bezugsgrösse und Rechnung. Vergleiche Produktangaben mit dem genauen Modell oder der richtigen Version. Suche Zitate im Original und lies den Zusammenhang.

Führe für veröffentlichte Inhalte eine kurze Prüfliste mit Aussage, Quelle, Prüfung und verbleibender Unsicherheit. Nicht belegbare Aussagen entfernst du, schränkst sie korrekt ein oder recherchierst weiter. Dasselbe System nach seiner Sicherheit zu fragen ist keine unabhängige Bestätigung.

Suche nach fehlenden Bedingungen

Frage, wann die Antwort nicht mehr zutrifft. Hängt die Empfehlung von einem Abonnement, einer bestimmten Umgebung oder einem Rechtsraum ab? Nutzt ein Vergleich dieselben Zeiträume und Annahmen?

Überzeugend vorgetragene Falschinformationen und übermässiges Vertrauen in KI sind relevante Risiken. Plane die Prüfung ausdrücklich ein, statt dich auf flüssige Sprache zu verlassen.

Mache die Prüfung im Ablauf sichtbar

Content-Teams können mit iMATRIX – AI Suite KI-Inhalte mit einem Prüf- und Freigabeprozess bearbeiten. Die öffentliche Beschreibung nennt Versionen und manuelle Freigaben. Diese Funktionen ersetzen nicht das Öffnen von Quellen und die Prüfung von Aussagen.

Transparenz: iMATRIX ist eines unserer eigenen Projekte.

Vor der Übernahme sollte die prüfende Person erklären können, welche wichtigen Aussagen kontrolliert wurden und was unsicher bleibt. Ziehe bei Fachfragen qualifizierte Personen hinzu. Entferne keine Einschränkungen, um aus einem plausiblen Entwurf scheinbar verbindliche Beratung zu machen.

Quellen: NIST: Artificial Intelligence Risk Management Framework — Generative Artificial Intelligence Profile (2024).