„Die Outputs sind sensationell gut, aber mit Vorsicht zu genießen.“ — Mit dieser klaren Ansage startet Timon Hartung (Gründer & Geschäftsführer der Technologieberatung WOXOW) die Podcast-Folge zum Thema KI-Halluzination. Er zeigt, warum große Sprachmodelle wie Gemini und GPT manchmal daneben liegen, welche Muster dahinterstecken und wie du im Alltag verlässliche Ergebnisse bekommst — besonders in Bereichen wie AI-SEO und technischem Marketing.
Was ist eine KI-Halluzination?
Unter KI-Halluzination (auch als AI-Halluzination oder Konfabulation bekannt) versteht Timon zwei Phänomene:
- Thematische Verfehlung: Das Modell interpretiert deinen Prompt falsch (z. B. „Beamer“ → BMW statt Projektor).
- Faktische Unrichtigkeit: Die Antwort wirkt plausibel, enthält aber falsche Details.
„Wichtiger ist die faktische Richtigkeit“, betont Timon. „Wenn nur ein entscheidender Schritt fehlt, brichst du dir die ganze Lösung.“
Zwei typische Fehlerquellen für KI-Halluzinationen
- Zu kurze, mehrdeutige Prompts: Bei Google sind 1–3 Keywords oft okay. Bei KI nicht. „Eine KI kann mit ‘Hund’ oder ‘Kreditkarte’ wenig anfangen“, so Timon. Mehr Kontext = weniger Halluzinationen.
- Falsche Sicherheit bei plausiblen Antworten: KI will „gefallen“. Suggestive Fragen erhöhen das Risiko, dass die Antwort in deinem Sinne — aber ohne belastbare Fakten — formuliert wird.
Praxisbeispiele aus Timons Alltag
„Ich war kurz davor, eine angeblich direkte Bahnverbindung von München nach Köln zu buchen. Auf bahn.de gab es die natürlich nicht.“
- Reiseplanung: Stündliche ICE‑Verbindungen und „Zwischenorte“ wurden frei erfunden.
- iPad‑Wiederherstellung (iPad mini 5): Die KI mischte Anleitungen verschiedener Modelle. Ein entscheidender Schritt fehlte: „Erst auf der Apple‑Seite habe ich es korrekt gefunden.“
- Excel‑Liste deduplizieren: Aus <50 Varianten machte die KI „13“. Bei kleinen Datenmengen merkst du es, bei großen nicht — gefährlich.
Auch bei Webseiten‑Audits sah Timon Falschmeldungen wie „kein HTTPS“, obwohl es aktiv war. Das Ergebnis: Selbstbewusste Falschaussagen mit sehr konkreten (aber falschen) Empfehlungen.
Lost‑in‑the‑Middle: Wenn Wichtiges in langen Kontexten verschwindet
„Große Kontextfenster sind kein Allheilmittel“, warnt Timon. Je länger der Input, desto eher fokussiert das Modell Anfang und Ende — kritische Infos in der Mitte gehen unter. Das betrifft Meeting‑Transkripte, Dokus, sogar ganze Bücher. Heißt: Mehr Kontext kann paradoxerweise zu schlechteren Antworten führen.
Warum KI-Modelle halluzinieren – die Kurzmechanik
- Trainingsdaten sind breit, aber nicht tief: Bei Nischenthemen entsteht eine Wissenslücke. Die KI „füllt“ sie plausibel — nicht zwingend korrekt.
- Komplexität & Rechenbudget: Bei sehr langen Inputs priorisiert die Architektur (Aufmerksamkeitsmechanismus) Ränder statt Mitte.
- Optimierung auf Gefallen: Durch Feintuning (RLHF) neigen Modelle dazu, Nutzer‑Erwartungen zu bestätigen.
Timon verweist auf Benchmarks, die je nach Setup von niedrigen einstelligen bis über 30 % Halluzinationsraten zeigen — der Prompt macht den Unterschied.
So erkennst du KI-Halluzinationen (und reduzierst sie)
Checkliste für deinen Prompt
- Kontext satt: Ziel, Zielgruppe, Format, Quellenlage, Constraints.
- Disambiguierung: Erkläre unklare Begriffe („Beamer = Projektor“).
- Anti-Suggestiv: Frag neutral, fordere Gegenargumente („Welche Einwände gibt es?“).
- Schritt‑für‑Schritt: Bitte um Herleitung, nicht nur Ergebnis.
- Unsicherheiten offenlegen lassen: „Markiere Annahmen/Unsicherheiten in der Antwort.“
Checkliste für die Antwort
- Faktenanker: Enthält die Antwort Quellen, Versionen, Daten, Spezifika?
- Kritische Details verifizieren: Tastenkombis, Preise, Verfügbarkeiten und rechtliche Vorgaben immer gegenprüfen.
- Mittelteil prüfen: Bei langen Inputs explizit nach Inhalten aus der Mitte fragen.
- Numerik misstrauen: Rechenschritte oder Aggregationen extern (Excel/Tool) validieren.
- Ask‑for‑dissent: Bitte die KI, ihre eigene Antwort zu challengen („Was könnte hier falsch sein?“).
Was bedeutet das für SEO & Marketing?
„AI ersetzt aktuell noch keinen SEO‑Experten“, sagt Timon. Strategie‑Outputs sind oft Basic, selten innovativ. Stark ist die KI bei Content‑Erstellung, Re‑Writes, Zusammenfassungen und als erste Ideensammlung — nicht als einziges Wahrheits‑System.
Gefahr: Wer KI-Antworten ungeprüft übernimmt, verbreitet möglicherweise Falschinformationen (z. B. in Help‑Centern, Produktguides, Snippets). Das kann Kosten, Conversions und Vertrauen schädigen. Ein professioneller Einsatz von AI im Marketing ist nötig, um gute Ergebnisse zu erzielen.
Timons bewährter Workflow
- Briefing sauber schreiben (Kontext, Ziel, Tonalität, No‑Gos).
- Erstentwurf von der KI holen — ohne finalen Wahrheitsanspruch.
- Faktcheck & Quellenabgleich (Docs, Herstellerseiten, Tools).
- Experten‑Review (inhouse oder extern).
- Finalisieren und laufend monitoren (Feedback, KPIs, Userfragen).
„Der Experte, der beurteilen kann, ob der Output richtig ist, wird mehr gebraucht denn je.“
Häufige Stolpersteine, die du vermeiden solltest
- „Kürzer ist besser“ – nicht bei Prompts.
- „Großes Kontextfenster = sichere Antworten“ – nur scheinbar.
- „Klingt gut = ist wahr“ – Plausibilität ist kein Beweis.
- „KI kann rechnen“ – nur begrenzt und oft fehleranfällig.
Zitate, die im Gedächtnis bleiben
- „Wir kriegen keine ehrlichen Antworten, wenn wir suggestiv fragen.“
- „Nur ein fehlender Tastendruck kann die ganze Anleitung nutzlos machen.“
- „Ich nutze KI täglich — aber ich prüfe täglich.“
Dein nächster Schritt
- Teste die Checklisten oben an deinem nächsten Prompt.
- Verknüpfe AI‑Ideation mit menschlichem Fact‑Checking.
- Hol dir Austausch: Vernetze dich mit Timon auf LinkedIn — Timon Hartung (LinkedIn).
