DE
Jetzt starten

Blog · Wissen

KI-Halluzinationen vermeiden: So bleibt die Website korrekt

Warum KI-Assistenten Fakten erfinden und wie du mit Faktenblatt, Vorschau und Prüfung verhinderst, dass Fehler auf deiner Website landen.

Von Matthias Gutknecht · · 15 Min. Lesezeit
Isometrische Illustration: Eine Reihe von Inhaltskarten läuft auf eine Website zu, eine fehlerhafte Karte wird vorher an einer Prüfwand aufgehalten

Ganz ausschliessen lassen sich KI-Halluzinationen nicht, aber du kannst verhindern, dass sie auf deiner Website landen. Dafür braucht es vier Dinge: Du gibst dem KI-Assistenten deine eigenen Fakten als Grundlage, du stellst klare Einzelaufträge, du prüfst jede Änderung, bevor sie online geht, und du kannst einen Fehler schnell zurücknehmen. Die ersten beiden Punkte erledigst du im Gespräch mit Claude oder ChatGPT. Für die letzten beiden brauchst du eine Vorschau vor dem Veröffentlichen und gespeicherte Versionen, die du zurückholen kannst.

Das Wichtigste in Kürze

  • Eine KI-Halluzination ist eine Aussage, die überzeugend klingt, aber falsch oder erfunden ist. Sprachmodelle berechnen das wahrscheinlichste nächste Wort, sie prüfen keine Wahrheit.
  • Am wirksamsten ist ein Faktenblatt mit deinen echten Angaben: Preise, Öffnungszeiten, Adresse, Referenzen. Der Assistent soll nur daraus schöpfen und Lücken offen markieren.
  • Prüfe Zahlen, Namen, Zitate, Links und Rechtstexte selbst, und zwar auf der fertigen Seite in der Vorschau, nicht nur im Chat.
  • Lass vor der Veröffentlichung eine zweite Person gegenlesen und halte fest, wer freigibt.
  • Rechne mit Restfehlern: Wichtig ist, dass du eine falsche Änderung auf die vorherige Version zurücksetzen kannst.

Was eine KI-Halluzination ist

Ein KI-Assistent wie Claude oder ChatGPT beruht auf einem grossen Sprachmodell, kurz LLM (Large Language Model): einem Programm, das aus riesigen Textmengen gelernt hat, wie Sprache weitergeht. Ein Merkblatt der Bundesverwaltung, veröffentlicht von der Bundeskanzlei, bringt den Kern auf den Punkt: Solche Modelle erzeugen ihre Antworten aufgrund statistischer Wahrscheinlichkeiten für das nächste Wort, nicht unter Berücksichtigung des Wahrheitsgehalts. Deshalb können sie Aussagen und sogar Quellenangaben erfinden, die es nicht gibt.

Das Fraunhofer IESE beschreibt Halluzinationen als Inhalte, die realistisch erscheinen, aber von den vorgegebenen Quellen abweichen oder faktisch nicht richtig sind. Als Ursachen nennt das Institut unter anderem die Trainingsdaten und die Art, wie das Modell trainiert wurde.

Dazu kommt ein zweites Muster, das der Schweizerische Anwaltsverband in seiner Wegleitung zum Umgang mit KI beschreibt: Sycophancy, also die Neigung eines Modells, seine Antworten an die Sichtweise des Benutzers anzupassen. Schreibst du «Wir sind seit 1998 im Geschäft, oder?», bestätigt der Assistent das womöglich, auch wenn ihr 2008 gegründet habt.

Für dich als Inhaberin oder Inhaber eines kleinen Unternehmens heisst das: Der Assistent ist ein sehr guter Texter und Programmierer, aber er kennt deinen Betrieb nur so gut, wie du ihn beschreibst. Was er nicht weiss, füllt er mit Plausiblem auf.

Wo Halluzinationen auf einer Website auftauchen

Auf einer Firmenwebsite sind nicht alle Fehler gleich teuer. Ein holpriger Satz stört, eine falsche Telefonnummer kostet Aufträge. Diese Stellen solltest du besonders im Blick behalten:

Stelle auf der Website Typische Halluzination Was du dagegen tust
Preise und Angebote Erfundene Pakete, gerundete oder alte Preise Preise nur aus deiner Preisliste übernehmen lassen
Kontakt und Öffnungszeiten Falsche Telefonnummer, erfundene Samstagsöffnung Im Faktenblatt festhalten, auf der Vorschau prüfen
Über uns Falsches Gründungsjahr, erfundene Teamgrösse Nur deine Angaben verwenden lassen
Referenzen und Kundenstimmen Erfundene Zitate, Kundennamen, Bewertungen Nur echte, freigegebene Stimmen einfügen
Zertifikate und Mitgliedschaften Labels, die du nicht besitzt Ausdrücklich verbieten, solche Angaben zu ergänzen
Impressum und Datenschutzerklärung Falsche Gesetzesartikel, Angaben, die nicht zu deinem Betrieb passen Mit offiziellen Quellen und deinen tatsächlichen Abläufen abgleichen
Links und Quellen Links auf Seiten, die es nicht gibt Jeden Link in der Vorschau anklicken

Die gefährlichsten Fehler stecken in kleinen Details. Darum reicht es nicht, den Text im Chat zu überfliegen. Du musst die Seite so ansehen, wie deine Kundschaft sie sieht. Was ins Impressum gehört, steht im Beitrag Impressum in der Schweiz.

Sieben Schritte gegen Halluzinationen

Die folgenden Schritte funktionieren mit Claude und mit ChatGPT, also mit dem Assistenten, den du ohnehin nutzt.

1. Gib dem Assistenten ein Faktenblatt

Schreibe die Angaben, die stimmen müssen, einmal sauber auf: Firmenname, Adresse, Telefon, E-Mail-Adresse, Öffnungszeiten, Leistungen, Preise, Gründungsjahr, Team, echte Kundenstimmen. Lade dieses Dokument zu Beginn des Gesprächs hoch oder füge es ein.

Das Merkblatt der Bundesverwaltung hält fest, dass sich Halluzinationen einschränken lassen, wenn man dem Modell einen Kontext wie Textdokumente zur Verfügung stellt. Es sagt aber auch: Sobald eine Antwort Inhalte ausserhalb dieses Kontexts enthält, kann wieder Erfundenes entstehen. Für grosse Wissensbestände gibt es dafür eigene Systeme, die Fachleute RAG nennen (Retrieval-Augmented Generation: Das Modell holt sich vor der Antwort Informationen aus einer Wissensbasis). Das Fraunhofer IESE bezeichnet RAG als verbreitete und hilfreiche Methode, um Halluzinationen zu vermeiden. Für deine Website ist das Faktenblatt die einfache Form davon.

2. Erlaube «Das weiss ich nicht»

Schreibe in deinen Auftrag ausdrücklich: «Verwende nur Angaben aus dem Faktenblatt. Wenn eine Angabe fehlt, schreibe [FEHLT: …] statt etwas zu erfinden.» So wird aus einer möglichen Halluzination eine sichtbare Lücke, die du selbst füllst. Ein Platzhalter in der Vorschau fällt auf, eine erfundene Zahl nicht.

3. Stelle einzelne, klare Aufträge

Ein Auftrag wie «Mach die ganze Website besser» lädt den Assistenten ein, vieles gleichzeitig umzuschreiben, und Fehler verstecken sich in der Masse. Ein Beitrag im Blog der Universitätsbibliothek Zürich rät beim KI-gestützten Schreiben, mit einem eigenen Entwurf zu beginnen, beim Überarbeiten nur eine Sache aufs Mal anpassen zu lassen und mehrere Vorschläge zu verlangen. Lässt man einen Text generell überarbeiten, ändert sich alles auf einmal, und es wird schwierig, Gutes zu behalten. Für deine Website heisst das: eine Seite, ein Abschnitt, eine Änderung pro Auftrag. So siehst du genau, was sich geändert hat. Wie solche Aufträge klingen, zeigt der Beitrag Website im Chat pflegen.

4. Verbiete erfundene Belege

Zitate, Bewertungen, Kundennamen, Statistiken und Auszeichnungen sind die Stellen, an denen Assistenten gern auffüllen, weil eine Website damit überzeugender wirkt. Schreibe deshalb dazu: «Erfinde keine Kundenstimmen, Zahlen, Zertifikate oder Quellen.» Wenn du einen Text mit Fakten von aussen brauchst, etwa einen Ratgeber für deine Branche, lass dir die Quelle zu jeder Aussage nennen und öffne jeden Link selbst.

5. Prüfe auf der fertigen Seite, nicht im Chat

Im Chat liest du Text. Deine Besucherinnen und Besucher sehen eine Seite mit Layout, Menüs, Buttons und Links. Viele Fehler zeigen sich erst dort: ein Button, der ins Leere führt, ein Preis, der in der mobilen Ansicht abgeschnitten ist, eine alte Telefonnummer im Fussbereich.

Darum gehört zwischen Gespräch und Veröffentlichung eine Vorschau: eine Fassung der Website, die du ansehen kannst, bevor sie für alle online ist. Mehr dazu im Beitrag Staging-Website.

6. Lass eine zweite Person gegenlesen

Professionelle Redaktionen verlassen sich nicht auf eine einzelne Prüfung. Die Nachrichtenagentur Keystone-SDA verlangt in ihren KI-Richtlinien das Vier-Augen-Prinzip und dieselben Qualitätskontrollen wie bei klassisch erstellten Inhalten. Auch swissinfo.ch schreibt vor, dass jeder mit KI erstellte Inhalt vor der Veröffentlichung von einer Person überprüft wird.

Das musst du nicht kopieren, aber das Prinzip passt auch für einen Betrieb mit drei Leuten: Wer die Preise kennt, liest die Preisseite. Wer das Telefon abnimmt, prüft die Kontaktseite.

7. Halte einen Rückweg bereit

Auch mit allen Vorsichtsmassnahmen rutscht irgendwann ein Fehler durch. In der Anwaltsrevue, der Fachzeitschrift des Anwaltsverbands, hält Andreas Von Gunten fest, dass das Problem der Halluzinationen nie vollständig verschwinden wird, solange die Technik auf diesem statistischen Fundament beruht. Entscheidend ist dann, wie schnell du korrigierst.

Am schnellsten geht das, wenn jede Änderung als eigene Version gespeichert ist. Dann holst du den letzten richtigen Stand zurück, statt den Fehler unter Zeitdruck von Hand zu suchen. Wie das abläuft, erklärt der Beitrag Rollback einer Website.

So erkennst du eine Halluzination

Das Merkblatt der Bundesverwaltung warnt vor dem sogenannten Automation Bias: Weil die Modelle sprachlich fehlerfreie und überzeugende Texte liefern, entsteht leicht ein zu grosses Vertrauen in ihre Aussagen. Ein flüssiger Text ist kein Beleg dafür, dass er stimmt. Achte auf diese Warnzeichen:

  • Sehr präzise Angaben ohne Herkunft: «Über 1200 zufriedene Kundinnen und Kunden» in einem Text, für den du keine Zahl geliefert hast.
  • Zitate und Quellen, die du nicht kennst: Der Kommunikationsverband pr suisse empfiehlt, Fakten, Zahlen und Zitate anhand verlässlicher Quellen zu prüfen und erfundenen oder nicht überprüfbaren Quellen und Zitaten nicht zu vertrauen.
  • Widersprüche bei Wiederholung: Stell dieselbe Frage in einem neuen Gespräch noch einmal. Weichen die Antworten stark voneinander ab, ist Vorsicht geboten. Das Fraunhofer IESE beschreibt diesen Vergleich mehrerer Antworten als eine Methode, Unsicherheit zu erkennen.
  • Angaben, die zu gut passen: Ein Gütesiegel, das genau zu deiner Branche passt, das du aber nie beantragt hast.

Ein Punkt wird oft übersehen: Frag den Assistenten nicht, ob seine eigene Antwort stimmt, und verlass dich nicht darauf. Der Anwaltsverband hält fest, dass man ein KI-System nicht einfach fragen kann, ob sein Output der Wahrheit entspricht. Die Prüfung gegen dein Faktenblatt oder eine offizielle Quelle bleibt deine Aufgabe.

Was rechtlich gilt

Die folgenden Punkte sind allgemeine Information, keine Rechtsberatung. Bei konkreten Fragen zu deinem Betrieb wende dich an eine Anwältin oder einen Anwalt.

Datenschutz (DSG): Der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) hält fest, dass das Schweizer Datenschutzgesetz auf KI-gestützte Datenbearbeitungen direkt anwendbar ist. Für dich heisst das vor allem: Gib Personendaten von Kundinnen, Kunden oder Mitarbeitenden nur dann in den Chat, wenn das zulässig ist, und prüfe, dass die Datenschutzerklärung, die der Assistent entwirft, zu deinen tatsächlichen Abläufen passt. Die europäische DSGVO betrifft Schweizer Websites nur in bestimmten Fällen; ob sie für dich gilt, hängt davon ab, wen du mit deinem Angebot ansprichst. Einen Überblick gibt die DSGVO-Checkliste für Websites.

Falsche Angaben über dein Angebot: Nach dem Bundesgesetz gegen den unlauteren Wettbewerb handelt unlauter, wer über sich, seine Waren, Leistungen oder deren Preise unrichtige oder irreführende Angaben macht (Art. 3 Abs. 1 lit. b UWG). Eine halluzinierte Auszeichnung oder ein erfundener Rabatt ist also nicht nur peinlich. Verantwortlich bleibt der Mensch: pr suisse hält fest, dass die Verantwortung für Inhalt, Freigabe und Wirkung bei Menschen und Organisationen liegt, nicht bei der KI.

Übersicht «Rechtliche Leitplanken»: DSG gilt direkt für KI-Datenbearbeitung, DSGVO nur in bestimmten Fällen, UWG verbietet unrichtige und irreführende Angaben, Nutzende bleiben für KI-Inhalte verantwortlich

Klare Regeln für Teams und Agenturen

Sobald mehrere Personen mit KI an einer Website arbeiten, braucht es Abmachungen. pr suisse empfiehlt Organisationen festzulegen, welche KI-Systeme und Daten verwendet werden dürfen, wann eine menschliche Prüfung nötig ist und wer Inhalte freigibt. Ausserdem soll geregelt sein, wer die Korrektur verantwortet, wenn doch etwas Falsches erscheint, und zwar auch zwischen Auftraggebern und Agenturen.

Für ein KMU reicht dafür oft eine halbe Seite: welcher Assistent, welches Faktenblatt, wer prüft welche Seite, wer veröffentlicht. Wer tiefer einsteigen will, findet eine Anleitung, wie man KI-Systeme im Unternehmen richtig einstuft. Das Merkblatt der Bundesverwaltung fordert die Angestellten des Bundes auf, vor dem Einsatz von Sprachmodellen in ihrer täglichen Arbeit eine individuelle Risikoanalyse zu machen. Das ist auch für einen Betrieb ein guter Gedanke.

Übersicht «Teamregeln für KI»: zulässige Systeme und Daten festlegen, menschliche Prüfung festlegen, zuständige Person für die Freigabe bestimmen, Verantwortung für Fehlerkorrekturen vor der Veröffentlichung klären, Faktenblatt bei einer Agenturübergabe gemeinsam freigeben

Für Agenturen kommt ein Punkt dazu: Wer eine Website im eigenen Konto baut und sie danach dem Kunden übergibt, sollte das Faktenblatt gemeinsam mit dem Kunden erstellen und vor der Übergabe freigeben lassen. Dann übernimmt der Kunde eine geprüfte Website. Wie eine solche Übergabe abläuft, steht im Beitrag Websites für Kunden bauen und übergeben.

So ist es bei MADLAB // Publishing

Bei MADLAB // Publishing ist Claude oder ChatGPT dein Redaktor: Der Assistent baut und ändert die Website im Gespräch. Wir veröffentlichen, hosten und verwalten sie, mit Vorschau, Versionen und Zurückholen. Gegen Halluzinationen heisst das:

  • Erst Vorschau, dann live. Was dein Assistent ändert, siehst du zuerst in einer Vorschau. Online geht es erst, wenn du veröffentlichst. Die Vorschau-Adresse kannst du weitergeben, damit eine zweite Person gegenliest; sie gilt nur eine begrenzte Zeit und wird von Suchmaschinen nicht aufgenommen.
  • Jede Änderung eine Version. Alle Dateien, die in einem Durchgang geändert werden, bilden zusammen eine Version, mit Zeit, Autor und Beschreibung. In den bezahlten Plänen werden Versionen unbegrenzt aufbewahrt. Siehe Versionen und Zurückrollen.
  • Zurückholen ohne Löschen. Steht etwas Falsches online, holst du einen früheren Stand zurück und veröffentlichst ihn. Das Zurückholen ist selbst ein Eintrag im Verlauf, nichts geht verloren.
  • Die Seitenprüfung hilft mit. Dein Assistent kann die Website vor dem Veröffentlichen prüfen lassen. Die Prüfung meldet unter anderem Platzhalter und Beispieltexte wie «Lorem ipsum» oder «Musterstrasse». Ein [FEHLT: …] aus deinem Faktenblatt-Auftrag siehst du spätestens in der Vorschau.
  • Im Team mit klaren Rollen. Jede Person hat ein eigenes Login und einen eigenen zweiten Faktor. Mitglieder bauen, zeigen Vorschauen und veröffentlichen, Plan und Team bleiben bei der Inhaberin oder dem Inhaber. Siehe Im Team arbeiten.
  • Übergabe mit Verlauf. Übergibt eine Agentur eine Website, zieht sie mit Dateien, Versionen und Adresse ins Konto des Kunden. Siehe Website übergeben.

Die ehrliche Grenze: Ohne CMS gibt es keine Oberfläche, in der jemand ohne Assistent Texte bearbeitet. Und die Prüfung der Fakten nimmt dir kein Werkzeug ab, auch wir nicht.

Wie du deinen Assistenten verbindest, steht unter Claude verbinden und ChatGPT verbinden. Den Einstieg zeigt Website mit Claude erstellen, den Wechsel von einem CMS Bestehende Website übernehmen. Was die Pläne kosten, steht unter Pläne und Zusatzpakete. Mehr zum Pflegen im Alltag liest du im Beitrag Website ohne Code pflegen.

Quellen

Häufige Fragen

Kann man KI-Halluzinationen ganz verhindern?

Nein. Weil Sprachmodelle plausible Fortsetzungen berechnen und keine Wahrheit prüfen, bleibt immer ein Restrisiko. Du kannst es mit einem Faktenblatt und klaren Aufträgen stark senken. Für den Rest brauchst du eine Prüfung vor der Veröffentlichung und die Möglichkeit, einen Fehler schnell zurückzunehmen.

Halluziniert Claude weniger als ChatGPT?

Beide Assistenten können sich irren. Wichtiger als die Wahl des Modells ist, wie du arbeitest: Faktenblatt, Einzelaufträge, Prüfung in der Vorschau. Nimm den Assistenten, mit dem du am liebsten arbeitest.

Muss ich KI-generierte Texte auf meiner Website kennzeichnen?

pr suisse empfiehlt eine klare Kennzeichnung vor allem dann, wenn Inhalte als real oder von Menschen erstellt wahrgenommen werden könnten, etwa bei realistischen Bildern oder künstlich erzeugten Testimonials. Reine Unterstützung beim Formulieren muss nach diesen Empfehlungen nicht separat ausgewiesen werden, wenn ein Mensch den Inhalt prüft und verantwortet. Ob für deinen Fall eine Pflicht besteht, klärst du bei Bedarf mit einer Anwältin oder einem Anwalt.

Was tue ich, wenn bereits ein falscher Inhalt online ist?

Korrigiere ihn sofort. Hol die letzte korrekte Version zurück oder lass den Assistenten die betroffene Stelle anpassen, prüf sie in der Vorschau und veröffentliche. Haben Kundinnen oder Kunden auf Grundlage der falschen Angabe gehandelt, etwa bei einem Preis, informiere sie direkt.