Keine einzelne Methode erkennt KI-generierte Texte zuverlässig – das gilt auch für speziell dafür entwickelte Erkennungstools. Die meisten KI-Detektoren stützen sich auf wiederkehrende grammatische und lexikalische Muster im Text statt auf konkrete Daten. Daher ist ihre Fehlerquote hoch, und sie können nicht zuverlässig feststellen, ob ein Text von einer KI generiert wurde.
Die ehrliche Antwort lautet: Am besten funktioniert die Erkennung als Kombination aus statistischen Signalen, die ein Tool messen kann, und dem Erkennen von Mustern, wie es aufmerksame Leserinnen und Leser ganz selbstverständlich tun, sobald sie wissen, worauf sie achten müssen.
Hier sind einige Schritte, mit denen Sie selbst herausfinden können, ob ein Text möglicherweise von einer KI generiert wurde.
Wie funktionieren KI-Detektoren?
Die meisten Detektoren, die auf Sprachmodellen basieren, führen im Wesentlichen zwei Prüfungen durch: Perplexität erfasst, wie vorhersehbar ein Textabschnitt wirkt – also, wie leicht ein Modell genau diese Wortfolge hätte erzeugen können. Burstiness erfasst Schwankungen bei Satzlänge und -struktur. Menschliches Schreiben erzielt bei beiden Werten üblicherweise höhere Werte: durch gelegentliche Wörter, die ein Modell überraschen, und eine echte Mischung aus kurzen, knappen Sätzen und längeren, verschachtelteren Formulierungen. Auch wenn die meisten Redakteurinnen und Redakteure höchste Qualität anstreben, bleibt ein untrennbarer menschlicher Anteil, der kleinere stilistische Schwächen mit sich bringen kann, die einer KI nie unterlaufen würden. KI-Texte erzielen meist niedrigere Werte. Sie halten sich an statistisch sichere Formulierungen und weisen einen gleichmäßigeren Rhythmus auf.
Das ist die grundlegende Theorie und kann ein nützliches erstes Signal sein. Für sich genommen ist sie jedoch bei Weitem nicht ausschlaggebend. Deshalb verlassen sich moderne Detektoren nicht mehr allein auf Perplexitäts- und Burstiness-Werte, sondern beziehen diese in komplexere Klassifikatoren ein, die mit großen Sammlungen verifizierter menschlicher Texte und KI-Ausgaben trainiert wurden. Auch wenn die meisten Redakteurinnen und Redakteure höchste Qualität anstreben, bleibt ein untrennbarer menschlicher Anteil, der kleinere stilistische Schwächen mit sich bringen kann, die einer KI nie unterlaufen würden. KI-Texte erzielen meist niedrigere Werte. Sie halten sich an statistisch sichere Formulierungen und weisen einen gleichmäßigeren Rhythmus auf.
Das eigentliche Problem ist, dass die Erkennung einem beweglichen Ziel hinterherjagt. Als Forschende sechs der wichtigsten Tools mit Texten testeten, die nur leicht umformuliert worden waren – nichts Aufwendiges, lediglich Paraphrasierungen oder einige Änderungen an der Zeichensetzung –, sank ihre ohnehin bescheidene durchschnittliche Genauigkeit von 39,5 % auf 17,4 %. Das ist kein Einzelfall. Es handelt sich um eine systembedingte Schwäche: Sobald ein Detektor auf eine bestimmte Art von KI-Text trainiert wurde, verliert er an Genauigkeit, wenn sich diese Art ändert – durch ein neues Modell oder einfach durch eine schnelle Überarbeitung durch einen Menschen.
Besonders wichtig ist das in Situationen, in denen eine falsche Anschuldigung konkrete Folgen hat. Beispiele dafür sind der akademische Status einer Studentin oder eines Studenten, der Ruf einer freiberuflich tätigen Person oder die automatische Ablehnung des Bewerbungsschreibens einer arbeitssuchenden Person. In solchen Fällen ist die Erkennung KI-generierter Inhalte eine ernste Angelegenheit.
Der größte Schaden entsteht, wenn der Wert eines Erkennungstools als Urteil statt als einer von mehreren Hinweisen behandelt wird. Das kommt in der gesamten Medien- und Marketingbranche immer wieder vor – und allgemein überall dort, wo man schriftlichen Inhalten uneingeschränkt vertrauen können muss.
Texte selbst lesen: Was wirklich Aussagekraft hat
Detektoren sind nicht perfekt. Deshalb müssen Sie sich auch auf Ihr eigenes Wissen über KI-Muster verlassen, um generierte Inhalte zuverlässig zu erkennen. Wenn Sie den Text selbst lesen, können Ihnen Muster auffallen, die ein einzelner statistischer Wert übersieht – dafür brauchen Sie keine spezielle Software.
- Eine einheitliche Satzstruktur ist häufig zu beobachten. Absatz für Absatz sind die Sätze ungefähr gleich lang; die natürliche Mischung aus kurzen, knappen und längeren, verschachtelteren Sätzen fehlt.
- Immer wieder tauchen dieselben wenigen Übergangsformulierungen auf. Einige verbindende Wörter und Standardüberleitungen werden im ganzen Text wiederholt verwendet.
- Die Zeichensetzung folgt einem auffälligen Muster. Eine bestimmte Angewohnheit wird durchgehend auf dieselbe Weise angewendet, statt der unregelmäßigeren Entscheidungen, die die meisten Menschen beim Schreiben treffen.
- Konkrete Details aus dem echten Leben fehlen. Der Text bleibt dort allgemein, wo ein echter Bericht über ein Ereignis üblicherweise ein konkretes, manchmal etwas ungewöhnliches Detail enthalten würde.
Keines dieser Merkmale beweist für sich genommen etwas. Auch ein nervöser Mensch kann gleichförmige Sätze schreiben, und durch sorgfältiges Überarbeiten eines KI-Texts kann das Muster in der Zeichensetzung verschwinden. Aussagekräftig wird es, wenn mehrere dieser Merkmale im selben Text gemeinsam auftreten.
So sieht es in der Praxis aus
Sind Websites mit KI-generierten Inhalten Betrugsseiten?
Viele Betrugsseiten nutzen KI, um in großer Zahl gefälschte Meinungen und Bewertungen zu erstellen, die ausgefeilt klingen, aber nie auf tatsächlichen Erfahrungen beruhen. Das stimmt. Gleichzeitig nutzen viele ganz normale Unternehmen inzwischen KI, um eigene Inhalte zu entwerfen oder beim Verfassen zu unterstützen – Produktseiten, Blogbeiträge, Supportartikel und vieles mehr. KI-generierte Texte auf einer Website bedeuten also nicht automatisch, dass das ganze Unternehmen betrügerisch ist. Sie müssen das Gesamtbild betrachten: Wer steckt dahinter? Stimmen die Behauptungen? Und wie verhält sich das Unternehmen tatsächlich?
Warum sollten Sie KI-generierte Inhalte erkennen?
Dasselbe Erkennungsproblem zeigt sich auch bei Online-Bewertungen, doch hier steht gefühlt mehr auf dem Spiel. Eine gefälschte Bewertung, die in großer Zahl erstellt wird, um die Bewertung eines Unternehmens zu verbessern, verwendet oft dieselben vorhersehbaren, wenig abwechslungsreichen Formulierungen, auf die automatisierte Tools ausgelegt sind. Auch das leere, detailarme Lob fällt auf, wenn man aufmerksam liest. „Toller Service, sehr empfehlenswert, ich kaufe wieder“ – mit kleinen Abwandlungen in Dutzenden Bewertungen – ist dasselbe Muster wie bei gefälschten Trustpilot-Bewertungen. Das ist ein wichtiger Grund dafür, dass gefälschte Google-Bewertungen nicht einfach von selbst verschwinden, sobald eine Plattform sie tatsächlich entdeckt hat.
Deshalb ist ein Bewertungssystem, das Bewertungen an echte, verifizierte Transaktionen bindet, wichtiger denn je. KI-generierte Texte im Nachhinein zu erkennen, ist ein Kampf mit ungewissem Ausgang. Um zu prüfen, ob es sich um eine Betrugswebsite handelt, ist es am zuverlässigsten, sicherzustellen, dass eine Bewertung zu einem tatsächlichen Kauf und einer echten Kundin oder einem echten Kunden gehört. Genau deshalb beruhen WebVouch-Bewertungen auf echten, verifizierten Kundenerfahrungen, statt gefälschte Bewertungen erst nachträglich anhand ihres Schreibstils erkennen zu wollen.
