Was sind KI-Halluzinationen?

KI-Modelle werden mit Daten trainiert und lernen, Vorhersagen zu treffen, indem sie Muster in den Daten finden. Die Genauigkeit dieser Vorhersagen hängt jedoch oft von der Qualität und Vollständigkeit der Trainingsdaten ab. Wenn die Trainingsdaten unvollständig, verzerrt oder anderweitig fehlerhaft sind, kann das KI-Modell falsche Muster lernen, was zu ungenauen Vorhersagen oder Halluzinationen führt.

Beispielsweise kann ein KI-Modell, das mit einem Dataset medizinischer Bilder trainiert wurde, Krebszellen erkennen. Wenn das Dataset jedoch keine Bilder von gesundem Gewebe enthält, kann das KI-Modell fälschlicherweise prognostizieren, dass gesundes Gewebe krebsartig ist.

Fehlerhafte Trainingsdaten sind nur ein Grund für KI-Halluzinationen. Ein weiterer Faktor, der dazu beitragen kann, ist das Fehlen einer angemessenen Fundierung. Ein KI-Modell kann Probleme beim erfassen von Faktenwissen, physischen Eigenschaften oder Sachinformationen haben. Diese fehlende Verankerung kann dazu führen, dass das Modell Ausgaben generiert, die zwar plausibel erscheinen, aber faktisch falsch, irrelevant oder sinnlos sind. Das kann sogar so weit gehen, dass Links zu Webseiten erfunden werden, die nie existiert haben.

Ein Beispiel hierfür wäre ein KI-Modell, das Zusammenfassungen von Nachrichtenartikeln generiert und dabei eine Zusammenfassung mit Details erstellt, die im ursprünglichen Artikel nicht enthalten sind, oder sogar Informationen vollständig fingiert.

Für Entwickler, die mit KI-Modellen arbeiten, ist es wichtig, diese potenziellen Ursachen von KI-Halluzinationen zu kennen. Wenn Entwickelnde die Qualität und Vollständigkeit der Trainingsdaten sorgfältig berücksichtigen und für eine angemessene Fundierung sorgen, können sie das Risiko von KI-Halluzinationen minimieren und die Genauigkeit und Zuverlässigkeit ihrer Modelle sicherstellen.

KI-Halluzinationen können viele verschiedene Formen annehmen. Hier einige typische Beispiele:

• Falsche Vorhersagen: Ein KI-Modell kann vorhersagen, dass ein Ereignis eintritt, wenn es unwahrscheinlich ist. Ein KI-Modell, mit dem das Wetter vorhergesagt wird, kann beispielsweise vorhersagen, dass es morgen regnen wird, wenn es keinen Ausblick auf Regen gibt.
• Falsch positive Ergebnisse: Bei der Arbeit mit einem KI-Modell kann etwas als Bedrohung erkannt werden, obwohl dies nicht der Fall ist. Beispielsweise kann ein KI-Modell, das zur Erkennung von Betrug verwendet wird, eine Transaktion als betrügerisch kennzeichnen, obwohl dies nicht der Fall ist.
• Falsch negative Ergebnisse: Ein KI-Modell erkennt möglicherweise etwas nicht als Bedrohung, obwohl dies der Fall ist. Ein KI-Modell, das zur Erkennung von Krebs verwendet wird, erkennt beispielsweise einen Krebstumor nicht.

Beim Trainieren eines KI-Modells ist es wichtig, die Anzahl der möglichen Ergebnisse zu begrenzen, die das Modell vorhersagen kann. Dies kann durch eine Technik namens „Regularisierung“ erreicht werden. Die Regularisierung bestraft das Modell für zu extreme Vorhersagen. Dadurch wird verhindert, dass das Modell die Trainingsdaten übermäßig anpasst und dadurch falsche Vorhersagen trifft.

Beim Trainieren eines KI-Modells ist es wichtig, Daten zu verwenden, die für die Aufgabe relevant sind, die das Modell ausführen soll. Wenn Sie beispielsweise ein KI-Modell trainieren, um Krebs zu erkennen, sollten Sie ein Dataset mit medizinischen Bildern verwenden. Wenn Daten verwendet werden, die für die Aufgabe nicht relevant sind, kann das KI-Modell falsche Vorhersagen treffen.

Beim Trainieren eines KI-Modells ist es hilfreich, eine Vorlage zu erstellen, an der sich das Modell orientieren kann. Diese Vorlage kann dem Modell helfen, Vorhersagen zu treffen. Wenn Sie beispielsweise ein KI-Modell zum Schreiben von Text trainieren, können Sie eine Vorlage erstellen, die die folgenden Elemente enthält:

• Titel
• Einführung
• Textkörper
• Fazit

Wenn Sie ein KI-Modell verwenden, ist es wichtig, dem Modell mitzuteilen, was Sie möchten und was nicht. Das geht, indem Sie dem Modell Feedback geben. Wenn Sie beispielsweise ein KI-Modell zum Generieren von Text verwenden, können Sie dem Modell Feedback geben, indem Sie ihm mitteilen, welcher Text Ihnen gefällt und welcher nicht. So kann das Modell lernen, wonach Sie suchen.