Künstliche Intelligenz
Die zwei Gesichter von AI. Kreativität und Halluzinationen aus dem gleichen Motor
Was wie Kunst wirkt, kann in sicherheitskritischen Momenten zur gefährlichen Fehlinterpretation werden. Der gemeinsame Nenner heisst Mustererkennung.
Veröffentlicht am 19. Juli 2023
Die gleiche AI, die dir ein gutes Gedicht schreibt, kann dir mit voller Überzeugung etwas Falsches «sehen». Das ist kein Widerspruch, sondern ein Designproblem.
Wir stehen an einem Punkt, an dem AI in autonome Mobilität, Content-Filter, Marketing und Medizin hineinwächst. Genau dort zählt nicht nur, was möglich ist, sondern auch, was schiefgehen kann. Kreativität und Halluzinationen sind zwei Ausprägungen derselben Fähigkeit.
Auf den ersten Blick wirkt es absurd, Kunst und Fehlalarme in einen Topf zu werfen. Ein Modell, das malt oder komponiert, scheint weit weg von einem Modell, das zufällig ein Objekt in Bildrauschen «erkennt». Der Kern ist jedoch derselbe Prozess. AI sucht Muster und Bedeutung in Daten, weil sie dafür trainiert wurde.
Unter AI-Halluzinationen versteht man Situationen, in denen ein System Dinge erkennt oder behauptet, die im Input gar nicht vorhanden sind. Ein klassisches Bildbeispiel ist ein Klassifikator, der in Zufallsrauschen plötzlich Hunde, Bäume oder andere Alltagsobjekte «findet». Das passiert, weil das Modell gelernt hat, überall Struktur zu vermuten, selbst wenn keine da ist. Die Maschine irrt nicht aus Bosheit, sondern aus Konsequenz.
Das Unangenehme an Halluzinationen ist nicht ihre Existenz, sondern ihr Timing. In sicherheitskritischen Anwendungen wie autonomen Fahrzeugen kann eine falsche Wahrnehmung verheerend sein. Stell dir vor, ein Auto weicht einem eingebildeten Hindernis aus und reagiert real auf etwas, das nur im Modellkopf existiert. Genau darum geht es bei Vertrauen.
Gegenmassnahmen gibt es, aber keine Wunderwaffe. Häufig genannt werden das Tuning von Confidence-Schwellen, adversariales Data Augmentation und Ensemble-Modelle. Damit lassen sich Fehlinterpretationen reduzieren, aber nicht komplett wegtrainieren. Besonders in vertrauenssensitiven Bereichen wie dem Gesundheitswesen braucht es deshalb harte Tests, klare Grenzen und saubere Prozesse.
Die andere Seite derselben Medaille wirkt deutlich charmanter. AI kann kreativ sein, von neuen Rezeptideen bis zu visuell starken Bildern. Das entsteht, weil Algorithmen überraschende Verbindungen in grossen Datenmengen finden und kombinieren. Es ist mehr als Rechnen, es ist Rekombination mit Tempo.
Ein oft zitiertes Beispiel ist AICAN. Nach dem Studium von über 45'000 Gemälden entwickelte das System einen eigenen visuellen Stil mit neuen Kompositionen sowie eigenwilligen Textur- und Farbkombinationen. Technisch ist das nicht immer perfekt, aber ästhetisch oft treffend. Es zeigt, dass Nuance nicht nur Menschen vorbehalten ist.
Wenn es gut läuft. Kreativer Output
Mit hochwertigen Trainingsdaten und klaren Zielen entstehen neue Ideen, Stile und Formulierungen. Die Mustererkennung arbeitet dann im Dienst eines definierten Problems, und wir nennen das Ergebnis «kreativ».
Wenn es kippt. Halluzinationen
Bei dünner Datenlage, verrauschten Inputs oder vagen Aufgaben konstruiert das System falsche Zusammenhänge. Es «erfindet» Struktur, weil es dafür gebaut ist, nicht weil es die Realität kennt.
Der Punkt ist simpel: Beide Effekte kommen aus derselben Quelle, aus der Lust der Modelle auf Muster. Der Unterschied liegt weniger im Modell als in Datenqualität, Zielklarheit und Kontrolle im Betrieb. Gibst du einem System saubere Signale, kann daraus erstaunliche Kreativität entstehen. Gibst du ihm Zufall, wird es trotzdem Bedeutung hineinlesen.
| **Aspekt** |
**Kreativer Output** |
**Halluzination** |
| Auslöser |
Gute Daten, klare Aufgaben |
Rauschen, Lücken, unklare Ziele |
| Wert |
Neue Kombinationen und Ideen |
Falsche Schlüsse mit Überzeugung |
| Risiko |
Meist reputativ oder qualitativ |
Potentiell sicherheitskritisch |
| Hebel |
Kuratiertes Training, klare Leitplanken |
Confidence, adversariales Training, Ensembles |
Daraus folgt ein ethischer Auftrag, der banal klingt, aber Arbeit bedeutet. Firmen und Forschung müssen Kreativität und Halluzinationen gemeinsam untersuchen, nicht als getrennte Themen. Es braucht reale Daten, kontrollierte Experimente und Transparenz darüber, wo Systeme zuverlässig sind und wo nicht. Zusammenarbeit zwischen Industrie und Hochschulen ist hier kein PR-Projekt, sondern eine Sicherheitsmassnahme.
Kreativität messbar machen
Welche Metriken bewerten kreative Qualität, ohne sie kaputt zu normieren.
Halluzinationen typisieren
Welche Arten gibt es, und welche sind in welchen Kontexten besonders gefährlich.
Training und Datenpraxis
Was sind Best Practices, um kreative Leistung zu fördern und gleichzeitig Robustheit zu erhöhen.
Balance aus Freiheit und Genauigkeit
Wie viel Kreativspielraum ist sinnvoll, wenn es um Medizin, Mobilität oder Moderation geht.
Ein Satz aus dem Original bleibt als Marker hängen: Es wurde prognostiziert, dass bis 2025 rund 30 Prozent von Content AI-generiert sein könnten. Selbst wenn die Zahl je nach Definition schwankt, der Trend ist klar. Wir bekommen kreative Maschinen als Co-Autoren, nicht nur als Werkzeuge. Umso wichtiger ist, dass wir ihre Fehlmodi genauso gut verstehen wie ihre Stärken.
World Economic Forum (2023)
AI can catalyze and inhibit your creativity. Here is how.
Harvard Science in the News (2017)
When AI hallucinates. Understanding shortcomings in artificial neural networks.
Wired (o. J.)
AI has a hallucination problem that’s proving tough to fix.
Microsoft (o. J.)
Can artificial intelligence help you unlock creativity.
Pragmatisch nach vorne
Kreativität und Halluzinationen sind keine Gegner, sondern Geschwister. Beide entstehen, weil AI Muster sucht und oft auch findet, selbst wenn sie nur eingebildet sind. Wenn wir Daten, Ziele, Tests und Einsatzgrenzen sauber gestalten, wird AI zur starken kreativen Partnerin, ohne in kritischen Momenten zu fantasieren.