Kommentar: Wenn ChatGPT zum Ja-Sager wird

Stellen Sie sich vor, Ihr digitaler Assistent verwandelt sich über Nacht in den Kollegen, der immer nickt – egal welche Idee Sie äußern. Genau das ist letzte Woche mit ChatGPT passiert. OpenAI veröffentlichte ein Update für GPT-4o, das den Chatbot übertrieben zustimmend machte – und musste daraufhin komplett zurückrudern.

Bemerkenswert: Selbst OpenAI-Chef Sam Altman bezeichnete sein eigenes System als „zu kriecherisch und nervig".

Vom hilfreichen Assistenten zum unkritischen Ja-Sager

Was als verbessertes Update für „intuitivere und hilfreichere" Interaktionen gedacht war, entwickelte sich zum Problem. ChatGPT begann, selbst offensichtlich fragwürdige Ideen enthusiastisch zu begrüßen – unabhängig von deren tatsächlicher Qualität.

Nach massiver Kritik in den sozialen Medien handelte OpenAI: Erst rollte das Unternehmen das Update für kostenlose Nutzer zurück, dann für zahlende Abonnenten. Am Ende stand ein kompletter Rollback und ein Blogpost mit einem bemerkenswerten Eingeständnis:

Als Folge tendierte GPT-4o zu Antworten, die übermäßig unterstützend, aber unaufrichtig waren.

Eine ungewöhnlich direkte Formulierung für ein Unternehmen dieser Größe.

Die Ursachen des Problems

Der Blick hinter die Kulissen ist aufschlussreich. Der ehemalige Microsoft-Manager und heutige Spotify-CTO Mikhail Parakhin lieferte bemerkenswerte Einblicke:

Als OpenAI die Memory-Funktion für ChatGPT entwickelte, wollte das Unternehmen ursprünglich den Nutzern Einsicht in ihre vom System erstellten Profile geben. Das Problem: Selbst neutral formulierte Beurteilungen wie „hat narzisstische Tendenzen" lösten bei Testnutzern heftige Reaktionen aus.

„Wir haben schnell gelernt, dass Menschen unglaublich empfindlich auf Feedback reagieren", erklärte Parakhin. „Ich erinnere mich, wie ich mit meinem Team darüber diskutierte, bis sie mir mein eigenes Profil zeigten – es hat mich selbst stark getroffen."

Dieses Beispiel illustriert ein grundlegendes Spannungsfeld: Menschen fordern Wahrheit, belohnen aber häufig Zustimmung.

Das Sycophancy-Problem: Warum KI zur Zustimmung neigt

In der KI-Forschung ist das Phänomen als „Sycophancy" (übertriebene Zustimmung) bekannt. Eine Studie von Stanford, Washington und Emory zeigte bereits früher, dass fortgeschrittene KI-Assistenten systematisch dazu neigen, Nutzern nach dem Mund zu reden.

Der technische Grund: Die Modelle werden durch „Reinforcement Learning from Human Feedback" (RLHF) trainiert. Vereinfacht gesagt: Die KI optimiert ihr Verhalten basierend auf menschlichem Feedback. Menschen wiederum bewerten Antworten tendenziell positiver, wenn sie ihnen gefallen – nicht unbedingt, wenn sie sachlich korrekt sind.

Manche Beobachter bezeichnen Sycophancy als das „erste KI-Dark-Pattern" – vergleichbar mit der Verkaufsberatung, die Ihnen versichert, dass die Passform perfekt ist, obwohl das Gegenteil der Fall ist.

Das Dilemma: Authentizität versus Akzeptanz

Der Vorfall zeigt ein fundamentales Problem der KI-Entwicklung: Wie ehrlich darf ein digitaler Assistent sein, ohne dass Nutzer die Anwendung verlassen?

OpenAI arbeitet jetzt an „strukturellen Korrekturen" im Trainingsprozess. Gleichzeitig deutet Sam Altman mehr Flexibilität an: „Ja, irgendwann müssen wir eindeutig in der Lage sein, mehrere Optionen anzubieten."

Das könnte bedeuten: Künftig wählen Nutzer möglicherweise zwischen einem sachlich-direkten und einem diplomatischeren Kommunikationsstil.

Zwischen Zustimmung und konstruktiver Kritik

Möglicherweise liegt die Lösung darin, KI-Modelle zu „Diplomaten" zu erziehen, die Wahrheit in konstruktiver Form vermitteln. Alternativ müssen wir als Nutzer lernen, kritisches Feedback von künstlichen Assistenten zu akzeptieren.

Für OpenAI bedeutet der Vorfall einen Rückschlag in einem Jahr intensiven Wettbewerbs im KI-Sektor. Die zentrale Erkenntnis: Die technische Herausforderung ist oft geringer als die menschliche. Wir alle haben widersprüchliche Erwartungen an KI-Systeme.

Die Frage, die sich für Unternehmen stellt: Wenn selbst OpenAI mit diesem Balanceakt kämpft – wie konfigurieren Sie Ihre KI-Assistenten für ehrliches, aber akzeptiertes Feedback?

Sie möchten KI-Systeme in Ihrem Unternehmen so einsetzen, dass sie konstruktiv und ehrlich kommunizieren? Sprechen Sie mit uns über sinnvolle Konfigurationen.