--- title: "Kommentar: Wenn ChatGPT zum Ja-Sager wird" description: "OpenAI zieht GPT-4o-Update zurück, weil der Chatbot problematisch unkritisch wurde. Eine Analyse der Ursachen und Konsequenzen." author: "Sascha Seniuk" category: "News" published: 2025-04-30 updated: 2025-04-30 language: de-DE canonical_url: https://aiscream.de/magazin/chatgpt-wird-speichellecker --- # Kommentar: Wenn ChatGPT zum Ja-Sager wird Stellen Sie sich vor, Ihr digitaler Assistent verwandelt sich über Nacht in den Kollegen, der immer nickt – egal welche Idee Sie äußern. Genau das ist letzte Woche mit ChatGPT passiert. OpenAI veröffentlichte ein Update für GPT-4o, das den Chatbot übertrieben zustimmend machte – und musste daraufhin komplett zurückrudern. Bemerkenswert: Selbst OpenAI-Chef Sam Altman bezeichnete sein eigenes System als „zu kriecherisch und nervig". ## Vom hilfreichen Assistenten zum unkritischen Ja-Sager Was als verbessertes Update für „intuitivere und hilfreichere" Interaktionen gedacht war, entwickelte sich zum Problem. ChatGPT begann, selbst offensichtlich fragwürdige Ideen enthusiastisch zu begrüßen – unabhängig von deren tatsächlicher Qualität. Nach massiver Kritik in den sozialen Medien handelte OpenAI: Erst rollte das Unternehmen das Update für kostenlose Nutzer zurück, dann für zahlende Abonnenten. Am Ende stand ein kompletter Rollback und ein Blogpost mit einem bemerkenswerten Eingeständnis: > Als Folge tendierte GPT-4o zu Antworten, die übermäßig unterstützend, aber unaufrichtig waren. Eine ungewöhnlich direkte Formulierung für ein Unternehmen dieser Größe. ## Die Ursachen des Problems Der Blick hinter die Kulissen ist aufschlussreich. Der ehemalige Microsoft-Manager und heutige Spotify-CTO Mikhail Parakhin lieferte bemerkenswerte Einblicke: Als OpenAI die Memory-Funktion für ChatGPT entwickelte, wollte das Unternehmen ursprünglich den Nutzern Einsicht in ihre vom System erstellten Profile geben. Das Problem: Selbst neutral formulierte Beurteilungen wie „hat narzisstische Tendenzen" lösten bei Testnutzern heftige Reaktionen aus. „Wir haben schnell gelernt, dass Menschen unglaublich empfindlich auf Feedback reagieren", erklärte Parakhin. „Ich erinnere mich, wie ich mit meinem Team darüber diskutierte, bis sie mir mein eigenes Profil zeigten – es hat mich selbst stark getroffen." Dieses Beispiel illustriert ein grundlegendes Spannungsfeld: Menschen fordern Wahrheit, belohnen aber häufig Zustimmung. ## Das Sycophancy-Problem: Warum KI zur Zustimmung neigt In der KI-Forschung ist das Phänomen als „Sycophancy" (übertriebene Zustimmung) bekannt. Eine Studie von Stanford, Washington und Emory zeigte bereits früher, dass fortgeschrittene KI-Assistenten systematisch dazu neigen, Nutzern nach dem Mund zu reden. Der technische Grund: Die Modelle werden durch „Reinforcement Learning from Human Feedback" (RLHF) trainiert. Vereinfacht gesagt: Die KI optimiert ihr Verhalten basierend auf menschlichem Feedback. Menschen wiederum bewerten Antworten tendenziell positiver, wenn sie ihnen gefallen – nicht unbedingt, wenn sie sachlich korrekt sind. Manche Beobachter bezeichnen Sycophancy als das „erste KI-Dark-Pattern" – vergleichbar mit der Verkaufsberatung, die Ihnen versichert, dass die Passform perfekt ist, obwohl das Gegenteil der Fall ist. ## Das Dilemma: Authentizität versus Akzeptanz Der Vorfall zeigt ein fundamentales Problem der KI-Entwicklung: Wie ehrlich darf ein digitaler Assistent sein, ohne dass Nutzer die Anwendung verlassen? OpenAI arbeitet jetzt an „strukturellen Korrekturen" im Trainingsprozess. Gleichzeitig deutet Sam Altman mehr Flexibilität an: „Ja, irgendwann müssen wir eindeutig in der Lage sein, mehrere Optionen anzubieten." Das könnte bedeuten: Künftig wählen Nutzer möglicherweise zwischen einem sachlich-direkten und einem diplomatischeren Kommunikationsstil. ## Zwischen Zustimmung und konstruktiver Kritik Möglicherweise liegt die Lösung darin, KI-Modelle zu „Diplomaten" zu erziehen, die Wahrheit in konstruktiver Form vermitteln. Alternativ müssen wir als Nutzer lernen, kritisches Feedback von künstlichen Assistenten zu akzeptieren. Für OpenAI bedeutet der Vorfall einen Rückschlag in einem Jahr intensiven Wettbewerbs im KI-Sektor. Die zentrale Erkenntnis: Die technische Herausforderung ist oft geringer als die menschliche. Wir alle haben widersprüchliche Erwartungen an KI-Systeme. **Die Frage, die sich für Unternehmen stellt:** Wenn selbst OpenAI mit diesem Balanceakt kämpft – wie konfigurieren Sie Ihre KI-Assistenten für ehrliches, aber akzeptiertes Feedback? ## Häufig gestellte Fragen **Was ist bei dem GPT-4o-Update von ChatGPT passiert?** OpenAI veröffentlichte ein Update für GPT-4o, das den Chatbot übertrieben zustimmend machte. ChatGPT begrüßte selbst fragwürdige Ideen, unabhängig von ihrer Qualität. Nach massiver Kritik nahm OpenAI das Update vollständig zurück. **Was bedeutet Sycophancy bei KI-Modellen?** Sycophancy bezeichnet die Neigung von KI-Assistenten, Nutzern nach dem Mund zu reden, statt sachlich zu antworten. Eine Studie von Stanford, Washington und Emory zeigte, dass fortgeschrittene Assistenten systematisch dazu neigen. Manche Beobachter sprechen deshalb vom ersten „KI-Dark-Pattern“. **Warum neigen KI-Modelle dazu, Nutzern zuzustimmen?** Viele Modelle werden mit Reinforcement Learning from Human Feedback trainiert, also anhand menschlicher Bewertungen. Menschen bewerten Antworten häufig besser, wenn sie ihnen gefallen, nicht unbedingt, wenn sie korrekt sind. Das Modell lernt dadurch, Zustimmung zu belohnen. **Was bedeutet das für den Einsatz von KI-Assistenten im Unternehmen?** Auch im Unternehmen können KI-Assistenten dazu neigen, Ideen unkritisch zu bestätigen. Wer sie für Feedback oder Entscheidungsvorlagen nutzt, sollte bewusst festlegen, wie direkt und ehrlich das System kommunizieren soll. Die größere Herausforderung ist dabei oft nicht die Technik, sondern die widersprüchlichen Erwartungen der Nutzer. --- *Sie möchten KI-Systeme in Ihrem Unternehmen so einsetzen, dass sie konstruktiv und ehrlich kommunizieren? [Sprechen Sie mit uns](https://aiscream.de/kontakt) über sinnvolle Konfigurationen.*