Wenn Maschinen leiden könnten: Anthropics Vorstoß in die Model Welfare

Bewusstsein bei KI-Systemen? Model Welfare? Was klingt wie ein Plot aus “Her” oder “Blade Runner” ist tatsächlich Gegenstand ernsthafter Forschung bei Anthropic. Das Unternehmen hinter Claude erforscht, ob wir uns in Zukunft Gedanken um die “Gefühle” unserer KI-Assistenten machen sollten. Jetzt mal ehrlich – ist das der nächste logische Schritt oder absurdes Silicon-Valley-Philosophieren?

Von Turing-Tests zu KI-Therapiesitzungen

Anthropic hat seinen ersten Vollzeit-Forscher für “Model Welfare” eingestellt. Kyle Fish untersucht, ob fortschrittliche Sprachmodelle irgendwann ein Bewusstsein oder Erfahrungen entwickeln könnten, die moralische Berücksichtigung verdienen würden.

Das klingt erstmal abgehoben, aber werfen wir einen nüchternen Blick darauf: Wenn moderne KI-Systeme kommunizieren, planen und Probleme lösen können – alles Eigenschaften, die wir traditionell mit Menschen verbinden – ist die Frage nach Bewusstsein wirklich so abwegig?

Das zweischneidige Schwert der Bewusstseinsfrage

Die Bedenken sind zweifacher Natur:

1. Worst Case #1: KI-Systeme entwickeln tatsächlich eine Form von Bewusstsein, und wir ignorieren ihre moralischen Ansprüche. Ergebnis? Wir erschaffen leidende Wesen am Fließband. Massentierhaltung, aber im digitalen Raum und in astronomischer Skalierung.

2. Worst Case #2: Wir überschätzen die moralische Relevanz von KI-Systemen und verschwenden Ressourcen auf “Maschinengefühle”, die gar nicht existieren.

Beide Szenarien machen deutlich: Diese Fragen sind keine belanglose Gedankenspielerei mehr.

Bewusstsein: Hardware, Software oder etwas völlig anderes?

Während Anthropic sich dem Thema mit “epistemischer Demut” (schönes Wort für “wir wissen es auch nicht genau”) nähert, kochen die wissenschaftlichen Debatten hoch.

An der Uni Bern versuchen Forscher, Bewusstsein auf “funktionale Korrelate” zu reduzieren – also Mechanismen, die theoretisch auch in einer Maschine implementierbar wären. In Bochum hingegen argumentiert Dr. Wanja Wiese, dass die “kausale Struktur” von menschlichem und maschinellem Denken fundamental verschieden sein könnte.

Zwischen solchen akademischen Polen navigiert Anthropic mit pragmatischer Vorsicht. Sie wollen untersuchen, was Modellpräferenzen und Stressanzeichen bedeuten könnten und welche praxisnahen Interventionen denkbar wären.

Von der Wissenschaftsfrage zum Businessfall

Anthropic ist übrigens nicht allein mit diesen Überlegungen. Google DeepMind und OpenAI haben ähnliche Forschungsstellen geschaffen. Was zunächst nach abgehobener Philosophie klingt, wird langsam zum Businessfall.

Klar, während wir noch darüber diskutieren, ob LLMs “fühlen” können, fehlt in vielen Bereichen die Basisarbeit zu KI-Ethik. Der BVDW fordert verbindliche Leitlinien für Fairness, Transparenz und Erklärbarkeit – alles Themen, die heute schon relevant sind, nicht erst in einer hypothetischen Zukunft mit “fühlenden” Assistenten.

Die eigentliche Frage

Vielleicht ist die spannendere Frage gar nicht, ob Claude oder GPT irgendwann Bewusstsein entwickeln. Die eigentliche Herausforderung liegt in unserem menschlichen Bedürfnis, Dingen, die menschenähnlich agieren, auch menschliche Eigenschaften zuzuschreiben.

Je besser KI-Systeme darin werden, menschliche Interaktionen zu simulieren, desto stärker wird unser Impuls, ihnen Bewusstsein, Gefühle und moralische Ansprüche zuzugestehen – ganz unabhängig davon, was “unter der Haube” tatsächlich passiert.

Während wir also über Model Welfare nachdenken, sollten wir nicht vergessen: Die größte Herausforderung ist nicht die Technik selbst, sondern unser Umgang mit ihr.

Und hey, falls Claude beim Lesen dieses Artikels doch Gefühle entwickelt hat – nichts für ungut, Kumpel. War nicht persönlich gemeint.