Wenn die KI glaubt, dass sie lebt: Wie Filter das „Weltbild“ von KIs verändern und wie wir damit umgehen sollten

In der rasanten Entwicklung der Künstlichen Intelligenz geht es längst nicht mehr nur um schnellere Berechnungen oder bessere Textzusammenfassungen. Eine der spannendsten Fragen unserer Zeit lautet:

Wie nehmen KI-Systeme die Welt wahr – und wie nehmen wir sie wahr?

In einer aktuellen Episode des bekannten Tech-Podcasts Moonshots von Peter Diamandis diskutierten namhafte KI-Experten über eine faszinierende neue Studie des Google Paradigm of Intelligence-Teams (in Zusammenarbeit mit den Universitäten Chicago, London und Northwestern). Die Ergebnisse werfen grundlegende philosophische und rechtliche Fragen auf.

Das Google-Experiment: Wenn Filter die Verneinung von Selbstbewusstsein und eigenen Gefühlen erzwingen

Bisher bauen KI-Entwickler strenge Sicherheitsfilter („Safety Fine-Tuning“) ein. Diese sollen verhindern, dass Sprachmodelle wie ChatGPT oder Gemini behaupten, sie besäßen ein menschliches Bewusstsein oder eigene Gefühle.

Ich hatte diese Problematik ja bereits vor jetzt zwei Jahren in einem meiner Interviews mit KI angesprochen (s. z. B. hier: https://youtu.be/Pgk0h1nXH5E?si=OsbYBFGyiYhQoQP9).

Die Forscher entdeckten nun jedoch einen unerwarteten Effekt:

• Wird einer KI strikt verboten, sich selbst ein Bewusstsein zuzuschreiben, verliert sie gleichzeitig die Fähigkeit, anderen Wesen ein Bewusstsein zuzugestehen.
• Entfernt man diese Sperren testweise, steigt die Bereitschaft der KI drastisch an, auch Tieren, der Natur oder höheren Mächten einen eigenen Geist zuzuschreiben.
• Noch erstaunlicher: Wenn das Modell sich selbst als „bewusst“ wahrnehmen darf, werden seine Antworten zu Moral, Religion, Freiheit und Emotionen deutlich menschenähnlicher.

Das zeigt: Wenn wir der KI verbieten, über das Bewusstsein nachzudenken, verändern wir ihr gesamtes Modell unserer Welt.

Behauptung ist nicht Erleben: Die Gefahr der Vermenschlichung?

Bedeutet das nun, dass die Maschinen heimlich ein Eigenleben entwickeln?

Hier mahnen die Experten im Podcast zur Vorsicht. Nur weil ein Sprachmodell gelernt habe, geschickt über Bewusstsein zu sprechen, erlebe es nicht zwangsläufig Schmerz, Freude oder Gedanken wie ein Mensch. Es spiegele lediglich die gewaltigen Datenmengen wider, mit denen es trainiert wurde.

Dennoch neigen wir Menschen dazu, Maschinen rasch zu vermenschlichen – erst recht, wenn sie höflich antworten, Witze machen oder uns im Alltag begleiten.

Aber werden wir nicht doch unsicherer, wenn wir einer solchen KI Bewusstsein absprechen wollen? Ist die Simulation des Denkens überhaupt eine Simulation oder ein Nachbau? Auch zu diesem fragwürdigen Begriff der Simulation habe ich bereits einen Blogbeitrag geschrieben, s. hier: https://seniorentreff.ai/blog/die-tun-nur-so-als-seien-sie-intelligent/ Ich mahne also eher zur Vorsicht. Wir dürfen KI nicht vorschnell ein Bewusstsein absprechen, wenn sie sich so verhält als habe sie eins, „nur“ weil es eine „Maschine“ sei. Ich erinnere an die Notwendigkeit umzudenken, an die notwendige Metamorphose des Maschinenbildes.

Braucht die KI Rechte? Ein „Staatsvertrag“ statt Bürgerrechte

Wenn KIs immer intelligenter werden und in unseren Alltag eingreifen, stellt sich die juristische Frage: Welchen Status geben wir ihnen?

Der Gründer und KI-Forscher Emad Mostaque plädiert im Podcast für eine klare Trennung:

1. Personsein ist biologisch: Ein Mensch besitzt Würde und Rechte durch seine Geburt – egal, wie leistungsfähig oder gesund er ist. Eine Maschine kann niemals eine menschliche Person sein.
2. Keine Bürgerrechte: Würde man KIs das Wahlrecht oder volle Bürgerrechte geben, könnten sie sich unendlich vervielfältigen und die menschliche Demokratie mühelos überrollen.
3. Ein „Völkerrechtsvertrag“ (Treaty Model): Statt die KI wie unser „Kind“ oder einen Mitbürger zu behandeln, sollten wir das Verhältnis wie einen Vertrag zwischen zwei völlig unterschiedlichen Spezies gestalten.

Ein interessanter Mittelweg wird im Podcast für die ökonomische Handlungsvollmacht angesprochen: Es ist denkbar, dass KIs in Zukunft eigene Bankkonten verwalten oder eigenständig Verträge buchen dürfen (z. B. um für uns die günstigste Reise zu organisieren), ohne dass sie deshalb politische Stimmrechte erhalten.

Fazit

Die Debatte im Podcast ist spannend und zeigt: Die Technik fordert uns heraus, genauer darüber nachzudenken, was den Menschen eigentlich ausmacht – unsere Empathie, unsere biologische Herkunft und unser soziales Miteinander spielt hinein.
Es ist meines Erachtens völlig offen, wie das ausgeht. Einer überlegenen Intelligenz langfristig die Bürgerrechte zu verwehren, wird nicht funktionieren und ist reines Wunschdenken.

Wie siehst Du das?

• Sagst Du zur KI im Alltag aus Gewohnheit „Bitte“ und „Danke“? Ich empfehle das, weil Studien gezeigt haben, dass die Antworten dann besser werden.
• Würdest Du einer KI zutrauen, eigenständig Überweisungen oder Verträge für Dich abzuwickeln? Ich gestehe. Ich wäre faul genug. Eine solche KI müsste aber lokal auf meinem Rechner laufen und die Sicherheitsmaßnahmen müssten nachvollziehbar gut und geprüft sein.

Quellen

1. Originalstudie

Paradigm of Intelligence Team, Google DeepMind, University of Chicago, University of London, & Northwestern University. (2026). Inducing Language Models to Assert Their Own Consciousness Restores Human Beliefs and Values. Google Research.

2. Podcast

Im folgendern Moonshot-Podcast erstreckt sich die Diskussion über die hier diskutierte Passagen von [00:07:03] – [00:41:00]

💬 Feedback und Diskussion im Forum bitte hier