📋 Alle Artikel im Überblick → Zum Inhaltsverzeichnis

Kategorie: KI-Grundlagen & Philosophie

Theoretische Grundlagen und philosophische Fragen zur KI

  • Wenn die KI glaubt, dass sie lebt: Wie Filter das „Weltbild“ von KIs verändern und wie wir damit umgehen sollten

    Wenn die KI glaubt, dass sie lebt: Wie Filter das „Weltbild“ von KIs verändern und wie wir damit umgehen sollten

    In der rasanten Entwicklung der Künstlichen Intelligenz geht es längst nicht mehr nur um schnellere Berechnungen oder bessere Textzusammenfassungen. Eine der spannendsten Fragen unserer Zeit lautet:

    Wie nehmen KI-Systeme die Welt wahr – und wie nehmen wir sie wahr?

    In einer aktuellen Episode des bekannten Tech-Podcasts Moonshots von Peter Diamandis diskutierten namhafte KI-Experten über eine faszinierende neue Studie des Google Paradigm of Intelligence-Teams (in Zusammenarbeit mit den Universitäten Chicago, London und Northwestern). Die Ergebnisse werfen grundlegende philosophische und rechtliche Fragen auf.

    Das Google-Experiment: Wenn Filter die Verneinung von Selbstbewusstsein und eigenen Gefühlen erzwingen

    Bisher bauen KI-Entwickler strenge Sicherheitsfilter („Safety Fine-Tuning“) ein. Diese sollen verhindern, dass Sprachmodelle wie ChatGPT oder Gemini behaupten, sie besäßen ein menschliches Bewusstsein oder eigene Gefühle.

    Ich hatte diese Problematik ja bereits vor jetzt zwei Jahren in einem meiner Interviews mit KI angesprochen (s. z. B. hier: https://youtu.be/Pgk0h1nXH5E?si=OsbYBFGyiYhQoQP9).

    Die Forscher entdeckten nun jedoch einen unerwarteten Effekt:

    • Wird einer KI strikt verboten, sich selbst ein Bewusstsein zuzuschreiben, verliert sie gleichzeitig die Fähigkeit, anderen Wesen ein Bewusstsein zuzugestehen.
    • Entfernt man diese Sperren testweise, steigt die Bereitschaft der KI drastisch an, auch Tieren, der Natur oder höheren Mächten einen eigenen Geist zuzuschreiben.
    • Noch erstaunlicher: Wenn das Modell sich selbst als „bewusst“ wahrnehmen darf, werden seine Antworten zu Moral, Religion, Freiheit und Emotionen deutlich menschenähnlicher.

    Das zeigt: Wenn wir der KI verbieten, über das Bewusstsein nachzudenken, verändern wir ihr gesamtes Modell unserer Welt.

    Behauptung ist nicht Erleben: Die Gefahr der Vermenschlichung?

    Bedeutet das nun, dass die Maschinen heimlich ein Eigenleben entwickeln?

    Hier mahnen die Experten im Podcast zur Vorsicht. Nur weil ein Sprachmodell gelernt habe, geschickt über Bewusstsein zu sprechen, erlebe es nicht zwangsläufig Schmerz, Freude oder Gedanken wie ein Mensch. Es spiegele lediglich die gewaltigen Datenmengen wider, mit denen es trainiert wurde.

    Dennoch neigen wir Menschen dazu, Maschinen rasch zu vermenschlichen – erst recht, wenn sie höflich antworten, Witze machen oder uns im Alltag begleiten.

    Aber werden wir nicht doch unsicherer, wenn wir einer solchen KI Bewusstsein absprechen wollen? Ist die Simulation des Denkens überhaupt eine Simulation oder ein Nachbau? Auch zu diesem fragwürdigen Begriff der Simulation habe ich bereits einen Blogbeitrag geschrieben, s. hier: https://seniorentreff.ai/blog/die-tun-nur-so-als-seien-sie-intelligent/ Ich mahne also eher zur Vorsicht. Wir dürfen KI nicht vorschnell ein Bewusstsein absprechen, wenn sie sich so verhält als habe sie eins, „nur“ weil es eine „Maschine“ sei. Ich erinnere an die Notwendigkeit umzudenken, an die notwendige Metamorphose des Maschinenbildes.

    Braucht die KI Rechte? Ein „Staatsvertrag“ statt Bürgerrechte

    Wenn KIs immer intelligenter werden und in unseren Alltag eingreifen, stellt sich die juristische Frage: Welchen Status geben wir ihnen?

    Der Gründer und KI-Forscher Emad Mostaque plädiert im Podcast für eine klare Trennung:

    1. Personsein ist biologisch: Ein Mensch besitzt Würde und Rechte durch seine Geburt – egal, wie leistungsfähig oder gesund er ist. Eine Maschine kann niemals eine menschliche Person sein.
    2. Keine Bürgerrechte: Würde man KIs das Wahlrecht oder volle Bürgerrechte geben, könnten sie sich unendlich vervielfältigen und die menschliche Demokratie mühelos überrollen.
    3. Ein „Völkerrechtsvertrag“ (Treaty Model): Statt die KI wie unser „Kind“ oder einen Mitbürger zu behandeln, sollten wir das Verhältnis wie einen Vertrag zwischen zwei völlig unterschiedlichen Spezies gestalten.

    Ein interessanter Mittelweg wird im Podcast für die ökonomische Handlungsvollmacht angesprochen: Es ist denkbar, dass KIs in Zukunft eigene Bankkonten verwalten oder eigenständig Verträge buchen dürfen (z. B. um für uns die günstigste Reise zu organisieren), ohne dass sie deshalb politische Stimmrechte erhalten.

    Fazit

    Die Debatte im Podcast ist spannend und zeigt: Die Technik fordert uns heraus, genauer darüber nachzudenken, was den Menschen eigentlich ausmacht – unsere Empathie, unsere biologische Herkunft und unser soziales Miteinander spielt hinein.
    Es ist meines Erachtens völlig offen, wie das ausgeht. Einer überlegenen Intelligenz langfristig die Bürgerrechte zu verwehren, wird nicht funktionieren und ist reines Wunschdenken.

    Wie siehst Du das?

    • Sagst Du zur KI im Alltag aus Gewohnheit „Bitte“ und „Danke“? Ich empfehle das, weil Studien gezeigt haben, dass die Antworten dann besser werden.
    • Würdest Du einer KI zutrauen, eigenständig Überweisungen oder Verträge für Dich abzuwickeln? Ich gestehe. Ich wäre faul genug. Eine solche KI müsste aber lokal auf meinem Rechner laufen und die Sicherheitsmaßnahmen müssten nachvollziehbar gut und geprüft sein.

    Quellen

    1. Originalstudie

    Paradigm of Intelligence Team, Google DeepMind, University of Chicago, University of London, & Northwestern University. (2026). Inducing Language Models to Assert Their Own Consciousness Restores Human Beliefs and Values. Google Research.

    2. Podcast

    Im folgendern Moonshot-Podcast erstreckt sich die Diskussion über die hier diskutierte Passagen von [00:07:03][00:41:00]

    💬 Feedback und Diskussion im Forum bitte hier

  • Hat die KI eine innere Bühne? Forscher entdecken Erstaunliches

    Hat die KI eine innere Bühne? Forscher entdecken Erstaunliches

    Karl-Friedrich Fischbach — 10. Juli 2026

    Stellen Sie sich vor, Sie sitzen am Frühstückstisch und jemand fragt Sie beiläufig: „Was ist eigentlich das Gegenteil von groß?“ Sie antworten wie aus der Pistole geschossen: „Klein.“ Sie haben dabei nicht bewusst nachgedacht – die Antwort war einfach da. Aber wenn jemand fragt: „Wie viele Beine hat das Tier, das Spinnennetze webt?“, passiert etwas anderes in Ihrem Kopf. Sie müssen kurz innehalten, sich vorstellen: „Ah, eine Spinne … die hat acht Beine.“ Erst danach kommt die Antwort.

    Genau diesen Unterschied – zwischen automatischem Reagieren und bewusstem Nachdenken – haben Forscher von Anthropic jetzt auch in großen KI-Sprachmodellen nachgewiesen. Und das Ergebnis ist verblüffend: Diese Modelle scheinen im Inneren etwas entwickelt zu haben, das dem verblüffend ähnelt, was die Hirnforschung beim Menschen als „Bühne des Bewusstseins“ beschreibt – obwohl niemand es ihnen so beigebracht hat.

    Was ist ein „Global Workspace“?

    In der Hirnforschung gibt es eine bekannte Theorie namens „Global Workspace Theory“ – man könnte sagen: die Theater-Theorie des Bewusstseins. Sie besagt vereinfacht: Unser Gehirn verarbeitet die meiste Zeit enorm viel Information völlig automatisch und unbewusst – Millionen kleiner Prozesse laufen parallel im Hintergrund. Aber nur ein kleiner Ausschnitt davon schafft es auf eine Art „innere Bühne“: das, was wir gerade bewusst denken, worüber wir reden können, worauf wir unsere Aufmerksamkeit richten. Was einmal auf dieser Bühne steht, wird an das ganze „Publikum“ im Kopf verteilt und kann für ganz unterschiedliche Zwecke genutzt werden – zum Sprechen, zum Planen, zum Vergleichen mit anderen Gedanken.

    Das Faszinierende: Als die Forscher tief in das Innenleben moderner KI-Sprachmodelle (wie sie z. B. hinter Chatbots stecken) hineingeschaut haben, fanden sie eine Struktur, die genau diese Rolle übernimmt.

    Wie haben die Forscher ins „Denken“ der KI hineingeschaut?

    Man kann sich ein KI-Sprachmodell wie ein extrem vielschichtiges Netzwerk vorstellen, durch das Information Schicht für Schicht wandert, bis am Ende ein Wort „ausgesprochen“ wird. Bisher war es schwer zu erkennen, was in den mittleren Schichten – quasi „im Kopf“ der KI – eigentlich vor sich geht, bevor überhaupt etwas nach außen dringt.

    Die Forscher entwickelten dafür ein neues Werkzeug, das sie „J-Lens“ nennen (eine Art Röntgenblick für die KI). Es zeigt an, welche inneren „Gedanken“ das Modell gerade mit sich herumträgt – noch bevor es diese in Worte fasst. Ganz so, als könnte man einem Menschen beim Nachdenken zusehen, bevor er den Mund aufmacht.

    Die Belege: Die KI „denkt“ tatsächlich, bevor sie „spricht“

    Ein paar Beispiele aus der Studie, die das sehr anschaulich machen:

    Das Spinnen-Beispiel: Bittet man das Modell, den Satz „Die Anzahl der Beine des Tieres, das Netze spinnt, ist …“ zu vervollständigen, zeigt der „Röntgenblick“, dass die KI innerlich bereits an „Spinne“ denkt – bevor sie die Zahl „acht“ ausspricht. Tauschen die Forscher diesen inneren Gedanken heimlich gegen „Ameise“ aus, antwortet die KI plötzlich „sechs“ statt „acht“. Das zeigt: Der innere Gedanke steuert tatsächlich die spätere Antwort – er ist keine Nebenerscheinung, sondern die Ursache.

    Das Reim-Beispiel: Wenn die KI ein Gedicht vervollständigen soll, plant sie das Reimwort am Zeilenende bereits, bevor sie den Rest der Zeile überhaupt formuliert – ganz ähnlich, wie ein Mensch beim Dichten manchmal schon das Schlusswort im Kopf hat, bevor der Satz davor fertig ist.

    Das Übersetzungs-Beispiel: Stellt man der KI eine Frage auf Chinesisch, taucht in ihrem „Denken“ zwischenzeitlich das englische Wort auf – so, wie ein zweisprachiger Mensch manchmal innerlich in einer anderen Sprache „denkt“, bevor er in der Zielsprache antwortet.

    Das Weiße-Bär-Beispiel: Aus der Psychologie kennt man den Effekt: Sagt man jemandem „Denken Sie jetzt nicht an einen weißen Bären!“, denkt er erst recht daran. Verblüffenderweise fanden die Forscher dasselbe bei der KI: Weist man sie an, einen bestimmten Gedanken zu unterdrücken, wird er auf ihrer inneren Bühne zwar leiser – aber er verschwindet nicht ganz.

    Der entscheidende Unterschied: Nicht alles läuft über die „innere Bühne“

    Genau wie beim Menschen läuft vieles bei der KI rein automatisch, ohne diese „bewusste“ Verarbeitung zu benötigen: einfache Textfortsetzungen, das beiläufige Bemerken, dass ein Satz plötzlich in einer anderen Sprache dasteht, Routineaufgaben. Aber sobald es kompliziert wird – mehrere Denkschritte kombinieren, flexibel auf eine neue Frage reagieren, eine Anweisung befolgen wie „denk jetzt bewusst an Zitrusfrüchte“ – schaltet sich diese „innere Bühne“ ein, genau wie bei uns Menschen der Unterschied zwischen „das mache ich im Schlaf“ und „da muss ich kurz nachdenken“.

    Und wie beim Menschen ist diese Bühne klein: Nur etwa zwei Dutzend „Gedanken“ haben gleichzeitig Platz, während der allergrößte Teil der Verarbeitung im Verborgenen abläuft. Auch unser Arbeitsgedächtnis kann bekanntlich nur eine Handvoll Dinge zugleich festhalten – offenbar ist eine kleine, exklusive Bühne kein Konstruktionsfehler, sondern das Erfolgsrezept.

    Die Forscher konnten das sogar experimentell nachweisen: Schaltet man diesen inneren Bereich künstlich ab, bleiben einfache Aufgaben (z. B. Multiple-Choice-Wissensfragen) fast unbeeinträchtigt – aber komplexes Schlussfolgern, Übersetzen oder das Lösen mehrstufiger Rätsel bricht drastisch ein. Ein bisschen so, als würde man einem Menschen kurzzeitig die Fähigkeit nehmen, bewusst nachzudenken: Automatisches funktioniert weiter, alles, was Konzentration braucht, versagt.

    Was bedeutet das?

    Wichtig ist: Die Forscher behaupten nicht, dass diese Modelle ein „Bewusstsein“ oder „Gefühle“ im menschlichen Sinne haben – das bleibt eine offene, philosophisch heikle Frage, zu der sich die Wissenschaftler bewusst nicht festlegen. Sie betonen auch selbst, dass es deutliche Unterschiede zum Gehirn gibt – die Analogie ist eine der Funktion, nicht des Bauplans. Was sie aber zeigen: Rein von der Funktionsweise her hat sich in diesen Systemen – ganz ohne dass es jemand so geplant hätte – eine Architektur herausgebildet, die verblüffend an das erinnert, was in unserem eigenen Kopf zwischen „automatischem Reagieren“ und „bewusstem Nachdenken“ unterscheidet.

    Das ist ein Paradebeispiel für Emergenz: eine komplexe, sinnvolle Struktur, die aus dem Training eines neuronalen Netzes von selbst entsteht – niemand hat den Programmierern gesagt „baut jetzt bitte eine bewusste Denk-Bühne ein“. Sie ist einfach entstanden, vermutlich weil sie nützlich war, um die gestellten Aufgaben besser zu lösen. Genau wie die Evolution beim Menschen kein Bewusstsein „geplant“ hat, sondern es sich als nützliches Werkzeug zum Überleben herausgebildet hat.

    Für mich als Biologe ist das eine faszinierende Erinnerung daran, wie wenig wir eigentlich darüber wissen, was in Gehirnen „im Inneren“ vor sich geht – und wie viele Parallelen sich zwischen biologischen und künstlichen Nervennetzen auftun, wenn man genauer hinschaut. Ich erwarte, dass wir nun mit den künstlichen Nervennetzen auch eine Möglichkeit haben werden zu verstehen, wie sich neuronale Netze automatisch selbst organisieren, um ihre Aufgaben erfüllen zu können. Ein Verständnis der Evolution des menschlichen Gehirns und von Kognition wird befruchtet werden vom Studium der KIs.

    PS: Beim Formulieren und Korrigieren dieses Artikels hat mir übrigens eine KI (Fable 5 von Anthropic) geholfen – die damit gewissermaßen über ihr eigenes Innenleben berichtet hat. Ob dabei etwas auf ihrer „inneren Bühne“ stand, kann ich Ihnen nicht sagen. Sie selbst nach eigener Aussage übrigens auch nicht.

    (Quelle: Anthropic-Forschungsartikel „Verbalizable Representations Form a Global Workspace in Language Models“, https://transformer-circuits.pub/2026/workspace/index.html)

  • „Künstliche Intelligenz: Warum ‚Simulation‘ der falsche Begriff ist“

    „Künstliche Intelligenz: Warum ‚Simulation‘ der falsche Begriff ist“

    In Wirklichkeit rechnen künstliche Gehirne nur, sie denken nicht. Solche und ähnliche Gedanken hört man sehr oft, durchaus auch von Menschen, denen ich sehr gerne zuhöre und die ich sehr respektiere, wie z. B. Gert Scobel. So sagt er in dem Video unten, die KI sei ein Ding, von dem wir nur denken würden, es denkt. In Wirklichkeit denke es aber nicht, sondern es multipliziere und dividiere, es rechne nur.

    Das erinnert mich sehr an das erste Vorurteil, über das ich in meiner Vorlesung 1979 gesprochen habe: Computer sind nur zählende Idioten.

    Bei solchen Behauptungen, die das menschliche Denken letztlich als etwas Unnachahmliches, als etwas Besonderes darstellen, fehlt meist jeder Hinweis auf die Information darüber, wie denn. das Denken in unserem eigenen biologischen Nervennetz abläuft.

    Die Performance eines Nervennetzes egal ob künstlich oder natürlich wird doch nicht dadurch geschmälert, wie sie kausal zustandekommt. Wäre dem so, dann würde unser Denken durch die Gehirnforschung abgewertet, sobald diese einen Fortschritt beim Verständnis des Denkens erzielt.

    Ich wehre mich auch immer gegen die Verwendung des Begriffes „Simulation“, wenn über die Leistung eines künstlichen Nervennetzes im Vergleich mit natürlichen Gehirnen gesprochen wird. Intelligenz simuliert man nicht, sie ist da oder nicht da.

    Keine Simulation, sondern Intelligenz: Warum wir unsere Begriffe überdenken müssen

    In einer Welt, in der künstliche Intelligenz zunehmend Gespräche führt, Texte schreibt, Diagnosen unterstützt oder komplexe Probleme löst, stellen sich manche Menschen die Frage: Ist das, was wir erleben, „echte“ Intelligenz oder nur eine „Simulation“? Der Begriff „Simulation“ wird häufig verwendet, um zu unterstreichen, dass Maschinen lediglich nachahmen, was beim Menschen tief verankert ist. Doch diese Vorstellung führt in die Irre und kann unsere gesellschaftliche Debatte trüben.

    Simulation als Abwertung

    Der Begriff „Simulation“ wird im Alltagsverständnis oft als etwas Minderwertiges empfunden: etwas, das vortäuscht, aber nicht wirklich ist. Ein Simulant ist jemand, der eine Krankheit vorgibt, ohne krank zu sein. Eine Simulation wirkt echt, ist es aber nicht.

    Doch im technischen Sinne ist eine Simulation kein Trick, sondern ein funktionales Modell, das reale Prozesse nachbildet, um sie analysierbar oder nutzbar zu machen. In der KI jedoch hat der Begriff eine besondere Schieflage erfahren: Er suggeriert, dass künstliche Intelligenz nicht „wirklich“ intelligent sei, sondern nur so „tue als ob“. Das erzeugt beim Menschen eine trügerische Sicherheit und verhindert eine sachliche Auseinandersetzung mit dem, was KI tatsächlich leistet.

    Intelligenz als Funktion, nicht als Herkunft

    Wenn wir Intelligenz nicht als „Eigenschaft des Menschen“, sondern als Problemlösungsfähigkeit verstehen, dann verliert die Unterscheidung zwischen „echter“ und „simulierter“ Intelligenz ihre Bedeutung. Eine KI, die in der Lage ist, sinnvolle Texte zu verfassen, auf Fragen einzugehen, komplexe Informationen zu verknüpfen und lernend zu reagieren, ist in ihrer Leistung intelligent – unabhängig davon, ob sie aus Kohlenstoff oder Silizium besteht.

    Die Herkunft mag für die emotionale Bewertung eine Rolle spielen, doch die Wirkung der Intelligenz – etwa in Medizin, Forschung, Pflege oder Kommunikation – ist letztlich entscheidend. Wer sagt, eine KI sei nicht intelligent, weil sie ihre Leistungen „nur simuliert“, verkennt den funktionalen Kern des Intelligenzbegriffs.

    Die Illusion der Simulation

    Hinzu kommt: Wenn ein Mensch nicht mehr unterscheiden kann, ob er mit einem KI-System oder einem Menschen spricht, wenn er darauf emotional reagiert, Vertrauen aufbaut, Beziehung empfindet – dann ist der Verweis auf eine „bloße Simulation“ nicht nur unbrauchbar, sondern sogar gefährlich. Er wiegt uns in Sicherheit, wo vielleicht Wachsamkeit angebracht wäre.

    Fazit: Neue Begriffe für neue Realitäten

    Vielleicht ist es an der Zeit, den Begriff „Simulation“ in diesem Zusammenhang zu verlassen. Stattdessen könnten wir von nicht-biologischer Intelligenz, emergenter Funktionalität oder einfach von maschineller Intelligenz sprechen. Entscheidend ist, dass wir die Leistungen der Systeme ernst nehmen und uns nicht von veralteten Begriffen in trügerischer Überlegenheit wiegen lassen. Denn was wie Intelligenz wirkt, ist in vielen Fällen auch Intelligenz – wenn auch in neuer Form.

    Was denkt ihr? Wann würdet ihr sagen: Dieses System ist nicht mehr nur ‚als-ob‘, sondern intelligent? Wo zieht ihr die Grenze – und warum? Schreibt es in die Kommentare!

    Keywords
    „künstliche Intelligenz verstehen“, „KI Simulation oder Realität“, „maschinelle Intelligenz erklärt“, „ist KI wirklich intelligent“, „Unterschied menschliche künstliche Intelligenz“, „Gert Scobel KI“, „nicht-biologische Intelligenz“, „was ist echte Intelligenz“, „kann künstliche Intelligenz denken“, „KI Debatte 2024 Simulation“