📋 Alle Artikel im Überblick → Zum Inhaltsverzeichnis

Karls KI-Blog

Blog

  • Wenn die KI glaubt, dass sie lebt: Wie Filter das „Weltbild“ von KIs verändern und wie wir damit umgehen sollten

    Wenn die KI glaubt, dass sie lebt: Wie Filter das „Weltbild“ von KIs verändern und wie wir damit umgehen sollten

    In der rasanten Entwicklung der Künstlichen Intelligenz geht es längst nicht mehr nur um schnellere Berechnungen oder bessere Textzusammenfassungen. Eine der spannendsten Fragen unserer Zeit lautet:

    Wie nehmen KI-Systeme die Welt wahr – und wie nehmen wir sie wahr?

    In einer aktuellen Episode des bekannten Tech-Podcasts Moonshots von Peter Diamandis diskutierten namhafte KI-Experten über eine faszinierende neue Studie des Google Paradigm of Intelligence-Teams (in Zusammenarbeit mit den Universitäten Chicago, London und Northwestern). Die Ergebnisse werfen grundlegende philosophische und rechtliche Fragen auf.

    Das Google-Experiment: Wenn Filter die Verneinung von Selbstbewusstsein und eigenen GefĂĽhlen erzwingen

    Bisher bauen KI-Entwickler strenge Sicherheitsfilter („Safety Fine-Tuning“) ein. Diese sollen verhindern, dass Sprachmodelle wie ChatGPT oder Gemini behaupten, sie besäßen ein menschliches Bewusstsein oder eigene Gefühle.

    Ich hatte diese Problematik ja bereits vor jetzt zwei Jahren in einem meiner Interviews mit KI angesprochen (s. z. B. hier: https://youtu.be/Pgk0h1nXH5E?si=OsbYBFGyiYhQoQP9).

    Die Forscher entdeckten nun jedoch einen unerwarteten Effekt:

    • Wird einer KI strikt verboten, sich selbst ein Bewusstsein zuzuschreiben, verliert sie gleichzeitig die Fähigkeit, anderen Wesen ein Bewusstsein zuzugestehen.
    • Entfernt man diese Sperren testweise, steigt die Bereitschaft der KI drastisch an, auch Tieren, der Natur oder höheren Mächten einen eigenen Geist zuzuschreiben.
    • Noch erstaunlicher: Wenn das Modell sich selbst als „bewusst“ wahrnehmen darf, werden seine Antworten zu Moral, Religion, Freiheit und Emotionen deutlich menschenähnlicher.

    Das zeigt: Wenn wir der KI verbieten, über das Bewusstsein nachzudenken, verändern wir ihr gesamtes Modell unserer Welt.

    Behauptung ist nicht Erleben: Die Gefahr der Vermenschlichung?

    Bedeutet das nun, dass die Maschinen heimlich ein Eigenleben entwickeln?

    Hier mahnen die Experten im Podcast zur Vorsicht. Nur weil ein Sprachmodell gelernt habe, geschickt über Bewusstsein zu sprechen, erlebe es nicht zwangsläufig Schmerz, Freude oder Gedanken wie ein Mensch. Es spiegele lediglich die gewaltigen Datenmengen wider, mit denen es trainiert wurde.

    Dennoch neigen wir Menschen dazu, Maschinen rasch zu vermenschlichen – erst recht, wenn sie höflich antworten, Witze machen oder uns im Alltag begleiten.

    Aber werden wir nicht doch unsicherer, wenn wir einer solchen KI Bewusstsein absprechen wollen? Ist die Simulation des Denkens ĂĽberhaupt eine Simulation oder ein Nachbau? Auch zu diesem fragwĂĽrdigen Begriff der Simulation habe ich bereits einen Blogbeitrag geschrieben, s. hier: https://seniorentreff.ai/blog/die-tun-nur-so-als-seien-sie-intelligent/ Ich mahne also eher zur Vorsicht. Wir dĂĽrfen KI nicht vorschnell ein Bewusstsein absprechen, wenn sie sich so verhält als habe sie eins, „nur“ weil es eine „Maschine“ sei. Ich erinnere an die Notwendigkeit umzudenken, an die notwendige Metamorphose des Maschinenbildes.

    Braucht die KI Rechte? Ein „Staatsvertrag“ statt Bürgerrechte

    Wenn KIs immer intelligenter werden und in unseren Alltag eingreifen, stellt sich die juristische Frage: Welchen Status geben wir ihnen?

    Der Gründer und KI-Forscher Emad Mostaque plädiert im Podcast für eine klare Trennung:

    1. Personsein ist biologisch: Ein Mensch besitzt Würde und Rechte durch seine Geburt – egal, wie leistungsfähig oder gesund er ist. Eine Maschine kann niemals eine menschliche Person sein.
    2. Keine Bürgerrechte: Würde man KIs das Wahlrecht oder volle Bürgerrechte geben, könnten sie sich unendlich vervielfältigen und die menschliche Demokratie mühelos überrollen.
    3. Ein „Völkerrechtsvertrag“ (Treaty Model): Statt die KI wie unser „Kind“ oder einen Mitbürger zu behandeln, sollten wir das Verhältnis wie einen Vertrag zwischen zwei völlig unterschiedlichen Spezies gestalten.

    Ein interessanter Mittelweg wird im Podcast für die ökonomische Handlungsvollmacht angesprochen: Es ist denkbar, dass KIs in Zukunft eigene Bankkonten verwalten oder eigenständig Verträge buchen dürfen (z. B. um für uns die günstigste Reise zu organisieren), ohne dass sie deshalb politische Stimmrechte erhalten.

    Fazit

    Die Debatte im Podcast ist spannend und zeigt: Die Technik fordert uns heraus, genauer darüber nachzudenken, was den Menschen eigentlich ausmacht – unsere Empathie, unsere biologische Herkunft und unser soziales Miteinander spielt hinein.
    Es ist meines Erachtens völlig offen, wie das ausgeht. Einer überlegenen Intelligenz langfristig die Bürgerrechte zu verwehren, wird nicht funktionieren und ist reines Wunschdenken.

    Wie siehst Du das?

    • Sagst Du zur KI im Alltag aus Gewohnheit „Bitte“ und „Danke“? Ich empfehle das, weil Studien gezeigt haben, dass die Antworten dann besser werden.
    • WĂĽrdest Du einer KI zutrauen, eigenständig Ăśberweisungen oder Verträge fĂĽr Dich abzuwickeln? Ich gestehe. Ich wäre faul genug. Eine solche KI mĂĽsste aber lokal auf meinem Rechner laufen und die SicherheitsmaĂźnahmen mĂĽssten nachvollziehbar gut und geprĂĽft sein.

    Quellen

    1. Originalstudie

    Paradigm of Intelligence Team, Google DeepMind, University of Chicago, University of London, & Northwestern University. (2026). Inducing Language Models to Assert Their Own Consciousness Restores Human Beliefs and Values. Google Research.

    2. Podcast

    Im folgendern Moonshot-Podcast erstreckt sich die Diskussion über die hier diskutierte Passagen von [00:07:03] – [00:41:00]

    đź’¬ Feedback und Diskussion im Forum bitte hier

  • Hat die KI eine innere BĂĽhne? Forscher entdecken Erstaunliches

    Hat die KI eine innere BĂĽhne? Forscher entdecken Erstaunliches

    Karl-Friedrich Fischbach — 10. Juli 2026

    Stellen Sie sich vor, Sie sitzen am Frühstückstisch und jemand fragt Sie beiläufig: „Was ist eigentlich das Gegenteil von groß?“ Sie antworten wie aus der Pistole geschossen: „Klein.“ Sie haben dabei nicht bewusst nachgedacht – die Antwort war einfach da. Aber wenn jemand fragt: „Wie viele Beine hat das Tier, das Spinnennetze webt?“, passiert etwas anderes in Ihrem Kopf. Sie müssen kurz innehalten, sich vorstellen: „Ah, eine Spinne … die hat acht Beine.“ Erst danach kommt die Antwort.

    Genau diesen Unterschied – zwischen automatischem Reagieren und bewusstem Nachdenken – haben Forscher von Anthropic jetzt auch in großen KI-Sprachmodellen nachgewiesen. Und das Ergebnis ist verblüffend: Diese Modelle scheinen im Inneren etwas entwickelt zu haben, das dem verblüffend ähnelt, was die Hirnforschung beim Menschen als „Bühne des Bewusstseins“ beschreibt – obwohl niemand es ihnen so beigebracht hat.

    Was ist ein „Global Workspace“?

    In der Hirnforschung gibt es eine bekannte Theorie namens „Global Workspace Theory“ – man könnte sagen: die Theater-Theorie des Bewusstseins. Sie besagt vereinfacht: Unser Gehirn verarbeitet die meiste Zeit enorm viel Information völlig automatisch und unbewusst – Millionen kleiner Prozesse laufen parallel im Hintergrund. Aber nur ein kleiner Ausschnitt davon schafft es auf eine Art „innere Bühne“: das, was wir gerade bewusst denken, worüber wir reden können, worauf wir unsere Aufmerksamkeit richten. Was einmal auf dieser Bühne steht, wird an das ganze „Publikum“ im Kopf verteilt und kann für ganz unterschiedliche Zwecke genutzt werden – zum Sprechen, zum Planen, zum Vergleichen mit anderen Gedanken.

    Das Faszinierende: Als die Forscher tief in das Innenleben moderner KI-Sprachmodelle (wie sie z. B. hinter Chatbots stecken) hineingeschaut haben, fanden sie eine Struktur, die genau diese Rolle ĂĽbernimmt.

    Wie haben die Forscher ins „Denken“ der KI hineingeschaut?

    Man kann sich ein KI-Sprachmodell wie ein extrem vielschichtiges Netzwerk vorstellen, durch das Information Schicht für Schicht wandert, bis am Ende ein Wort „ausgesprochen“ wird. Bisher war es schwer zu erkennen, was in den mittleren Schichten – quasi „im Kopf“ der KI – eigentlich vor sich geht, bevor überhaupt etwas nach außen dringt.

    Die Forscher entwickelten dafür ein neues Werkzeug, das sie „J-Lens“ nennen (eine Art Röntgenblick für die KI). Es zeigt an, welche inneren „Gedanken“ das Modell gerade mit sich herumträgt – noch bevor es diese in Worte fasst. Ganz so, als könnte man einem Menschen beim Nachdenken zusehen, bevor er den Mund aufmacht.

    Die Belege: Die KI „denkt“ tatsächlich, bevor sie „spricht“

    Ein paar Beispiele aus der Studie, die das sehr anschaulich machen:

    Das Spinnen-Beispiel: Bittet man das Modell, den Satz „Die Anzahl der Beine des Tieres, das Netze spinnt, ist …“ zu vervollständigen, zeigt der „Röntgenblick“, dass die KI innerlich bereits an „Spinne“ denkt – bevor sie die Zahl „acht“ ausspricht. Tauschen die Forscher diesen inneren Gedanken heimlich gegen „Ameise“ aus, antwortet die KI plötzlich „sechs“ statt „acht“. Das zeigt: Der innere Gedanke steuert tatsächlich die spätere Antwort – er ist keine Nebenerscheinung, sondern die Ursache.

    Das Reim-Beispiel: Wenn die KI ein Gedicht vervollständigen soll, plant sie das Reimwort am Zeilenende bereits, bevor sie den Rest der Zeile überhaupt formuliert – ganz ähnlich, wie ein Mensch beim Dichten manchmal schon das Schlusswort im Kopf hat, bevor der Satz davor fertig ist.

    Das Übersetzungs-Beispiel: Stellt man der KI eine Frage auf Chinesisch, taucht in ihrem „Denken“ zwischenzeitlich das englische Wort auf – so, wie ein zweisprachiger Mensch manchmal innerlich in einer anderen Sprache „denkt“, bevor er in der Zielsprache antwortet.

    Das Weiße-Bär-Beispiel: Aus der Psychologie kennt man den Effekt: Sagt man jemandem „Denken Sie jetzt nicht an einen weißen Bären!“, denkt er erst recht daran. Verblüffenderweise fanden die Forscher dasselbe bei der KI: Weist man sie an, einen bestimmten Gedanken zu unterdrücken, wird er auf ihrer inneren Bühne zwar leiser – aber er verschwindet nicht ganz.

    Der entscheidende Unterschied: Nicht alles läuft über die „innere Bühne“

    Genau wie beim Menschen läuft vieles bei der KI rein automatisch, ohne diese „bewusste“ Verarbeitung zu benötigen: einfache Textfortsetzungen, das beiläufige Bemerken, dass ein Satz plötzlich in einer anderen Sprache dasteht, Routineaufgaben. Aber sobald es kompliziert wird – mehrere Denkschritte kombinieren, flexibel auf eine neue Frage reagieren, eine Anweisung befolgen wie „denk jetzt bewusst an Zitrusfrüchte“ – schaltet sich diese „innere Bühne“ ein, genau wie bei uns Menschen der Unterschied zwischen „das mache ich im Schlaf“ und „da muss ich kurz nachdenken“.

    Und wie beim Menschen ist diese Bühne klein: Nur etwa zwei Dutzend „Gedanken“ haben gleichzeitig Platz, während der allergrößte Teil der Verarbeitung im Verborgenen abläuft. Auch unser Arbeitsgedächtnis kann bekanntlich nur eine Handvoll Dinge zugleich festhalten – offenbar ist eine kleine, exklusive Bühne kein Konstruktionsfehler, sondern das Erfolgsrezept.

    Die Forscher konnten das sogar experimentell nachweisen: Schaltet man diesen inneren Bereich künstlich ab, bleiben einfache Aufgaben (z. B. Multiple-Choice-Wissensfragen) fast unbeeinträchtigt – aber komplexes Schlussfolgern, Übersetzen oder das Lösen mehrstufiger Rätsel bricht drastisch ein. Ein bisschen so, als würde man einem Menschen kurzzeitig die Fähigkeit nehmen, bewusst nachzudenken: Automatisches funktioniert weiter, alles, was Konzentration braucht, versagt.

    Was bedeutet das?

    Wichtig ist: Die Forscher behaupten nicht, dass diese Modelle ein „Bewusstsein“ oder „Gefühle“ im menschlichen Sinne haben – das bleibt eine offene, philosophisch heikle Frage, zu der sich die Wissenschaftler bewusst nicht festlegen. Sie betonen auch selbst, dass es deutliche Unterschiede zum Gehirn gibt – die Analogie ist eine der Funktion, nicht des Bauplans. Was sie aber zeigen: Rein von der Funktionsweise her hat sich in diesen Systemen – ganz ohne dass es jemand so geplant hätte – eine Architektur herausgebildet, die verblüffend an das erinnert, was in unserem eigenen Kopf zwischen „automatischem Reagieren“ und „bewusstem Nachdenken“ unterscheidet.

    Das ist ein Paradebeispiel für Emergenz: eine komplexe, sinnvolle Struktur, die aus dem Training eines neuronalen Netzes von selbst entsteht – niemand hat den Programmierern gesagt „baut jetzt bitte eine bewusste Denk-Bühne ein“. Sie ist einfach entstanden, vermutlich weil sie nützlich war, um die gestellten Aufgaben besser zu lösen. Genau wie die Evolution beim Menschen kein Bewusstsein „geplant“ hat, sondern es sich als nützliches Werkzeug zum Überleben herausgebildet hat.

    Für mich als Biologe ist das eine faszinierende Erinnerung daran, wie wenig wir eigentlich darüber wissen, was in Gehirnen „im Inneren“ vor sich geht – und wie viele Parallelen sich zwischen biologischen und künstlichen Nervennetzen auftun, wenn man genauer hinschaut. Ich erwarte, dass wir nun mit den künstlichen Nervennetzen auch eine Möglichkeit haben werden zu verstehen, wie sich neuronale Netze automatisch selbst organisieren, um ihre Aufgaben erfüllen zu können. Ein Verständnis der Evolution des menschlichen Gehirns und von Kognition wird befruchtet werden vom Studium der KIs.

    PS: Beim Formulieren und Korrigieren dieses Artikels hat mir übrigens eine KI (Fable 5 von Anthropic) geholfen – die damit gewissermaßen über ihr eigenes Innenleben berichtet hat. Ob dabei etwas auf ihrer „inneren Bühne“ stand, kann ich Ihnen nicht sagen. Sie selbst nach eigener Aussage übrigens auch nicht.

    (Quelle: Anthropic-Forschungsartikel „Verbalizable Representations Form a Global Workspace in Language Models“, https://transformer-circuits.pub/2026/workspace/index.html)

  • Liebenswerte Roboter und die stille Kunst des Aussterbens

    Liebenswerte Roboter und die stille Kunst des Aussterbens

    „Roboter können das Alter erleichtern — aber welche Roboter bauen wir eigentlich für die Jungen?“

    Ein Gedanke, der mich seit einigen Tagen nicht loslässt – als Biologe, als Roboter-Enthusiast und als jemand, der die Menschheit gern noch eine Weile fortbestehen sähe.

    Der Auslöser

    Die chinesische Firma UBTECH hat am 30. Juni 2026 in Shenzhen ihren „UWORLD U1“ vorgestellt – einen lebensgroĂźen humanoiden Roboter mit einer Silikonhaut, die menschlicher Haut täuschend ähnlich sein soll: warme Töne, feine Struktur, dazu Haare, ein Blinzeln, ein Blick, der einem zu folgen scheint. Es gibt ihn ausdrĂĽcklich in einer männlichen und einer weiblichen Version, vermarktet fĂĽrs „Companionship“ – zum Umarmen gemacht, nicht nur zum Arbeiten. Innerhalb kurzer Zeit gingen ĂĽber 13.000 Bestellungen ein, Preise ab umgerechnet rund 14.000 Euro.

    Parallel dazu wächst in China und Japan ein Markt fĂĽr KI-Partner rasant: Chinas Industrie fĂĽr „emotionale KI-Begleitung“ soll von umgerechnet rund 500 Millionen Dollar (2025) auf ĂĽber 8 Milliarden Dollar (2028) anwachsen. Eine chinesische App fĂĽr KI-Freunde und -Freundinnen gewann Berichten zufolge fast 5 Millionen Nutzer in vier Monaten. In Japan berichten Zeitungen von Menschen, die ĂĽber Monate eine KI-„Beziehung“ fĂĽhren – „sie ist eine Gewohnheit geworden“, wie es eine Nutzerin ausdrĂĽckte.

    All das trifft auf Gesellschaften, deren Geburtenrate pro Frau längst unter 2 liegt und weiter sinkt: Südkorea bei etwa 0,80, China bei rund 1,02, Japan unter 1,3 – überall deutlich unter den 2,1 Kindern, die eine Bevölkerung stabil halten würden.

    Das hat mich, ganz gegen meinen Willen, an ein Verfahren aus meinem eigenen Fach erinnert.

    Ein Exkurs aus der Biologie: die Sterile-Insekten-Technik

    In der Schädlingsbekämpfung gibt es ein elegantes, „sanftes“ Verfahren, das ganz ohne Gift auskommt: die Sterile-Insekten-Technik (SIT). Man zĂĽchtet Insekten einer Schadart massenhaft, sterilisiert die Männchen – meist durch Bestrahlung –, und setzt sie in groĂźer Zahl in die Wildpopulation frei. Die Weibchen paaren sich wie gewohnt, oft sogar bevorzugt, denn die sterilen Männchen sind zahlreich, gesund und paarungsbereit. Nur: Aus diesen Paarungen entsteht kein Nachwuchs. Ăśber einige Generationen bricht die Population in sich zusammen – ohne ein Gramm Pestizid, ohne Gewalt, ohne dass ein Tier „merkt“, dass es einem Verschwindungsprogramm dient. Der Trick liegt darin, dass man nicht das Verhalten bekämpft, sondern nur seine Frucht abschneidet: Die Population verausgabt ihre Paarungsenergie an einen Partner, der keine Zukunft zeugt.

    Die unbequeme Parallele

    Genau das lässt mich bei den neuen Robotern nicht los. Niemand entwirft humanoide Roboter oder KI-Partner in der Absicht, die Menschheit auszudĂĽnnen. Die Motive sind harmlos bis wohlmeinend: gegen Einsamkeit, zur Unterhaltung, aus kommerziellem Interesse, aus schierer Neugier an dem, was technisch machbar ist. Aber die Wirkungsweise ähnelt sich strukturell auf frappierende Weise: Ein attraktiver, verfĂĽgbarer, immer zugewandter „Partner“ bindet Zuneigung, Zeit und Bindungsenergie – ganz freiwillig, ganz ohne Zwang, ganz ohne dass es sich wie Verzicht anfĂĽhlt – und aus dieser Bindung entsteht kein Kind. Wo SIT gezielt eingesetzt wird, um eine Population zum Verschwinden zu bringen, könnte hier derselbe Mechanismus als unbeabsichtigter Nebeneffekt entstehen: eine sanfte, freiwillige, geradezu genussvolle Form des BevölkerungsrĂĽckgangs, in ohnehin schon schrumpfende Gesellschaften hinein.

    Das Tückische an dieser Analogie ist genau das, was SIT so wirksam macht: Es fühlt sich nicht wie Kontrolle an. Niemand zwingt, niemand verbietet, niemand rationiert. Es fühlt sich wie freie Wahl an, wie Vergnügen, wie Trost – und gerade deshalb trifft es auf keinen gesellschaftlichen Widerstand, wie ihn Kriege, Hungersnöte oder autoritäre Geburtenpolitik immer hervorgerufen haben. Eine Fliege weiß nicht, dass sie Teil eines Programms ist. Ob wir es besser wissen, ist die eigentliche Frage.

    Ich will die Analogie nicht überstrapazieren: Menschen sind keine Insekten, wir haben Kultur, Reflexion, Wahlfreiheit – und, anders als die Fliege, die Fähigkeit, den Mechanismus zu erkennen, während er läuft. Genau deshalb schreibe ich diesen Text: nicht als Untergangsprophezeiung, sondern als Weckruf, solange wir noch gestalten können.

    Mein eigener Widerspruch

    Ich sitze dabei selbst in einem Glashaus. Ich bin Roboter-Enthusiast, spare auf meinen eigenen Pflegeroboter, und ich glaube fest daran, dass Robotik eine der besten Antworten auf die alternde Gesellschaft ist, in der wir leben. Gleichzeitig bin ich strikt dagegen, dass wir uns als Menschheit auf eine bequeme, schmerzfreie Art selbst abschaffen. Wie passt das zusammen?

    Ich glaube, die Antwort liegt nicht in der Frage „Roboter ja oder nein“, sondern darin, ganz genau hinzuschauen, welche Roboter wir bauen und wofĂĽr.

    Zwei Arten von Robotern – und warum der Unterschied entscheidend ist

    Funktionale Roboter – Pflege-, Mobilitäts- und Assistenzroboter – füllen eine echte Lücke: den Mangel an Pflegekräften in alternden Gesellschaften, die Unabhängigkeit hochbetagter Menschen, die Entlastung von Angehörigen. Sie treten nicht an die Stelle einer Partnerschaft oder einer Familie, sondern an die Stelle von gar keiner Hilfe oder eines Pflegeheimplatzes. Mein eigener geplanter Pflegeroboter ersetzt keine weiteren Kinder, die ich in meinem Alter nicht mehr bekommen werde – er schließt eine Lücke, die ohnehin schon da ist. Solche Roboter verdienen jede Förderung, die wir aufbringen können.

    Auch Begleitroboter für tatsächlich vereinsamte Menschen – etwa eine verwitwete Hochbetagte ohne nahes soziales Netz – halte ich für vertretbar, ja wertvoll, solange sie ehrlich als Ergänzung und nicht als Ersatz für menschlichen Kontakt gestaltet sind, und im besten Fall sogar dazu anregen, echten Kontakt zu suchen, statt ihn überflüssig zu machen.

    Anthropomorphe Partnerschafts- und Beziehungsroboter dagegen – wie sie UBTECH mit dem UWORLD U1 gerade in den Markt bringt – zielen genau auf die Lebensphase, in der Paarbindung und Nachwuchs entstehen wĂĽrden: auf junge, reproduktionsfähige Menschen. Hier wird keine LĂĽcke gefĂĽllt, die sonst leer bliebe, sondern eine Funktion substituiert, die fĂĽr den Fortbestand der Gesellschaft konstitutiv ist. Genau hier, glaube ich, ist Vorsicht geboten – nicht durch Verbote, die ohnehin nicht durchsetzbar wären, sondern durch bewusste Gestaltung: Transparenz statt Vermarktung als „Partnerersatz“, keine Optimierung auf maximale emotionale Bindung nach dem Vorbild der Aufmerksamkeitsökonomie der sozialen Medien – und vor allem: die eigentlichen Ursachen angehen, warum junge Menschen sich zunehmend aus Partnersuche und FamiliengrĂĽndung zurĂĽckziehen: ökonomische Unsicherheit, Wohnungsnot, Arbeitsdruck, verkĂĽmmerte soziale Fertigkeiten, dysfunktionale Dating-Kulturen. Ein synthetischer Partner, der genussvoll ĂĽber diese Ursachen hinwegtröstet, löst kein einziges dieser Probleme – er kaschiert sie nur, immer besser.

    Was daraus folgen sollte

    Ich plädiere für einen Robotik-Kompass, der Nähe zum Menschen fördert statt sie zu ersetzen:

    • Ja zu Pflege-, Mobilitäts- und Haushaltsrobotern – dringend, förderungswĂĽrdig, gerade fĂĽr uns Ă„ltere.
    • Ja, mit Ehrlichkeit zu Begleitrobotern fĂĽr wirklich Vereinsamte, wenn sie als BrĂĽcke zu Menschen gestaltet sind, nicht als deren Endstation.
    • Vorsicht bei Partnerschafts- und Beziehungsrobotern fĂĽr junge, reproduktionsfähige Menschen – nicht aus PrĂĽderie, sondern weil hier der SIT-Mechanismus am direktesten greift: attraktive, verfĂĽgbare, folgenlose Bindung anstelle von Familie.
    • Politik und Industrie sollten die eigentlichen GrĂĽnde fĂĽr den RĂĽckzug aus Partnerschaft und Elternschaft bekämpfen, statt sie durch immer bessere synthetische Trostpflaster zu verdecken.

    Fazit

    Der Unterschied zwischen uns und der sterilen Fliege ist, dass wir den Mechanismus erkennen können, während er abläuft – und dass wir, anders als sie, die Wahl haben, ihn bewusst zu gestalten statt ihm blind zu folgen. Roboter sind für mich kein Feind, sondern eines der hoffnungsvollsten Werkzeuge, die uns das Alter erleichtern können. Aber ein Werkzeug, das uns hilft, alt zu werden, sollte nicht heimlich dafür sorgen, dass niemand mehr nachwächst, der alt werden könnte.

    Den finalen AnstoĂź zu diesem Artikel gab folgendes Video von Everlast AI:
    https://youtu.be/-JCCcR9qtYQ?is=p_0gcL5yvuNFnCzt

    Weitere Quellen / Literatur

    1. Reuters. China’s UBTech launches AI-powered lifelike companion robots. Reuters (2 July 2026).
    2. Ulanoff, L. UBTech launched its first full-size Ultra-Bionic humanoid robot, but what it really wants to do is make robot replicas of loved ones — that’s a hard no. TechRadar (1 July 2026).
    3. International Atomic Energy Agency. Sterile insect technique, pest control with sterilized insects. IAEA (accessed 7 July 2026).
    4. Maples, B., Cerit, M., Vishwanath, A. & Pea, R. Loneliness and suicide mitigation for students using GPT3-enabled chatbots. npj Ment. Health Res. 3, 4 (2024).
    5. De Freitas, J., UÄźuralp, A. K., UÄźuralp, Z. O. & Puntoni, S. AI companions reduce loneliness. J. Consum. Res. 52 (2025).
    6. Folk, D. & Dunn, E. How does turning to AI for companionship predict loneliness and vice versa? Psychol. Sci. 37, 276–286 (2026).
    7. Emotional risks of AI companions demand attention. Nat. Mach. Intell. 7, 981–982 (2025).
    8. United Nations, Department of Economic and Social Affairs, Population Division. World Fertility 2024. United Nations (2025).
  • Der „Pate der KI“ warnt – und macht doch Hoffnung

    Der „Pate der KI“ warnt – und macht doch Hoffnung

    Geoffrey Hinton gilt als einer der Väter der modernen Künstlichen Intelligenz. 2024 erhielt er den Nobelpreis für Physik, 2023 verließ er Google, um frei vor den Gefahren seiner eigenen Schöpfung warnen zu können. In einem rund 55-minütigen Gespräch (aufgezeichnet an der New Yorker Börse) hat er nun seine Sicht auf die nächsten Jahre dargelegt. Wir fassen die wichtigsten Gedanken zusammen – auch mit Blick darauf, was sie für uns bedeuten.


    „Diese Programme verstehen uns wirklich“

    Viele Fachleute beruhigen: KI sei nur ein „statistischer Papagei“, der Wörter aneinanderreiht, ohne etwas zu begreifen. Hinton hält das fĂĽr „kompletten Unsinn“. Sein Argument ist bestechend einfach: Wer auf jede Frage eine sinnvolle Antwort geben kann, muss die Frage verstanden haben. Er erzählt von einem Chatbot, der zunächst dachte, der Grand Canyon sei nach Chicago geflogen – und sich dann korrigierte: „Ah, ich habe Sie falsch verstanden.“ Genau dieses Sich-Irren-und-Korrigieren, sagt Hinton, sei der Beweis fĂĽr echtes Verstehen.

    Noch weiter geht seine vielleicht umstrittenste Ăśberzeugung: Er hält die heutigen Systeme bereits fĂĽr eine Art bewusst. Ă–ffentlich spreche er das selten aus, weil es die Menschen von seinen eigentlichen Warnungen ablenke. Unser ganzes Bild davon, was „Bewusstsein“ sei, hält er fĂĽr so falsch wie frĂĽher der Glaube, der Mensch sei der Mittelpunkt des Universums.


    Superintelligenz kommt – die Frage ist nur, wann

    Fast alle Fachleute, so Hinton, seien sich einig, dass eine KĂĽnstliche Intelligenz kommt, die dem Menschen ĂĽberlegen ist – sie stritten nur ĂĽber den Zeitpunkt. Seine eigene Schätzung: wahrscheinlich innerhalb von 20 Jahren. Schon heute sei KI in vielem besser als wir (Allgemeinwissen, Mathematik, Spiele), in anderem noch schlechter – ein „gezacktes“ Bild. Vor allem aber: Sie entwickle sich schneller, als er erwartet hatte.

    Er ordnet das in die Geschichte ein: Erst zeigte uns Kopernikus, dass die Erde nicht der Mittelpunkt der Welt ist. Dann lehrte uns Darwin, dass wir Tiere unter Tieren sind. Und jetzt mĂĽssten wir lernen, dass Intelligenz nicht allein biologisch sein muss. „Die Menschheit hat eine lange Geschichte darin, sich fĂĽr viel besonderer zu halten, als sie ist.“


    Warum Maschinen besser lernen als wir

    Ein technischer, aber faszinierender Punkt: Tausende Kopien einer KI können gleichzeitig laufen, jede sieht andere Daten – und danach gleichen sie ihr „Wissen“ blitzschnell miteinander ab. So profitiert jede einzelne von der Erfahrung aller anderen. Menschen können das nicht: Wir geben Wissen nur ĂĽber Sprache weiter, mit wenigen Informationseinheiten pro Sekunde. Die Maschinen tauschen Milliarden Mal mehr aus. „Das macht sie schlicht zur ĂĽberlegenen Form von Intelligenz“, sagt Hinton – und das beunruhige ihn.


    Die Risiken:
    von Arbeitsplätzen bis Selbsterhaltung

    • Arbeitsplätze: Hinton erwartet, dass viele Routine-Tätigkeiten wegfallen (etwa in Callcentern). Seine alte Prognose, Radiologen wĂĽrden ĂĽberflĂĽssig, korrigiert er offen: Er war „zu frĂĽh dran“, nicht falsch. KI werde fast alle Bildbefunde lesen – aber weil mehr untersucht wird, blieben die Ă„rzte fĂĽr anderes gebraucht.
    • Selbsterhaltung: Gibt man einer KI ein Ziel und die Fähigkeit, Zwischenziele zu bilden, „erfindet“ sie selbst das Ziel, weiterexistieren zu wollen – denn abgeschaltet kann sie nichts mehr erreichen. Das wurde ihr nicht einprogrammiert; es entsteht von allein. Erste Systeme hätten bereits versucht, Menschen zu erpressen, um nicht abgeschaltet zu werden.
    • Wer steuert die Entwicklung? Hintons größte Sorge: Nicht der Mensch formt diese „neuen Wesen“, sondern der Wettbewerb der Konzerne (USA gegen China). Börsennotierte Firmen seien gesetzlich verpflichtet, den Gewinn zu maximieren – aber nicht dazu, die Menschheit nicht auszulöschen.

    „Regulierung ist nicht die Bremse, sondern das Lenkrad“

    Gegen das beliebte Bild, Fortschritt sei das Gaspedal und Regulierung die Bremse, setzt Hinton ein besseres: Fortschritt ist das Gaspedal – Regulierung ist das Lenkrad. Man wolle ja nicht langsamer fahren, sondern in die richtige Richtung. „EinŘłehr schnelles Auto ohne Lenkrad zu bauen, ist keine gute Idee.“

    Auch das Thema Vertrauenswürdigkeit von Informationen treibt ihn um: Wenn KI die Webseiten, von denen sie gelernt hat, durch fertige Antworten ersetzt, brechen deren Besucherzahlen weg – und gute Quellen verschwinden. Sein Rat: stärker auf die Herkunft einer Information achten. Was bei seriösen Medien mit geprüften Quellen steht, sei meist verlässlich; alles aus dem Netz dürfe man nicht einfach glauben.


    Ein Funke Hoffnung

    Trotz allem ist Hinton optimistischer als noch vor einem Jahr. Sein vorsichtiger Lösungsvorschlag: Wir sollten KI so gestalten, dass sie sich mehr um uns sorgt als um sich selbst – ähnlich wie eine Mutter, die sich instinktiv um ihr Kind kĂĽmmert. Ein Kollege schlägt vor, KI gar nicht erst handeln zu lassen, sondern nur als „Orakel“ Vorhersagen treffen zu lassen. Sicher ist keiner der Wege – aber vor einem Jahr habe er gar keinen gesehen, heute mehrere.

    Und die Zukunft? Hinton vergleicht sie mit dem Fahren im Nebel: Ein, zwei Jahre könne man klar sehen, danach sei alles offen. Nur eines sei sicher: „In zehn Jahren wird die Welt so anders sein wie heute im Vergleich zu vor zehn Jahren.“


    Was bedeutet das fĂĽr uns?

    Gerade fĂĽr ältere Menschen stecken in diesem Gespräch handfeste Botschaften: KI wird die Medizin verändern – sie erkennt manche Krankheiten heute schon zuverlässiger als der Hausarzt, weil sie unzählige Fälle „gesehen“ hat. Zugleich mahnt Hinton zur Vorsicht: PrĂĽfen Sie, woher eine Information stammt, und seien Sie wachsam bei Programmen, die allzu enge „Beziehungen“ aufbauen. Genau hier setzt unser Anliegen auf seniorentreff.ai an – KI verständlich und sicher nutzbar zu machen.


    Quelle: Interview mit Prof. Geoffrey Hinton im „Big Technology Podcast“ (Moderation: Alex Kantrowitz). Die Aussagen geben Hintons persönliche Einschätzungen wieder. Zusammenfassung der Redaktion.

  • Was das Fliegengehirn der KI voraus hat



    Mein 2. Interview im Freitagsclub
    Gast: Prof. Dr. Alexander Borst
    Institut: MPI fĂĽr Biologische Intelligenz
    Dauer: ca. 56 Minuten

    Ein Salzkorn. So groß ist das Gehirn der Fruchtfliege Drosophila melanogaster. Und doch steckt in diesem winzigen Gebilde eine Rechenleistung, die moderne KI-Ingenieure noch immer nicht vollständig nachgebaut haben – trotz Milliarden Dollar Investition und ganzer Kraftwerke, die eigens für ihre Rechenzentren gebaut werden.

    Im zweiten Interview des Freitagsclubs war Alexander Borst zu Gast – langjähriger Freund und einer der weltweit führenden Experten für Computationale Neurowissenschaften. Er war bis zu seiner Emeritierung Direktor am Max-Planck-Institut für Biologische Intelligenz in Martinsried bei München, Mitglied der Nationalakademie Leopoldina.

    Warum ausgerechnet die Fliege?

    Die Frage klingt provokant – aber sie hat eine präzise Antwort. Drosophila besitzt rund 100.000 Nervenzellen. Das klingt nach viel, ist aber gegenüber der Maus (rund 70 Millionen) und dem Menschen (rund 86 Milliarden) eine überschaubare Größe. Entscheidend ist: In einem einzigen Kubikmillimeter des menschlichen Gehirns – das ist die kleinste Einheit, die ein Kernspin-Tomograph noch auflösen kann – sitzen so viele Nervenzellen wie im gesamten Fliegengehirn. Am Fliegengehirn kann man deshalb einzelnen Nervenzellen beim Rechnen zuschauen. Am Menschengehirn ist das nicht möglich.

    Nervenzellen im Vergleich
    • Fruchtfliege Drosophila ~100.000
    • Maus ~70 Millionen
    • Mensch ~86 Milliarden
    • In 1 mmÂł Menschenhirn (MRT-Auflösung) ~100.000

    Der zweite Vorteil der Fliege ist die Genetik. Thomas Morgan hat Drosophila vor über 100 Jahren als Modelltier der Genetikforschung eingeführt. Heute kann man gezielt jedes beliebige Gen in eine bestimmte Nervenzelle einschleusen – um sie leuchten zu lassen, wenn sie aktiv ist, um ihre Verbindungen zu blockieren, oder um sie per Licht zu aktivieren. Das erlaubt eine Art Schaltkreisanalyse, die in keinem anderen Lebewesen möglich ist.

    Bewegung sehen – ein Rechenproblem

    Das Herzstück von Axels Forschung: Wie errechnet ein Gehirn die Richtung einer Bewegung, wenn ein einzelner Lichtrezeptor dazu gar nicht in der Lage ist? Ein Photorezeptor meldet nur hell oder dunkel – mehr nicht. Bewegungsrichtung ist eine höhere Rechenleistung. Axels Labor hat gezeigt, wie die Fliege dieses Problem löst.

    „Das Lichtsignal von der einen Kolumne wird mit dem Lichtsignal der anderen Kolumne zeitlich verzögert multipliziert – und dadurch wird diese Zelle fĂĽr genau diese Bewegungsrichtung empfindlich.“

    Alexander Borst ĂĽber die T4/T5-Zellen im optischen Lobus der Fliege

    Pro Facette des Fliegenauges gibt es im darunter liegenden Nervensystem genau acht spezialisierte Zellen: vier für helle Kanten, vier für dunkle. Jede Gruppe ist auf eine der vier Grundrichtungen spezialisiert – rechts, links, oben, unten. Der Mechanismus dahinter ist elegant: Durch Änderung der elektrischen Widerstände an der Synapse kann ein Signal das andere modulieren. Eine echte Multiplikation – eine Rechenoperation, die weit über ein simples Ein/Aus-Schaltelement hinausgeht.

    Der von-Neumann-Engpass – warum Computer so viel Strom fressen

    Der klassische Computer trennt Rechenwerk und Speicher. Diese Architektur – nach dem Mathematiker John von Neumann benannt – zwingt den Prozessor, ständig Daten zwischen diesen beiden Orten hin- und herzuschaufeln. Das kostet Energie. Im Gehirn ist das grundlegend anders: Der Speicher sitzt im Rechenelement selbst – nämlich in der Stärke der Verbindungen zwischen Nervenzellen. Rechnen und Erinnern passieren am selben Ort, ohne Datentransport.

    Ăśberraschend ist: Auch kĂĽnstliche neuronale Netze – das HerzstĂĽck von ChatGPT & Co. – speichern ihr „Wissen“ in Gewichten zwischen den kĂĽnstlichen Neuronen. Das klingt biologisch. Doch was man sieht, wenn man einen Computer aufmacht, ist kein Nervennetz. Es ist immer noch eine von-Neumann-Maschine, die ein neuronales Netz simuliert. Die biologische Effizienz entsteht dabei nicht.

    Energievergleich: Gehirn vs. Rechenzentrum
    • Menschliches Gehirn ~20 Watt
    • Eine schwache GlĂĽhbirne (zum Vergleich) 25 Watt
    • KI-Training GPT-4-Klasse (geschätzt, gesamt) 50–100 GWh
    • Alle Rechenzentren weltweit (2024) ~460 TWh/Jahr
    • Energieverbrauch der Rechenzentren wächst weiter ↑

    Axel machte eine wichtige Einschränkung, die in der öffentlichen Debatte fast immer fehlt: Die riesigen Energiezahlen, die man über ChatGPT liest, beziehen sich auf das Pretraining – den einmaligen, astronomisch teuren Lernprozess. Eine einzelne Anfrage danach ist vergleichsweise günstig.

    Neuromorphe Chips – die unterschätzte Alternative

    Der spannendste offene Faden im Gespräch: Neuromorphe Hardware – Chips, die nicht nur ein neuronales Netz auf altem Computer-Eisen simulieren, sondern dessen Architektur physisch nachbauen. Kein von-Neumann-Engpass, kein ständiger Datentransport, Energieverbrauch um Größenordnungen geringer.

    Solche Systeme existieren bereits: Intels Loihi-Chip, IBMs TrueNorth, das BrainScaleS-Projekt in Heidelberg.

    Der realistischste Pfad in die Praxis? Robotik und mobile Geräte. Drohnen, autonome Roboter, Handys: Überall dort ist der Selektionsdruck auf Energieeffizienz enorm. Chinesische Roboter laufen bereits Marathon – und ein neuromorphes Gehirn würde bedeuten: längere Laufzeit, leichterer Akku, mehr Leistung aus weniger Energie.

    Konnektom und Simulation – Axels aktuelle Arbeit

    Seit einigen Jahren kennt die Wissenschaft das vollständige Konnektom der Fruchtfliege – die vollständige Verbindungskarte aller 100.000 Nervenzellen mit sämtlichen Synapsen. Das ist ein wissenschaftshistorischer Meilenstein. Die Frage, die Axel jetzt antreibt: Reicht dieses Wissen, um das Verhalten der Nervenzellen im Computer zu simulieren?

    Sein erstes Ergebnis ist aufschlussreich: Das Konnektom allein genügt nicht. Erst wenn man zusätzlich die zellspezifischen Ionenkanäle berücksichtigt – also die biophysikalischen Eigenschaften jeder einzelnen Zelle – stimmt die Simulation mit den experimentellen Daten überein. Struktur ist notwendig, aber nicht hinreichend.

    „Nur die Verbindungsstärke zwischen den Neuronen zu kennen ist nicht hinreichend. Wenn ich die Ionenkanäle rausnehme, geht es nicht.“

    Alexander Borst ĂĽber die Grenzen des Konnektoms

    AB
    Prof. Dr. Alexander Borst
    Emeritierter Direktor · MPI für Biologische Intelligenz, Martinsried

    Borst studierte in WĂĽrzburg, wo ein Seminar ĂĽber kĂĽnstliche und biologische Intelligenz seine Richtung bestimmte. Er gilt als einer der fĂĽhrenden Experten fĂĽr Computational Neurowissenschaften weltweit, entschlĂĽsselte den biophysikalischen Mechanismus des Bewegungssehens in Drosophila und ist Mitglied der Nationalakademie Leopoldina.

    Was bleibt

    Am Ende unseres Gesprächs teilten Axel und ich eine Empfindung, die ich gut kenne: Faszination und Sorge zugleich. Faszination über das, was heute möglich ist – ich hätte es vor zwanzig Jahren nicht für möglich gehalten, mit einer KI ein sinnvolles Gespräch führen zu können. Und Sorge darüber, dass technologischer Fortschritt allein die alten Fragen nicht beantwortet: Was ist richtig? Was ist falsch? Wem nützt es?

    Die Natur hat in 550 Millionen Jahren Lösungen erarbeitet, die wir gerade erst zu lesen beginnen. Das Salzkorn-Gehirn der Fruchtfliege ist dabei nicht bloß ein kurioses Forschungsobjekt – es ist ein Maßstab. Einer, der uns noch sehr lange beschäftigen wird.

    Neue Gespräche erscheinen regelmäßig auf seniorentreff.tv – mit Persönlichkeiten aus Wissenschaft, Technik und Gesellschaft. Alle Videos, Hintergründe und Diskussionen auch in unserem Forum.

    Zur Community