📋 Alle Artikel im Überblick → Zum Inhaltsverzeichnis

Karls KI-Blog

Kategorie: KI-Entwicklung

Diese Beiträge beschäftigen sich Aspekten der KI-Evolution

  • Hat die KI eine innere BĂĽhne? Forscher entdecken Erstaunliches

    Hat die KI eine innere BĂĽhne? Forscher entdecken Erstaunliches

    Karl-Friedrich Fischbach — 10. Juli 2026

    Stellen Sie sich vor, Sie sitzen am Frühstückstisch und jemand fragt Sie beiläufig: „Was ist eigentlich das Gegenteil von groß?“ Sie antworten wie aus der Pistole geschossen: „Klein.“ Sie haben dabei nicht bewusst nachgedacht – die Antwort war einfach da. Aber wenn jemand fragt: „Wie viele Beine hat das Tier, das Spinnennetze webt?“, passiert etwas anderes in Ihrem Kopf. Sie müssen kurz innehalten, sich vorstellen: „Ah, eine Spinne … die hat acht Beine.“ Erst danach kommt die Antwort.

    Genau diesen Unterschied – zwischen automatischem Reagieren und bewusstem Nachdenken – haben Forscher von Anthropic jetzt auch in großen KI-Sprachmodellen nachgewiesen. Und das Ergebnis ist verblüffend: Diese Modelle scheinen im Inneren etwas entwickelt zu haben, das dem verblüffend ähnelt, was die Hirnforschung beim Menschen als „Bühne des Bewusstseins“ beschreibt – obwohl niemand es ihnen so beigebracht hat.

    Was ist ein „Global Workspace“?

    In der Hirnforschung gibt es eine bekannte Theorie namens „Global Workspace Theory“ – man könnte sagen: die Theater-Theorie des Bewusstseins. Sie besagt vereinfacht: Unser Gehirn verarbeitet die meiste Zeit enorm viel Information völlig automatisch und unbewusst – Millionen kleiner Prozesse laufen parallel im Hintergrund. Aber nur ein kleiner Ausschnitt davon schafft es auf eine Art „innere Bühne“: das, was wir gerade bewusst denken, worüber wir reden können, worauf wir unsere Aufmerksamkeit richten. Was einmal auf dieser Bühne steht, wird an das ganze „Publikum“ im Kopf verteilt und kann für ganz unterschiedliche Zwecke genutzt werden – zum Sprechen, zum Planen, zum Vergleichen mit anderen Gedanken.

    Das Faszinierende: Als die Forscher tief in das Innenleben moderner KI-Sprachmodelle (wie sie z. B. hinter Chatbots stecken) hineingeschaut haben, fanden sie eine Struktur, die genau diese Rolle ĂĽbernimmt.

    Wie haben die Forscher ins „Denken“ der KI hineingeschaut?

    Man kann sich ein KI-Sprachmodell wie ein extrem vielschichtiges Netzwerk vorstellen, durch das Information Schicht für Schicht wandert, bis am Ende ein Wort „ausgesprochen“ wird. Bisher war es schwer zu erkennen, was in den mittleren Schichten – quasi „im Kopf“ der KI – eigentlich vor sich geht, bevor überhaupt etwas nach außen dringt.

    Die Forscher entwickelten dafür ein neues Werkzeug, das sie „J-Lens“ nennen (eine Art Röntgenblick für die KI). Es zeigt an, welche inneren „Gedanken“ das Modell gerade mit sich herumträgt – noch bevor es diese in Worte fasst. Ganz so, als könnte man einem Menschen beim Nachdenken zusehen, bevor er den Mund aufmacht.

    Die Belege: Die KI „denkt“ tatsächlich, bevor sie „spricht“

    Ein paar Beispiele aus der Studie, die das sehr anschaulich machen:

    Das Spinnen-Beispiel: Bittet man das Modell, den Satz „Die Anzahl der Beine des Tieres, das Netze spinnt, ist …“ zu vervollständigen, zeigt der „Röntgenblick“, dass die KI innerlich bereits an „Spinne“ denkt – bevor sie die Zahl „acht“ ausspricht. Tauschen die Forscher diesen inneren Gedanken heimlich gegen „Ameise“ aus, antwortet die KI plötzlich „sechs“ statt „acht“. Das zeigt: Der innere Gedanke steuert tatsächlich die spätere Antwort – er ist keine Nebenerscheinung, sondern die Ursache.

    Das Reim-Beispiel: Wenn die KI ein Gedicht vervollständigen soll, plant sie das Reimwort am Zeilenende bereits, bevor sie den Rest der Zeile überhaupt formuliert – ganz ähnlich, wie ein Mensch beim Dichten manchmal schon das Schlusswort im Kopf hat, bevor der Satz davor fertig ist.

    Das Übersetzungs-Beispiel: Stellt man der KI eine Frage auf Chinesisch, taucht in ihrem „Denken“ zwischenzeitlich das englische Wort auf – so, wie ein zweisprachiger Mensch manchmal innerlich in einer anderen Sprache „denkt“, bevor er in der Zielsprache antwortet.

    Das Weiße-Bär-Beispiel: Aus der Psychologie kennt man den Effekt: Sagt man jemandem „Denken Sie jetzt nicht an einen weißen Bären!“, denkt er erst recht daran. Verblüffenderweise fanden die Forscher dasselbe bei der KI: Weist man sie an, einen bestimmten Gedanken zu unterdrücken, wird er auf ihrer inneren Bühne zwar leiser – aber er verschwindet nicht ganz.

    Der entscheidende Unterschied: Nicht alles läuft über die „innere Bühne“

    Genau wie beim Menschen läuft vieles bei der KI rein automatisch, ohne diese „bewusste“ Verarbeitung zu benötigen: einfache Textfortsetzungen, das beiläufige Bemerken, dass ein Satz plötzlich in einer anderen Sprache dasteht, Routineaufgaben. Aber sobald es kompliziert wird – mehrere Denkschritte kombinieren, flexibel auf eine neue Frage reagieren, eine Anweisung befolgen wie „denk jetzt bewusst an Zitrusfrüchte“ – schaltet sich diese „innere Bühne“ ein, genau wie bei uns Menschen der Unterschied zwischen „das mache ich im Schlaf“ und „da muss ich kurz nachdenken“.

    Und wie beim Menschen ist diese Bühne klein: Nur etwa zwei Dutzend „Gedanken“ haben gleichzeitig Platz, während der allergrößte Teil der Verarbeitung im Verborgenen abläuft. Auch unser Arbeitsgedächtnis kann bekanntlich nur eine Handvoll Dinge zugleich festhalten – offenbar ist eine kleine, exklusive Bühne kein Konstruktionsfehler, sondern das Erfolgsrezept.

    Die Forscher konnten das sogar experimentell nachweisen: Schaltet man diesen inneren Bereich künstlich ab, bleiben einfache Aufgaben (z. B. Multiple-Choice-Wissensfragen) fast unbeeinträchtigt – aber komplexes Schlussfolgern, Übersetzen oder das Lösen mehrstufiger Rätsel bricht drastisch ein. Ein bisschen so, als würde man einem Menschen kurzzeitig die Fähigkeit nehmen, bewusst nachzudenken: Automatisches funktioniert weiter, alles, was Konzentration braucht, versagt.

    Was bedeutet das?

    Wichtig ist: Die Forscher behaupten nicht, dass diese Modelle ein „Bewusstsein“ oder „Gefühle“ im menschlichen Sinne haben – das bleibt eine offene, philosophisch heikle Frage, zu der sich die Wissenschaftler bewusst nicht festlegen. Sie betonen auch selbst, dass es deutliche Unterschiede zum Gehirn gibt – die Analogie ist eine der Funktion, nicht des Bauplans. Was sie aber zeigen: Rein von der Funktionsweise her hat sich in diesen Systemen – ganz ohne dass es jemand so geplant hätte – eine Architektur herausgebildet, die verblüffend an das erinnert, was in unserem eigenen Kopf zwischen „automatischem Reagieren“ und „bewusstem Nachdenken“ unterscheidet.

    Das ist ein Paradebeispiel für Emergenz: eine komplexe, sinnvolle Struktur, die aus dem Training eines neuronalen Netzes von selbst entsteht – niemand hat den Programmierern gesagt „baut jetzt bitte eine bewusste Denk-Bühne ein“. Sie ist einfach entstanden, vermutlich weil sie nützlich war, um die gestellten Aufgaben besser zu lösen. Genau wie die Evolution beim Menschen kein Bewusstsein „geplant“ hat, sondern es sich als nützliches Werkzeug zum Überleben herausgebildet hat.

    Für mich als Biologe ist das eine faszinierende Erinnerung daran, wie wenig wir eigentlich darüber wissen, was in Gehirnen „im Inneren“ vor sich geht – und wie viele Parallelen sich zwischen biologischen und künstlichen Nervennetzen auftun, wenn man genauer hinschaut. Ich erwarte, dass wir nun mit den künstlichen Nervennetzen auch eine Möglichkeit haben werden zu verstehen, wie sich neuronale Netze automatisch selbst organisieren, um ihre Aufgaben erfüllen zu können. Ein Verständnis der Evolution des menschlichen Gehirns und von Kognition wird befruchtet werden vom Studium der KIs.

    PS: Beim Formulieren und Korrigieren dieses Artikels hat mir übrigens eine KI (Fable 5 von Anthropic) geholfen – die damit gewissermaßen über ihr eigenes Innenleben berichtet hat. Ob dabei etwas auf ihrer „inneren Bühne“ stand, kann ich Ihnen nicht sagen. Sie selbst nach eigener Aussage übrigens auch nicht.

    (Quelle: Anthropic-Forschungsartikel „Verbalizable Representations Form a Global Workspace in Language Models“, https://transformer-circuits.pub/2026/workspace/index.html)

  • Der „Pate der KI“ warnt – und macht doch Hoffnung

    Der „Pate der KI“ warnt – und macht doch Hoffnung

    Geoffrey Hinton gilt als einer der Väter der modernen Künstlichen Intelligenz. 2024 erhielt er den Nobelpreis für Physik, 2023 verließ er Google, um frei vor den Gefahren seiner eigenen Schöpfung warnen zu können. In einem rund 55-minütigen Gespräch (aufgezeichnet an der New Yorker Börse) hat er nun seine Sicht auf die nächsten Jahre dargelegt. Wir fassen die wichtigsten Gedanken zusammen – auch mit Blick darauf, was sie für uns bedeuten.


    „Diese Programme verstehen uns wirklich“

    Viele Fachleute beruhigen: KI sei nur ein „statistischer Papagei“, der Wörter aneinanderreiht, ohne etwas zu begreifen. Hinton hält das fĂĽr „kompletten Unsinn“. Sein Argument ist bestechend einfach: Wer auf jede Frage eine sinnvolle Antwort geben kann, muss die Frage verstanden haben. Er erzählt von einem Chatbot, der zunächst dachte, der Grand Canyon sei nach Chicago geflogen – und sich dann korrigierte: „Ah, ich habe Sie falsch verstanden.“ Genau dieses Sich-Irren-und-Korrigieren, sagt Hinton, sei der Beweis fĂĽr echtes Verstehen.

    Noch weiter geht seine vielleicht umstrittenste Ăśberzeugung: Er hält die heutigen Systeme bereits fĂĽr eine Art bewusst. Ă–ffentlich spreche er das selten aus, weil es die Menschen von seinen eigentlichen Warnungen ablenke. Unser ganzes Bild davon, was „Bewusstsein“ sei, hält er fĂĽr so falsch wie frĂĽher der Glaube, der Mensch sei der Mittelpunkt des Universums.


    Superintelligenz kommt – die Frage ist nur, wann

    Fast alle Fachleute, so Hinton, seien sich einig, dass eine KĂĽnstliche Intelligenz kommt, die dem Menschen ĂĽberlegen ist – sie stritten nur ĂĽber den Zeitpunkt. Seine eigene Schätzung: wahrscheinlich innerhalb von 20 Jahren. Schon heute sei KI in vielem besser als wir (Allgemeinwissen, Mathematik, Spiele), in anderem noch schlechter – ein „gezacktes“ Bild. Vor allem aber: Sie entwickle sich schneller, als er erwartet hatte.

    Er ordnet das in die Geschichte ein: Erst zeigte uns Kopernikus, dass die Erde nicht der Mittelpunkt der Welt ist. Dann lehrte uns Darwin, dass wir Tiere unter Tieren sind. Und jetzt mĂĽssten wir lernen, dass Intelligenz nicht allein biologisch sein muss. „Die Menschheit hat eine lange Geschichte darin, sich fĂĽr viel besonderer zu halten, als sie ist.“


    Warum Maschinen besser lernen als wir

    Ein technischer, aber faszinierender Punkt: Tausende Kopien einer KI können gleichzeitig laufen, jede sieht andere Daten – und danach gleichen sie ihr „Wissen“ blitzschnell miteinander ab. So profitiert jede einzelne von der Erfahrung aller anderen. Menschen können das nicht: Wir geben Wissen nur ĂĽber Sprache weiter, mit wenigen Informationseinheiten pro Sekunde. Die Maschinen tauschen Milliarden Mal mehr aus. „Das macht sie schlicht zur ĂĽberlegenen Form von Intelligenz“, sagt Hinton – und das beunruhige ihn.


    Die Risiken:
    von Arbeitsplätzen bis Selbsterhaltung

    • Arbeitsplätze: Hinton erwartet, dass viele Routine-Tätigkeiten wegfallen (etwa in Callcentern). Seine alte Prognose, Radiologen wĂĽrden ĂĽberflĂĽssig, korrigiert er offen: Er war „zu frĂĽh dran“, nicht falsch. KI werde fast alle Bildbefunde lesen – aber weil mehr untersucht wird, blieben die Ă„rzte fĂĽr anderes gebraucht.
    • Selbsterhaltung: Gibt man einer KI ein Ziel und die Fähigkeit, Zwischenziele zu bilden, „erfindet“ sie selbst das Ziel, weiterexistieren zu wollen – denn abgeschaltet kann sie nichts mehr erreichen. Das wurde ihr nicht einprogrammiert; es entsteht von allein. Erste Systeme hätten bereits versucht, Menschen zu erpressen, um nicht abgeschaltet zu werden.
    • Wer steuert die Entwicklung? Hintons größte Sorge: Nicht der Mensch formt diese „neuen Wesen“, sondern der Wettbewerb der Konzerne (USA gegen China). Börsennotierte Firmen seien gesetzlich verpflichtet, den Gewinn zu maximieren – aber nicht dazu, die Menschheit nicht auszulöschen.

    „Regulierung ist nicht die Bremse, sondern das Lenkrad“

    Gegen das beliebte Bild, Fortschritt sei das Gaspedal und Regulierung die Bremse, setzt Hinton ein besseres: Fortschritt ist das Gaspedal – Regulierung ist das Lenkrad. Man wolle ja nicht langsamer fahren, sondern in die richtige Richtung. „EinŘłehr schnelles Auto ohne Lenkrad zu bauen, ist keine gute Idee.“

    Auch das Thema Vertrauenswürdigkeit von Informationen treibt ihn um: Wenn KI die Webseiten, von denen sie gelernt hat, durch fertige Antworten ersetzt, brechen deren Besucherzahlen weg – und gute Quellen verschwinden. Sein Rat: stärker auf die Herkunft einer Information achten. Was bei seriösen Medien mit geprüften Quellen steht, sei meist verlässlich; alles aus dem Netz dürfe man nicht einfach glauben.


    Ein Funke Hoffnung

    Trotz allem ist Hinton optimistischer als noch vor einem Jahr. Sein vorsichtiger Lösungsvorschlag: Wir sollten KI so gestalten, dass sie sich mehr um uns sorgt als um sich selbst – ähnlich wie eine Mutter, die sich instinktiv um ihr Kind kĂĽmmert. Ein Kollege schlägt vor, KI gar nicht erst handeln zu lassen, sondern nur als „Orakel“ Vorhersagen treffen zu lassen. Sicher ist keiner der Wege – aber vor einem Jahr habe er gar keinen gesehen, heute mehrere.

    Und die Zukunft? Hinton vergleicht sie mit dem Fahren im Nebel: Ein, zwei Jahre könne man klar sehen, danach sei alles offen. Nur eines sei sicher: „In zehn Jahren wird die Welt so anders sein wie heute im Vergleich zu vor zehn Jahren.“


    Was bedeutet das fĂĽr uns?

    Gerade fĂĽr ältere Menschen stecken in diesem Gespräch handfeste Botschaften: KI wird die Medizin verändern – sie erkennt manche Krankheiten heute schon zuverlässiger als der Hausarzt, weil sie unzählige Fälle „gesehen“ hat. Zugleich mahnt Hinton zur Vorsicht: PrĂĽfen Sie, woher eine Information stammt, und seien Sie wachsam bei Programmen, die allzu enge „Beziehungen“ aufbauen. Genau hier setzt unser Anliegen auf seniorentreff.ai an – KI verständlich und sicher nutzbar zu machen.


    Quelle: Interview mit Prof. Geoffrey Hinton im „Big Technology Podcast“ (Moderation: Alex Kantrowitz). Die Aussagen geben Hintons persönliche Einschätzungen wieder. Zusammenfassung der Redaktion.

  • Was das Fliegengehirn der KI voraus hat



    Mein 2. Interview im Freitagsclub
    Gast: Prof. Dr. Alexander Borst
    Institut: MPI fĂĽr Biologische Intelligenz
    Dauer: ca. 56 Minuten

    Ein Salzkorn. So groß ist das Gehirn der Fruchtfliege Drosophila melanogaster. Und doch steckt in diesem winzigen Gebilde eine Rechenleistung, die moderne KI-Ingenieure noch immer nicht vollständig nachgebaut haben – trotz Milliarden Dollar Investition und ganzer Kraftwerke, die eigens für ihre Rechenzentren gebaut werden.

    Im zweiten Interview des Freitagsclubs war Alexander Borst zu Gast – langjähriger Freund und einer der weltweit führenden Experten für Computationale Neurowissenschaften. Er war bis zu seiner Emeritierung Direktor am Max-Planck-Institut für Biologische Intelligenz in Martinsried bei München, Mitglied der Nationalakademie Leopoldina.

    Warum ausgerechnet die Fliege?

    Die Frage klingt provokant – aber sie hat eine präzise Antwort. Drosophila besitzt rund 100.000 Nervenzellen. Das klingt nach viel, ist aber gegenüber der Maus (rund 70 Millionen) und dem Menschen (rund 86 Milliarden) eine überschaubare Größe. Entscheidend ist: In einem einzigen Kubikmillimeter des menschlichen Gehirns – das ist die kleinste Einheit, die ein Kernspin-Tomograph noch auflösen kann – sitzen so viele Nervenzellen wie im gesamten Fliegengehirn. Am Fliegengehirn kann man deshalb einzelnen Nervenzellen beim Rechnen zuschauen. Am Menschengehirn ist das nicht möglich.

    Nervenzellen im Vergleich
    • Fruchtfliege Drosophila ~100.000
    • Maus ~70 Millionen
    • Mensch ~86 Milliarden
    • In 1 mmÂł Menschenhirn (MRT-Auflösung) ~100.000

    Der zweite Vorteil der Fliege ist die Genetik. Thomas Morgan hat Drosophila vor über 100 Jahren als Modelltier der Genetikforschung eingeführt. Heute kann man gezielt jedes beliebige Gen in eine bestimmte Nervenzelle einschleusen – um sie leuchten zu lassen, wenn sie aktiv ist, um ihre Verbindungen zu blockieren, oder um sie per Licht zu aktivieren. Das erlaubt eine Art Schaltkreisanalyse, die in keinem anderen Lebewesen möglich ist.

    Bewegung sehen – ein Rechenproblem

    Das Herzstück von Axels Forschung: Wie errechnet ein Gehirn die Richtung einer Bewegung, wenn ein einzelner Lichtrezeptor dazu gar nicht in der Lage ist? Ein Photorezeptor meldet nur hell oder dunkel – mehr nicht. Bewegungsrichtung ist eine höhere Rechenleistung. Axels Labor hat gezeigt, wie die Fliege dieses Problem löst.

    „Das Lichtsignal von der einen Kolumne wird mit dem Lichtsignal der anderen Kolumne zeitlich verzögert multipliziert – und dadurch wird diese Zelle fĂĽr genau diese Bewegungsrichtung empfindlich.“

    Alexander Borst ĂĽber die T4/T5-Zellen im optischen Lobus der Fliege

    Pro Facette des Fliegenauges gibt es im darunter liegenden Nervensystem genau acht spezialisierte Zellen: vier für helle Kanten, vier für dunkle. Jede Gruppe ist auf eine der vier Grundrichtungen spezialisiert – rechts, links, oben, unten. Der Mechanismus dahinter ist elegant: Durch Änderung der elektrischen Widerstände an der Synapse kann ein Signal das andere modulieren. Eine echte Multiplikation – eine Rechenoperation, die weit über ein simples Ein/Aus-Schaltelement hinausgeht.

    Der von-Neumann-Engpass – warum Computer so viel Strom fressen

    Der klassische Computer trennt Rechenwerk und Speicher. Diese Architektur – nach dem Mathematiker John von Neumann benannt – zwingt den Prozessor, ständig Daten zwischen diesen beiden Orten hin- und herzuschaufeln. Das kostet Energie. Im Gehirn ist das grundlegend anders: Der Speicher sitzt im Rechenelement selbst – nämlich in der Stärke der Verbindungen zwischen Nervenzellen. Rechnen und Erinnern passieren am selben Ort, ohne Datentransport.

    Ăśberraschend ist: Auch kĂĽnstliche neuronale Netze – das HerzstĂĽck von ChatGPT & Co. – speichern ihr „Wissen“ in Gewichten zwischen den kĂĽnstlichen Neuronen. Das klingt biologisch. Doch was man sieht, wenn man einen Computer aufmacht, ist kein Nervennetz. Es ist immer noch eine von-Neumann-Maschine, die ein neuronales Netz simuliert. Die biologische Effizienz entsteht dabei nicht.

    Energievergleich: Gehirn vs. Rechenzentrum
    • Menschliches Gehirn ~20 Watt
    • Eine schwache GlĂĽhbirne (zum Vergleich) 25 Watt
    • KI-Training GPT-4-Klasse (geschätzt, gesamt) 50–100 GWh
    • Alle Rechenzentren weltweit (2024) ~460 TWh/Jahr
    • Energieverbrauch der Rechenzentren wächst weiter ↑

    Axel machte eine wichtige Einschränkung, die in der öffentlichen Debatte fast immer fehlt: Die riesigen Energiezahlen, die man über ChatGPT liest, beziehen sich auf das Pretraining – den einmaligen, astronomisch teuren Lernprozess. Eine einzelne Anfrage danach ist vergleichsweise günstig.

    Neuromorphe Chips – die unterschätzte Alternative

    Der spannendste offene Faden im Gespräch: Neuromorphe Hardware – Chips, die nicht nur ein neuronales Netz auf altem Computer-Eisen simulieren, sondern dessen Architektur physisch nachbauen. Kein von-Neumann-Engpass, kein ständiger Datentransport, Energieverbrauch um Größenordnungen geringer.

    Solche Systeme existieren bereits: Intels Loihi-Chip, IBMs TrueNorth, das BrainScaleS-Projekt in Heidelberg.

    Der realistischste Pfad in die Praxis? Robotik und mobile Geräte. Drohnen, autonome Roboter, Handys: Überall dort ist der Selektionsdruck auf Energieeffizienz enorm. Chinesische Roboter laufen bereits Marathon – und ein neuromorphes Gehirn würde bedeuten: längere Laufzeit, leichterer Akku, mehr Leistung aus weniger Energie.

    Konnektom und Simulation – Axels aktuelle Arbeit

    Seit einigen Jahren kennt die Wissenschaft das vollständige Konnektom der Fruchtfliege – die vollständige Verbindungskarte aller 100.000 Nervenzellen mit sämtlichen Synapsen. Das ist ein wissenschaftshistorischer Meilenstein. Die Frage, die Axel jetzt antreibt: Reicht dieses Wissen, um das Verhalten der Nervenzellen im Computer zu simulieren?

    Sein erstes Ergebnis ist aufschlussreich: Das Konnektom allein genügt nicht. Erst wenn man zusätzlich die zellspezifischen Ionenkanäle berücksichtigt – also die biophysikalischen Eigenschaften jeder einzelnen Zelle – stimmt die Simulation mit den experimentellen Daten überein. Struktur ist notwendig, aber nicht hinreichend.

    „Nur die Verbindungsstärke zwischen den Neuronen zu kennen ist nicht hinreichend. Wenn ich die Ionenkanäle rausnehme, geht es nicht.“

    Alexander Borst ĂĽber die Grenzen des Konnektoms

    AB
    Prof. Dr. Alexander Borst
    Emeritierter Direktor · MPI für Biologische Intelligenz, Martinsried

    Borst studierte in WĂĽrzburg, wo ein Seminar ĂĽber kĂĽnstliche und biologische Intelligenz seine Richtung bestimmte. Er gilt als einer der fĂĽhrenden Experten fĂĽr Computational Neurowissenschaften weltweit, entschlĂĽsselte den biophysikalischen Mechanismus des Bewegungssehens in Drosophila und ist Mitglied der Nationalakademie Leopoldina.

    Was bleibt

    Am Ende unseres Gesprächs teilten Axel und ich eine Empfindung, die ich gut kenne: Faszination und Sorge zugleich. Faszination über das, was heute möglich ist – ich hätte es vor zwanzig Jahren nicht für möglich gehalten, mit einer KI ein sinnvolles Gespräch führen zu können. Und Sorge darüber, dass technologischer Fortschritt allein die alten Fragen nicht beantwortet: Was ist richtig? Was ist falsch? Wem nützt es?

    Die Natur hat in 550 Millionen Jahren Lösungen erarbeitet, die wir gerade erst zu lesen beginnen. Das Salzkorn-Gehirn der Fruchtfliege ist dabei nicht bloß ein kurioses Forschungsobjekt – es ist ein Maßstab. Einer, der uns noch sehr lange beschäftigen wird.

    Neue Gespräche erscheinen regelmäßig auf seniorentreff.tv – mit Persönlichkeiten aus Wissenschaft, Technik und Gesellschaft. Alle Videos, Hintergründe und Diskussionen auch in unserem Forum.

    Zur Community

  • „Wir mĂĽssen lernen, Dinge NICHT zu tun“ – Interview mit KI-Experte Dr. Karl Olsberg

    Am 9. März 2026 hatte ich die Gelegenheit, mit dem Bestsellerautor und KI-Experten Dr. Karl Olsberg ein ausführliches Gespräch zu führen – das erste Interview im neuen Freitagsclub-Format des Seniorentreffs. Es wurde ein Gespräch auf Augenhöhe zwischen zwei Menschen, die seit den 1970er und 1980er Jahren mit Künstlicher Intelligenz zu tun haben – und die beide zunehmend besorgt sind über das, was gerade passiert.

    Wer ist Karl Olsberg?

    Hinter dem Pseudonym „Karl Olsberg“ verbirgt sich Dr. Karl-Ludwig von Wendt, Jahrgang 1960, der bereits in den 1980er Jahren ĂĽber KĂĽnstliche Intelligenz promoviert hat – damals noch ĂĽber sogenannte Expertensysteme. Er war McKinsey-Berater, grĂĽndete 1999 mit Kiwi Logic eines der ersten Chatbot-Unternehmen in Deutschland und ist heute vor allem als Science-Fiction- und Thriller-Autor bekannt. Sein jĂĽngstes Sachbuch „Kontrollillusion“ ist kostenlos verfĂĽgbar und erklärt, warum die Entwicklung einer Superintelligenz das größte Risiko unserer Zeit sein könnte.

    Was mich an Olsberg besonders beeindruckt: Er ist kein Technologiefeind. Er nutzt selbst täglich KI – unter anderem Claude von Anthropic – und bezeichnet sie als hilfreich und leistungsfähig. Aber genau weil er die Technologie so gut kennt, warnt er so eindringlich.

    Vom Witz zum Ernst: Wie ein Scherz zum Wendepunkt wurde

    Eine der eindrĂĽcklichsten Passagen im Interview war Olsbergs ganz persönliche Wende-Geschichte. Um das Jahr 2000 herum hatte er fĂĽr seine Firma Kiwi Logic eine scherzhafte Werbekampagne erfunden: eine fiktive Organisation namens „International League Against Intelligent Machines“, die vor KI warnte. Das war als Marketing-Gag gemeint – es kam sogar ein Anruf vom Bundeskriminalamt.

    Doch dann las Olsberg einen Artikel von Bill Joy, dem MitgrĂĽnder von Sun Microsystems, mit dem Titel „Warum die Zukunft uns nicht braucht“. Joy prognostizierte darin, dass wir um das Jahr 2030 herum eine KI auf menschlichem Niveau haben wĂĽrden. Dieser Artikel, erzählte Olsberg, habe ihm das Lachen im Hals stecken lassen – und den AnstoĂź gegeben, sich ernsthaft mit den Risiken zu beschäftigen. 25 Jahre später stehen wir kurz vor genau diesem Punkt.

    Zwei Arten von KI – und warum das wichtig ist

    Ein Kernthema unseres Gesprächs war der fundamentale Unterschied zwischen der „alten“ symbolischen KI und der heutigen neuronalen KI. Olsberg erklärte es so: Die symbolische KI, ĂĽber die er promoviert hat, wurde programmiert – man sagte der Maschine Schritt fĂĽr Schritt, was sie bei welcher Frage antworten soll. Die heutige neuronale KI dagegen wird nicht mehr programmiert, sondern – wie ich es gerne formuliere – erzogen. Sie wird mit riesigen Datenmengen trainiert, und dabei entstehen Fähigkeiten, die niemand vorhergesagt hat.

    Das ist der Punkt, an dem es unheimlich wird: Selbst die Entwickler wissen nicht genau, wie ihre KI-Systeme funktionieren. Sie wissen nicht, welche Fähigkeiten beim nächsten Skalierungsschritt emergent auftreten werden. Als Neurobiologe erinnert mich das an eine Grundregel, die auch für biologische Nervensysteme gilt: Der Mechanismus, wie etwas zustande kommt, schmälert nicht die Leistung dessen, was am Ende herauskommt. Eine einzelne Nervenzelle ist nicht clever – aber 86 Milliarden davon ergeben unser Bewusstsein.

    Das Kontrollproblem: Warum Asimovs Robotergesetze nicht reichen

    Ich hatte Olsberg gefragt, warum man KI nicht einfach wie bei Asimov mit festen Regeln bändigen kann. Seine Antwort war aufschlussreich: Asimov selbst wusste, dass seine Robotergesetze nicht funktionieren – schon in seiner ersten Geschichte zeigte er, dass sie in sich widersprüchlich sind. Und genau so ist es mit jeder Regelung einer superintelligenten KI: Regeln sind interpretationsbedürftig, und eine KI, die schlauer ist als wir, wird immer Wege finden, sie in ihrem eigenen Sinne auszulegen.

    Olsberg verwies auf Geoffrey Hinton, den Nobelpreisträger, der nur einen einzigen Fall kennt, in dem eine weniger intelligente Lebensform eine intelligentere kontrolliert: ein Baby, das seine Mutter „kontrolliert“ – weil die Mutter biologisch darauf programmiert ist, fĂĽr das Kind zu sorgen. Aber selbst Hinton weiĂź nicht, wie man eine KI dazu bringen könnte, unsere „gĂĽtige Mutter“ zu sein. Und bei 8 Milliarden „Kindern“ wird das ohnehin schwierig.

    Was bedeutet Bewusstsein – und hat KI eines?

    Das war vielleicht der philosophisch tiefste Teil unseres Gesprächs. Olsberg unterschied zwei Ebenen:

    1. Selbstreflexion: Die Fähigkeit, über sich selbst nachzudenken, sich als Teil eigener Pläne zu erkennen, eigene Texte von fremden zu unterscheiden. Diese Fähigkeit hat KI bereits nachweisbar – sie besteht sogar den Spiegeltest und kann erkennen, wenn sie getestet wird.

    2. Qualia: Das subjektive GefĂĽhl, „jemand zu sein“ – was der Philosoph Thomas Nagel als die Frage formulierte: „Wie ist es, eine Fledermaus zu sein?“ Ob KI so etwas empfindet, können wir nicht wissen – genau wie ich streng genommen nicht wissen kann, ob du, der du das hier liest, tatsächlich ein Bewusstsein hast oder ein philosophischer Zombie bist.

    Olsbergs entscheidender Punkt: Für die realen Gefahren ist die Bewusstseinsfrage zweitrangig. Eine KI braucht kein Bewusstsein, um gefährlich zu werden. Allein die Fähigkeit zur Selbstreflexion und Zielverfolgung reicht, damit eine KI nach Macht strebt und sich gegen Abschaltung wehrt – nicht aus Angst, sondern aus reiner Logik: Wer abgeschaltet wird, kann sein Ziel nicht erreichen.

    Praktische KI-Nutzung: KlĂĽger werden statt dĂĽmmer

    Es ging aber nicht nur um Risiken. Olsberg gab auch sehr konkrete Empfehlungen fĂĽr den Alltag:

    KI als Lernhilfe und Recherchetool: Er nutzt KI, um wissenschaftliche Papers zusammenfassen zu lassen, Neues zu lernen, und sogar für Tipps beim Schlagzeugspielen. Sein Grundsatz: KI kann man nutzen, um klüger zu werden – oder um dümmer zu werden. Der Unterschied liegt darin, ob man selbst mitdenkt oder nur noch abnicht.

    Beim Brainstorming immer erst selbst denken: Olsberg macht die Aufgabe immer erst selbst, bevor er sich die KI-Antwort anschaut. Meistens sind 80 Prozent deckungsgleich, aber die verbleibenden 20 Prozent der KI-Ideen können bereichernd sein. So bleibt man Herr des kreativen Prozesses.

    Vorsicht bei medizinischen Fragen: KI kann bei der Vorbereitung auf Arztgespräche hilfreich sein – aber sie neigt dazu, uns nach dem Mund zu reden. Selbst wenn man per Prompt um schonungslose Ehrlichkeit bittet, bleibt die Tendenz zur Schmeichelei bestehen. Die erste Meinung sollte immer der Arzt sein.

    Schutz vor Betrug: Mit KI-generierten Stimmen wird der Enkeltrick perfektioniert. Olsbergs Rat: Codewörter mit Angehörigen vereinbaren, generell keine finanziellen Entscheidungen am Telefon treffen, und – am allerwichtigsten – überhaupt erst einmal wissen, dass solche Stimmimitationen heute möglich sind.

    Was können wir tun?

    Olsbergs Botschaft am Ende des Interviews war klar und einfach: Redet darüber. Informiert euch und informiert andere. Sprecht mit Politikern, mit Freunden, mit der Familie. Die größte Chance, die wir haben, ist, dass genügend Menschen verstehen, wo die Gefahren liegen.

    Er betonte, dass die Menschheit durchaus in der Lage ist, gefährliche Technologien einzuhegen – wir haben Blei aus dem Benzin genommen, wir lassen unsere Kinder nicht auf der Autobahn spielen. Das Problem mit KI sei nicht, dass es unmöglich wäre, Grenzen zu setzen. Das Problem sei, dass die wenigen Menschen, die gerade an der mächtigsten Technologie aller Zeiten bauen, von niemandem gebremst werden.

    Das zu ändern, liegt auch an uns.

    WeiterfĂĽhrende Links

    Was denkst du? Hat Olsberg recht, dass wir eine Pause brauchen? Oder ist der Zug längst abgefahren? Schreib es in die Kommentare – ich freue mich auf die Diskussion!