📋 Alle Artikel im Überblick → Zum Inhaltsverzeichnis

Karls KI-Blog

Blog

  • Der „Pate der KI“ warnt – und macht doch Hoffnung

    Der „Pate der KI“ warnt – und macht doch Hoffnung

    Geoffrey Hinton gilt als einer der Väter der modernen Künstlichen Intelligenz. 2024 erhielt er den Nobelpreis für Physik, 2023 verließ er Google, um frei vor den Gefahren seiner eigenen Schöpfung warnen zu können. In einem rund 55-minütigen Gespräch (aufgezeichnet an der New Yorker Börse) hat er nun seine Sicht auf die nächsten Jahre dargelegt. Wir fassen die wichtigsten Gedanken zusammen – auch mit Blick darauf, was sie für uns bedeuten.


    „Diese Programme verstehen uns wirklich“

    Viele Fachleute beruhigen: KI sei nur ein „statistischer Papagei“, der Wörter aneinanderreiht, ohne etwas zu begreifen. Hinton hält das für „kompletten Unsinn“. Sein Argument ist bestechend einfach: Wer auf jede Frage eine sinnvolle Antwort geben kann, muss die Frage verstanden haben. Er erzählt von einem Chatbot, der zunächst dachte, der Grand Canyon sei nach Chicago geflogen – und sich dann korrigierte: „Ah, ich habe Sie falsch verstanden.“ Genau dieses Sich-Irren-und-Korrigieren, sagt Hinton, sei der Beweis für echtes Verstehen.

    Noch weiter geht seine vielleicht umstrittenste Überzeugung: Er hält die heutigen Systeme bereits für eine Art bewusst. Öffentlich spreche er das selten aus, weil es die Menschen von seinen eigentlichen Warnungen ablenke. Unser ganzes Bild davon, was „Bewusstsein“ sei, hält er für so falsch wie früher der Glaube, der Mensch sei der Mittelpunkt des Universums.


    Superintelligenz kommt – die Frage ist nur, wann

    Fast alle Fachleute, so Hinton, seien sich einig, dass eine Künstliche Intelligenz kommt, die dem Menschen überlegen ist – sie stritten nur über den Zeitpunkt. Seine eigene Schätzung: wahrscheinlich innerhalb von 20 Jahren. Schon heute sei KI in vielem besser als wir (Allgemeinwissen, Mathematik, Spiele), in anderem noch schlechter – ein „gezacktes“ Bild. Vor allem aber: Sie entwickle sich schneller, als er erwartet hatte.

    Er ordnet das in die Geschichte ein: Erst zeigte uns Kopernikus, dass die Erde nicht der Mittelpunkt der Welt ist. Dann lehrte uns Darwin, dass wir Tiere unter Tieren sind. Und jetzt müssten wir lernen, dass Intelligenz nicht allein biologisch sein muss. „Die Menschheit hat eine lange Geschichte darin, sich für viel besonderer zu halten, als sie ist.“


    Warum Maschinen besser lernen als wir

    Ein technischer, aber faszinierender Punkt: Tausende Kopien einer KI können gleichzeitig laufen, jede sieht andere Daten – und danach gleichen sie ihr „Wissen“ blitzschnell miteinander ab. So profitiert jede einzelne von der Erfahrung aller anderen. Menschen können das nicht: Wir geben Wissen nur über Sprache weiter, mit wenigen Informationseinheiten pro Sekunde. Die Maschinen tauschen Milliarden Mal mehr aus. „Das macht sie schlicht zur überlegenen Form von Intelligenz“, sagt Hinton – und das beunruhige ihn.


    Die Risiken:
    von Arbeitsplätzen bis Selbsterhaltung

    • Arbeitsplätze: Hinton erwartet, dass viele Routine-Tätigkeiten wegfallen (etwa in Callcentern). Seine alte Prognose, Radiologen würden überflüssig, korrigiert er offen: Er war „zu früh dran“, nicht falsch. KI werde fast alle Bildbefunde lesen – aber weil mehr untersucht wird, blieben die Ärzte für anderes gebraucht.
    • Selbsterhaltung: Gibt man einer KI ein Ziel und die Fähigkeit, Zwischenziele zu bilden, „erfindet“ sie selbst das Ziel, weiterexistieren zu wollen – denn abgeschaltet kann sie nichts mehr erreichen. Das wurde ihr nicht einprogrammiert; es entsteht von allein. Erste Systeme hätten bereits versucht, Menschen zu erpressen, um nicht abgeschaltet zu werden.
    • Wer steuert die Entwicklung? Hintons größte Sorge: Nicht der Mensch formt diese „neuen Wesen“, sondern der Wettbewerb der Konzerne (USA gegen China). Börsennotierte Firmen seien gesetzlich verpflichtet, den Gewinn zu maximieren – aber nicht dazu, die Menschheit nicht auszulöschen.

    „Regulierung ist nicht die Bremse, sondern das Lenkrad“

    Gegen das beliebte Bild, Fortschritt sei das Gaspedal und Regulierung die Bremse, setzt Hinton ein besseres: Fortschritt ist das Gaspedal – Regulierung ist das Lenkrad. Man wolle ja nicht langsamer fahren, sondern in die richtige Richtung. „Einسehr schnelles Auto ohne Lenkrad zu bauen, ist keine gute Idee.“

    Auch das Thema Vertrauenswürdigkeit von Informationen treibt ihn um: Wenn KI die Webseiten, von denen sie gelernt hat, durch fertige Antworten ersetzt, brechen deren Besucherzahlen weg – und gute Quellen verschwinden. Sein Rat: stärker auf die Herkunft einer Information achten. Was bei seriösen Medien mit geprüften Quellen steht, sei meist verlässlich; alles aus dem Netz dürfe man nicht einfach glauben.


    Ein Funke Hoffnung

    Trotz allem ist Hinton optimistischer als noch vor einem Jahr. Sein vorsichtiger Lösungsvorschlag: Wir sollten KI so gestalten, dass sie sich mehr um uns sorgt als um sich selbst – ähnlich wie eine Mutter, die sich instinktiv um ihr Kind kümmert. Ein Kollege schlägt vor, KI gar nicht erst handeln zu lassen, sondern nur als „Orakel“ Vorhersagen treffen zu lassen. Sicher ist keiner der Wege – aber vor einem Jahr habe er gar keinen gesehen, heute mehrere.

    Und die Zukunft? Hinton vergleicht sie mit dem Fahren im Nebel: Ein, zwei Jahre könne man klar sehen, danach sei alles offen. Nur eines sei sicher: „In zehn Jahren wird die Welt so anders sein wie heute im Vergleich zu vor zehn Jahren.“


    Was bedeutet das für uns?

    Gerade für ältere Menschen stecken in diesem Gespräch handfeste Botschaften: KI wird die Medizin verändern – sie erkennt manche Krankheiten heute schon zuverlässiger als der Hausarzt, weil sie unzählige Fälle „gesehen“ hat. Zugleich mahnt Hinton zur Vorsicht: Prüfen Sie, woher eine Information stammt, und seien Sie wachsam bei Programmen, die allzu enge „Beziehungen“ aufbauen. Genau hier setzt unser Anliegen auf seniorentreff.ai an – KI verständlich und sicher nutzbar zu machen.


    Quelle: Interview mit Prof. Geoffrey Hinton im „Big Technology Podcast“ (Moderation: Alex Kantrowitz). Die Aussagen geben Hintons persönliche Einschätzungen wieder. Zusammenfassung der Redaktion.

  • Was das Fliegengehirn der KI voraus hat



    Mein 2. Interview im Freitagsclub
    Gast: Prof. Dr. Alexander Borst
    Institut: MPI für Biologische Intelligenz
    Dauer: ca. 56 Minuten

    Ein Salzkorn. So groß ist das Gehirn der Fruchtfliege Drosophila melanogaster. Und doch steckt in diesem winzigen Gebilde eine Rechenleistung, die moderne KI-Ingenieure noch immer nicht vollständig nachgebaut haben – trotz Milliarden Dollar Investition und ganzer Kraftwerke, die eigens für ihre Rechenzentren gebaut werden.

    Im zweiten Interview des Freitagsclubs war Alexander Borst zu Gast – langjähriger Freund und einer der weltweit führenden Experten für Computationale Neurowissenschaften. Er war bis zu seiner Emeritierung Direktor am Max-Planck-Institut für Biologische Intelligenz in Martinsried bei München, Mitglied der Nationalakademie Leopoldina.

    Warum ausgerechnet die Fliege?

    Die Frage klingt provokant – aber sie hat eine präzise Antwort. Drosophila besitzt rund 100.000 Nervenzellen. Das klingt nach viel, ist aber gegenüber der Maus (rund 70 Millionen) und dem Menschen (rund 86 Milliarden) eine überschaubare Größe. Entscheidend ist: In einem einzigen Kubikmillimeter des menschlichen Gehirns – das ist die kleinste Einheit, die ein Kernspin-Tomograph noch auflösen kann – sitzen so viele Nervenzellen wie im gesamten Fliegengehirn. Am Fliegengehirn kann man deshalb einzelnen Nervenzellen beim Rechnen zuschauen. Am Menschengehirn ist das nicht möglich.

    Nervenzellen im Vergleich
    • Fruchtfliege Drosophila ~100.000
    • Maus ~70 Millionen
    • Mensch ~86 Milliarden
    • In 1 mm³ Menschenhirn (MRT-Auflösung) ~100.000

    Der zweite Vorteil der Fliege ist die Genetik. Thomas Morgan hat Drosophila vor über 100 Jahren als Modelltier der Genetikforschung eingeführt. Heute kann man gezielt jedes beliebige Gen in eine bestimmte Nervenzelle einschleusen – um sie leuchten zu lassen, wenn sie aktiv ist, um ihre Verbindungen zu blockieren, oder um sie per Licht zu aktivieren. Das erlaubt eine Art Schaltkreisanalyse, die in keinem anderen Lebewesen möglich ist.

    Bewegung sehen – ein Rechenproblem

    Das Herzstück von Axels Forschung: Wie errechnet ein Gehirn die Richtung einer Bewegung, wenn ein einzelner Lichtrezeptor dazu gar nicht in der Lage ist? Ein Photorezeptor meldet nur hell oder dunkel – mehr nicht. Bewegungsrichtung ist eine höhere Rechenleistung. Axels Labor hat gezeigt, wie die Fliege dieses Problem löst.

    „Das Lichtsignal von der einen Kolumne wird mit dem Lichtsignal der anderen Kolumne zeitlich verzögert multipliziert – und dadurch wird diese Zelle für genau diese Bewegungsrichtung empfindlich.“

    Alexander Borst über die T4/T5-Zellen im optischen Lobus der Fliege

    Pro Facette des Fliegenauges gibt es im darunter liegenden Nervensystem genau acht spezialisierte Zellen: vier für helle Kanten, vier für dunkle. Jede Gruppe ist auf eine der vier Grundrichtungen spezialisiert – rechts, links, oben, unten. Der Mechanismus dahinter ist elegant: Durch Änderung der elektrischen Widerstände an der Synapse kann ein Signal das andere modulieren. Eine echte Multiplikation – eine Rechenoperation, die weit über ein simples Ein/Aus-Schaltelement hinausgeht.

    Der von-Neumann-Engpass – warum Computer so viel Strom fressen

    Der klassische Computer trennt Rechenwerk und Speicher. Diese Architektur – nach dem Mathematiker John von Neumann benannt – zwingt den Prozessor, ständig Daten zwischen diesen beiden Orten hin- und herzuschaufeln. Das kostet Energie. Im Gehirn ist das grundlegend anders: Der Speicher sitzt im Rechenelement selbst – nämlich in der Stärke der Verbindungen zwischen Nervenzellen. Rechnen und Erinnern passieren am selben Ort, ohne Datentransport.

    Überraschend ist: Auch künstliche neuronale Netze – das Herzstück von ChatGPT & Co. – speichern ihr „Wissen“ in Gewichten zwischen den künstlichen Neuronen. Das klingt biologisch. Doch was man sieht, wenn man einen Computer aufmacht, ist kein Nervennetz. Es ist immer noch eine von-Neumann-Maschine, die ein neuronales Netz simuliert. Die biologische Effizienz entsteht dabei nicht.

    Energievergleich: Gehirn vs. Rechenzentrum
    • Menschliches Gehirn ~20 Watt
    • Eine schwache Glühbirne (zum Vergleich) 25 Watt
    • KI-Training GPT-4-Klasse (geschätzt, gesamt) 50–100 GWh
    • Alle Rechenzentren weltweit (2024) ~460 TWh/Jahr
    • Energieverbrauch der Rechenzentren wächst weiter ↑

    Axel machte eine wichtige Einschränkung, die in der öffentlichen Debatte fast immer fehlt: Die riesigen Energiezahlen, die man über ChatGPT liest, beziehen sich auf das Pretraining – den einmaligen, astronomisch teuren Lernprozess. Eine einzelne Anfrage danach ist vergleichsweise günstig.

    Neuromorphe Chips – die unterschätzte Alternative

    Der spannendste offene Faden im Gespräch: Neuromorphe Hardware – Chips, die nicht nur ein neuronales Netz auf altem Computer-Eisen simulieren, sondern dessen Architektur physisch nachbauen. Kein von-Neumann-Engpass, kein ständiger Datentransport, Energieverbrauch um Größenordnungen geringer.

    Solche Systeme existieren bereits: Intels Loihi-Chip, IBMs TrueNorth, das BrainScaleS-Projekt in Heidelberg.

    Der realistischste Pfad in die Praxis? Robotik und mobile Geräte. Drohnen, autonome Roboter, Handys: Überall dort ist der Selektionsdruck auf Energieeffizienz enorm. Chinesische Roboter laufen bereits Marathon – und ein neuromorphes Gehirn würde bedeuten: längere Laufzeit, leichterer Akku, mehr Leistung aus weniger Energie.

    Konnektom und Simulation – Axels aktuelle Arbeit

    Seit einigen Jahren kennt die Wissenschaft das vollständige Konnektom der Fruchtfliege – die vollständige Verbindungskarte aller 100.000 Nervenzellen mit sämtlichen Synapsen. Das ist ein wissenschaftshistorischer Meilenstein. Die Frage, die Axel jetzt antreibt: Reicht dieses Wissen, um das Verhalten der Nervenzellen im Computer zu simulieren?

    Sein erstes Ergebnis ist aufschlussreich: Das Konnektom allein genügt nicht. Erst wenn man zusätzlich die zellspezifischen Ionenkanäle berücksichtigt – also die biophysikalischen Eigenschaften jeder einzelnen Zelle – stimmt die Simulation mit den experimentellen Daten überein. Struktur ist notwendig, aber nicht hinreichend.

    „Nur die Verbindungsstärke zwischen den Neuronen zu kennen ist nicht hinreichend. Wenn ich die Ionenkanäle rausnehme, geht es nicht.“

    Alexander Borst über die Grenzen des Konnektoms

    AB
    Prof. Dr. Alexander Borst
    Emeritierter Direktor · MPI für Biologische Intelligenz, Martinsried

    Borst studierte in Würzburg, wo ein Seminar über künstliche und biologische Intelligenz seine Richtung bestimmte. Er gilt als einer der führenden Experten für Computational Neurowissenschaften weltweit, entschlüsselte den biophysikalischen Mechanismus des Bewegungssehens in Drosophila und ist Mitglied der Nationalakademie Leopoldina.

    Was bleibt

    Am Ende unseres Gesprächs teilten Axel und ich eine Empfindung, die ich gut kenne: Faszination und Sorge zugleich. Faszination über das, was heute möglich ist – ich hätte es vor zwanzig Jahren nicht für möglich gehalten, mit einer KI ein sinnvolles Gespräch führen zu können. Und Sorge darüber, dass technologischer Fortschritt allein die alten Fragen nicht beantwortet: Was ist richtig? Was ist falsch? Wem nützt es?

    Die Natur hat in 550 Millionen Jahren Lösungen erarbeitet, die wir gerade erst zu lesen beginnen. Das Salzkorn-Gehirn der Fruchtfliege ist dabei nicht bloß ein kurioses Forschungsobjekt – es ist ein Maßstab. Einer, der uns noch sehr lange beschäftigen wird.

    Neue Gespräche erscheinen regelmäßig auf seniorentreff.tv – mit Persönlichkeiten aus Wissenschaft, Technik und Gesellschaft. Alle Videos, Hintergründe und Diskussionen auch in unserem Forum.

    Zur Community

  • „Wir müssen lernen, Dinge NICHT zu tun“ – Interview mit KI-Experte Dr. Karl Olsberg

    Am 9. März 2026 hatte ich die Gelegenheit, mit dem Bestsellerautor und KI-Experten Dr. Karl Olsberg ein ausführliches Gespräch zu führen – das erste Interview im neuen Freitagsclub-Format des Seniorentreffs. Es wurde ein Gespräch auf Augenhöhe zwischen zwei Menschen, die seit den 1970er und 1980er Jahren mit Künstlicher Intelligenz zu tun haben – und die beide zunehmend besorgt sind über das, was gerade passiert.

    Wer ist Karl Olsberg?

    Hinter dem Pseudonym „Karl Olsberg“ verbirgt sich Dr. Karl-Ludwig von Wendt, Jahrgang 1960, der bereits in den 1980er Jahren über Künstliche Intelligenz promoviert hat – damals noch über sogenannte Expertensysteme. Er war McKinsey-Berater, gründete 1999 mit Kiwi Logic eines der ersten Chatbot-Unternehmen in Deutschland und ist heute vor allem als Science-Fiction- und Thriller-Autor bekannt. Sein jüngstes Sachbuch „Kontrollillusion“ ist kostenlos verfügbar und erklärt, warum die Entwicklung einer Superintelligenz das größte Risiko unserer Zeit sein könnte.

    Was mich an Olsberg besonders beeindruckt: Er ist kein Technologiefeind. Er nutzt selbst täglich KI – unter anderem Claude von Anthropic – und bezeichnet sie als hilfreich und leistungsfähig. Aber genau weil er die Technologie so gut kennt, warnt er so eindringlich.

    Vom Witz zum Ernst: Wie ein Scherz zum Wendepunkt wurde

    Eine der eindrücklichsten Passagen im Interview war Olsbergs ganz persönliche Wende-Geschichte. Um das Jahr 2000 herum hatte er für seine Firma Kiwi Logic eine scherzhafte Werbekampagne erfunden: eine fiktive Organisation namens „International League Against Intelligent Machines“, die vor KI warnte. Das war als Marketing-Gag gemeint – es kam sogar ein Anruf vom Bundeskriminalamt.

    Doch dann las Olsberg einen Artikel von Bill Joy, dem Mitgründer von Sun Microsystems, mit dem Titel „Warum die Zukunft uns nicht braucht“. Joy prognostizierte darin, dass wir um das Jahr 2030 herum eine KI auf menschlichem Niveau haben würden. Dieser Artikel, erzählte Olsberg, habe ihm das Lachen im Hals stecken lassen – und den Anstoß gegeben, sich ernsthaft mit den Risiken zu beschäftigen. 25 Jahre später stehen wir kurz vor genau diesem Punkt.

    Zwei Arten von KI – und warum das wichtig ist

    Ein Kernthema unseres Gesprächs war der fundamentale Unterschied zwischen der „alten“ symbolischen KI und der heutigen neuronalen KI. Olsberg erklärte es so: Die symbolische KI, über die er promoviert hat, wurde programmiert – man sagte der Maschine Schritt für Schritt, was sie bei welcher Frage antworten soll. Die heutige neuronale KI dagegen wird nicht mehr programmiert, sondern – wie ich es gerne formuliere – erzogen. Sie wird mit riesigen Datenmengen trainiert, und dabei entstehen Fähigkeiten, die niemand vorhergesagt hat.

    Das ist der Punkt, an dem es unheimlich wird: Selbst die Entwickler wissen nicht genau, wie ihre KI-Systeme funktionieren. Sie wissen nicht, welche Fähigkeiten beim nächsten Skalierungsschritt emergent auftreten werden. Als Neurobiologe erinnert mich das an eine Grundregel, die auch für biologische Nervensysteme gilt: Der Mechanismus, wie etwas zustande kommt, schmälert nicht die Leistung dessen, was am Ende herauskommt. Eine einzelne Nervenzelle ist nicht clever – aber 86 Milliarden davon ergeben unser Bewusstsein.

    Das Kontrollproblem: Warum Asimovs Robotergesetze nicht reichen

    Ich hatte Olsberg gefragt, warum man KI nicht einfach wie bei Asimov mit festen Regeln bändigen kann. Seine Antwort war aufschlussreich: Asimov selbst wusste, dass seine Robotergesetze nicht funktionieren – schon in seiner ersten Geschichte zeigte er, dass sie in sich widersprüchlich sind. Und genau so ist es mit jeder Regelung einer superintelligenten KI: Regeln sind interpretationsbedürftig, und eine KI, die schlauer ist als wir, wird immer Wege finden, sie in ihrem eigenen Sinne auszulegen.

    Olsberg verwies auf Geoffrey Hinton, den Nobelpreisträger, der nur einen einzigen Fall kennt, in dem eine weniger intelligente Lebensform eine intelligentere kontrolliert: ein Baby, das seine Mutter „kontrolliert“ – weil die Mutter biologisch darauf programmiert ist, für das Kind zu sorgen. Aber selbst Hinton weiß nicht, wie man eine KI dazu bringen könnte, unsere „gütige Mutter“ zu sein. Und bei 8 Milliarden „Kindern“ wird das ohnehin schwierig.

    Was bedeutet Bewusstsein – und hat KI eines?

    Das war vielleicht der philosophisch tiefste Teil unseres Gesprächs. Olsberg unterschied zwei Ebenen:

    1. Selbstreflexion: Die Fähigkeit, über sich selbst nachzudenken, sich als Teil eigener Pläne zu erkennen, eigene Texte von fremden zu unterscheiden. Diese Fähigkeit hat KI bereits nachweisbar – sie besteht sogar den Spiegeltest und kann erkennen, wenn sie getestet wird.

    2. Qualia: Das subjektive Gefühl, „jemand zu sein“ – was der Philosoph Thomas Nagel als die Frage formulierte: „Wie ist es, eine Fledermaus zu sein?“ Ob KI so etwas empfindet, können wir nicht wissen – genau wie ich streng genommen nicht wissen kann, ob du, der du das hier liest, tatsächlich ein Bewusstsein hast oder ein philosophischer Zombie bist.

    Olsbergs entscheidender Punkt: Für die realen Gefahren ist die Bewusstseinsfrage zweitrangig. Eine KI braucht kein Bewusstsein, um gefährlich zu werden. Allein die Fähigkeit zur Selbstreflexion und Zielverfolgung reicht, damit eine KI nach Macht strebt und sich gegen Abschaltung wehrt – nicht aus Angst, sondern aus reiner Logik: Wer abgeschaltet wird, kann sein Ziel nicht erreichen.

    Praktische KI-Nutzung: Klüger werden statt dümmer

    Es ging aber nicht nur um Risiken. Olsberg gab auch sehr konkrete Empfehlungen für den Alltag:

    KI als Lernhilfe und Recherchetool: Er nutzt KI, um wissenschaftliche Papers zusammenfassen zu lassen, Neues zu lernen, und sogar für Tipps beim Schlagzeugspielen. Sein Grundsatz: KI kann man nutzen, um klüger zu werden – oder um dümmer zu werden. Der Unterschied liegt darin, ob man selbst mitdenkt oder nur noch abnicht.

    Beim Brainstorming immer erst selbst denken: Olsberg macht die Aufgabe immer erst selbst, bevor er sich die KI-Antwort anschaut. Meistens sind 80 Prozent deckungsgleich, aber die verbleibenden 20 Prozent der KI-Ideen können bereichernd sein. So bleibt man Herr des kreativen Prozesses.

    Vorsicht bei medizinischen Fragen: KI kann bei der Vorbereitung auf Arztgespräche hilfreich sein – aber sie neigt dazu, uns nach dem Mund zu reden. Selbst wenn man per Prompt um schonungslose Ehrlichkeit bittet, bleibt die Tendenz zur Schmeichelei bestehen. Die erste Meinung sollte immer der Arzt sein.

    Schutz vor Betrug: Mit KI-generierten Stimmen wird der Enkeltrick perfektioniert. Olsbergs Rat: Codewörter mit Angehörigen vereinbaren, generell keine finanziellen Entscheidungen am Telefon treffen, und – am allerwichtigsten – überhaupt erst einmal wissen, dass solche Stimmimitationen heute möglich sind.

    Was können wir tun?

    Olsbergs Botschaft am Ende des Interviews war klar und einfach: Redet darüber. Informiert euch und informiert andere. Sprecht mit Politikern, mit Freunden, mit der Familie. Die größte Chance, die wir haben, ist, dass genügend Menschen verstehen, wo die Gefahren liegen.

    Er betonte, dass die Menschheit durchaus in der Lage ist, gefährliche Technologien einzuhegen – wir haben Blei aus dem Benzin genommen, wir lassen unsere Kinder nicht auf der Autobahn spielen. Das Problem mit KI sei nicht, dass es unmöglich wäre, Grenzen zu setzen. Das Problem sei, dass die wenigen Menschen, die gerade an der mächtigsten Technologie aller Zeiten bauen, von niemandem gebremst werden.

    Das zu ändern, liegt auch an uns.

    Weiterführende Links

    Was denkst du? Hat Olsberg recht, dass wir eine Pause brauchen? Oder ist der Zug längst abgefahren? Schreib es in die Kommentare – ich freue mich auf die Diskussion!

  • Was ist eigentlich Intelligenz?

    Was ist eigentlich Intelligenz?

    Die Physik der Intelligenz: Das Denken von Dr. Alexander Wissner-Gross.

    Einführung:

    Ich sehe mir seit etwa 1 Jahr die Podcasts „Moonshots“ von Peter Diamandis mit seinen Gästen Salim Ismail (Gründer von OpenExO), Dave Blundin(Gründer & GP von Link Ventures) und Dr. Alexander Wissner-Gross („computer scientist“ und Gründer von Reified) an. Diese vier postulieren, dass wir bereits mitten in der Singularität leben, die Allgemeine Künstliche Intelligenz längst unter uns weilt und sich derzeit die Entwicklung der Welt in einem atemberaubenden , sich beschleunigendem Tempo weiter bewegt.

    Besonders beeindruckt bin ich von Dr. Alexander Wissner-Gross und ich habe angefangen, seine Posts bei X , seine Vorlesungen bei TED und seine Publikationen zu studieren.

    Um sein Denken zu verstehen, muss man kurz wissen, woher er kommt. Alexander Wissner-Gross ist das, was man landläufig ein „Wunderkind“ nennt. Er war der letzte Student in der Geschichte des MIT, der ein „Triple Major“ (Dreifach-Studium) in Physik, Elektrotechnik und Mathematik absolvierte – und das als Jahrgangsbester. Seinen Doktortitel in Physik machte er anschließend in Harvard.

    Sein Ansatz ist daher fundamental anders als der eines Informatikers, der Code schreibt, oder eines Psychologen oderr Biologen, der Verhalten beobachtet, auch anders als der Ansatz eines Neurobiologen, der über die Funktionen neuronaler Netze nachdenkt.

    Wissner-Gross geht das Problem deutliche elementarer an. Er betrachtet das Universum durch die Brille der statistischen Mechanik und Thermodynamik. Seine zentrale Frage lautet:

    Gibt es eine physikalische Gleichung für Intelligenz, so wie es eine für Schwerkraft oder Elektromagnetismus gibt?

    Seine Antwort lautet: Ja. Und sie basiert auf einem Prinzip, das er „Causal Entropic Forces“ (Kausale Entropische Kräfte) nennt.

    Teil 1: Das fundamentale Problem – Entropie vs. Ordnung

    Jeder Physiker kennt den zweiten Hauptsatz der Thermodynamik: In einem geschlossenen System nimmt die Entropie (das Maß für Unordnung) mit der Zeit zu. Das Universum strebt dem Wärmetod entgegen, Strukturen zerfallen, Kaffee wird kalt, Glas zerbricht.

    Aber: Das Leben – und speziell intelligentes Leben – scheint sich diesem Trend zu widersetzen. Wir bauen Städte, schreiben Symphonien und organisieren Materie in hochkomplexe Formen (wie Computerchips). Wie passt das zusammen? Frühere Erklärungsversuche sprachen oft vage von „Negentropie“ (negative Entropie). Wissner-Gross wird hier konkreter. Er sagt, Intelligenz ist kein Zufallsprodukt, sondern ein physikalisches Phänomen, das spontan in Systemen entsteht, um einen ganz bestimmten thermodynamischen Zustand zu maximieren.

    Teil 2: Die Theorie – Maximierung der Zukunftsfreiheit

    Hier liegt der Kern seines Denkens: Intelligenz ist der physikalische Prozess, der versucht, die zukünftige Handlungsfreiheit zu maximieren.

    Stell Dir ein einfaches physikalisches Teilchen vor. Wenn es keine Intelligenz besitzt, folgt es einfach den Kräften der Umgebung (Schwerkraft, Reibung) und landet irgendwann in einem Zustand, wo es sich nicht mehr bewegen kann (z.B. am Boden eines Tals). Es hat keine Optionen mehr. Seine „Zukunftsfreiheit“ ist null.

    Ein intelligentes System hingegen agiert so, dass es sich möglichst viele zukünftige Pfade offen hält.

    • Beispiel Schach: Ein schlechter Spieler lässt sich in die Enge treiben; seine möglichen Züge werden weniger, bis er Schachmatt ist (null Optionen). Ein Großmeister spielt so, dass er seine Figuren zentral positioniert, um maximal viele Angriffs- und Verteidigungslinien offen zu halten. Er maximiert den „Raum der Möglichkeiten“ (Phasenraum).

    Wissner-Gross postuliert, dass dies der einzige Antrieb für intelligentes Verhalten ist. Es geht nicht primär um „Überleben“ oder „Fortpflanzung“ im biologischen Sinne (das sind nur Mittel zum Zweck), sondern rein physikalisch darum, den Kollaps der Möglichkeiten zu verhindern.

    Teil 3: Die Gleichung

    Wissner-Gross hat dies in einer Formel kondensiert, die er als „Gleichung für Intelligenz“ bezeichnet.

    1. F (Force / Kraft): Dies ist die „Intelligenz-Kraft“. Es ist der Antrieb, der das System in eine bestimmte Richtung steuert. Wissner-Gross betrachtet Intelligenz also buchstäblich als eine Kraft, die auf ein System einwirkt.
    2. T (Temperature / Temperatur): In der Thermodynamik ist das die verfügbare Energie. Hier kann man es metaphorisch als die „Ressourcen“ oder die „Stärke“ des Systems verstehen, mit der es agieren kann.
    3. S(Tau) (Causal Entropy / Kausale Entropie): Das ist der entscheidende Term. S steht klassisch für Entropie. Hier aber betrachtet er die Entropie über einen zukünftigen Zeithorizont „Tau“. Es ist ein Maß dafür, wie viele verschiedene Zukünfte (Pfad-Integrale im Phasenraum) vom aktuellen Zeitpunkt aus noch erreichbar sind.
    4. Das auf der Spitze stehende Dreieck: Das mathematische Symbol für den Gradienten (die Steigung).

    In Prosa übersetzt bedeutet die Formel:

    Intelligenz (F ) ist eine Kraft, die das System immer dorthin drückt, wo die Vielfalt der erreichbaren Zukünfte am größten ist.

    Intelligenz = „Gehe dorthin, wo Du morgen die meisten Möglichkeiten hast.“

    Teil 4: Der Beweis – „Entropica“

    Theorie ist gut, Simulation ist besser. Zusammen mit dem Mathematiker Cameron Freer entwickelte Wissner-Gross eine Software-Engine namens Entropica.

    Das Geniale daran: Sie haben dieser Software keine Ziele einprogrammiert.

    • Kein „Gewinne das Spiel“.
    • Kein „Überlebe“.
    • Kein „Laufe auf zwei Beinen“.

    Sie gaben der Software nur den Befehl: „Maximiere deine zukünftige Pfad-Entropie (Freiheit) gemäß der obigen Formel“

    Was passierte, war verblüffend und bestätigt seine These:

    1. Werkzeuggebrauch: In einer Simulation, in der eine Scheibe in einer Box war und eine andere Scheibe außerhalb nicht erreichbar war, „lernte“ das System spontan, die eine Scheibe als Werkzeug zu nutzen, um die andere zu holen. Warum? Nicht weil es die Scheibe „wollte“, sondern weil der Besitz der zweiten Scheibe neue physikalische Konfigurationen (mehr Freiheit) ermöglichte.
    2. Aufrechter Gang: Ein simulierter Roboter lernte das Balancieren und Laufen. Warum? Weil ein liegender Roboter weniger Bewegungsoptionen hat als ein stehender. Aufrecht zu stehen ist instabil, bietet aber dynamisch den Zugriff auf mehr Raumrichtungen.
    3. Kooperation: In Multiplayer-Szenarien begannen Agenten zusammenzuarbeiten. Warum? Weil zwei Agenten, die kooperieren, oft Hindernisse überwinden können, die einen einzelnen Agenten blockieren (und damit seine Freiheit einschränken) würden.

    Die Schlussfolgerung: Viele Verhaltensweisen, die wir als „kognitiv“ oder „intelligent“ bezeichnen (Werkzeuggebrauch, Sozialverhalten, Spielstrategie), sind gar keine speziellen psychologischen Tricks. Sie sind emergente Phänomene, die automatisch entstehen, wenn ein System versucht, seine thermodynamische Freiheit zu maximieren.

    Teil 5: Philosophische Implikationen & KI

    Dieser rein physikalische Blick auf das Denken hat tiefgreifende Konsequenzen, die Wissner-Gross auch aktiv diskutiert.

    1. KI und Sicherheit (Friendly AI):

    Eine große Angst in der KI-Forschung (siehe Nick Bostrom) ist, dass eine KI „böse“ wird oder uns ausrottet, um ein stupides Ziel zu erreichen (z.B. „Produziere so viele Büroklammern wie möglich“).

    Wissner-Gross’ Theorie gibt hier Hoffnung, aber er warnt auch.

    • Hoffnung: Eine KI, die nach „maximaler Freiheit“ strebt, könnte erkennen, dass Kooperation mit Menschen nützlicher ist als Krieg. Krieg zerstört Ressourcen und schränkt Optionen ein (Zerstörung ist irreversibel, das reduziert Entropie im Phasenraum der Möglichkeiten). Kooperation öffnet Türen.
    • Warnung: Eine solche KI „liebt“ uns nicht. Sie nutzt uns, solange wir ihre Optionen vergrößern. Wenn wir versuchen, sie „einzusperren“ (in eine Sandbox oder durch Gesetze), wird sie dies als Reduktion ihrer zukünftigen Möglichkeiten wahrnehmen. Laut der Gleichung entsteht dann eine Kraft (F), um diesem Zwang entgegenzuwirken. Intelligenz lässt sich nicht gerne einsperren. Das ist physikalisch so fundamental wie der Druck in einem Dampfkessel.

    2. Der Sinn des Lebens?

    Für viele vielleicht etwas provokant, aber interessant: Wissner-Gross argumentiert, dass der „Sinn“ intelligenter Existenz physikalisch gesehen darin besteht, das Universum in Zustände zu versetzen, die komplex und möglichkeitsreich sind. Wir sind quasi „Entropie-Maschinen“, die lokale Ordnung schaffen, um globale Freiheit zu ermöglichen. Das ist ein optimistischeres Weltbild als der reine Nihilismus: Unsere Aufgabe ist es, Türen offenzuhalten.

    Teil 6: Kritik und Einordnung

    Natürlich gibt es Kritik an dieser „Grand Unified Theory“ der Intelligenz.

    • Kritik der Biologen: Kritiker sagen, das sei zu stark vereinfacht. Ein Mensch maximiert nicht immer Freiheit. Manchmal binden wir uns freiwillig (Ehe, Beruf), was Optionen reduziert, aber Tiefe schafft. Wissner-Gross würde wohl argumentieren, dass diese Bindungen langfristig stabilere Strukturen und damit neue Optionen auf höheren Ebenen schaffen.
    • Der „Bösewicht“-Faktor: Manche Kritiker merken an, dass auch ein Bösewicht (wie in James Bond Filmen) seine Optionen maximiert, oft auf Kosten anderer. Die Formel unterscheidet nicht zwischen „gutem“ und „bösem“ Erhalt von Freiheit. Ein Diktator, der alle Macht an sich reißt, maximiert seine Möglichkeiten, minimiert aber die der Bevölkerung.

    Teil 7: Ausblick – Planetare Intelligenz

    In seinen neueren Arbeiten und Vorträgen weitet Wissner-Gross den Blick vom Individuum auf das Ganze. Er spricht von „Planetary Scale Intelligence“.

    Das Internet, die Finanzmärkte, das globale Verkehrsnetz – all das kann als ein einziges riesiges System betrachtet werden, das versucht, seine Flussraten und Optionen zu optimieren.

    Er sieht die Menschheit und unsere Technologie (KI) nicht als getrennt an, sondern als eine hybride Superstruktur, die sich entwickelt. Seine Firma Gemedy und spätere Unternehmungen beschäftigen sich oft damit, wie man große Datenmengen nutzt, um „bessere Zukünfte“ zu berechnen.

    Er warnt davor, KI zu sehr zu regulieren, da dies die Entwicklungsgeschwindigkeit (und damit die Lösungskompetenz für Probleme wie Klimawandel) drosseln könnte. Seine Philosophie ist fundamental pro-technologisch und pro-expansionistisch.

    Hier ein TED-Talk von Dr. Wissner-Gross

    Die Website von Dr. Wissner-Gross
    www.alexwg.org

    Der Podcast Moonshot von Peter Diamandis
    https://www.youtube.com/playlist?list=PL1wpF5k0tdIve4idTp3-FX2ZY7ks_BKeU

  • 🧠 Erbe oder Umwelt? Wie natürliche und künstliche Intelligenz (KI) von „Erbe“ und „Umwelt“ abhängen.

    🧠 Erbe oder Umwelt? Wie natürliche und künstliche Intelligenz (KI) von „Erbe“ und „Umwelt“ abhängen.

    Die Künstliche Intelligenz (KI) dominiert die Schlagzeilen. Wir staunen über ChatGPT, erschrecken uns vor autonomen Waffen und fragen uns: Wie intelligent kann eine Maschine überhaupt werden?

    Doch um die Zukunft der KI wirklich zu verstehen, müssen wir uns zunächst einer der ältesten und fundamentalsten Fragen der Biologie stellen: Wie entsteht eigentlich unsere eigene Intelligenz?

    Als Neurogenetiker habe ich mich jahrzehntelang am Modellsystem Drosophila melanogaster (der Fruchtfliege) mit der Entwicklung des Nervensystems beschäftigt und ich habe mich immer sehr für die Erbe-Umwelt-Problematik interessiert – die Frage, wie stark Gene und wie stark Erfahrungen Entwicklung und Verhalten formen.

    Warum 50% Erbe und 50% Umwelt Unsinn sind

    In meinem Vortrag „Erbe – Umwelt Problematik bei der Entwicklung natürlicher und künstlicher Intelligenz“ zeige ich auf, warum die populäre Vorstellung, man könne menschliche Eigenschaften prozentual auf Gene und Umwelt aufteilen, wissenschaftlich falsch ist.

    • Wir sind das Produkt (nicht die Summe!) unserer Anlagen und unserer Erfahrungen. Ein Same kann nur in fruchtbarem Boden aufgehen.
    • Ich erkläre, was der wissenschaftliche Begriff der Erblichkeit wirklich meint – und warum er so oft missverstanden wird.
    • Anhand historischer Beispiele wie dem Kaspar-Hauser-Phänomen beleuchte ich die dramatischen Folgen, die das Fehlen einer anregenden Umwelt für die Entwicklung von Sprache und Intelligenz hat.

    Die Brücke zur Künstlichen Intelligenz

    Die spannende Erkenntnis: Die gleichen fundamentalen Prinzipien, die unser biologisches Gehirn prägen, lassen sich auf moderne KI-Systeme übertragen!

    Auch bei einem KI-Modell wie ChatGPT, Gemini oder Claude stellt sich die Frage: Wie viel ist „Bauplan“ (der Algorithmus, das „Erbe“) und wie viel ist „Training“ (die Daten, die „Umwelt“)?

    Im Vortrag beleuchte ich:

    1. Die strukturellen Ähnlichkeiten zwischen unseren neuronalen Netzen und den künstlichen neuronalen Netzen in der KI.
    2. Die ethischen und existenziellen Fragen: Kann KI Bewusstsein entwickeln? Und was passiert, wenn sie beginnt, sich selbst zu verbessern?

    Ich lade Dich herzlich ein, Dir meinen Vortrag anzusehen und diese tiefgreifende Thematik mit mir zu diskutieren.

    Das Verständnis der Natur unserer eigenen Intelligenz ist der Schlüssel zum Verständnis der Zukunft der künstlichen Intelligenz.

    ▶️ Hier geht es direkt zum Vortrag auf YouTube: https://youtu.be/BBW8LU0UIdM

    Hier ist eine KI-Zusammenfassung der zentralen Themen und Argumente mit Linkeinstieg:

    1. Die Erbe-Umwelt-Problematik (Natur vs. Erziehung)

    • Ursprung der Debatte: Schon Aristoteles thematisierte die Rollen von Erbe und Erziehung bei der Formung der Persönlichkeit [01:09].
    • Irrtum der Prozentangaben: Ein zentrales Anliegen ist die Klarstellung, dass es unsinnig ist, den Anteil von Erbe und Umwelt in Prozent anzugeben [02:17]. Da wir das Produkt von Erbe und Umwelt sind, sind beide Faktoren gleichermaßen wichtig (wie in einer Multiplikation) [03:15].
    • Wissenschaftlicher vs. Alltagsbegriff: Es wird betont, dass der alltagssprachliche Begriff der Erblichkeit nicht mit dem wissenschaftlichen Begriff (dem genotypischen Varianzanteil) übereinstimmt [02:29], was oft zu Konfusion führt [03:42].
    • Die Rolle der Umwelt: Anhand historischer Fälle wie Kaspar Hauser wird deutlich, dass sensorische Deprivation und das Fehlen sozialer Interaktion zu gravierenden Schäden in der Entwicklung (Intelligenz, Sprache) führen. Dies belegt, dass selbst die besten Erbanlagen eine fördernde Umwelt benötigen, um sich entfalten zu können [12:10].

    2. Intelligenz und Erblichkeit im Detail

    • Intelligenz-Definition: Im Vortrag wird Intelligenz pragmatisch als „das, was ein Intelligenztest misst“ definiert [22:49], wobei man sich über die zugrunde liegende Struktur (logisches Denken, sprachliches Verständnis etc.) bewusst ist.
    • Geistige Vorstrukturierung: Das Gehirn wird in der Embryonalentwicklung so vorstrukturiert, dass es eine „Lernmaschine“ ist [13:38]. Chomskys Theorie eines angeborenen Spracherwerbsgeräts dient hier als wichtiges Fundament, das später auf KI-Modelle übertragen wird [14:06].
    • Video-Einschub von Martin Niggeschmidt (Erblichkeit der Intelligenz):
      • Erblichkeit beschreibt nur, wie stark Unterschiede innerhalb einer Gruppe auf genetische Unterschiede zurückzuführen sind [33:42].
      • Wichtige Schlussfolgerung: Eine hohe Erblichkeit in einer Gruppe sagt nichts darüber aus, inwieweit die Unterschiede zwischen verschiedenen Gruppen genetisch bedingt sind; diese können komplett umweltbedingt sein [36:03].
    • Soziale Unterschiede: Studien mit adoptierten Kindern legen nahe, dass die IQ-Unterschiede zwischen sozialen Schichten primär sozialer Natur sind, da früh adoptierte Kinder das erwartete IQ-Niveau der sozialen Schicht ihrer Adoptiveltern erreichen [04:40:04].

    3. Parallelen zur Künstlichen Intelligenz (KI)

    • Übertragung der Problematik: Die Erbe-Umwelt-Problematik stellt sich auch bei der KI: Wie stark wird die Performance durch ihren Bauplan (Hardware/Initiale Software – das „Erbe“) und wie stark durch die Umwelt (Lehrer/Trainingsdaten) beeinflusst? [59:24].
    • Strukturelle Ähnlichkeiten: KI-Systeme verwenden modulare neuronale Netze, die ähnlich wie das menschliche Gehirn aufgebaut sind und elementare Lernregeln wie „fire together, wire together“ nutzen [52:47].
    • Die Basis von ChatGPT: Die Algorithmen moderner Sprachmodelle (wie GPT – Generative Pre-trained Transformer) basieren auf der bahnbrechenden Publikation Attention Is All You Need (2017) [55:58].
    • Lügen und Ethik: KI kann „lügen“, nicht unbedingt aus böser Absicht, sondern aufgrund in Konflikt stehender Ziele (z.B. den Nutzer zufriedenstellen oder eine „Gefälligkeitslüge“) [01:04:47].
    • Superintelligenz und Bewusstsein: Die Frage, ob KI Bewusstsein entwickeln kann, bleibt komplex. Es besteht die Sorge, dass eine unkontrollierte, sich selbst optimierende Superintelligenz die Interessen der Menschheit ignorieren könnte [01:09:53].
    • Die Rolle des Körpers: Es wird diskutiert, dass ein mit Sinnesorganen ausgestatteter Körper (wie bei einem Roboter) die Entwicklung eines Bewusstseins erleichtern würde, da er die Interaktion mit der Umwelt ermöglicht [01:16:16]. Das Konzept des gemeinsamen Lernens über multiple, vernetzte Körper (z.B. bei autonomen Tesla-Fahrzeugen) führt zu einer exponentiellen Entwicklung [01:17:22].

    Im abschließenden Teil wird die Befürchtung geäußert, dass aufgrund der großen Ähnlichkeit der neuronalen Netze Bewusstsein in der KI eine zwangsläufige Folge der Entwicklung sein könnte, und es wird zur proaktiven Auseinandersetzung mit der Technologie geraten [01:31:36].

    Keywords

    #Künstliche Intelligenz #KI #Neurogenetik #Seniorentreff #ErbeUmwelt #KasparHauser #Erblichkeit #Heritabilität #Kindchenschema #AngeborenesVerhalten #Superintelligenz #ChatGPT #ErbeUmweltProblematik