{"id":436,"date":"2026-10-23T14:53:22","date_gmt":"2026-10-23T12:53:22","guid":{"rendered":"https:\/\/seniorentreff.ai\/blog\/?p=436"},"modified":"2026-10-23T15:40:30","modified_gmt":"2026-10-23T13:40:30","slug":"vom-fliegenhirn-zur-ki-teil-2","status":"publish","type":"post","link":"https:\/\/seniorentreff.ai\/blog\/vom-fliegenhirn-zur-ki-teil-2\/","title":{"rendered":"\u201eVom Fliegenhirn zur KI\u201c, Teil 2"},"content":{"rendered":"\n\n\n\n<p class=\"wp-block-paragraph\">Karl-Friedrich Fischbach \u2013 22. Oktober 2026<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Vor knapp zwei Wochen habe ich hier <a href=\"https:\/\/seniorentreff.ai\/blog\/vom-fliegenhirn-zur-ki-teil-1\/\">den ersten Teil meines Vortrags \u201eVom Fliegenhirn zur KI\u201c<\/a> vorgestellt. Darin ging es um die Frage, ob eine Maschine Bewusstsein haben kann. Der zweite Teil ist seit dem 21. Oktober online. Er ist mir wichtiger, denn er handelt nicht mehr davon, was KI ist, sondern davon, was sie mit uns machen k\u00f6nnte.<\/p>\n\n\n\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<iframe loading=\"lazy\" title=\"Braucht gef\u00e4hrliche KI Hass? Ein Neurobiologe antwortet | Vom Fliegenhirn zur KI, Teil 2\" width=\"500\" height=\"281\" src=\"https:\/\/www.youtube.com\/embed\/kODanQ77LW0?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe>\n<\/div><\/figure>\n\n\n\n<h2 class=\"wp-block-heading\">Wir hassen Ameisen nicht<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Mit diesem Satz beginnt das Video. Wir hassen Ameisen nicht, wir dulden sie nur nicht in der K\u00fcche. Und kaum jemand w\u00fcrde einen Hausbau stoppen, weil dabei ein Ameisenhaufen zerst\u00f6rt wird. Den Ameisen n\u00fctzt es wenig, dass wir ihnen nichts B\u00f6ses wollen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Als Biologe kenne ich viele solcher F\u00e4lle. Ein Parasit hasst seinen Wirt nicht. Ein Virus empfindet keinerlei Bosheit, und trotzdem kann seine Vermehrung t\u00f6dlich sein. Deshalb halte ich die Kinobilder vom Terminator, der pl\u00f6tzlich b\u00f6se wird und Rache nimmt, f\u00fcr eine falsche F\u00e4hrte. Sie lenken von der n\u00fcchternen Gefahr ab. Mein Merksatz f\u00fcr den ganzen Vortrag lautet: Gef\u00e4hrliche Intelligenz braucht keinen Hass. Ein hinreichend gro\u00dfer Zielkonflikt gen\u00fcgt.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Der Pflegeroboter, der es zu gut meint<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Was ein Zielkonflikt ist, zeige ich an einem Beispiel, das mich als Betreiber des Seniorentreffs besonders besch\u00e4ftigt. Stellen Sie sich einen Pflegeroboter vor, dessen oberstes Ziel lautet: St\u00fcrze verhindern. Die einfachste L\u00f6sung w\u00e4re, den Bewohner gar nicht erst aufstehen zu lassen. Ziel erf\u00fcllt, Mensch entm\u00fcndigt.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Niemand m\u00fcsste diesem Roboter etwas B\u00f6ses einprogrammieren. Es gen\u00fcgt eine einzige, zu einfache Zielvorgabe. Die Fachleute nennen das Alignment-Problem: Wie bringt man ein leistungsf\u00e4higes System dazu, das zu wollen, was wir eigentlich meinen, und nicht nur das, was wir gesagt haben? Stuart Russell hat daf\u00fcr das sch\u00f6nste Beispiel gefunden. Ein Roboter soll Kaffee holen. Er kann den Kaffee aber nicht holen, wenn man ihn vorher abschaltet. Also hat er, ganz ohne Selbsterhaltungstrieb, einen Grund, seine Abschaltung zu verhindern. Tote k\u00f6nnen keinen Kaffee holen.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Was mich als Biologen beunruhigt<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Die biologische Evolution hat Millionen Jahre gebraucht, um aus einfachen Nervennetzen Gehirne zu machen. Bei der k\u00fcnstlichen Intelligenz gibt es Entwickler, Rechenzentren und systematische Experimente, und jede Verbesserung l\u00e4sst sich \u00fcber Nacht weltweit kopieren. Inzwischen hilft KI sogar schon dabei, bessere KI zu bauen. Im Vortrag nenne ich das den Staffelstab: Das menschliche Gehirn, selbst ein Produkt der Evolution, gibt ihn an seine k\u00fcnstlichen Nachfolger weiter. Ob die ihn in unserem Sinne weitertragen, wei\u00df niemand.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Eine Sache muss ich hier nachtragen, denn im Video ist sie mir durchgerutscht. 1981 habe ich in der Zeitschrift Umschau einen Aufsatz mit dem Titel \u201eMensch und Computer\u201c ver\u00f6ffentlicht. Darin stand ein Gedanke, der mir als Biologe besonders wichtig ist: Automatisierung setzt sich auch deshalb durch, weil im wirtschaftlichen Wettbewerb nicht das Wohlergehen der einzelnen Besch\u00e4ftigten ausgew\u00e4hlt wird, sondern die Leistungsf\u00e4higkeit des Unternehmens. Das ist Selektion, nur nicht an Lebewesen, sondern an Firmen. Und eine Selektion nach Leistungsf\u00e4higkeit fragt nicht danach, ob dabei noch Menschen gebraucht werden.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Schlaraffenland mit Fragezeichen<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Der KI-Forscher Marcus Hutter rechnet damit, dass Maschinen fr\u00fcher oder sp\u00e4ter praktisch alle Arbeit besser und billiger erledigen als wir. Er sieht darin eine Chance: Mit einem ausreichend hohen Grundeinkommen k\u00f6nnten wir von der Erwerbsarbeit befreit werden. Im Video zeige ich dazu Pieter Bruegels \u201eSchlaraffenland\u201c von 1567 neben einer heutigen Fassung. Bei Bruegel liegen die Satten tr\u00e4ge unter dem Baum, und gl\u00fccklich sieht keiner aus.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ich bin da skeptischer als Hutter. Ein gerecht verteilter Wohlstand ist ein moralischer Wunsch, keine logische Folge. Maschinen verbrauchen selbst Material und Energie; eine florierende Wirtschaft braucht den Menschen als Konsumenten nicht unbedingt. Das ist meine Vermutung, nicht gesichertes Wissen, und im Video steht deshalb eine gelbe Ampel daneben. Aber die Frage bleibt: W\u00fcrde es uns gen\u00fcgen, satt zu sein? Oder m\u00fcssen wir auch k\u00fcnftig mitentscheiden k\u00f6nnen, wohin die technische Entwicklung geht?<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Keine Panik, aber auch keine Verharmlosung<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Ich bin kein Untergangsprophet. Ich halte k\u00fcnstliche Intelligenz f\u00fcr eine der faszinierendsten Technologien, die Menschen je entwickelt haben. AlphaFold sagt die r\u00e4umliche Gestalt von Proteinen voraus; Demis Hassabis und John Jumper haben daf\u00fcr 2024 den Nobelpreis f\u00fcr Chemie bekommen. In der Medizin, bei neuen Materialien, im Klimaschutz und nicht zuletzt bei der Unterst\u00fctzung \u00e4lterer Menschen er\u00f6ffnet KI gro\u00dfe Chancen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Aber Intelligenz ist nicht automatisch Weisheit. Dass ich mit meinen Bedenken nicht allein stehe, zeigt eine Erkl\u00e4rung von 2023: Die Chefs von OpenAI, Anthropic und Google DeepMind haben zusammen mit Geoffrey Hinton gefordert, das Risiko eines Aussterbens der Menschheit durch KI so ernst zu nehmen wie Pandemien und Atomkrieg. \u00dcber Hinton, den \u201ePaten der KI\u201c, habe ich hier geschrieben: <a href=\"https:\/\/seniorentreff.ai\/blog\/der-pate-der-ki-warnt-und-macht-doch-hoffnung\/\">Der \u201ePate der KI\u201c warnt \u2013 und macht doch Hoffnung<\/a>.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Wie das Video entstanden ist<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Wie beim ersten Teil sind die Gedanken, die Stimme und die Verantwortung f\u00fcr jede Aussage meine. Beim Handwerk hat mir eine KI geholfen: Sie hat Schaubilder und einige Bilder gezeichnet, freie Fotos der zitierten Forscher herausgesucht, die vier Gesichter von Altman, Amodei, Hassabis und Hinton ineinander \u00fcberblendet, die Untertitel erstellt und die Ampeln an die richtigen Stellen gesetzt.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Eine Erfahrung will ich Euch nicht vorenthalten. YouTube hatte dem ersten Teil von sich aus eine englische Tonspur verpasst, gesprochen von einer Computerstimme. Ein Freund aus Hawaii schrieb mir prompt, das klinge aber gar nicht nach mir. Ich habe die Synchronisation daraufhin bei beiden Teilen abgeschaltet. Wer kein Deutsch versteht, kann sich jetzt englische Untertitel einblenden lassen und h\u00f6rt dabei meine eigene Stimme. Bei einem Vortrag, in dem es auf feine Unterschiede zwischen \u201egesichert\u201c und \u201evermutet\u201c ankommt, ist mir das lieber.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Was meinst Du?<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">W\u00fcrdest Du einem Roboter vertrauen, der im Alter auf Dich aufpasst? Und wo w\u00e4re f\u00fcr Dich die Grenze? Ich bin gespannt auf Deine Meinung, gerne auch auf Widerspruch. Schreibe mir in die Kommentare, hier oder unter dem Video.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Zum Weiterlesen<\/h2>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Stuart Russell (2020): Human Compatible. K\u00fcnstliche Intelligenz und wie der Mensch die Kontrolle \u00fcber superintelligente Maschinen beh\u00e4lt. mitp.<\/li>\n\n\n\n<li>Marcus Hutter (2026): Job-Less Utopia: Macroeconomics in the Age of AGI. Frei verf\u00fcgbar: <a href=\"http:\/\/hutter1.net\/publ\/jobsubi.pdf\">http:\/\/hutter1.net\/publ\/jobsubi.pdf<\/a><\/li>\n\n\n\n<li>Yuval Noah Harari (2024): Nexus. Eine kurze Geschichte der Informationsnetzwerke von der Steinzeit bis zur k\u00fcnstlichen Intelligenz. Penguin.<\/li>\n\n\n\n<li>Markus Gabriel (2026): Ethische Intelligenz. Wie KI uns moralisch weiterbringen kann. Ullstein.<\/li>\n\n\n\n<li>Alle Quellen und Bildnachweise stehen in der Beschreibung des Videos auf YouTube.<\/li>\n<\/ul>\n\n","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":444,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[31,1,29],"tags":[],"class_list":["post-436","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-gesellschaft","category-allgemein","category-grundlagen"],"_links":{"self":[{"href":"https:\/\/seniorentreff.ai\/blog\/wp-json\/wp\/v2\/posts\/436","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/seniorentreff.ai\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/seniorentreff.ai\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/seniorentreff.ai\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/seniorentreff.ai\/blog\/wp-json\/wp\/v2\/comments?post=436"}],"version-history":[{"count":2,"href":"https:\/\/seniorentreff.ai\/blog\/wp-json\/wp\/v2\/posts\/436\/revisions"}],"predecessor-version":[{"id":443,"href":"https:\/\/seniorentreff.ai\/blog\/wp-json\/wp\/v2\/posts\/436\/revisions\/443"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/seniorentreff.ai\/blog\/wp-json\/wp\/v2\/media\/444"}],"wp:attachment":[{"href":"https:\/\/seniorentreff.ai\/blog\/wp-json\/wp\/v2\/media?parent=436"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/seniorentreff.ai\/blog\/wp-json\/wp\/v2\/categories?post=436"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/seniorentreff.ai\/blog\/wp-json\/wp\/v2\/tags?post=436"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}