Zukunft Denken – Podcast Folgen

In dieser Folge tauchen wir tief in die Welt der Künstlichen Intelligenz (KI) ein und betrachten sie aus einer systemischen Perspektive. Inspiriert vom klassischen Cartoon Spy vs. Spy geht es um die Frage, wie KI-Systeme miteinander interagieren — sowohl im Sinne von Kooperation als auch Konkurrenz — und welche Herausforderungen dies für uns Menschen mit sich bringt. Ich beleuchte die evolutionäre Natur technischen Fortschritts, die Risiken von Komplexität und Kontrollverlust sowie die möglichen Folgen einer Zukunft, in der KI von einem passiven Werkzeug zu einem aktiven Akteur wird. Begleiten Sie mich auf einer Reise durch emergente Phänomene und Fulgurationen, systemische Abhängigkeiten und die Frage, wie wir die Kontrolle über immer komplexere Systeme behalten können. Denn es stellen sich zahlreiche Fragen: Wie könnte sich die Interaktion zwischen KI-Systemen in der Zukunft entwickeln – eher kooperativ oder kompetitiv? Welche Rolle spielt der Mensch noch, wenn KI-Systeme immer schneller Entscheidungen treffen und autonome Akteure werden? Welche Erfahrungen haben Sie mit technischen Systemen gemacht, die durch Komplexität oder Automatisierung an Kontrolle verloren haben? Was bedeutet es für unsere Gesellschaft, wenn wir durch Automatisierung Know-how und Kontrolle an externe Akteure abgeben? Wie können wir den Übergang von KI als Spielzeug zu einem systemisch notwendigen Element gestalten, ohne in eine Abhängigkeit zu geraten? Glauben Sie, dass KI jemals eine eigene Motivation oder Intentionalität entwickeln könnte – und wenn ja, wie sollten wir darauf reagieren? Welche Strategien könnten helfen, die Kontrolle über komplexe, nicht-deterministische Systeme wie KI-Agenten zu behalten? Wie sehen Sie die geopolitischen Herausforderungen der KI-Entwicklung, insbesondere in Bezug auf Energie und Innovation? Welche positiven Szenarien können Sie sich für eine Zukunft mit KI und autonomen Agenten vorstellen? Wie bereiten Sie sich persönlich oder in Ihrem Umfeld auf die kommenden Entwicklungen in der KI vor? Ich freue mich Ihre Gedanken und Ansichten zu hören! Schreiben Sie mir und lassen Sie uns gemeinsam über die Zukunft nachdenken. Bis zum nächsten Mal beim gemeinsamen Nachdenken über die Zukunft! Referenzen Andere Episoden Episode 109: Was ist Komplexität? Ein Gespräch mit Dr. Marco Wehr Episode 107: How to Organise Complex Societies? A Conversation with Johan Norberg Episode 104: Aus Quantität wird Qualität Episode 103: Schwarze Schwäne in Extremistan; die Welt des Nassim Taleb, ein Gespräch mit Ralph Zlabinger Episode 99: Entkopplung, Kopplung, Rückkopplung Episode 94: Systemisches Denken und gesellschaftliche Verwundbarkeit, ein Gespräch mit Herbert Saurugg Episode 90: Unintended Consequences (Unerwartete Folgen) Episode 69: Complexity in Software Episode 40: Software Nachhaltigkeit, ein Gespräch mit Philipp Reisinger Episode 31: Software in der modernen Gesellschaft – Gespräch mit Tom Konrad Fachliche Referenzen Spy vs. Spy, The Complete Casebook  Rupert Riedl, Strukturen der Komplexität: Eine Morphologie des Erkennens und Erklärens, Springer (2000) Doug Meil, The U.K. Post Office Scandal: Software Malpractice At Scale – Communications of the ACM (2024) Casey Rosenthal, Chaos Engineering, O'Reilly (2017)

In this episode, I had the privilege of speaking with John Ioannidis, a renowned scientist and meta-researcher whose groundbreaking work has shaped our understanding of scientific reliability and its societal implications. We dive into his influential 2005 paper, Why Most Published Research Findings Are False, explore the evolution of scientific challenges over the past two decades, and reflect on how science intersects with policy and public trust—especially in times of crisis like COVID-19. John had and has major impacts in our understanding of medical research, research quality in general, public health and how to handle critical situations under limited knowledge. His work was and is highly influential and extraordinarily important for our understanding where medical science, but really, science in general is standing, how we dealt with the Covid crisis, and how we could get our act together again. He is professor of medicine at Stanford, expert in epidemiology, population health and biomedical data science. We begin with John taking us back to 2005, when he published his paper in PLOS Medicine. He explains how it emerged from decades of empirical evidence on biases and false positives in research, considering factors like study size, statistical power, and competition that can distort findings, and why building on shaky foundations wastes time and resources. “It was one effort to try to put together some possibilities, of calculating what are the chances that once we think we have come up with a scientific discovery with some statistical inference suggesting that we have a statistically significant result, how likely is that not to be so?” I propose a distinction between “honest” and “dishonest” scientific failures, and John refines this. What does failure really mean, and how can they be categorised? The discussion turns to the rise of fraud, with John revealing a startling shift: while fraud once required artistry, today’s “paper mills” churn out fake studies at scale. We touch on cases like Jan-Hendrik Schön, who published prolifically in top journals before being exposed, and how modern hyper-productivity, such as a paper every five days, raises red flags yet often goes unchecked. “Perhaps an estimate for what is going on now is that it accounts for about 10%, not just 1%, because we have new ways of massive… outright fraud.” This leads to a broader question about science’s efficiency. When we observe scientific output—papers, funding—grows exponentially but does breakthroughs lag? John is cautiously optimistic, acknowledging progress, but agrees efficiency isn’t what it could be. We reference Max Perutz’s recipe for success: “No politics, no committees, no reports, no referees, no interviews; just gifted, highly motivated people, picked by a few men of good judgement.” Could this be replicated in today's world or are we stuck in red tape? “It is true that the progress is not proportional to the massive increase in some of the other numbers.” We then pivot to nutrition, a field John describes as “messy.” How is it possible that with millions of papers, results are mosty based on shaky correlations rather than solid causal evidence? What are the reasons for this situation and what consequences does it have, e.g. in people trusting scientific results? “Most of these recommendations are built on thin air. They have no solid science behind them.” The pandemic looms large next. In 2020 Nassim Taleb and John Ioannidis had a dispute about the measures to be taken. What happened in March 2020 and onwards? Did we as society show paranoid overreactions, fuelled by clueless editorials and media hype? “I gave interviews where I said, that’s fine. We don’t know what we’re facing with. It is okay to start with some very aggressive measures, but what we need is reliable evidence to be obtained as quickly as possible.” Was the medicine, metaphorically speaking, worse than the disease? How can society balance worst-case scenarios without paralysis. “We managed to kill far more by doing what we did.” Who is framing the public narrative of complex questions like climate change or a pandemic? Is it really science driven, based on the best knowledge we have? In recent years influential scientific magazines publish articles by staff writers that have a high impact on the public perception, but are not necessarily well grounded: “They know everything before we know anything.” The conversation grows personal as John shares the toll of the COVID era—death threats to him and his family—and mourns the loss of civil debate. He’d rather hear from critics than echo chambers, but the partisan “war” mindset drowned out reason. Can science recover its humility and openness? “I think very little of that happened. There was no willingness to see opponents as anything but enemies in a war.” Inspired by Gerd Gigerenzer, who will be a guest in this show very soon, we close on the pitfalls of hyper-complex models in science and policy. How can we handle decision making under radical uncertainty? Which type of models help, which can lead us astray? “I’m worried that complexity sometimes could be an alibi for confusion.” This conversation left me both inspired and unsettled. John’s clarity on science’s flaws, paired with his hope for reform, offers a roadmap, but the stakes are high. From nutrition to pandemics, shaky science shapes our lives, and rebuilding trust demands we embrace uncertainty, not dogma. His call for dialogue over destruction is a plea we should not ignore. Other Episodes Episode 116: Science and Politics, A Conversation with Prof. Jessica Weinkle Episode 112: Nullius in Verba — oder: Der Müll der Wissenschaft Episode 109: Was ist Komplexität? Ein Gespräch mit Dr. Marco Wehr Episode 107: How to Organise Complex Societies? A Conversation with Johan Norberg Episode 106: Wissenschaft als Ersatzreligion? Ein Gespräch mit  Manfred Glauninger Episode 103: Schwarze Schwäne in Extremistan; die Welt des Nassim Taleb, ein Gespräch mit Ralph Zlabinger Episode 94: Systemisches Denken und gesellschaftliche Verwundbarkeit, ein Gespräch mit Herbert Saurugg Episode 92: Wissen und Expertise Teil 2 Episode 90: Unintended Consequences (Unerwartete Folgen) Episode 86: Climate Uncertainty and Risk, a conversation with Dr. Judith Curry Episode 67: Wissenschaft, Hype und Realität — ein Gespräch mit Stephan Schleim References Prof. John Ioannidis at Stanford University  John P. A. Ioannidis, Why Most Published Research Findings Are False, PLOS Medicine (2005) John Ioannidis, A fiasco in the making? As the coronavirus pandemic takes hold, weare making decisions without reliable data (2020) John Ioannidis, The scientists who publish a paper every five days, Nature Comment (2018) Hanae Armitage, 5 Questions: John Ioannidis calls for more rigorous nutrition research (2018) John Ioannidis, How the Pandemic Is Changing Scientific Norms, Tablet Magazine (2021) John Ioannidis et al, Uncertainty and Inconsistency of COVID-19 Non-Pharmaceutical1Intervention Effects with Multiple Competitive Statistical Models (2025) John Ioannidis et al, Forecasting for COVID-19 has failed (2022) Gerd Gigerenzer, Transparent modeling of influenza incidence: Big data or asingle data point from psychological theory? (2022) Sabine Kleinert, Richard Horton, How should medical science change? Lancet Comment (2014) Max Perutz quotation taken from Geoffrey West, Scale, Weidenfeld & Nicolson (2017) John Ioannidis: Das Gewissen der Wissenschaft, Ö1 Dimensionen (2024)  

Die heutige Episode hat wieder viel Spaß gemacht. Zu Gast ist Prof. Christoph Kletzer. Ich bin auf ihn gestoßen über einen Artikel in der Presse mit dem Titel »Der humpelnde Staat« — und das soll auch der Titel dieser Episode sein. Prof. Christoph Kletzer ist Professor am King’s College London und eine profilierte Stimme in politischen Debatten. »Eine seltsame Krankheit hat unsere europäische Staatsordnung befallen: Sie interessiert sich immer stärker für die kleinsten Details unseres Lebens, wird immer einfallsreicher bei der Tiefenregulierung des Alltags, lässt uns aber mit unseren brennendsten Nöten allein.« Wir beginnen mit der Frage nach den immer stärker werdenden staatlichen Eingriffen. Welche Beispiele kann man dafür nennen? »Im Grunde haben wir alle so kleine Sandboxen, in denen wir spielen dürfen« Und dennoch verlieren viele der westlichen Staaten zunehmend die Fähigkeiten, ihre Kernaufgaben zu erfüllen.  Erleben wir in den vergangenen Jahrzehnten einen zunehmenden Illiberalismus? Das Ganze scheint gepaart zu sein mit einer wachsenden Moralisierung aller möglichen Lebensbereiche. »Die Unfähigkeit im Großen wird durch aggressiven Kleingeist kompensiert.« Was ist die Rolle der einzelnen Akteure und des Systems? »Die Funktion des Systems ist das, was es tut« — »The purpose of a system is what it does«, Stafford Beer Woher kommt dieses Verrutschen des staatlichen Fokus? »Machtlosigkeit im Inneren wird mit technokratischem Verwaltungsstaatshandeln kompensiert. Das ist zum Teil in die DNA der Europäischen Union eingeschrieben.«  Sie wird als Neo-Funktionalismus bezeichnet. Was bedeutet dies? Wurden wir in eine politische Einheit geschummelt? Wer hat eigentlich welche Kompetenz und wer trägt für welche Entscheidungen konkret Verantwortung? »Das wirkt mir eher nach FIFA als nach einem demokratischen System.« Oder wie der Komplexitätsforscher Peter Kruse es ausgedrückt hat: »In einem Krabbenkorb herrscht immer eine Mordsdynamik, aber bei genauerem Hinsehen stellt man fest, dass eigentlich nichts richtig vorwärtsgeht.« Wie kann man komplexe Systeme strukturieren oder Ordnung in komplexe Systeme bringen? Gibt es einen verfassungsrechtlichen Geburtsfehler in der EU? Kann man diesen noch beheben? Wird das Problem überhaupt diskutiert? Welche Rolle spielen Preise in der Selbstorganisation komplexer Wirtschaften? Kann Innovation als Arbitrage betrachtet werden? Wie viel kann bei einer komplexen Einheit wie der EU zentral gesteuert werden und wie viel muss sich durch selbstorganisierende Phänomene gestalten lassen? Sollten wir bei Kernaufgaben (was sind diese?) zentralistischer handeln und mehr Staat haben, aber beim Rest viel weniger Staat zulassen? Was können wir von der Situation in Argentinien und Javier Milei lernen? Warum sind Preiskontrollen fast immer eine verheerende Idee? Gleiten Top-Down organisierte, etatistische Systeme immer in Totalitarismus ab? Was sind Interventionsspiralen, wie entstehen sie und wie kann man sie vermeiden? Erleben wir eine Auflösung der regelbasierten globalen Ordnung und wie ist das zu bewerten, vor allem auch aus europäischer Perspektive? Werden wir vom Aufschwung, der aus Nationen wie den USA oder Argentinien kommt, überrollt; haben wir mit unserer Trägheit hier überhaupt noch eine Chance, mitzukommen? Gibt es eine »Angst vor Groß« in Europa? Dafür aber dominieren Sendungsbewusstsein und Hochmut? Wie spielt diese Angst zusammen mit einer der aktuell größten technologischen Veränderungen, der künstlichen Intelligenz? Haben wir es im politischen und bürokratischen Systemen mit einer Destillation der Inkompetenz zu tun? Oder liegt das Problem eher bei einer Politisierung der Justiz? »Die künftige Konfliktlage ist zwischen Justiz und Parlament.« Wer regiert eigentlich unsere Nationen? Politik oder »Deep State«? War der »Marsch durch die Institutionen« erfolgreich und hat unsere Nationen nachhaltig beschädigt? Wer hat eigentlich den Anreiz, in die öffentliche Verwaltung zu gehen? Braucht es die überschießende Rhetorik von Milei, um überhaupt eine Chance zu haben, den Stillstand zu beenden? »By liberty, was meant protection against the tyranny of the political rulers.«, John Stuart Mill Erleben wir eine Umkehrung der hart erkämpften Werte der Aktivisten des 19. und frühen 20. Jahrhunderts? Ist der Schutz von Politikern wichtiger als die freie Meinungsäußerung? Wo sind wir hingeraten? Was bedeutet Liberalismus überhaupt und wie hat sich der Begriff verändert? Wie setzt sich der liberale Staat gegen seine Feinde zur Wehr? Aber wer entscheidet, wer der Feind ist Wie weit kann der Staat »neutral« bleiben, wie weit muss er Werte haben? Von der Wiege bis zur Bahre, vom Staat bevormundet? Ist das dann zu viel? Oder wollen das viele wirklich? »Die Schwierigkeit der Menschen, erwachsen zu werden, ist auch ein Wohlstandsphänomen. Der Wohlstand, den wir haben, führt auch zum ewigen Kind.« Aber dazu kommt noch eine weitere Dimension: »Auch die Hypermoral ist ja eine infantile Geschichte.« Woher kommen eigentlich die großen Veränderungen im späten 20. und 21. Jahrhundert? »Die neue Revolution ist nicht ausgegangen von der Arbeiterschaft, sondern von der administrativen Elite«, James Burnham Schafft der administrative Staat immer neue Situationen, die immer neue Eingriffe notwendig machen und die eigene Macht verstärken? Werden also immer neue paternalistische Strukturen notwendig, um die Probleme zu »lösen«, die selbst zuvor verursacht wurden? Und diese Problemlösung erzeugt wieder neue Probleme, die … Ist das Lösen der Probleme im Sinne der Machtstruktur gar nicht wünschenswert? Trifft dies nicht nur auf politische, sondern auch auf andere Organisationsstrukturen zu?  Was ist die »eisige Nacht der polaren Kälte« nach Max Weber? Kann man eine Bürokratie der Debürokratisierung und damit eine Multiplikation des Problems vermeiden? Lässt sich dieses Dilemma rational, vernünftig lösen oder stecken wir hier in der Pathologie der Rationalität fest? Braucht es einen Clown, um den gordischen Knoten durchzuschlagen? Aber steckt in dieser Irrationalität nicht auch eine Gefahr? Welches unbekannte Know-how steckt — nach konservativer Logik — in den etablierten Strukturen? Stehen wir vor der Wahl einer tödlichen Verfettung oder einer gefährlichen Operation? Was wählen wir? Welches Hindernis stellt Statusdenken und Verhaften in Hierarchien dar? Signalisierung vor Bedeutung? Hilft das Denken von Foucault, um diese Problemlagen besser zu verstehen? »Academia has a tendency, when unchecked (from lack of skin in the game), to evolve into a ritualistic self-referential publishing game.«, Nassim Taleb Spielen wir in der Wissenschaft Cargo-Kult im 21. Jahrhundert?  »Wenn man nur die richtigen Wörter sagt [passend zum jeweiligen Kult], dann ist es schon wahr.«  Und der Cargo-Kult applaudiert. »Status können wir in Europa. Und Status ist per definitionem Abwendung von Realität.« Wie gehen wir in die Zukunft? »Ich bin für den Einzelnen optimistisch, fürs Kollektiv weniger.« Referenzen Andere Episoden Episode 111: Macht. Ein Gespräch mit Christine Bauer-Jelinek Episode 107: How to Organise Complex Societies? A Conversation with Johan Norberg Episode 106: Wissenschaft als Ersatzreligion? Ein Gespräch mit  Manfred Glauninger Episode 103: Schwarze Schwäne in Extremistan; die Welt des Nassim Taleb, ein Gespräch mit Ralph Zlabinger Episode 99: Entkopplung, Kopplung, Rückkopplung Episode 96: Ist der heutigen Welt nur mehr mit Komödie beizukommen? Ein Gespräch mit Vince Ebert Episode 95: Geopolitik und Militär, ein Gespräch mit Brigadier Prof. Walter Feichtinger Episode 88: Liberalismus und Freiheitsgrade, ein Gespräch mit Prof. Christoph Möllers Episode 77: Freie Privatstädte, ein Gespräch mit Dr. Titus Gebel Episode 72: Scheitern an komplexen Problemen? Wissenschaft, Sprache und Gesellschaft — Ein Gespräch mit Jan David Zimmermann Christoph Kletzer Kings College X Fachliche Referenzen Christoph Kletzer, Presse Kommentar, Der humpelnde Staat: So geht sicher nichts weiter (2024) Stafford Beer, The Heart of Enterprise, Wiley (1979) Thomas Sowell, intellectuals and Society, Basic Books (2010) Friedrich von Hayek, The Road to Serfdom, Routledge (1944) John Stuart Mill, On Liberty (1859) David Graeber, The Dawn of Everything, A New History of Humanity, Farrar, Strauss and Giroux (2021) Max Weber, Politik als Beruf (1919) Nassim Taleb, Skin in the Game, Penguin (2018) Steven Brindle, Brunel: The Man Who Built the World, W&N (2006)