KI in der Medizin

In einigen Bereichen kommt die Mensch-Maschine-Problematik stärker zum Vorschein, kann jedoch auch leichter gestaltet werden. Nehmen wir die Medizin: KI-Systeme sind oft besser im Diagnostizieren als Ärzte. Kein Wunder: Geschulte  Systeme haben weitaus mehr Diagnosen eingelesen als jeder Arzt kennen kann.

Allerdings liegt hier auch eine entscheidende Problematik im Wesen des Menschen: Symptome sind oft unscharf, vielschichtig und psychologisch verwoben.  Ob etwas schmerzt und WIE es schmerzt und sich anfühlt, bleibt ein Rätsel, das man leichter mit einem analogen Hirn lösen kann. Manchmal findet man (Mensch) die richtige Diagnose nur durch zahlreiche Kommunikations-Umwege im Patientenkontakt. KI versagt im Medizinsektor eher dort, wo das radikal Subjektive ins Spiel kommt. Heilung und Gesundung haben immer auch etwas mit menschlicher Begegnung zu tun, mit menschlicher Ermutigung, die der Heilende dem Kranken auf den Weg gibt.

Trotzdem können medizinische Bots sinnvoll sein, wo es darum geht, Gesundheit zu erhalten, zu monitoren und zu „coachen“. In Japan sind sprechende Medizin-Bots bei älteren Menschen, die einsam leben, eine wichtige Lebensverlängerung. Die ständige Ansprechbarkeit, die Lernfähigkeit von Medic-Bots, kann Lücken ausfüllen, in die das Gesundheitssystem nicht mehr hineinkommt (vgl. New Yorker 2025).

KI in der Bildung

In der Bildung hängt die Zukunft der KI von der Frage ab, ob wir in der Lage sind, ein Bildungssystem der Meta-Pädagogik zu erschaffen. Mehr als Anleitung zum Weiterdenken und Höherfühlen, weniger zum Wissenserwerb. In diesem Bildungssystem müsste es um die höheren kognitiven Kompetenzen gehen – um das, was Menschen kreativ, autonom und  sinnlich kompetent macht.  Heutige Pädagogik ist immer noch nahe am „Einfüllen“ von Wissen in junge Köpfe. Wie heißt es so schön: Je mehr Unterricht, desto weniger wird gelernt. 

Die Ansätze der Reformpädagogik, deren Wurzeln bis ins vorletzte Jahrhundert reichen, sind dabei nützlich. Lehrer:innen werden immer unwichtiger. Und gleichzeitig immer wichtiger. Das ist das eigentliche Bildungsparadox unserer Zeit. 

Die KI fordert den Bildungssektor heraus, sich neu zu erfinden. Auf die harte Tour.

• Alles, was verantwortliche zwischenmenschliche Arbeit erfordert, von Fluglotsen bis zu Heilberufen – bleibt erhalten und gewinnt an Bedeutung eher noch dazu. Hier bleiben KIs wertvolle Assistenzsysteme, die in hoher Komplexität Menschen entlasten. 
• In Bereichen mit „archivarischem Überfluss“ – Anwaltspraxen, Steuerberatungen, Behörden – kann KI tatsächlich von monotonen Aufgaben befreien. Allerdings wird sie dort auch die Anzahl der Berufsanfänger drastisch reduzieren. Und zu Phänomenen „hochgebildeter Arbeitslosigkeit“ führen (die allerdings nicht dauerhaft bleiben müssen).
• In der schillernden Blase der KI boomen neue Berufszweige. Ein verbreiteter Boom-Beruf wird der „Agenten-Manager“ oder „Kontext-System-Ingenieur“. Als System-Magier und Manager der digitalen Heinzelmännchen hat man eine steile Karriere vor sich (vgl. FAZ 2025).

All das passiert gleichzeitig, parallel zueinander. Genau das ist der Grund, weshalb es über die KI keine endgültige Diagnose oder Meinung geben kann. Auch keine exakte Prognose im Sinne vollständiger Voraussicht, „wie es werden wird“. Die Auseinandersetzung der humanen Kultur mit der KI ist ein andauernder, tastender Prozess, bei dem wir dringend mehr menschliches Selbstbewusstsein brauchen. Um daraus einen Selektionsprozess für das Gute und das Bessere zu entwickeln, müssen wir geistig, emotional und mental die Treppe der Evolution eine Stufe höher gehen. Oder besser gleich mehrere.

Die Gartner-Kurve, ein Analyse-Instrument der gleichnamigen Beratungsgesellschaft, gilt als das Nonplusultra der Technologie-Prognostik. Sie ist gerade in Bezug auf die KI-Entwicklung von großer Bedeutung. Die Kurve ordnet Technologien auf einer Linie von Hype-Faktor durch das „Tal der Enttäuschung“ bis hin zu den realen Anwendungsmärkten. Hier die Gartner-Kurve für KI 2024:

Auffällig ist bei diesen Kurven, dass in linearer Weise immer nur Teiltechnologien aneinander gereiht werden. Das Prognose-System ist, im Kontext human-technischer Adaption, unterkomplex. Das ändert sich auch nicht, wenn man längere Zeiträume ins Auge nimmt:

Hier geht es um 2- 5-10-Jahre-Prognosen. Aber alles scheint noch in weiter Ferne. Seltsam: wird uns nicht täglich von den sagenhaften Erfolgen der KI berichtet, behauptet, dass KI überall schon in Unternehmen verbreitet ist, Alles schon „läuft“, und zwar „immer besser“?

Vielleicht sieht die Kurve in ihrem Verlauf ganz anders aus. Das hier wäre meine Kurve:

Ich vermute, dass die KI den Pfadverlauf linearer Technik-Entwicklungen sprengen wird. Sie wird zu einer Menge Enttäuschungen führen, freigelegten, „nackten“ Hypes. Aber auch zu enormen Positiv-Effekten an Stellen, wo man sie heute nicht vermutet. KI ist eine Überraschungsbox, eine Wundertüte, eine Pralinenschachtel ganz im Sinne von Forrest Gump (oder war es seine Mutter?). Eine Rollercoaster-Technologie. Man könnte aber auch sagen: Ein Dauer-Hype mit Ausschlägen in die bessere Welt.

KI ist alles mögliche:

• Auf der mentalen Ebene ein Monster, das unsere Kultur zerstören kann. 
• Auf der „Tool“-Ebene ein Segen.
• Auf der (systemischen) Anwendungs-Ebene heikel.

Ein Dreikörperproblem, das nicht zu lösen ist. Oder eine Synthese von Widersprüchen, die auf Umwegen in die Zukunft führt.

Jede fundamentale Technologie fordert unsere gewachsenen Weltkonstruktionen heraus. Sie zwingt uns zu inneren und äußeren Veränderungen. Zur Reflexion unserer Vor-Stellungen, Selbst-Bilder und Selbst-Konstruktionen, die zu Gewohnheiten und starren „Mentalitäten“ geworden sind. 

Sie zeigt das Innere und das Äußere.

In einem neuen Licht.

KI kann unsere Welt verbessern, wenn sie uns anregt, die UNTERSCHIEDE zwischen Mensch und Maschinen deutlicher wahr-zunehmen – Das HUMANUM und das TECHNIUM zu differenzieren. Jene menschlichen Eigenschaften weiter zu entwickeln, die eben NICHT von KI übernommen werden können.

• Empathie und Verbindung: KI kann menschliche Reaktionen simulieren, aber nicht fühlen. Empathie, die Fähigkeit, die Emotionen anderer wirklich zu spüren und sich mit ihnen zu identifizieren, ist grundlegend für Beziehungen und das  Zugehörigkeitsgefühl – nicht nur zu Menschen, sondern auch zur Welt, Zeit und  Kosmos.
• Kreativität und Ethik: Das Ethische kann man (anders als das Moralische) nur scheinbar digitalisieren, weil es immer eine Abwägung ist, die mit Gefühlen, Instinkten und Ahnungen zu tun hat, die über das Algorithmische hinaus ins Zukünftige reichen. Ethik ist etwas, das man entscheiden muss, weil es nicht logisch ableitbar ist (obwohl viele radikale Digitalisten das behaupten). Auch echte Kreativität ist unbeschreiblich – sie beinhaltet Kampf, Wiederholung, Freude und Frustration, Enttäuschung und Stolz. Kreativität das, was neue Möglichkeitsräume, neue Kontexte erschafft, die vorher „noch nie ein Mensch gesehen hat“. Auch die KI nicht. 
• Wahrheit und Weisheit: KI kann schlau und weise reden und viele „Wahrheiten“ simulieren – aber nur, weil Menschen das vorher getan haben. Weisheit gibt im Reiche des Siliziums keinen Sinn. Denn Weisheit ist die Überzeitlichkeit eines sterblichen Geistes.

• Doomer halten die KI für ein weltverderbendes Supergift. Möchten sie generell verbieten, weil sonst der Untergang der Menschheit droht. 
• Gloomer halten die KI für eine problematische Technologie, die man mit allen Mitteln begrenzen  muss. Strenge Kontrolle durch den Staat ist unabdingbar. 
• Zoomer oder „KI-Islamisten“ möchten die Entwicklung der KI im Sinne einer Erlösungserwartung beschleunigen. Alle Zweifel und Widerstände beseitigen! Vorwärts im Lauf zur Unsterblichkeit, zur Lösung aller aller Probleme!
• Bloomer suchen nach Adaption der Technologie an menschliche Bedürfnisse. Glauben, dass eine vernünftige Beziehung notwendig ist und sich im Laufe der Zeit segensreiche Anwendungen „herausevolutionieren“ werden. Im Sinne eines Nettovorteils der menschlichen Zivilisation.

Ich gehöre zur vierten Kategorie, den Bloomern. Es muss blühen, um fruchtbar zu werden. Aber wir müssen auch jäten und pflegen. Wir sind die Gärtner der Zukunft. Es wird hart und mühsam, und manchmal spielen das Wetter oder der Zufall nicht mit. Aber es wird trotzdem eine Ernte geben.

• KI wird die Gesellschaft tiefer und weiter spalten als alle vorherigen Technologien. Sie wird „hyperdigitale Eliten“ hervorbringen, die die Macht kognitiver Maschinen nutzen, während gleichzeitig eine grossen Zahl der Menschen aus den gewachsenen Strukturen von Erfahrung und Entscheidung ausgegrenzt werden. Zu welcher Gruppe man gehört hängt davon ab ob man „oberhalb“ oder „unterhalb“ der KI arbeitet.
• KI wird einen neuen digitalen Monopol-Kapitalismus hervorbringen, in denen riesige Konzerne nicht nur über Daten, sondern auch ungeheure Deutungsmacht verfügen – „Kognitiver Monopolismus“: Der KI-Komplex verschmilzt, wie es heute schon sichtbar wird, mit autoritären Staats- und Gesellschaftsformen. 
• KI wird die „Kreative Klasse“, die künstlerische und schöpferische Schicht, dezimieren und gleichzeitig polarisieren. Eine kleine Schicht der Kreativen, die virtuos mit KI umgehen lernt, wird NOCH erfolgreicher als vorher. Der kreative Mittelbau stürzt ab in die Prekarität.

• KI wird die Arbeitswelt verändern, aber weniger radikal als befürchtet. Zunächst werden sich Arbeitsnachfragen weiter spalten – in einen metakognitiven und einen „Neue-Dienstboten-Bereich“. Im Zwischenfeld, in den Mischformen von informeller und analoger Arbeit, werden gleichzeitig jede Menge neue Berufe und Tätigkeits-Formen und „Hybrid-Qualifikationen“ entstehen. KI wird die traditionellen industriellen nine-to-five Arbeitsformen weitgehend auflösen. Daraus entsteht aber nicht zwangsläufig eine neue Sklaven- oder Arbeitslosengesellschaft. Sondern auch eine Vielfalt neuer Kompetenzbildungen.
• KI wird die Tore noch weiter für raffinierte Formen von Lüge, Verbrechen, Betrug und Manipulation öffnen als das „alte“ Internet. Alles wird verfaked: Fake-Gedanken, Fake-Identitäten, Fake-Ereignisse, Fake-Katastrophen. Groß angelegte KI führt partiell zum Zusammenbruch der kognitiven Systeme, die uns mit der Welt verbinden, und die in jahrhundertelangen kulturellen Prozessen entwickelt wurden. Aber in kulturellen Systemen gilt auch das, was in menschlichen Körpern gilt: Jede Infektion erzeugt eine Reaktion. Und eine Stärkung des Immunsystems.

• KI wird das heutige Bildungs-System (zunächst) ruinieren, indem es die Differenzierung von Information, Wissen und Erfahrung auflöst und das Lernen und Denken als einen Akt der „friktionslosen Delegation“ konstruiert. „Creativity without Craft“. Da unser Hirn eine Art Muskel ist, den man benutzen und beanspruchen muss, wird es tatsächlich zu einer allgemeinen Intelligenz-Reduktion kommen. Lassen wir einen Schüler zu Wort kommen, der erzählt, wie es heute in einer New Yorker High School zugeht. Er ist ein „Senior“, also rund 18 Jahre alt, und schildert sein Schulleben so:
  
  „KI hat meine Bildungserfahrung verändert. Ich bin in der Abschlussklasse einer öffentlichen High School in New York, und die KI- Tools sind allgegenwärtig.  Während einer Unterrichtsstunde über die Erzählung des Lebens von Frederick Douglass beobachtete ich, wie ein Klassenkamerad auf seinem Platz hin und her rutschte und das gesamte besprochene Kapitel markierte. Innerhalb von Sekunden rief er ChatGPT auf und zog den Text in das Eingabefeld, woraufhin eine KI-generierte Anmerkung zum Kapitel ausspuckte. Was als reflektierende, zum Nachdenken anregende Diskussion über Sklaverei und menschliche Widerstandsfähigkeit gedacht war, wurde zu einem kopierten Kommentar verflacht. In Algebra II, nachdem die Hausaufgabenblätter herumgereicht wurden, beobachtete ich, wie ein Mitschüler mit seinem Handy einen schnellen Schnappschuss machte und diesen  auf ChatGPT hochlud. Die KI malte blitzschnell den Bildschirm meines Klassenkameraden mit einer vermeintlichen Schritt-für-Schritt-Lösung und entsprechenden Grafiken voll.
  Das Problem mit Chatbots besteht nicht nur darin, dass sie Studierenden das Schummeln ermöglichen. Die Technologie hat auch dazu geführt, dass sich Studierende auf externe Ergebnisse konzentrieren und nicht auf ihr inneres Wachstum. Die vorherrschende Weltanschauung scheint zu sein: Warum sich Gedanken über das Lernen, die Welt machen, wenn man eine Eins bekommt, wenn man sein Denken an eine Maschine auslagert?“ – Ashanty Rosario

• KI wird eine neue Klasse von „Cyber-Einsamen“ oder „RoboLonies“ erschaffen. Menschen, die seelisch abhängig von therapeutischen Bots sind, sich mit Maschinen unterhalten, ihnen vertrauen, mit ihnen leben. Solche „intimen KIs“ werden den Boom einer Art Cyber-Autismus hervorbringen. Aus Incells werden „Botcells“, weil es einfacher ist, mit einem Bot eine Beziehung zu haben, als mit einem komplizierten Realhumanen (was die Geburtenrate weiter nach unten drücken wird).

• KI wird in Unternehmen zu Produktivitätssteigerungen führen. Allerdings werden diese Steigerungen, wie schon bei den vorherigen Computer-Revolutionen, meist weit unter den Erwartungen bleiben, länger dauern und sich weitaus komplexer gestalten als von der KI-Industrie suggeriert.
  
  Eine aktuelle Studie des MIT ergab, dass 95 Prozent der Pilotprojekte mit generativer KI in Unternehmen trotz Investitionen von 30 bis 40 Milliarden US-Dollar kaum oder gar keine messbaren Auswirkungen auf Gewinn und Verlust hatten. Grund war, dass „die meisten GenAI-Systeme kein Feedback speichern, sich nicht an den Kontext anpassen und sich nicht im Laufe der Zeit verbessern“. Die vermeintliche Zeitersparnis schlägt sich nicht in höherer Produktivität nieder.

Die ungeheuren Investitionen, die heute zum Aufbau der KI verwendet werden, zielen vor allem auf das Versprechen der Effizienzgewinnung in Unternehmen und Organisationen. Um den „Pferdefuß“ zu verstehen, ist es jedoch wichtig, den Unterschied von Effizienz und Effektivität zu kennen.

Effizienz ist ein Prozess, bei dem man mit geringeren Mittel mehr aus einem Teilsystem herausholt. Die Buchhaltung, in der früher 100 Mitarbeiter:innen arbeiteten, wird durch 10  „Botdompteure“ extrem effizient gemacht. Der Aussendienst, diese Schnarchnasen, werden durch Search-Bots im Internet ersetzt, die automatisch Bestellungen schicken und abwickeln. Keine menschliche Handlung mehr nötig. Wahnsinnig viel Geld gespart.

Soviel die Theorie.

Die Praxis sieht aber anders aus, weil sie komplexer ist.

Während Effizienz die Energiedichte eines Teilbereichs benennt, beschreibt Effektivität die innere BALANCE eines Gesamt-Systems. Das Zusammenwirken der einzelnen Teile für das gemeinsame Ziel, einschließlich der daraus resultierenden Aussenbeziehungen. Effektivität regelt durch Feedback-Loops die Prozesse des Systems immer auf die richtig synchronisierte Geschwindigkeit herunter. Man kann es mit einer „Ökologie“ vergleichen: In einem Biotop kooperieren alle Organismen mit- und gegeneinander und gleichen dadurch das Gesamtsystem aus. Wenn eine Spezies „übereffektiv“ wird, kann das ganze System aus der Balance geraten (dann entstehen neue Feedback-Loops des Ausgleichs). 

Unausgereifte und „grob“ eingesetzte KI-Technik kann zu unzähligen Schnittstellen-Problemen in den Gesamtabläufen eines Unternehmens führen. Ein Unternehmen, dessen Vertrieb optimiert ist, das aber nicht liefern kann, weil die Fabriken veraltet sind, wird nicht weit kommen. Leicht kann es passieren, dass man einen Großteil der Kunden verliert, wenn man die gesamte Kommunikation auf Bots umstellt. Dann kommt es zu Kaskaden von Beschwerden und Reklamationen, die durch teure menschliche Mitarbeiter ausgebügelt werden müssen. Das System wechselt von KOMPLEX zu KOMPLIZIERT. 

Viele KI-Anwendungen erzeugen auch Aversionen. Kunden wollen menschlichen Kontakt. Auch in Zukunft. Mitarbeiter:innen wollen nicht für ihre Selbstabschaffung zwangsrekrutiert werden. Deshalb gibt es in vielen Unternehmen massive interne Widerstände. Brachial eingeführte KI führt oft zu einer Krise der Firmenkultur, die nun keinen Rhythmus, keinen „Einklang“ mehr findet. Alle müssen nun gegeneinander konkurrieren, um sich selbst im Zeichen der Effizienz abzuschaffen. 

Der Gott des Chaos betritt die Bühne.

Und bleibt dort sitzen. 

Bis er alles auseinandergenommen hat.