Stellen wir uns vor, zwischen Mensch und Maschine, oder Kultur und Technologie, gäbe es eine Art intimer Beziehung. Das TECHNIUM (ein Begriff des amerikanischen Zukunftsforscher Kevin Kelly) würde mit dem HUMANUM in einem wechselseitige Anpassungs- und Evolutionsprozess stehen. Einer „verschränkten Adaption“, ähnlich wie bei erfolgreichen Paaren.
In der Geschichte haben disruptive Technologien zunächst viel Unheil in menschlichen Verhältnissen angerichtet. Besonders, wenn sie die medialen Systeme betrafen. Die Erfindung des Buchdrucks hat keineswegs direkt in die Bildungsgesellschaft geführt, sondern zunächst die Kriege Europas zu schrecklichen Gräueltaten angefacht. Es dauerte Jahrhunderte, bis daraus aus der Reproduktion von Texten ein „lesendes Bildungssystem“ wurde. Die Dampfmaschine zerstörte gewachsene Lebens-Strukturen der agrarischen Gesellschaft und stürzte ganze Bevölkerungsgruppen ins soziale Elend. Es dauerte Jahrhunderte, bis daraus eine Wohlstands-Welt wurde, in der die Menschen nicht nur Maschinensklaven sind, sondern auch am Fortschritt teilhaben können.
Disruptive Technologien wie die Künstliche Intelligenz sind zunächst ein Nullsummenspiel, in dem die Nachteile die Vorteile überwiegen. Durch die menschliche Kultur, durch humanes Wirken und kulturelle Adaptionen, werden sie aber irgendwann zu Nichtnullsummenspielen. Zu Win-Win-Verhältnissen.
Das ist der grosse Auftrag an unsere menschliche Zukunft: Die KI zähmen und sie in die menschliche Kultur einfügen. Sie „zivilisieren“. Dass wir uns dabei selbst verändern müssen, liegt auf der Hand. Die Frage lautet aber: geschieht dies, indem wir uns dem Maschinellen anpassen? Oder indem wir unsere Menschlichkeit neu entdecken und formen?
Dieser ganze Prozess wird, so sagen es uns historische Erfahrungen mit Querschnitts-Technologien, mindestens ein Vierteljahrhundert dauern. Und ja: es wird mühsam. Aber auch spannend. Und erhellend. Es geht um die Zukunft an sich. Im menschlichen Sinn.
8 Prognosen zur Zukunft der KI
- KI wird die Gesellschaft tiefer und weiter spalten als alle vorherigen Technologien. Sie wird „hyperdigitale Eliten“ hervorbringen, die die Macht kognitiver Maschinen nutzen, während gleichzeitig eine grossen Zahl der Menschen aus den gewachsenen Strukturen von Erfahrung und Entscheidung ausgegrenzt werden. Zu welcher Gruppe man gehört hängt davon ab ob man „oberhalb“ oder „unterhalb“ der KI arbeitet.
- KI wird einen neuen digitalen Monopol-Kapitalismus hervorbringen, in denen riesige Konzerne nicht nur über Daten, sondern auch ungeheure Deutungsmacht verfügen – „Kognitiver Monopolismus“: Der KI-Komplex verschmilzt, wie es heute schon sichtbar wird, mit autoritären Staats- und Gesellschaftsformen.
- KI wird die „Kreative Klasse“, die künstlerische und schöpferische Schicht, dezimieren und gleichzeitig polarisieren. Eine kleine Schicht der Kreativen, die virtuos mit KI umgehen lernt, wird NOCH erfolgreicher als vorher. Der kreative Mittelbau stürzt ab in die Prekarität.
„Ich möchte, dass die KI meine Wäsche und mein Geschirr wäscht, damit ich Kunst machen und Schreiben kann. Nicht, dass KI meine Kunst und mein Schreiben übernimmt, damit ich meine Wäsche und mein Geschirr mache.“Joanna Maciejewska, Autorin und Videospiel-Spezialistin
- KI wird die Arbeitswelt verändern, aber weniger radikal als befürchtet. Zunächst werden sich Arbeitsnachfragen weiter spalten – in einen metakognitiven und einen „Neue-Dienstboten-Bereich“. Im Zwischenfeld, in den Mischformen von informeller und analoger Arbeit, werden gleichzeitig jede Menge neue Berufe und Tätigkeits-Formen und „Hybrid-Qualifikationen“ entstehen. KI wird die traditionellen industriellen nine-to-five Arbeitsformen weitgehend auflösen. Daraus entsteht aber nicht zwangsläufig eine neue Sklaven- oder Arbeitslosengesellschaft. Sondern auch eine Vielfalt neuer Kompetenzbildungen.
- KI wird die Tore noch weiter für raffinierte Formen von Lüge, Verbrechen, Betrug und Manipulation öffnen als das „alte“ Internet. Alles wird verfaked: Fake-Gedanken, Fake-Identitäten, Fake-Ereignisse, Fake-Katastrophen. Groß angelegte KI führt partiell zum Zusammenbruch der kognitiven Systeme, die uns mit der Welt verbinden, und die in jahrhundertelangen kulturellen Prozessen entwickelt wurden. Aber in kulturellen Systemen gilt auch das, was in menschlichen Körpern gilt: Jede Infektion erzeugt eine Reaktion. Und eine Stärkung des Immunsystems.
„Wir sollten kein Prompting lehren. Sondern das Beurteilen von Resultaten.“gefunden auf Substack
- KI wird das heutige Bildungs-System (zunächst) ruinieren, indem es die Differenzierung von Information, Wissen und Erfahrung auflöst und das Lernen und Denken als einen Akt der „friktionslosen Delegation“ konstruiert. „Creativity without Craft“. Da unser Hirn eine Art Muskel ist, den man benutzen und beanspruchen muss, wird es tatsächlich zu einer allgemeinen Intelligenz-Reduktion kommen. Lassen wir einen Schüler zu Wort kommen, der erzählt, wie es heute in einer New Yorker High School zugeht. Er ist ein „Senior“, also rund 18 Jahre alt, und schildert sein Schulleben so:
„KI hat meine Bildungserfahrung verändert. Ich bin in der Abschlussklasse einer öffentlichen High School in New York, und die KI- Tools sind allgegenwärtig. Während einer Unterrichtsstunde über die Erzählung des Lebens von Frederick Douglass beobachtete ich, wie ein Klassenkamerad auf seinem Platz hin und her rutschte und das gesamte besprochene Kapitel markierte. Innerhalb von Sekunden rief er ChatGPT auf und zog den Text in das Eingabefeld, woraufhin eine KI-generierte Anmerkung zum Kapitel ausspuckte. Was als reflektierende, zum Nachdenken anregende Diskussion über Sklaverei und menschliche Widerstandsfähigkeit gedacht war, wurde zu einem kopierten Kommentar verflacht. In Algebra II, nachdem die Hausaufgabenblätter herumgereicht wurden, beobachtete ich, wie ein Mitschüler mit seinem Handy einen schnellen Schnappschuss machte und diesen auf ChatGPT hochlud. Die KI malte blitzschnell den Bildschirm meines Klassenkameraden mit einer vermeintlichen Schritt-für-Schritt-Lösung und entsprechenden Grafiken voll.
Das Problem mit Chatbots besteht nicht nur darin, dass sie Studierenden das Schummeln ermöglichen. Die Technologie hat auch dazu geführt, dass sich Studierende auf externe Ergebnisse konzentrieren und nicht auf ihr inneres Wachstum. Die vorherrschende Weltanschauung scheint zu sein: Warum sich Gedanken über das Lernen, die Welt machen, wenn man eine Eins bekommt, wenn man sein Denken an eine Maschine auslagert?“ – Ashanty Rosario
- KI wird eine neue Klasse von „Cyber-Einsamen“ oder „RoboLonies“ erschaffen. Menschen, die seelisch abhängig von therapeutischen Bots sind, sich mit Maschinen unterhalten, ihnen vertrauen, mit ihnen leben. Solche „intimen KIs“ werden den Boom einer Art Cyber-Autismus hervorbringen. Aus Incells werden „Botcells“, weil es einfacher ist, mit einem Bot eine Beziehung zu haben, als mit einem komplizierten Realhumanen (was die Geburtenrate weiter nach unten drücken wird).
- KI wird in Unternehmen zu Produktivitätssteigerungen führen. Allerdings werden diese Steigerungen, wie schon bei den vorherigen Computer-Revolutionen, meist weit unter den Erwartungen bleiben, länger dauern und sich weitaus komplexer gestalten als von der KI-Industrie suggeriert.
Eine aktuelle Studie des MIT ergab, dass 95 Prozent der Pilotprojekte mit generativer KI in Unternehmen trotz Investitionen von 30 bis 40 Milliarden US-Dollar kaum oder gar keine messbaren Auswirkungen auf Gewinn und Verlust hatten. Grund war, dass „die meisten GenAI-Systeme kein Feedback speichern, sich nicht an den Kontext anpassen und sich nicht im Laufe der Zeit verbessern“. Die vermeintliche Zeitersparnis schlägt sich nicht in höherer Produktivität nieder.
Der KI-Pferdefuß: Wie Effizienz Effektivität zerstören kann
Die ungeheuren Investitionen, die heute zum Aufbau der KI verwendet werden, zielen vor allem auf das Versprechen der Effizienzgewinnung in Unternehmen und Organisationen. Um den „Pferdefuß“ zu verstehen, ist es jedoch wichtig, den Unterschied von Effizienz und Effektivität zu kennen.
Effizienz ist ein Prozess, bei dem man mit geringeren Mittel mehr aus einem Teilsystem herausholt. Die Buchhaltung, in der früher 100 Mitarbeiter:innen arbeiteten, wird durch 10 „Botdompteure“ extrem effizient gemacht. Der Aussendienst, diese Schnarchnasen, werden durch Search-Bots im Internet ersetzt, die automatisch Bestellungen schicken und abwickeln. Keine menschliche Handlung mehr nötig. Wahnsinnig viel Geld gespart.
Soviel die Theorie.
Die Praxis sieht aber anders aus, weil sie komplexer ist.
Während Effizienz die Energiedichte eines Teilbereichs benennt, beschreibt Effektivität die innere BALANCE eines Gesamt-Systems. Das Zusammenwirken der einzelnen Teile für das gemeinsame Ziel, einschließlich der daraus resultierenden Aussenbeziehungen. Effektivität regelt durch Feedback-Loops die Prozesse des Systems immer auf die richtig synchronisierte Geschwindigkeit herunter. Man kann es mit einer „Ökologie“ vergleichen: In einem Biotop kooperieren alle Organismen mit- und gegeneinander und gleichen dadurch das Gesamtsystem aus. Wenn eine Spezies „übereffektiv“ wird, kann das ganze System aus der Balance geraten (dann entstehen neue Feedback-Loops des Ausgleichs).
Unausgereifte und „grob“ eingesetzte KI-Technik kann zu unzähligen Schnittstellen-Problemen in den Gesamtabläufen eines Unternehmens führen. Ein Unternehmen, dessen Vertrieb optimiert ist, das aber nicht liefern kann, weil die Fabriken veraltet sind, wird nicht weit kommen. Leicht kann es passieren, dass man einen Großteil der Kunden verliert, wenn man die gesamte Kommunikation auf Bots umstellt. Dann kommt es zu Kaskaden von Beschwerden und Reklamationen, die durch teure menschliche Mitarbeiter ausgebügelt werden müssen. Das System wechselt von KOMPLEX zu KOMPLIZIERT.
Viele KI-Anwendungen erzeugen auch Aversionen. Kunden wollen menschlichen Kontakt. Auch in Zukunft. Mitarbeiter:innen wollen nicht für ihre Selbstabschaffung zwangsrekrutiert werden. Deshalb gibt es in vielen Unternehmen massive interne Widerstände. Brachial eingeführte KI führt oft zu einer Krise der Firmenkultur, die nun keinen Rhythmus, keinen „Einklang“ mehr findet. Alle müssen nun gegeneinander konkurrieren, um sich selbst im Zeichen der Effizienz abzuschaffen.
Der Gott des Chaos betritt die Bühne.
Und bleibt dort sitzen.
Bis er alles auseinandergenommen hat.
„Die erste Regel für jede in einem Unternehmen eingesetzte Technologie lautet: Die Automatisierung eines effizienten Betriebs steigert die Effizienz. Die zweite Regel lautet: Die Automatisierung eines ineffizienten Betriebs steigert die Ineffizienz.“Jaron Lanier, amerikanischer Informatiker und Künstler
PS: Dieser Text wurde mit nur geringer Hilfe von KI erzeugt (für Übersetzungen). Die KI gibt immer nur Antworten. In Richtung Zukunft geht es aber um die besseren Fragen.
