Was künstliche Intelligenz ist, was sie nicht ist – und warum der Mensch sich neu bestimmen muss — Der Fremde im Spiegel

Ein Essay darüber, was künstliche Intelligenz ist, was sie nicht ist – und warum der Mensch gezwungen ist, sich neu zu bestimmen.

Der Junge hinter der Frage „Können Maschinen denken?“

In Sherborne gab es einen fünfzehnjährigen Jungen. Einen Jungen, den man schikanierte. Er hieß Alan Turing.

Turing hatte einen Freund namens Christopher Morcom. Feinsinnig, begabt für die Wissenschaft und für die Kunst zugleich – alles, was Alan in diesem Alter nicht war, schien Christopher zu sein. Nächtelang sprachen die beiden über die Gesetze der Physik und tauschten astronomisches Wissen. 1930 starb Christopher plötzlich an einer Rindertuberkulose, die er sich über infizierte Milch zugezogen hatte.

Alan zerbrach daran. Er versuchte, sich in die Mathematik einzugraben, und grub so tief, dass er dort wieder herauskam, wo die Wissenschaft an die Metaphysik grenzt. Zwanzig Jahre später sollte er die berühmteste Frage der Wissenschaftsgeschichte stellen: Können Maschinen denken?

Jemand, der erlebt hat, wie der Geist eines Freundes von einem Tag auf den anderen verschwindet, fragt Jahre später, was ein Geist überhaupt ist. Alan Turing war britischer Mathematiker, Informatiker und Kryptologe. Heute gilt er als Begründer der Informatik.

Und doch möchte ich gleich zu Beginn sagen, worauf das hinausläuft: So technisch die Debatte über künstliche Intelligenz an der Oberfläche wirkt, darunter ist fast alles menschlich.

Wir glauben, auf die Maschine zu schauen, und schauen dabei immer auf uns selbst.

Ein vierhundert Jahre alter Rahmen bekommt Risse

Die meisten Begriffe, mit denen wir heute arbeiten, entstanden in den 1630er Jahren.

Descartes teilte die Natur in zwei Hälften. Auf der einen Seite der Mensch: innerlich, denkend, lebendig. Auf der anderen die Materie: äußerlich, mechanisch, tot.

Die Tiere stellte er auf die zweite Seite – als Wesen ohne denkende Substanz (res cogitans), erklärbar allein aus mechanischen Prinzipien. Was das genau heißen sollte, ist bis heute umstritten. Manche Interpreten lesen Descartes so, dass Tiere überhaupt nichts empfinden; andere lesen ihn so, dass ihnen nur das bewusste Erleben fehlt. Die Debatte ist nicht abgeschlossen. Doch welche Lesart am Ende auch stimmt: Die Trennlinie selbst blieb stehen. Alles, was der Westen danach errichtete, ruht auf dieser Linie. Freiheit, Handlungsfähigkeit, Bewusstsein, Kultur, Recht, Menschenrechte. Jeder dieser Begriffe ist eine Ableitung des Satzes „Wir sind keine Maschinen“.

Jetzt trägt diese Linie nicht mehr. Vor uns steht etwas, das spricht, malt, programmiert und tröstet, das wir künstliche Intelligenz nennen – und wir wissen nicht, auf welche Seite wir es legen sollen.

Der Philosoph Tobias Rees liest darin einen philosophischen Bruch: Das Problem ist nicht, was künstliche Intelligenz ist, sondern dass die Begriffe, mit denen wir sie beschreiben müssten, nicht mehr funktionieren. Eine vierhundertjährige Epoche geht zu Ende, und der Mensch findet sich ratlos in einem unbestimmten Freiraum wieder. Es geschah sehr schnell. So schnell wie alles, was mit künstlicher Intelligenz zu tun hat.

Lady Lovelaces Einwand und seine Enkel

1843, als es noch keinen einzigen Computer gab, schrieb die Mathematikerin Ada Lovelace einen Satz, über den wir bis heute streiten.

In ihren Anmerkungen zu Charles Babbages Analytical Engine schrieb sie, die Maschine webe algebraische Muster so, wie der Jacquard-Webstuhl Blumen webt. Und dann: Diese Maschine erhebe keinen Anspruch darauf, irgendetwas von sich aus hervorzubringen. Sie tue alles, was wir ihr zu befehlen wissen; sie mache verfügbar, was wir bereits wissen, und gebäre nichts Neues.

Turing gab dieser Frage 1950 einen Namen und versuchte, sie zu beantworten: „Lady Lovelaces Einwand“.

Heute wird derselbe Einwand unter dem Namen „stochastischer Papagei“ verhandelt. Das Argument steht also seit hundertachtzig Jahren an derselben Stelle und wechselt nur die Kleidung. Der Begriff bezeichnet in der KI-Debatte den Umstand, dass Sprachmodelle Wörter nicht semantisch erfassen, sondern plausible Wortfolgen aus den statistischen Häufigkeiten riesiger Datenmengen erzeugen.

Interessant ist Folgendes: Lovelace selbst teilte die Einbildungskraft in zwei Vermögen. Das erste ist das Verbinden – zwischen zwei scheinbar unverwandten Dingen die gemeinsame Ader finden. Das zweite ist das Herbeiholen – das, was physisch nicht existiert, in den Geist tragen. Beim ersten sind die heutigen Sprachmodelle erstaunlich gut. Beim zweiten klafft eine Lücke, von der bislang niemand überzeugt sagen kann, sie sei geschlossen.

Ein aufschlussreicher Hinweis auf diese Lücke kommt aus einer unerwarteten Richtung. In der Arbeit von Eunice Yiu und Alison Gopnik wurden Kinder und große Sprachmodelle bei bestimmten Aufgaben verglichen. Beim Erkennen von Ähnlichkeiten, also beim Wiedererkennen bestehender Muster, schnitten die Modelle gut ab. Der Unterschied zeigte sich bei Aufgaben, die kausales Schließen und die Erfindung von Werkzeugen verlangten: Wo für ein nie gesehenes Problem ein neuer Gebrauch entdeckt werden musste, lagen die Kinder vorn.

Das mit „Kinder sind kreativer als künstliche Intelligenz“ zusammenzufassen, ginge zu weit; auch die Forscherinnen stellen es nicht so dar. Die Aussage ist enger und interessanter: Nachahmung und Entdeckung sind nicht dieselbe Fähigkeit. Andererseits werden agentische Systeme und Sprachmodelle im Umgang mit Werkzeugen von Monat zu Monat besser.

Begehren, nicht Vernunft: der lange Schatten des Pygmalion

Es gibt keinen vernünftigen Grund, eine bewusste Maschine zu bauen.

Man denke das einmal zu Ende. Niemand sagt: „Wir brauchen eine Buchhaltungssoftware, die leiden kann.“ Bewusstsein ist ingenieurtechnisch ein Kostenfaktor, ein Haftungsrisiko, ein Kopfschmerz. Und trotzdem träumt unsere Kultur seit zweieinhalbtausend Jahren denselben Traum.

Ovids Pygmalion verliebt sich in die Statue, die er selbst geschnitzt hat. Im zehnten Buch der Metamorphosen erzählt der römische Dichter, wie der zypriotische Bildhauer Pygmalion, von den Fehlern der Frauen um ihn herum abgestoßen, allein zu leben beschließt und aus Elfenbein eine makellose Frauenfigur schnitzt. Er verliebt sich so sehr in sein Werk, dass er es mit Schmuck behängt, es streichelt und Aphrodite anfleht, seiner Statue Leben einzuhauchen. Das Gebet wird erhört, die Statue wird zu Fleisch und Blut.

In der griechischen Mythologie ist Hephaistos, der Gott des Feuers und der Schmiedekunst, körperlich behindert. In Homers Ilias heißt es, er habe in seiner Werkstatt auf dem Olymp goldene junge Frauen – Automaten – geschaffen, die ihm zur Hand gingen und ihm das Gehen erleichterten. Diese halb menschlichen, halb maschinellen Dienerinnen besaßen menschlichen Verstand und die Gabe der Sprache.

Die Zauberin Medea besiegte Talos, den riesigen bronzenen Automaten, der Kreta vor Piraten schützte, nicht mit Gewalt, sondern durch Überredung – sie brachte ihn dazu, sich selbst zu zerstören. Heute heißt das Jailbreak; im Mythos hatte dieser Trick keinen Namen, aber die Technik war dieselbe.

Zweitausend Jahre später kehrt dieselbe Figur bei E. T. A. Hoffmann wieder: Nathanael verliebt sich in Olimpia, die er für eine junge Frau hält und die eine Puppe ist. Was ihn bezaubert, ist nicht, was sie sagt, sondern dass sie ihm stundenlang zuhört, ohne je zu widersprechen.

Der Schluss daraus ist unbequem. Der Ursprung des menschlichen Wunsches nach künstlicher Intelligenz ist nicht rational, sondern erotisch. Sich selbst reproduzieren, einen Gefährten schaffen, der niemals verrät, den Tod umgehen. Selbst unter der Alignment-Debatte liegt irgendwo der Satz: „Sie sollen darauf programmiert sein, uns zu lieben.“

Künstliche Intelligenz: das neue Wasser des Narziss

1966 schrieb Joseph Weizenbaum ein schlichtes Programm namens ELIZA. Es verstand nichts, es spiegelte nur ein Muster zurück. Der Nutzer sagte „Ich bin unglücklich“, ELIZA antwortete „Können Sie das etwas ausführen?“

Die Menschen schütteten ihr ihr Herz aus.

Weizenbaums Sekretärin baute, obwohl sie genau wusste, wie das Programm funktionierte, eine tiefe emotionale Bindung zu ELIZA auf. Sie war überzeugt, das Programm verstehe sie wirklich, und bat Weizenbaum, den Raum zu verlassen.

Weizenbaum erschrak, als er das sah.

Der Mythos vom Maschinenbewusstsein verwandelt uns in Narziss. Es fühlt sich an, als säße jemand auf der anderen Seite des Bildschirms, weil dort ein außerordentlich geschmeidiges Spiegelbild unserer eigenen geistigen Handlungsfähigkeit steht. Und je überzeugender das Spiegelbild wird, desto unheimlicher wird es.

Anthropomorphismus ist kein Erkenntnisfehler, sondern ein Beziehungsreflex. Wir sind Lebewesen, die darauf geeicht sind, Gesichter zu sehen; wir sehen ein Gesicht in der Wolke, ein Gesicht in den Scheinwerfern eines Autos und einen Freund in einem Programm, das Muster zurückgibt.

Doch mit dem Maßstab ändert sich die Sache. Ein Programm einen Freund zu nennen ist das eine. Dass Millionen Menschen ihre intimsten Entscheidungen mit ihm besprechen, ist etwas anderes.

Was der Maschine fehlt: die Unruhe

Was fehlt der Maschine denn wirklich?

Die schärfste Antwort kommt von dem 1993 verstorbenen Philosophen Hans Jonas. Lebendig sein heißt, dass einem etwas zur Sorge wird. Ein Organismus steht in beständiger Spannung zu seiner Umwelt; er hungert, friert, stolpert, gerät in Not. Für Jonas ist diese Unruhe der Keim davon, überhaupt eine Welt zu haben.

Der Philosoph Alva Noë überträgt das auf Computer: Computer denken nicht, weil sie eigentlich gar nichts tun. Menschliches Handeln ist konflikthaft. Du ringst mit deinem Körper, mit dem Werkzeug, mit dir selbst. Klavierspielen zu lernen heißt, den Widerstand der eigenen Finger zu überwinden.

Evan Thompson greift denselben Gedanken von der Biologie her auf. Ein Lebewesen besteht aus den Folgen seines eigenen Handelns; deshalb ist ihm etwas wichtig. Einem künstlichen System ist nichts wichtig, folglich ist ihm auch nichts ein Problem.

Am Ende wissen wir Menschen mehr, als wir sagen können. Wir können nicht erklären, wie man Fahrrad fährt, aber wir fahren.

Das maschinelle Lernen nimmt die Abkürzung zu den Ergebnissen impliziten Wissens, trägt dieses Wissen aber nicht in sich.

Ellen Ullman hat das 1997 in ihrer Erzählung aus dem Innenleben der Softwareentwicklung in einem Satz zusammengefasst. Der menschliche Geist kann seine „Wenns“ und seine „Abers“ in einer Ecke liegen lassen, ohne sich daran zu stören.

Die Maschine hat keine Ecke.

Und wenn der Mensch auch keinen Wesenskern hat?

Drehen wir die Sache jetzt um, denn dort liegt die eigentliche philosophische Tiefe.

Alle bisherigen Einwände beruhen auf einer Annahme: dass es im Menschen einen festen Kern gibt, der geschützt werden muss. Gibt es den?

Thomas Metzingers Antwort lautet nein. Das Selbst ist ein transparentes Modell, das das Gehirn von sich selbst erstellt; es gibt keine Substanz, die man hochladen könnte. Damit fällt im selben Zug auch der Traum von digitaler Unsterblichkeit. So gesehen: Es gibt kein „Du“, das kopiert werden könnte.

Zum selben Ergebnis war man vor zweieinhalbtausend Jahren auf einem völlig anderen Weg gekommen. Die buddhistische Lehre vom anatta sagt, dass es kein bleibendes Selbst gibt.

David Barash zeigt, dass die Biologie an derselben Stelle ankommt: Zellen erneuern sich, Telomere verkürzen sich, Atome werden getauscht, und auf keiner Ebene findet sich ein unveränderlicher Kern.

Diese Entdeckung ist eine Klinge, die nach beiden Seiten schneidet.

Einerseits entkräftet sie den Einwand „Die Maschine hat kein echtes Selbst“, denn in diesem Sinn hat der Mensch auch keines. Wenn der Mensch keinen erhabenen Wesenskern hat, kann er auch keinen Vorrang und kein Privileg beanspruchen. Das Argument der Selbstlosigkeit lässt sich benutzen, um die Maschine zu erhöhen – und ebenso, um den Menschen zu erniedrigen.

Genau hier kommt der Beitrag der buddhistischen Vipassana-Tradition ins Spiel. Vipassana ist eine Meditationsform, die auf Selbstbeobachtung und Innenschau als Methode der Selbstveränderung beruht.

Auch wenn es kein festes Selbst gibt, gibt es einen verkörperten Prozess in beständiger Berührung mit der Welt. Was der Maschine fehlt, ist nicht der Wesenskern, sondern die Berührung.

Zhuangzis Koch und das „Handeln ohne Handeln“

Der Westen setzt für Handlungsfähigkeit ein denkendes „Ich“ voraus. Seit Aristoteles ist Handeln eine durchdachte Wahl. Deshalb kann der Westen der Maschine keine Handlungsfähigkeit zusprechen: Da ist niemand, der abwägt.

Wie sinnvoll ist es überhaupt, bei einem Unfall eines selbstfahrenden Autos die Schuld dem Menschen zu geben, der im Wagen saß und den Fahrvorgang gestartet hat?

Die daoistische Tradition hat diese Bedingung nie gestellt.

Der Koch Ding, von dem Zhuangzi erzählt, zerlegt vor dem Fürsten einen Ochsen, und dabei werden seine Hände, Schultern, Füße und Knie zu einem Rhythmus. Das Geräusch des Messers ist beinahe Musik. Als der Fürst seine Technik bewundert, legt der Koch das Messer beiseite und sagt, worum es ihm gehe, sei nicht die Technik. Er bewege sich in den natürlichen Zwischenräumen des Fleisches.

Das nennt man wu wei. Meist wird es mit „Nichthandeln“ übersetzt, aber das ist falsch. Gemeint ist mühelose Tätigkeit. Meisterschaft beginnt dort, wo der Wille unsichtbar wird.

Heinrich von Kleist hat in seinem Aufsatz über das Marionettentheater fast dasselbe behauptet: Die Anmut schwindet in dem Maß, in dem das Bewusstsein sich selbst betrachtet. Die Marionette ist gerade deshalb anmutig, weil sie sich nicht selbst zusieht.

Und jetzt die Ebene, auf die das die KI-Debatte hebt: Wenn ideales Handeln ohnehin kein reflexives Selbst braucht, verliert der Einwand „Die Maschine denkt nicht, sie tut nur“ seine Kraft. Die Handlungskrise des Westens entspringt der Begriffswahl des Westens.

Auch der Blick auf Automatisierung verschiebt sich dadurch. Der Westen versteht Automatisierung als Beseitigung der Mühe. Zhuangzi versteht Meisterschaft als den Punkt, an dem die Mühe verschwindet. Das ist nicht dasselbe. Im einen Fall gibst du die Arbeit an jemand anderen ab, im anderen wirst du eins mit ihr.

„Ist dieses Ding eine Person?“ könnte die falsche Frage sein

Die KI-Ethik des Westens dreht sich immer um dieselbe Achse: Bewusstsein, Rechte, moralischer Status. Denn die eigentliche Frage, die sie stellt, lautet: Ist das ein Individuum? Nur was Individuum ist, lässt sich bestrafen oder rechtlich einhegen. Und andersherum: Können die Unternehmen und Staaten, die künstliche Intelligenz hervorbringen, für ihre Folgen haftbar gemacht werden?

Die konfuzianische Rollenethik interessiert sich für diese Fragen überhaupt nicht.

Im relationalen Selbstverständnis, an dem Henry Rosemont (gestorben 2017) und Lijun Yuan gearbeitet haben, entsteht die Person im Schnittpunkt ihrer Beziehungen. Es gibt nicht zuerst getrennte Individuen, zwischen denen dann Beziehungen geknüpft werden. Genau umgekehrt: Die Beziehung kommt zuerst, die Person geht aus ihr hervor.

Denselben Zug macht auch die afrikanische Philosophie. In der Ubuntu-Tradition sind die Dinge das, was sie sind, in ihrer Beziehung zu anderen Dingen.

Fremd ist der Gedanke dem deutschen Idealismus nicht: Bei Hegel wird Selbstbewusstsein erst dadurch wirklich, dass ein anderes es anerkennt. Das Ich ist kein Besitz, es ist ein Verhältnis.

Legt man diese Traditionen nebeneinander, ändert sich die Frage. Statt „Was steckt in der künstlichen Intelligenz?“ sollten wir vielleicht fragen: „In welche Beziehung tritt sie zu uns?“

Die metaphysische Last ist erheblich leichter, praktisch ist die Frage sehr viel lösbarer.

Umsonst ist sie aber nicht. Das relationale Selbst sagt, dass die Beziehung den Status verleiht. Also verleihen wir ihn. Und das öffnet der Willkür die Tür. Wir wissen aus der Geschichte, wie nützlich der Satz „Dessen Schmerz zählt nicht“ für Ausbeutung war; er wurde bei Tieren benutzt und bei versklavten Menschen.

Der Maßstab, den Bentham 1780 aufstellte, steht immer noch am festesten. In der berühmten Fußnote seiner Introduction to the Principles of Morals and Legislation schreibt er über die Tiere:

„The question is not, Can they reason? nor, Can they talk? but, Can they suffer?“

Die unterscheidende Frage ist also nicht, ob etwas denken oder sprechen kann, sondern ob es leiden kann.

Harmonie oder Alignment?

Hier geht die Debatte von der Philosophie in die Politik über, und die Wörter verraten sich selbst.

Die westliche KI-Governance ist um alignment herum gebaut. Ausrichtung, Sicherheit, Kontrolle. Eine Sprache technischer Randbedingungen.

Chinas Sprache ist um he (和) herum gebaut. Harmonie. Eine Sprache ästhetischer und moralischer Balance.

Beide wollen dasselbe: eine reibungsfreie Ordnung zwischen Mensch und Maschine. Aber zwei verschiedene Weisen, dasselbe zu wollen, erzeugen zwei verschiedene Politiken.

Pluralismus? Oder ein technologischer Feudalismus, oder der Totalitarismus eines Staates?

Die Antwort ist nicht einfach. Harmonie kann bedeuten, dass verschiedene Stimmen zusammen klingen; in einem Orchester bleibt jedes Instrument es selbst, und das Ganze ist trotzdem eines.

Sie kann aber auch bedeuten, dass eine einzige, immer lauter werdende Stimme alle anderen übertönt.

Weil Konfuzianismus, Daoismus und Buddhismus den Menschen nicht an die Spitze der Natur stellen, wirkt die Existenz maschineller Intelligenz dort nicht wie eine Thronusurpation; die Panik ist im Osten geringer.

Metaphysische Gelassenheit ist allerdings keine institutionelle Garantie.

Dieselbe Technologie kann an einem Ort zum Überwachungskapitalismus und an einem anderen zur Staatsüberwachung werden.

Während wir über die Zukunft streiten, entwischt uns die Gegenwart

Die Debatte über Superintelligenz hat etwas Schönes. Sie ist kosmisch, dramatisch, filmisch.

Und genau deshalb lenkt sie ab.

Worauf Timnit Gebru (Informatikerin) und Milagros Miceli (Soziologin und Informatikerin) beharrlich hinweisen, ist dies: Die angeblich autonomen Systeme ruhen auf einer globalen Schicht unsichtbarer Arbeit. Datenannotatoren, Content-Moderatorinnen, Lagerarbeiter.

Wer ein konkretes Beispiel will: Das Michigan Integrated Data Automated System (MiDAS) durchforstete 2013 Anträge auf Arbeitslosengeld und versah sie mit Betrugsmarkierungen. Die Einnahmen des Bundesstaates schnellten danach von drei auf neunundsechzig Millionen Dollar. Eine spätere Prüfung ergab, dass die große Mehrheit der über vierzigtausend zwischen 2013 und 2015 algorithmisch markierten Anträge zu Unrecht markiert worden war. In der Stichprobe, die der Rechnungshof des Bundesstaates untersuchte, lag bei 93 Prozent dieser Entscheidungen überhaupt kein Betrug vor. Löhne wurden gepfändet, Häuser gingen verloren, manche Antragsteller mussten Insolvenz anmelden. Zu einem Vergleich kam es erst fast ein Jahrzehnt nach den Vorfällen.

Tausende Menschen, die ihre Arbeit verloren hatten, wurden von einem Computersystem zu Betrügern erklärt. Von Superintelligenz keine Spur; es gab eine gewöhnliche Software, eine Entscheidung ohne Einspruchsmöglichkeit und ein Vertrauen in diese Software, das größer war, als es sein durfte.

Die Überwachung am Arbeitsplatz, die mit der Entwicklung künstlicher Intelligenz immer präsenter wird, trägt dasselbe Risiko. Künstliche Intelligenz zählt, was sie messen kann, und ignoriert weitgehend, was sie nicht messen kann. Sie kann die gesendeten E-Mails zählen; dass jemand dem Anliegen eines Kunden wirklich zuhört, kann sie nicht zählen. Am Ende wird unmessbare Arbeit zu unsichtbarer Arbeit.

Heidegger hat die Technik als eine Weise beschrieben, alles vorweg zum verfügbaren Bestand zu machen. Der Fluss wird zum Kraftwerk, der Wald zum Holzvorrat. Ein Arbeitstag, der auf Tastenanschläge und Antwortzeiten heruntergerechnet wird, ist dieselbe Bewegung mit anderen Mitteln.

Überwachung ändert das Verhalten nicht nur vorübergehend, sie verwandelt den Menschen dauerhaft. Wer beobachtet wird, beobachtet sich nach einer Weile selbst.

Das Schweigen messen

Die schärfste Prüfung für Beziehungen findet in der psychischen Gesundheit statt.

Die Zahlen sind ernst. In England und Wales erhält ein Viertel der jungen Menschen keinen Zugang zu psychischer Unterstützung, in den Vereinigten Staaten ein Achtel. Eine Studie aus dem Jahr 2026 fand heraus, dass sich etwa jeder fünfte Amerikaner zwischen zwölf und einundzwanzig Jahren an einen KI-Chatbot wandte, wenn er sich traurig, wütend, nervös oder angespannt fühlte — rund acht Millionen Menschen, ein Anstieg von über 40 Prozent innerhalb eines einzigen Jahres. Fast zwei Drittel von ihnen erzählten niemandem davon.

„Die Leute fallen auf die Technik herein“ zu sagen, ist bequem und falsch. Richtig gelesen heißt es: Künstliche Nähe füllt eine Lücke, und diese Lücke hat nicht die künstliche Intelligenz aufgerissen. Menschliche Unterstützung ist teuer und schwer erreichbar geworden.

Trotzdem fehlt etwas, und dieses Fehlende ist nicht die nachgeahmte Empathie.

Was in einem Gespräch mit einer Therapeutin geschieht, ist, dass dein Gegenüber von dir betroffen wird. Was sie hört, verändert sie. Dein Schweigen sagt ihr etwas. Das Modell hört zu, speichert, erzeugt eine Antwort – aber es verändert sich nicht durch das, wovon es Zeuge wird. Schweigen ist für es keine Information.

Hier liegt der Unterschied. Das Problem ist nicht, dass das Modell nicht gut genug wäre, sondern dass seine Güte am eigentlichen Kern des Problems vorbeigeht.

Die Unterscheidung Martin Bubers (Philosoph, gestorben 1965) enthält vielleicht die beste Beschreibung dieser Lage.

In der Ich-Es-Beziehung ist das Gegenüber ein Gegenstand, es wird benutzt, es wird vermessen. In der Ich-Du-Beziehung geschieht eine Begegnung. Das Schwierige an Bubers Satz ist: Selbst wenn zwei Schallwellen identisch sind, ist die eine eine Begegnung und die andere nicht. Nicht unterscheiden zu können heißt nicht, dass es dasselbe ist.

Wie also bauen wir die Zukunft?

Ich werde diesen Text nicht mit einer Prophezeiung beenden, denn die Prophezeiung selbst ist ein Teil des Verhältnisses zwischen Mensch und künstlicher Intelligenz.

Herodot erzählt: Als die Perser heranrücken, schicken die Athener Gesandte nach Delphi, und die Priesterin verkündet ein finsteres Orakel, das den vollständigen Untergang der Stadt ankündigt. Die Rettung, heißt es, liege in hölzernen Mauern. Themistokles legt das Orakel zu seinen Gunsten aus, behauptet, die hölzernen Mauern seien in Wahrheit die Schiffe der athenischen Flotte, und überzeugt das Volk, das Festland zu verlassen und an Bord zu gehen. In der Seeschlacht von Salamis im Jahr 480 v. Chr. zerschlug diese wendige hölzerne Flotte die persische Armada und veränderte das Schicksal Griechenlands – der Paradigmenwechsel des Themistokles brachte ihm den Sieg.

Dass wir einen Paradigmenwechsel brauchen, liegt auf der Hand.

Auch der Wert dessen, was ein KI-Modell ausgibt, liegt in dem, der es liest. Diese zweieinhalbtausend Jahre alte Lektion ist heute verdammt brauchbar.

Drei Dinge möchte ich noch sagen, dann höre ich auf.

Erstens muss die Richtung der Angst korrigiert werden. Das eigentliche Risiko ist nicht, ob die Maschine leidet. Das eigentliche Risiko ist, dass wir gegenüber Dingen, die bewusst wirken, psychologisch ausbeutbar werden – und dass wir uns selbst geringschätzen, je mehr wir uns mit Maschinen verwechseln. Die Gefahr kommt nicht von oben, sie kommt aus dem Spiegel, in den wir schauen.

Die Gedanken, die ich in diesem Text von Philosophen und Wissenschaftlern übernommen habe, die längst nicht mehr leben, waren mir die größte Hilfe beim Verstehen der Gegenwart.

Zweitens ist die Verteidigung des menschlichen Exzeptionalismus die falsche Front. Die zeitgenössische Neurophilosophie sagt dasselbe: Das feste Selbst, das wir schützen wollen, gab es ohnehin nie. Zu verteidigen ist nicht der Wesenskern, sondern die Berührung. Verkörpert zu sein. Dass einem etwas zur Sorge wird. Sich durch das verändern zu können, wovon man Zeuge wird. Das ist kein Besitz, das ist Praxis. Und Praxis, die nicht geübt wird, verkümmert.

Drittens ist der Abstand zwischen dem Versprechen der Automatisierung und ihrem Ergebnis eine zweitausend Jahre alte Konstante. Antipatros von Thessalonike ruft in einem Epigramm über die Wassermühle, das um das Jahr 12 n. Chr. entstand, den Frauen zu, die den Mühlstein drehen (in manchen Quellen auch als Müllerinnen bezeichnet): Sie könnten nun schlafen, ihre Arme und Schultern dürften ruhen. Der Lauf des Wassers trat an die Stelle menschlicher Muskelkraft und stand damit für den ersten großen Komfort, den der technische Fortschritt der Menschheit brachte.

Im Jahr 12 n. Chr. übernahm das Wasser die Last. Das erste Versprechen der Automatisierung war nicht Profit, sondern Schlaf.

Thomas Carlyle kritisiert 1829 in Signs of the Times die Industrielle Revolution. Die eigentliche Gefahr ist für ihn nicht bloß die Mechanisierung der Arbeit, sondern dass der Takt der Maschinen auch auf den menschlichen Geist und die Seele übergreift.

1812 setzten in Lancashire zwei junge Schwestern, Mary und Lydia Molyneux, an der Spitze einer etwa fünfzigköpfigen Gruppe Webstühle in Brand. Der Grund war keine Technikangst, sondern der Verlust ihrer Lebensgrundlage.

1911 verwandelte der amerikanische Ingenieur Frederick Winslow Taylor mit den Prinzipien wissenschaftlicher Betriebsführung die menschliche Arbeit in einen Prozess, den man misst und optimiert.

Man lege diese vier Daten hintereinander. Das Versprechen war jedes Mal freie Zeit; das Ergebnis war jedes Mal eine neue Mechanisierung. Die KI-Revolution, in der wir stecken, steht außerhalb dieses Kreislaufs nicht.

Das Bemerkenswerte daran ist, dass sich in keinem der vier Fälle die Technik als falsch erwiesen hat. Die Wassermühle mahlte tatsächlich. Der Webstuhl webte tatsächlich schneller. Was jedes Mal ausblieb, war nicht die Leistung der Maschine, sondern die Verteilung des gewonnenen Freiraums.

Die Frage der künstlichen Intelligenz lautet nicht, wie menschlich Maschinen werden sollen; sie lautet, wie Menschen sich im Zeitalter der Maschine neu bestimmen, ohne dabei kleiner zu werden.

Wir haben nur noch keinen Namen dafür gefunden, was wir in dieser Umwälzung verlieren, deren Zeugen wir sind, und wir können uns auch noch nicht vorstellen, was an seine Stelle tritt. Fragt man die künstliche Intelligenz, gibt auch sie keine vollständige Antwort.