von SLAVEJ ŽIŽEK*
Das Problem ist nicht, dass Chatbots dumm sind; ist, dass sie nicht „dumm“ genug sind
Es gibt nichts Neues an „Chatbots“, die in der Lage sind, ein Gespräch in natürlicher Sprache zu führen, die grundlegenden Absichten des Benutzers zu verstehen und Antworten auf der Grundlage vordefinierter Regeln und Daten anzubieten. Seine Kapazität ist jedoch in den letzten Monaten dramatisch gestiegen, was viele in Panik und Verzweiflung versetzt.
Es wurde viel darüber gesprochen, dass Chatbots ein Vorbote des Endes studentischer Abschlussarbeiten seien. Ein Thema, das jedoch weiterer Aufmerksamkeit bedarf, ist die Frage, wie Chatbots reagieren sollten, wenn menschliche Gesprächspartner aggressive, sexistische oder rassistische Äußerungen verwenden, um den Roboter dazu zu verleiten, als Reaktion darauf seine eigenen fiesen Fantasien zu entwickeln. Sollten künstliche Intelligenzen so programmiert werden, dass sie auf die gleiche Ebene reagieren, wie die ihnen gestellten Fragen?
Wenn wir beschließen, dass irgendeine Art von Kontrolle angewendet werden soll, müssen wir festlegen, wie weit die Zensur gehen soll. Werden politische Positionen, die einige Sektoren als „anstößig“ betrachten, verboten? Wie wäre es mit Solidaritätsbekundungen mit den Palästinensern im Westjordanland? Die Behauptung, dass Israel ein Staat ist Apartheid (Was hat der ehemalige Präsident Jimmy Carter einmal in den Titel eines Buches geschrieben)? Wird das alles wegen „Antisemitismus“ blockiert?
Das Problem endet hier nicht. Wie uns der Schriftsteller und Künstler James Bridle warnt, basieren die neuen künstlichen Intelligenzen „auf der Massenaneignung bestehender Kultur“, und der Glaube, sie seien „wirklich sachkundig oder bedeutungsvoll, ist aktiv gefährlich“. Daher müssen wir mit den neuen Bildgeneratoren durch künstliche Intelligenz sehr vorsichtig sein. „In ihrem Versuch, die menschliche visuelle Kultur in ihrer Gesamtheit zu verstehen und nachzubilden“, bemerkt Bridle, „scheinen [sie] auch unsere größten Ängste nachgebildet zu haben.“ Vielleicht ist dies nur ein Zeichen dafür, dass diese Systeme tatsächlich sehr gut darin sind, das menschliche Bewusstsein nachzuahmen und sogar die Schrecken zu überwinden, die in den Tiefen unseres Bewusstseins lauern: unsere Ängste vor Schmutz, Tod und Korruption.“
Doch wie gut können neue künstliche Intelligenzen dem menschlichen Bewusstsein ähneln? Denken Sie an die Bar, die kürzlich eine Sonderaktion mit den Bedingungen angekündigt hat: „Kaufe ein Bier zum Preis von zwei und erhalte ein zweites Bier völlig kostenlos!“ Für jeden Menschen ist das offensichtlich ein Witz. Das typische „Kaufe eins, erhalte eins gratis“-Angebot wurde dahingehend überarbeitet, dass es sich selbst aufhebt. Es ist ein Ausdruck von Zynismus, der als komische Ehrlichkeit geschätzt wird, um den Umsatz zu steigern. Eins Chatbot Könnten Sie das verstehen?
„Ficken“ stellt ein ähnliches Problem dar. Obwohl das Wort etwas bezeichnet, was die meisten Menschen gerne tun (kopulieren), erhält es auch eine negative Bedeutung („Wir sind am Arsch!“, „Verpiss dich!“). Sprache und Realität sind verwechselt. Ist künstliche Intelligenz bereit, solche Unterschiede zu erkennen?
In seinem 1805 erschienenen Aufsatz „Über die allmähliche Gedankenbildung im Sprechprozeß“ (posthum 1878 veröffentlicht) kehrte der deutsche Dichter Heinrich von Kleist das populäre Sprichwort um, dass man zum Sprechen den Mund nicht öffnen solle, wenn man nicht eine klare Vorstellung davon habe Was soll man sagen: „Wenn ein Gedanke jedoch auf eine verwirrte Weise ausgedrückt wird, bedeutet das keineswegs, dass dieser Gedanke auf eine verwirrte Weise konzipiert wurde. Im Gegenteil, es ist möglich, dass die Ideen, die am verwirrendsten ausgedrückt werden, gerade diejenigen sind, die am klarsten durchdacht wurden.“
Diese Beziehung zwischen Sprache und Denken ist außerordentlich kompliziert. In einer Passage aus einer seiner Reden Anfang der 1930er Jahre schlägt Josef Stalin radikale Maßnahmen vor, um „selbst diejenigen zu erkennen und rücksichtslos zu bekämpfen, die sich der Kollektivierung nur in ihren Gedanken widersetzen – ja, das meine ich, wir müssen kämpfen“. sogar die Gedanken von Menschen." Wir können mit Sicherheit davon ausgehen, dass dieser Satz nicht im Voraus vorbereitet wurde. Während er sich von dem Moment mitreißen ließ, wurde Stalin sofort bewusst, was er gerade gesagt hatte. Aber anstatt nachzugeben, beschloss er, seine Übertreibung fortzusetzen.
Wie Jacques Lacan später feststellte, war dies einer jener Fälle, in denen die Wahrheit durch den Akt der Äußerung überraschend zum Vorschein kommt. Louis Althusser identifizierte ein ähnliches Phänomen in der Beziehung zwischen Einnahme e Überraschung. Jemand, dem es plötzlich bewusst wird ("Einnahme“) einer Idee wird erstaunt sein, was sie erreicht hat. Gibt es noch einmal einen Chatbot, der dazu in der Lage ist?
Das Problem ist nicht, dass Chatbots dumm sind; es ist so, dass sie nicht „dumm“ genug sind. Es ist nicht so, dass sie naiv sind (unfähig zu ironisieren und zu reflektieren); Es liegt daran, dass sie nicht naiv genug sind (sie bemerken nicht die Momente, in denen Naivität die Einsicht verdeckt). Die wirkliche Gefahr besteht also nicht darin, dass Menschen Chatbots mit echten Menschen verwechseln; Aber Chatbots bringen echte Menschen dazu, wie Chatbots zu reden – sie sind nicht in der Lage, Nuancen und Ironien wahrzunehmen, und sagen zwanghaft genau das, was sie sagen wollen.
Als ich jünger war, ging ein Freund nach einem traumatischen Erlebnis zur Behandlung zu einem Psychoanalytiker. Die Vorstellung dieses Freundes darüber, was solche Analytiker von ihren Patienten erwarten, war ein Klischee, und er verbrachte die erste Sitzung damit, falsche „freie Assoziationen“ darüber zu erzeugen, wie er seinen Vater hasste und sich seinen Tod wünschte. Die Reaktion des Analytikers war naiv: Er nahm eine naive „vorfreudianische“ Position ein und schimpfte mit meinem Freund, weil er seinen Vater nicht respektierte („Wie kannst du so über die Person reden, die dich zu dem gemacht hat, was du bist?“). Diese falsche Unschuld sendete eine klare Botschaft: Ich kaufe Ihre falschen „Assoziationen“ nicht ab. Wäre ein Chatbot in der Lage, diesen Subtext zu verstehen?
Ich würde es wahrscheinlich nicht verstehen, weil er Rowan Williams' Interpretation von Prinz Myshkin aus dem Buch ähnelt Der Idiot von Dostojewski. Der herkömmlichen Interpretation zufolge ist Myschkin, „der Idiot“, „ein ausgesprochen guter und schöner Mann“, der durch die harten Brutalitäten und Leidenschaften der realen Welt in den einsamen Wahnsinn getrieben wurde. In Williams radikaler Neuinterpretation stellt Myshkin jedoch das Auge eines Sturms dar: Egal wie gut und heilig er ist, er ist derjenige, der das Chaos und die Todesfälle verursacht, die er aufgrund seiner Rolle im komplexen Beziehungsgeflecht um ihn herum verursacht.
Es ist nicht so, dass Myschkin ein naiver Einfaltspinsel ist. Aber seine besondere Stumpfheit macht ihn unfähig, seine katastrophalen Auswirkungen auf andere zu erkennen. Er ist ein flacher Charakter, der buchstäblich wie ein Chatbot spricht. Seine „Freundlichkeit“ basiert auf der Tatsache, dass er wie ein Chatbot ohne Ironie auf Herausforderungen reagiert, Plattitüden ohne jegliche Reflexivität anbietet, alles wörtlich nimmt und sich auf einen mentalen Mechanismus der Selbstvervollständigung von Antworten verlässt, anstatt Sätze zu bilden. Ideen . Aus diesem Grund werden die neuen Chatbots mit Ideologen aller Couleur, aus der Masse, sehr gut zurechtkommen.“wachte aufZeitgenössisch zu den Nationalisten „MAGA“, die lieber schlafen.
*Slavoj Žižek, Er ist Professor für Philosophie an der European Graduate School und internationaler Direktor des Birkbeck Institute for the Humanities an der University of London. Autor, unter anderem von Zur Verteidigung aussichtsloser Anliegen (boitempo).
Tradução: Daniel Pavan.
Ursprünglich auf dem Portal veröffentlicht Project Syndicate.
Die Website A Terra é Redonda existiert dank unserer Leser und Unterstützer.
Helfen Sie uns, diese Idee aufrechtzuerhalten.
Klicken Sie hier und finden Sie heraus, wie
