von YUVAL NOAH HARARI*
A Künstliche Intelligenz ist in das Betriebssystem der menschlichen Zivilisation eingedrungen
Die Angst vor künstlicher Intelligenz (KI) verfolgt die Menschheit seit Beginn des Computerzeitalters. Bisher konzentrierten sich diese Ängste auf Maschinen, die mit physischen Mitteln Menschen töten, versklaven oder ersetzen. In den letzten zwei Jahren sind jedoch neue Werkzeuge der künstlichen Intelligenz aufgetaucht, die das Überleben der menschlichen Zivilisation auf unerwartete Weise bedrohen. Künstliche Intelligenz hat einige bemerkenswerte Fähigkeiten erworben, um Sprache zu manipulieren und zu erzeugen, seien es Wörter, Töne oder Bilder. Auf diese Weise drang künstliche Intelligenz in das Betriebssystem unserer Zivilisation ein.
Sprache ist der Stoff, aus dem fast die gesamte menschliche Kultur besteht. Menschenrechte zum Beispiel sind nicht in unserer DNA verankert. Es handelt sich vielmehr um kulturelle Artefakte, die wir erschaffen, indem wir Geschichten erzählen und Gesetze schreiben. Die Götter sind keine physischen Realitäten. Es handelt sich vielmehr um kulturelle Artefakte, die wir durch die Erfindung von Mythen und das Schreiben von Schriften erschaffen.
Geld ist auch ein kulturelles Artefakt. Banknoten sind nur farbige Papierstücke, und heute bestehen mehr als 90 % des Geldes nicht einmal aus Banknoten, sondern lediglich aus digitalen Informationen auf Computern. Was dem Geld seinen Wert verleiht, sind die Geschichten, die uns Banker, Finanzminister und Kryptowährungsgurus darüber erzählen. Sam Bankman-Fried, Elizabeth Holmes und Bernie Madoff waren nicht besonders gut darin, echten Mehrwert zu schaffen, aber sie waren alle äußerst kompetente Geschichtenerzähler.
Was würde passieren, wenn eine nichtmenschliche Intelligenz besser als der durchschnittliche Mensch darin wäre, Geschichten zu erzählen, Melodien zu komponieren, Bilder zu zeichnen und Gesetze und Schriften zu schreiben? Wenn Menschen an ChatGPT und andere neue KI-Tools denken, denken sie oft an Beispiele wie Schulkinder, die KI zum Schreiben ihrer Aufsätze verwenden. Was passiert mit dem Schulsystem, wenn Kinder dies tun? Bei dieser Art von Frage geht jedoch ein allgemeineres Bild verloren. Vergessen Sie Schulaufsätze. Denken Sie an die nächste amerikanische Präsidentschaftswahl im Jahr 2024 und versuchen Sie, sich die Auswirkungen von Werkzeugen der künstlichen Intelligenz vorzustellen, die entwickelt werden können, um politische Inhalte, Fake News und Schriften für neue Sekten massenhaft zu produzieren.
In den letzten Jahren hat sich der QAnon-Kult um anonyme Online-Nachrichten namens „Q fällt“. Anhänger sammelten, verehrten und interpretierten diese Q fällt als heiliger Text. Obwohl, soweit wir wissen, alle Q fällt Die vorherigen wurden von Menschen komponiert und die Bots Obwohl sie nur dazu beigetragen haben, sie zu verbreiten, könnten wir in Zukunft die ersten Kulte in der Geschichte erleben, deren verehrte Texte von einer nichtmenschlichen Intelligenz verfasst wurden. Religionen haben im Laufe der Geschichte eine nichtmenschliche Quelle für ihre heiligen Bücher beansprucht. Bald könnte dies Realität werden.
Auf einer prosaischeren Ebene könnten wir bald lange Online-Diskussionen über Abtreibung, den Klimawandel oder die russische Invasion in der Ukraine mit Wesen führen, die wir für menschlich halten, in Wirklichkeit aber KI sind. Das Problem ist, dass es für uns völlig sinnlos ist, Zeit damit zu verschwenden, die eigene Meinung zu ändern. bot der künstlichen Intelligenz, während die künstliche Intelligenz ihre Botschaften so präzise verfeinern könnte, dass sie gute Chancen hätte, uns zu beeinflussen.
Durch die Beherrschung der Sprache könnte künstliche Intelligenz sogar intime Beziehungen zu Menschen aufbauen und die Kraft der Intimität nutzen, um unsere Meinungen und Weltanschauungen zu ändern. Zwar gibt es keinen Hinweis darauf, dass die KI über ein eigenes Gewissen oder eigene Gefühle verfügt, um falsche Intimität mit Menschen zu fördern, aber es reicht aus, wenn die KI ihnen das Gefühl gibt, emotional mit ihr verbunden zu sein.
Im Juni 2022 erklärte Blake Lemoine, ein Ingenieur bei Google, öffentlich, dass Chatbot LaMDA, an dem er arbeitete, war empfindungsfähig geworden. Diese umstrittene Behauptung kostete ihn seinen Job. Das Interessanteste an dieser Episode war nicht, dass Mr. Lemoine, was wahrscheinlich eine Fälschung war. Vielmehr war es seine Bereitschaft, seinen lukrativen Job für das zu riskieren Chatbot der Künstlichen Intelligenz. Wenn künstliche Intelligenz Menschen dazu bringen kann, dafür ihren Arbeitsplatz zu riskieren, wozu könnte sie sie sonst noch bewegen?
In einem politischen Kampf um Köpfe und Herzen ist Intimität die wirksamste Waffe, und künstliche Intelligenz hat gerade die Fähigkeit erlangt, intime Beziehungen mit Millionen von Menschen massenhaft herzustellen. Wir alle wissen, dass soziale Medien im letzten Jahrzehnt zu einem Schlachtfeld um die Kontrolle der menschlichen Aufmerksamkeit geworden sind. Mit der neuen Generation der KI verlagert sich die Front von Aufmerksamkeit hin zu Intimität. Was passiert mit der menschlichen Gesellschaft und der menschlichen Psychologie, wenn KI gegen KI kämpft und darum kämpft, innige Beziehungen zu uns vorzutäuschen, die dazu genutzt werden können, uns davon zu überzeugen, für bestimmte Politiker zu stimmen oder bestimmte Produkte zu kaufen?
Auch ohne die Schaffung einer „falschen Intimität“ hätten die neuen Werkzeuge der Künstlichen Intelligenz einen immensen Einfluss auf unsere Meinungen und Weltanschauungen. Menschen können einen einzelnen KI-Berater als vollständiges und allwissendes Orakel nutzen. Kein Wunder, dass Google Angst hat. Warum sollte ich mir die Mühe machen, es nachzuschlagen, wenn ich einfach das Orakel fragen kann? Auch die Nachrichten- und Werbebranche sollte in Angst und Schrecken geraten. Warum eine Zeitung lesen, wenn ich einfach das Orakel bitten kann, mich über die neuesten Nachrichten zu informieren? Und welchen Sinn haben Anzeigen, wenn ich einfach das Orakel bitten kann, mir zu sagen, was ich kaufen soll?
Und selbst diese Szenarien erfassen nicht das Gesamtbild. Worüber wir reden, ist möglicherweise das Ende der Menschheitsgeschichte. Nicht das Ende der Geschichte, sondern nur das Ende ihres von Menschen dominierten Teils. Geschichte ist das Zusammenspiel von Biologie und Kultur; zwischen unseren biologischen Bedürfnissen und Wünschen nach Dingen wie Essen und Sex und unseren kulturellen Schöpfungen wie Religionen und Gesetzen. Geschichte ist der Prozess, durch den Gesetze und Religionen Essen und Sex prägen.
Was passiert mit dem Lauf der Geschichte, wenn künstliche Intelligenz die Kultur übernimmt und beginnt, Geschichten, Melodien, Gesetze und Religionen zu produzieren? Frühere Werkzeuge wie Druck und Radio trugen dazu bei, die kulturellen Ideen der Menschen zu verbreiten, aber sie schufen nie eigene neue kulturelle Ideen. Künstliche Intelligenz ist grundlegend anders. Künstliche Intelligenz kann völlig neue Ideen, eine völlig neue Kultur schaffen.
Zunächst wird die künstliche Intelligenz wahrscheinlich die menschlichen Prototypen nachahmen, mit denen sie in ihren Anfängen trainiert wurde. Aber mit jedem Jahr wird die Kultur der künstlichen Intelligenz mutig dorthin vordringen, wo noch kein Mensch zuvor gewesen ist. Seit Jahrtausenden leben Menschen in den Träumen anderer Menschen. Es könnte sein, dass wir noch Jahrzehnte lang in den Träumen einer außerirdischen Intelligenz leben.
Die Angst vor künstlicher Intelligenz verfolgt die Menschheit erst seit wenigen Jahrzehnten. Aber seit Tausenden von Jahren wird der Mensch von einer viel tieferen Angst heimgesucht. Wir haben schon immer die Macht von Geschichten und Bildern geschätzt, unseren Geist zu manipulieren und Illusionen zu erzeugen. Deshalb fürchten sich die Menschen seit jeher davor, in einer Welt der Illusionen gefangen zu sein.
Im XNUMX. Jahrhundert befürchtete René Descartes, dass ihn möglicherweise ein bösartiger Dämon in einer Welt der Illusionen gefangen hielt und alles erschuf, was er sah und hörte. Im antiken Griechenland erzählte Platon das berühmte Höhlengleichnis, in dem eine Gruppe von Menschen lebenslang in einer Höhle gefesselt ist und vor einer leeren Wand steht. Ein Bildschirm. Auf dieser Leinwand sehen sie verschiedene projizierte Schatten. Gefangene verwechseln die Illusionen, die sie sehen, mit der Realität.
Im alten Indien wiesen buddhistische und hinduistische Weise darauf hin, dass alle Menschen gefangen lebten Maya – die Welt der Illusionen. Was wir normalerweise als Realität betrachten, sind oft nur Fiktionen in unserem eigenen Kopf. Menschen können aufgrund ihres Glaubens an diese oder jene Illusion ganze Kriege führen, andere töten und getötet werden wollen.
Die Revolution der künstlichen Intelligenz stellt uns dem Dämon von Descartes, der Höhle von Platon und anderen gegenüber Maya. Wenn wir nicht aufpassen, können wir uns hinter einem Vorhang aus Illusionen wiederfinden, den wir nicht auseinanderreißen können oder den wir nicht einmal erkennen können.
Natürlich lässt sich die neue Kraft der Künstlichen Intelligenz auch für gute Zwecke nutzen. Ich werde darauf nicht näher eingehen, da die Leute, die künstliche Intelligenz entwickeln, bereits viel darüber reden. Die Aufgabe von Historikern und Philosophen wie mir besteht darin, auf die Gefahren hinzuweisen. Aber sicherlich kann uns künstliche Intelligenz auf unzählige Arten helfen, von der Suche nach neuen Heilmitteln gegen Krebs bis hin zur Suche nach Lösungen für die ökologische Krise. Die Frage, vor der wir stehen, ist, wie wir sicherstellen können, dass neue KI-Tools zum Guten und nicht zum Bösen eingesetzt werden. Dazu müssen wir zunächst die wahren Fähigkeiten dieser Tools beurteilen.
Seit 1945 wissen wir, dass die Kerntechnologie billige Energie zum Wohle der Menschen erzeugen, aber auch die menschliche Zivilisation physisch zerstören könnte. Deshalb haben wir die gesamte internationale Ordnung überarbeitet, um die Menschheit zu schützen und sicherzustellen, dass die Nukleartechnologie in erster Linie zum Guten eingesetzt wird. Jetzt haben wir es mit einer neuen Massenvernichtungswaffe zu tun, die unsere geistige und soziale Welt vernichten könnte.
Wir können neue KI-Tools immer noch regulieren, aber wir müssen schnell handeln. Während Atombomben keine leistungsstärkeren Atombomben erfinden können, kann künstliche Intelligenz exponentiell noch leistungsfähigere künstliche Intelligenz hervorbringen. Der entscheidende erste Schritt besteht darin, strenge Sicherheitsprüfungen zu fordern, bevor leistungsstarke KI-Tools für die Öffentlichkeit freigegeben werden.
So wie ein Pharmaunternehmen keine neuen Medikamente auf den Markt bringen kann, bevor sie ihre kurz- und langfristigen Nebenwirkungen getestet haben, sollten Technologieunternehmen keine neuen KI-Tools auf den Markt bringen, bevor sie als sicher gelten. Wir brauchen ein Äquivalent von Food and Drug Administration für neue Technologien, und wir brauchten es gestern.
Wird die Verlangsamung der öffentlichen KI-Einsätze nicht dazu führen, dass Demokratien hinter rücksichtsloseren autoritären Regimen zurückbleiben? Es ist genau das Gegenteil. Unregulierte KI-Einsätze würden zu sozialem Chaos führen, das Autokraten begünstigen und Demokratien ruinieren würde. Demokratie ist ein Gespräch, und Gespräche hängen von der Sprache ab. Wenn künstliche Intelligenz in die Sprache eindringt, kann sie unsere Fähigkeit, sinnvolle Gespräche zu führen, und damit die Demokratie zerstören.
Wir haben gerade eine außerirdische Intelligenz hier auf der Erde gefunden. Wir wissen nicht viel darüber, außer dass es unsere Zivilisation zerstören könnte. Wir schulden dem unverantwortlichen Einsatz von KI-Tools im öffentlichen Raum ein Ende und regulieren die KI, bevor sie uns reguliert. Und die erste Regelung, die ich vorschlagen würde, besteht darin, künstliche Intelligenz verpflichtend zu machen, offenzulegen, dass es sich um künstliche Intelligenz handelt. Wenn ich mit jemandem spreche und nicht sagen kann, ob es ein Mensch oder eine künstliche Intelligenz ist, ist das das Ende der Demokratie.
Dieser Text wurde von einem Menschen erstellt. Oder ist es das nicht?
Yuval Noah Harari ist Professor für Geschichte an der Hebräischen Universität Jerusalem. Autor, unter anderem von Sapiens – Eine kurze Geschichte der Menschheit (Gesellschaft der Briefe).
Tradução: Fernando Lima das Neves.
Ursprünglich auf dem Portal der Zeitschrift veröffentlicht Der Ökonom.
Die Erde ist rund existiert dank unserer Leser und Unterstützer.
Helfen Sie uns, diese Idee aufrechtzuerhalten.
BEITRAGEN
