von EUGENIO BUCCI*
Ein sechsmonatiger Waffenstillstand in der KI-Forschung wird nichts lösen. Schauen Sie mit Zärtlichkeit und Mitgefühl auf die Welt um Sie herum, denn sie wird in einem Seufzer verschwinden.
In den letzten Wochen hat der israelische Historiker Yuval Noah Harari mehrere Artikel geschrieben, in denen er behauptet, dass künstliche Intelligenz (KI) das „Betriebssystem“ der menschlichen Spezies „gehackt“ habe. Es ist eine Metapher: „Betriebssystem“ bedeutet hier Sprache. Die Maschine hat endlich unsere Ausdrucks- und Kommunikationsformen übernommen – und die Gefahr, die sie darstellt, ist beispiellos, kolossal, größer als alles, was wir bisher kannten.
Yuval Noah Harari verwebt Argumente mit unwiderstehlicher Klarheit. Autor von Weltbestsellern wie Homo sapiens (in Brasilien von Companhia das Letras veröffentlicht) hat die Gabe, einige der quälendsten Dilemmata unserer Zeit schmackhaft, zugänglich und sogar fesselnd zu machen. Der erste Artikel, ursprünglich veröffentlicht in Die New York Times, wurde in Zeitungen übersetzt und brasilianische Websites.
Kurz darauf leitete der Autor eine transnationale Petition, die einen sechsmonatigen Waffenstillstand in der Forschung im Bereich der künstlichen Intelligenz forderte. Dann kehrte er mit einem neuen Text zur Ladung zurück, diesmal in der englischen Wochenzeitung The Economist (28. April), veröffentlicht auf Portugiesisch auf der Website Die Erde ist rund, mit der gleichen Botschaft: Eine Technologie, die in der Lage ist, die menschliche Sprache zu übernehmen, hat alles, um die gesamte Menschheit zu belasten.
Der Streit geht weiter. Alle Mythen, alle Religionen und alle Kulturen, die auf der Erde existieren oder existierten, bestehen nicht aus Aminosäuren oder Chromosomen, sondern aus sprachlichen Zeichen. Diese Zeichen untermauern das „Betriebssystem“ unserer Glaubenssysteme, unseres künstlerischen Ausdrucks und unserer Identität – sie sind das Gefüge unseres Bewusstseins. Bald, softwares e Hardware Wer sich dieses „System“ aneignet, wird uns beherrschen können. Aus diesem Grund ist künstliche Intelligenz nach Meinung vieler gut informierter Menschen in Bezug auf das Zerstörungspotenzial mit Atomwaffen vergleichbar.
Aber das ist noch nicht einmal die Hälfte der gerade begonnenen Totenmesse. Wenn wir uns das Thema genauer ansehen, werden wir feststellen, dass Yuval Harari mehr hätte sagen können, als er getan hat. Die Entwicklung des Anrufs Maschinelles Lernen, Ich große Datenmengen und selbstprogrammierbare Geräte folgen einem unaufhaltsamen Kurs. Kein Unterzeichner kann es aufhalten. Der Punkt, an dem es kein Zurück mehr gibt, liegt möglicherweise bereits hinter uns.
Um die Irreversibilität des technologischen Prozesses zu verstehen, ist es gut, sich an den anderen Prozess zu erinnern, den juristischen, wie er von Franz Kafka beschrieben wurde. Unabhängig davon, ob Beweise vorlagen oder nicht, schritt die gerichtliche Verschwörung voran, ohne dass irgendjemand in der Lage war, sie zu stoppen. Technologie ist wie Recht eine menschliche Schöpfung. Im Gegensatz zum Recht wird es jedoch umso stärker, je entmenschlichter es wird und sich von den Menschen befreit.
Ähnliches ahnte Martin Heidegger, als er in der ersten Hälfte des XNUMX. Jahrhunderts von der Macht der Technik sprach. Dreihundert Jahre zuvor bemerkte Thomas Hobbes, dass der Staat, besessen vom Monster Leviathan, tun würde, was er wollte, gegen jeden. Das Gefühl, dass menschlicher Einfallsreichtum „Monster“ hervorbringt, die ein Eigenleben entwickeln, ist nicht neu. Adam Smith stellte sich eine solche „unsichtbare Hand“ vor, die die Fäden des Marktes in der Hand hält. Karl Marx entdeckte ein „automatisches Subjekt“, das in einer Lücke zwischen Ware und Kapital versteckt war.
Die Realität gab ihnen Recht. Die Bürokratie, die Max Weber mit einem Anflug von Optimismus betrachtete, degradierte bald zum Stalinismus und verschlang seine Eltern, als ob er den Fluch des Romans bestätigen würde. Frankenstein, aus dem Jahr 1818, in dem Mary Shelley das Geschöpf porträtierte, das den Schöpfer unterwirft. In den Tragödien des antiken Griechenlands wurde das Schicksal, das keine Regierung hatte, Schicksal genannt. In der heutigen Zeit kann man es das Unbewusste nennen. Das Denken versteht sogar, was es betrachtet, aber es hat keine Möglichkeit, es zu verhindern.
Und hier stehen wir vor künstlicher Intelligenz. Die Chance, sie zu zähmen, ist gering. Ihr gelang das Kunststück, die menschliche Sprache aus der Domäne der Sprecher aus Fleisch und Blut zu entfernen. Sie, die Sprache, die nur durch uns existieren konnte, wird nun über uns hinaus leben können. Unterschätzen wir nicht die Größe dieses kleinen Schritts, der einen großen Sprung für die Technologie bedeuten wird. Der Linguist Ferdinand de Saussure lehrte, dass jeder, der eine Sprache erfindet und in Umlauf bringt, die Kontrolle über sie verliert. Bald könnten wir die Kontrolle über die Maschinen verlieren, die gelernt haben, die Sprache zu sprechen, die nur uns gehörte.
Künstliche Intelligenz automatisiert Protokolle, die menschlichen Ursprungs sind, und extrahiert daraus effektive Vorhersagen, und zwar in immer schnelleren und immer gigantischeren Maßstäben. Es wächst und wird innerhalb der Bunker privat und undurchsichtig große Techniker – oder in den bestgehüteten Geheimnissen des Staates, auch undurchsichtig. Derzeit gibt es keine politische Kraft, die in der Lage wäre, diese beiden Undurchsichtigkeiten gleichzeitig zu durchbrechen. Nein, ein sechsmonatiger Waffenstillstand wird nichts lösen. Unsere Chancen sind gering.
Schauen Sie mit Zärtlichkeit und Mitgefühl auf die Welt um Sie herum, denn sie wird in einem Seufzer verschwinden.
* Eugene Bucci Er ist Professor an der School of Communications and Arts der USP. Autor, unter anderem von Unsicherheit, ein Aufsatz (authentisch).
Ursprünglich in der Zeitung veröffentlicht Der Staat von S. Paulo.
Die Erde ist rund existiert dank unserer Leser und Unterstützer.
Helfen Sie uns, diese Idee aufrechtzuerhalten.
BEITRAGEN
