von EUGENIO BUCCI*
Wenn die Entscheidungsprozesse demokratischer Gesellschaften durch durch künstliche Intelligenz erzeugte Ignoranz gekapert werden, ist die Menschheit ernsthaft bedroht.
Ende letzter Woche gab es eine weitere Nachricht über den dunklen Einsatz von Lichttechnologien. Diesmal benutzte eine Bande Werkzeuge von tiefe Fälschung einen Millionen-Dollar-Coup durchzuführen, der sehr erfolgreich war. Tiefe FälschungWie Sie wissen, werden diese manipulierten Videos genannt, die so authentisch wirken wie die metallischen Reden der Nachrichtensprecher. Nationales Journal. Es handelt sich um betrügerische Videos, aber so äußerst betrügerisch, so kristallklar, dass sie glaubwürdige, zuverlässige, perfekte und unwiderlegbare Bilder von Ereignissen vermitteln, die nie stattgefunden haben.
Sie sind überall. Auf dem Handy-Bildschirm sagen Prominente Sätze, die sie in der realen Welt nicht gesagt haben, ganz zu schweigen von Persönlichkeiten des öffentlichen Lebens, die orgiastische Gesten vollführen, die es – glücklicherweise oder leider – nie wirklich gab. Was nun geschah, ist, dass dieselben Illusionismusmittel einen Mitarbeiter im Finanzsektor eines multinationalen Unternehmens in Hongkong davon überzeugten, dass sein Chef per Telefonkonferenz die sofortige Überweisung von 25,6 Millionen Dollar auf ein unbekanntes Konto angeordnet hatte. Der Mann gehorchte, das Vermögen entging und die örtliche Polizei sucht nach dem Schaden und den Dieben. Es scheint, dass es bereits einige Festnahmen gegeben hat.
Sie denken vielleicht, dass dies nicht ausreicht. Vielleicht werden Sie sagen, dass ein Verbrechen nichts Überraschendes ist High-Tech- und dass, da die Welt schmutzig ist, böse Taten die Dienste von Innovationen erfordern, sei es ein Stück gesplitterter Stein, ein Curare, eine Schreibmaschine oder, aktueller, das Smartphone. Trotzdem wäre es ratsam, sich eine andere Episode anzusehen, die etwas faszinierender ist.
Im Dezember griff ein Roboter einen Ingenieur am Fließband eines Tesla-Werks in den USA an. Die Maschine versenkte sogar ihre Stahlklauen in den Arm des ahnungslosen Menschen. Die Erklärungen kamen voreingenommen und unfreiwillig, und bis jetzt bestehen Zweifel darüber, was passiert ist und wie. Was ist da passiert? War es ein Programmierfehler? Wenn die Hypothese wahr ist, stand das geschmierte Monster nicht im Dienste eines skrupellosen Verbrechers, sondern hätte aus freien Stücken gehandelt, als ob es einen freien Willen oder zumindest eine wahnsinnige Willkür hätte. Das ist tatsächlich noch faszinierender.
Stellen Sie sich nun eine Kombination oder Überschneidung zwischen der ersten und der zweiten Nachricht vor. Stellen Sie sich einen virtuellen Roboter vor (a bot, wie sie sagen), das die Schaffung künstlicher Bilder befiehlt, die die durstigen Neugierde des Publikums befriedigen. Manchmal arbeitete dieses immaterielle Wesen unter den Befehlen vermeintlich menschlicher Wesen.
Zu anderen Zeiten jedoch wäre unser kybernetisches Wesen dank der bewundernswerten Leistungen der Automatisierung in der Lage, autonom atemberaubende Leistungen zu erfinden, ähnlich wie der Spotify-Algorithmus mit seinen gut trainierten Automatismen in der Lage ist, die Musik auszuwählen, die Sie hören möchten Hören Sie sich das nächste Mal an und machen Sie es richtig. Stellen Sie sich also vor, a bot das manipuliert die tiefe Fälschung um den perversen Netzhäuten der wütendsten Massen zu gefallen, die sich am Leiden derer erfreuen, denen sie ihren giftigsten Hass widmen, und die im Namen ihres bedingungslosen Hasses jede Beleidigung, die ihre Vorurteile und Mängel bestätigt, für endgültige Wahrheit halten.
Hast du es dir vorgestellt? Gehen Sie nun weiter. Es ist nötig. Das Weltwirtschaftsforum (WEF) ging noch einen Schritt weiter. Im Januar bezeichnete das Weltwirtschaftsforum Fehlinformationen und die Instrumente zu ihrer Verbreitung als das größte Risiko, dem die Menschheit in den nächsten zwei Jahren ausgesetzt sein wird. Dieses Risiko ist real, heimtückisch und lauert direkt um die Ecke Ihres Hauses. Im Jahr 2024 werden mehr als zwei Milliarden Wähler aufgerufen sein, über das Schicksal von 58 Ländern zu entscheiden, darunter Russland, Mexiko, Indien und die Vereinigten Staaten. Laut Statistik wird die Hälfte der Weltbevölkerung erst im Jahr 2024, dem größten Wahljahr aller Zeiten, zur Wahl gehen. Wenn die industrialisierte Lüge weiterhin den Schaden anrichtet, den sie bereits anrichtet, wird es zu weiteren Katastrophen kommen.
Es gibt keine Möglichkeit mehr, es nicht zu sehen. Wenn die Entscheidungsprozesse demokratischer Gesellschaften von der durch künstliche Intelligenz erzeugten Unwissenheit entführt werden, ist die Menschheit tatsächlich ernsthaft bedroht. Das Weltforum hat recht, das lässt sich nicht leugnen. Im Moment reden wir zwar nur von einem Risiko, aber dieses Risiko hat nichts mit einer „kleinen Grippe“ zu tun. Es ist echt. Wenn die Desinformation siegt, wird die Demokratie ihr Gegenteil hervorbringen und von diesem verschlungen werden. Und es mangelt uns nicht an Praxistests, die den drohenden Ernstfall nachweisen. Heutzutage habe ich darauf bestanden, dass Fehlinformationen Macht sind.
Können elektronische Schaltkreise und digitale Medien Gutes bewirken? Ja, offensichtlich können sie das. Es gibt die Abrechnung von Brüderlichkeitskampagnen, die virtuellen telemedizinischen Konsultationen und die hochkomplexen Wettervorhersagemodelle. Jede Technik kann einem guten Zweck dienen. Aber unregiert oder den Launen des Kapitals ausgeliefert, wird uns die gesetzlose Technik an die schlimmsten Klippen führen. Denker wie Günther Anders, der die Umkehrungen der Aufklärung verstand, spürten den Anschein der Apokalypse, die diese Technik hervorrief. Aber was kommt, wenn wir nichts tun, ist noch erstaunlicher.
* Eugene Bucci Er ist ordentlicher Professor an der School of Communications and Arts der USP. Autor, unter anderem von Unsicherheit, ein Essay: Wie wir über die Idee denken, die uns desorientiert (und die digitale Welt orientiert) (authentisch). [https://amzn.to/3SytDKl]
Ursprünglich in der Zeitung veröffentlicht Der Staat von S. Paulo.
Die Erde ist rund existiert dank unserer Leser und Unterstützer.
Helfen Sie uns, diese Idee aufrechtzuerhalten.
BEITRAGEN
