von EUGENIO BUCCI*
Neu veröffentlichtes Buchkapitel
Der unsichere Mensch und der Besitzer der Maschine
Unser Problem ist, dass die Maschine für Sie ein viel größerer Unsicherheitsfaktor ist als Sie für sie. Die meisten Zweifel an Ihrem Smartphone sind bereits ausgeräumt und bepreist. Anwendungen und Algorithmen wissen fast alles darüber, was sich hinter Ihren Fingern verbirgt, die tippen, und Ihren Augen, die sich heikel bewegen und dabei jeden Quadratmillimeter des Bildschirms abdecken. Aus diesem Grund „errät“ die Maschine in dem Moment, in dem Sie das „v“ eingeben, dass Sie „leer“, „Wert“ oder „Vize“ schreiben werden.
Unser Problem liegt auf der anderen Seite, ich meine, es liegt auf dieser Seite. Unser Problem ist, dass Sie keine Ahnung haben, wie die Maschine alles über Sie erfahren kann. Unser Problem besteht darin, dass es auf der anderen Seite eine Reihe komplexer Vorgänge gibt, die sehr profitabel und für Sie unzugänglich sind. Wir wissen nicht wirklich, was dort vor sich geht. Kaum jemand weiß es. Die einzigen Menschen, die etwas über die andere Seite wissen, sind diejenigen, die den Schlüssel zum Tresorraum haben, in dem sich die große Techniker – wie Alphabet, dem Google und YouTube gehören, oder Meta, dem Facebook und WhatsApp gehören – sperren die Codes ihrer Algorithmen. Es gibt sehr wenige Leute.
Unser Leben geriet in eine beispiellose Asymmetrie. Auf der anderen Seite ist das von Technologiekonzernen monopolisierte Nervenzentrum der „digitalen Welt“ eine Quelle enormer Unsicherheiten für die überwiegende Mehrheit der Menschheit. Von Technologiegiganten gesteuerte Algorithmen haben bereits fast alle Unsicherheiten ausgeglichen, die über das Verhalten der Menschen verbleiben könnten. Auf dieser Seite schauen wir auf die Konglomerate und sehen nicht, was sie behalten. Sie haben undurchsichtige Wände.
Bei Ihnen wird eine Blutuntersuchung durchgeführt. Ihr Hausarzt hat bestimmte Erwartungen an die Ergebnisse. Aufgrund der von ihm bewerteten Symptome zieht er die Möglichkeit in Betracht, dass Anzeichen für die eine oder andere Krankheit auftreten. Diese Anzeichen sind je nach klinischer Beurteilung Ihres Arztes mehr oder weniger wahrscheinlich. Bis die Indizes das Labor verlassen, ist man jedenfalls nichts weiter als ein System mit einem gewissen Grad an Entropie. Je unsicherer die möglichen Ergebnisse Ihrer Untersuchung im Labor sind, desto wertvoller sind die daraus gewonnenen Informationen.
Aber es gibt alle technischen Voraussetzungen dafür, dass die Algorithmen die Wahrscheinlichkeiten Ihrer Untersuchung genauer kennen als Ihr Arzt aus Fleisch und Blut. Genau wie das Mobiltelefon es vorhersieht, wollen Sie, sobald Ihr Finger auf WhatsApp den Buchstaben „v“ drückt, „Virus“ oder „viral“ schreiben, ein System, das Zugriff auf die Datenbank Ihres Labors und tausender anderer Banken hat in der Lage, wahrscheinliche Ergebnistrends zu prognostizieren. Diese wahrscheinlichen Trends basieren auf statistischen Mustern, die aus Ihren vorherigen Untersuchungsdaten in Kombination mit Daten von Millionen oder Milliarden anderer Patienten extrahiert wurden.
Eine Ansammlung von Nullen und Einsen in Ihrem Mobiltelefon kann mit einem guten Maß an mathematischer Sicherheit vorhersagen, wann die schreckliche Diagnose bei Ihnen angezeigt wird. Und warum wollen Systeme etwas über die Zukunft Ihrer Gesundheit wissen? Das ist richtig: Denn diese Prognose hat Marktwert, insbesondere für Versicherungsunternehmen. Es gibt auch die, sagen wir mal, propädeutischen Konsequenzen dieser klinischen Vorhersagen. Ausgebildet von große DatenmengenÄrzte verhalten sich zunehmend wie Risikomanager: Sie verwalten das „Portfolio“ klinischer Indikatoren (Cholesterin, Blutzucker, Triglyceride usw.) ihrer Patienten mit dem Ziel, sie aus den weniger günstigen statistischen Gruppen herauszufiltern. Wohlbefinden und Gesundheit werden auf probabilistische Regelungen reduziert.
Die Behandlung, die wir in den Büros erhalten, ist eine Variante versicherungsmathematischer Kennzahlen mit dem Ziel, uns aus den Quadranten zu entfernen, in denen Schadensfälle mit größerer Wahrscheinlichkeit auftreten. Mediziner verhalten sich mehr oder weniger wie Händler an der Börse oder wie Fondsmanager. Was Krankenhäuser betrifft, ähneln sie zunehmend Investmentbanken.
Anders ausgedrückt (in Nullen und Einsen): Unsicherheit ist eine gute (oder eine schlechte) Sache, die in der digitalisierten Welt ungleich verteilt ist: Sie ist größer, sie ist immens, sie ist für Menschen, die kein Vermögen besitzen, unüberwindbar großes Unternehmen oder Macht; Es ist klein, gut verwaltet und profitabel für die Eigentümer von Unternehmen im Wert von Milliarden oder Billionen Dollar und für diejenigen, die die Maschinerie der Politik steuern.
Meistens betrachten wir diese Ungleichheit als eine Kluft zwischen Menschen und Maschinen, aber um ehrlich zu sein, sprechen wir hier von einer Kluft zwischen sozialen Klassen. Der Unterschied besteht darin, dass diejenigen an der Spitze, die Elite der Elite der Elite, die Technologie besitzen, aus der sie mit Unsicherheit Gewinne ziehen, während die ganz unten damit nur verlieren. Unser Problem liegt letztlich nicht in der Technologie, sondern in den Eigentumsverhältnissen, die sie verbinden.
* Eugene Bucci Er ist Professor an der School of Communications and Arts der USP. Autor, unter anderem von Die Superindustrie des Imaginären (authentisch).
Referenz
Eugene Bucci. Unsicherheit, ein Essay. Wie wir über die Idee denken, die uns desorientiert (und die digitale Welt leitet). Belo Horizonte, Autêntica, 2023, 140 Seiten (https://amzn.to/3Qyfigp).
