von SERGIO AMADEU DA SILVEIRA*
Die algorithmische Katastrophe und die „Blackout“-Cloud
1.
Die Soziologie der Moderne hat eine Reihe von Überlegungen hervorgebracht, die vertieft werden müssen, insbesondere in Zeiten sich ausbreitender reaktionärer Wellen, die koexistieren und sich vom Aufkommen von Technologien ernähren, die alle menschlichen Aktivitäten vermitteln sollen. Soziologe Ulrich Beck in Risikogesellschaft, 1986 in Deutschland veröffentlicht, warnte davor, dass Risiken und Unsicherheiten in modernen Gesellschaften, die vom technologischen und industriellen Fortschritt angetrieben werden, zu einem zentralen Thema geworden seien.
Ulrich Beck wies bereits darauf hin, dass solche Risiken zunehmend unsichtbar würden und ihre Wahrnehmung durch wissenschaftliche Institutionen und Medien geprägt werde. Die Dynamik des Risikos würde einbezogen und die ständige Suche nach den Verantwortlichen und Schuldigen für Katastrophen würde uns zu einer bestimmten, vom Risikomanagement unterstützten Politik führen.
Die Wahrnehmung von Ulrich Beck könnte realistischer nicht sein, da digitale Technologien die Wirtschaft dominiert haben und große Unternehmen, die sie kontrollieren und ihre Entwicklung steuern, einen Risikomanagementstil durchgesetzt haben. Der Philosoph Yuk Hui eröffnete seinen Text Algorithmische Katastrophe – die Rache der KontingenzIm Jahr 2020 sind technologische Katastrophen nicht einfach materielles Versagen, sondern Versagen der Vernunft. Inspiriert von Paul Virilio betrachtet Yuk Hui zeitgenössische technologische Systeme als Träger von Katastrophen und als Techniken zur Milderung der Tragödien, die ihre Dynamik und Zwecke hervorrufen.
Katastrophen sind aufgrund der Natur der Automatisierung und Automatisierungstechnologien unvermeidlich. Unsere Systeme bewegen sich in Richtung eines zunehmenden Einsatzes maschineller Intelligenzlösungen, die auf Statistiken und Wahrscheinlichkeiten basieren und in algorithmische Systeme umgewandelt werden, die mit gigantischer Rechenleistung arbeiten und Modelle generieren, die zur Automatisierung von Aktivitäten und deren Risiken verwendet werden.
Norbert Wiener, im Text Einige moralische und technische Konsequenzen der Automatisierung, veröffentlicht im Mai 1960 in der Zeitschrift Forschung, erklärte, dass Maschinen unvorhergesehene Strategien entwickeln könnten, da sie über Lernalgorithmen verfügten, die von ihren Programmierern nicht immer verstanden und befolgt werden könnten.
2.
Was am 18. und 19. Juli 2024 geschah, ist ein Beispiel für eine algorithmische Katastrophe. Das Risikomanagementsystem, genauer gesagt die Abwehr von Cyberangriffen, versagte. Ein Fehler im Software-Update des Cybersicherheitsunternehmens CrowdStrike, das auf das Betriebssystem von Microsoft angewendet wird, führte zu dem, was die Weltpresse als Cyber- oder Digital-Blackout bezeichnete. In einer Nachricht von Microsoft auf dem ehemaligen Twitter, jetzt X, heißt es: „Uns ist ein Problem mit Windows 365 Cloud-PCs bekannt, das durch ein kürzlich durchgeführtes Update der CrowdStrike Falcon Sensor-Software verursacht wurde.“
In jedem digitalen System steckt in gewisser Weise der Versuch, Fehler, Ausfälle, Angriffe, also Risiken und Vorfälle, zu erkennen und einzudämmen. Daher gibt es andere algorithmische Systeme, die ständig arbeiten, um Ausfälle, Fehler und Angriffe zu analysieren. Antivirenprogramme sind ein Beispiel für vorbeugende Maßnahmen, um ein System vor dem Senden bösartiger Dateien zu schützen, die Informationen zerstören und sogar eine Datenbank verschlüsseln können, um Lösegeld von Kriminellen zu erhalten, die den Schlüssel zum Entschlüsseln der Informationen besitzen. Interessanterweise trat das Problem auf, das als „Blackout“ bezeichnet wurde, als das Schutz- oder Angriffsverhinderungssystem schließlich einen Angriff auf das System förderte, das verteidigen sollte.
Anthony Giddens und Ulrich Beck schrieben, dass Risiken in der Spätmoderne größtenteils von der Gesellschaft selbst erzeugt würden, vor allem durch Technologie, Industrialisierung und Globalisierung. Allerdings befinden wir uns längst in der Spätmoderne, wir befinden uns in einem verrottenden kapitalistischen System. Der Traum des Kapitalisten ist dystopisch und versucht, menschliche Arbeit bis zum Äußersten durch automatisierte Systeme zu ersetzen, mit dem Ziel, Kosten zu senken und die Qualität und Präzision von Dienstleistungen und Produkten durch Steigerung der Produktivität zu steigern.
Daher treiben große Technologieunternehmen im heutigen Kapitalismus die kontinuierliche Sammlung von Daten voran, um die Extraktion von Mustern aus menschlichen, sozialen und maschinellen Prozessen zu verbessern. Allerdings hat dieser Traum soziotechnische Konsequenzen, die nicht vorhersehbar und nicht kontrollierbar sind.
Hier ist es wichtig hervorzuheben, dass die Risiken mit Zielen einhergehen, die sie erhöhen, zu denen auch das Streben nach Marktbeherrschung gehört, das von digitalen Oligopolen, den sogenannten Big Techs, gefördert wird. Im ersten Jahrzehnt des 21. Jahrhunderts verbreitete sich das auf dem sogenannten Cloud Computing basierende Geschäftsmodell, was die Konzentration von Rechenleistung und Datenspeicherung beschleunigte und damit die wirtschaftliche Konzentration ausweitete.
Wie sieht das Cloud-Geschäft aus? Was bedeutet der Satz „Meine Daten sind in der Cloud“? Cloud ist eine Metapher für das Geschäft mit der Speicherung und Verarbeitung von Daten und Systemen, die sich darin befinden Rechenzentren auf die über das Internet aus der Ferne zugegriffen werden kann. Wie der Witz sagt: „Die Cloud sind die Computer anderer Leute.“
Einige Unternehmen spezialisierten sich und dominierten schließlich das Cloud-Bereitstellungsgeschäft. Amazon Web Server und Microsoft Azure hielten im Jahr 2021 60 % des globalen Cloud-Marktes und boten Infrastructure as a Service an. Was bedeutet das. Dass mehrere Unternehmen, Institutionen und Regierungen ihre eigenen lokalen Datenverarbeitungs- und Speicherinfrastrukturen durch Verträge mit Amazon und Microsoft ersetzt haben, um sich um Datenspeicherplatz und Computerdienste zu „kümmern“ und diese zu „mieten“.
Die Cloud-Vertragskosten für Unternehmen und Regierungen waren attraktiv. Dies führte zu einem gigantischen Wachstum dieses Marktes. Die Folge war eine stärkere wirtschaftliche Konzentration.
Laut Gartner Group war die Konzentration im Cloud Infrastructure as a Service (IaaS)-Markt im Jahr 2023 wie folgt: Amazon hielt 39 %, Microsoft 23 %, Google 8,2 %, Alibaba 7,9 %, Huawei 4,3 %. Diese fünf Unternehmen dominierten 82,4 % des globalen Cloud-Marktes. Darüber hinaus verschlimmert sich dieses Szenario durch das Training großer Sprachmodelle, LLMs, die viele verfügbare Computer mit sehr hoher Verarbeitungskapazität oder Rechenleistung erfordern. Daher trägt generative künstliche Intelligenz, die auf der Extraktion von Mustern aus großen Datenmengen basiert, zur Konzentration von Rechenleistung bei, die wirtschaftliche Macht impliziert.
3.
Am Tag des Blackouts griffen viele Unternehmen auf ihre Anwendungen und Systeme in der Microsoft-Cloud zu und sahen sich mit dem berühmten Bluescreen konfrontiert, was bedeutete, dass das Betriebssystem nicht funktionieren konnte. Auch bei vielen Nutzern von Microsoft 365 war der Zugriff auf ihre Dateien gesperrt. Microsoft 365 ist wie ein Abonnementdienst, der Benutzern über das Internet Zugriff auf die Office-Suite und andere Dienste ermöglicht, anstatt sie lokal auf ihren eigenen Computern zu installieren.
Das bedeutet, dass die Daten und Dateien der Benutzer in der Microsoft-Cloud gespeichert werden, sodass sie von überall mit einer Internetverbindung auf ihre Dokumente und Informationen zugreifen können. Außer wenn das Unternehmen, das den Dienst anbietet, einen Fehler, einen Angriff oder Blockaden erleidet, ob absichtlich oder unabsichtlich.
Der Stromausfall zeigte die gigantische Macht eines Vermittlers digitaler Beziehungen und eines Datenverarbeitungsbetreibers wie Microsoft. Ohne Zweifel war der unbeabsichtigte Fehler die Ursache für den Blackout. Es ist jedoch klar, dass Microsoft die Macht hat, Unternehmen und Institutionen den Zugriff auf ihre eigenen Daten zu verweigern Rechenzentren, weit entfernt von unserem Zuständigkeitsbereich und unserer Möglichkeit, physisch darauf zuzugreifen.
Da haben wir ein Problem der digitalen Souveränität. Die brasilianischen Staatsoberhäupter müssen die Risiken abschätzen, die mit der weiteren Speicherung ihrer strategischen Daten und der Nutzung alltäglicher Software in Infrastrukturen außerhalb unseres Landes verbunden sind. Unsere Universitäten müssen darüber diskutieren, ob es nicht unerlässlich wäre, ihre Kommunikations- und Forschungsdaten in Infrastrukturen aufzubewahren, die in unserem Land und in unserem Zuständigkeitsbereich installiert und unseren Ethikkommissionen vorgelegt werden. Die für die Entwicklung notwendige Autonomie geht zunehmend mit digitaler Souveränität einher.
*Sergio Amadeu da Silveira ist Professor an der Federal University of ABC. Autor, unter anderem von Datenkolonialismus: Wie der algorithmische Graben im neoliberalen Krieg funktioniert (Literarische Autonomie). [https://amzn.to/3ZZjDfb]
Referenzen
BECK, Ulrich; GIDDENS, Anthony; LASH, Scott. Die Neuerfindung der Politik: Auf dem Weg zu einer Theorie der reflexiven Modernisierung. Stanford University Press, 1994.
BECK, Ulrich. Risikogesellschaft. São Paulo: Herausgeber 34, 2010.
Laut GARTNER ist der weltweite Umsatz mit öffentlichen IaaS-Cloud-Diensten im Jahr 16.2 um 2023 % gestiegen
STAMFORD, Connecticut, 22. Juli 2024. Link: https://www.gartner.com/en/newsroom/press-releases/2024-07-22-gartner-says-worldwide-iaas-public-cloud-services-revenue-grew-16-point-2-percent-in-2023
HUI, Yuk. Algorithmische Katastrophe. Die Rache der Kontingenz. Parrhesia: Eine Zeitschrift für kritische Philosophie, N. 34., 2020.
WIENER, Norbert. Einige moralische und technische Konsequenzen der Automatisierung: Wenn Maschinen lernen, entwickeln sie möglicherweise unvorhergesehene Strategien in einem Tempo, das ihre Programmierer verwirrt. Forschung, v. 131, nein. 3410, S. 1355-1358, 1960.
Die Erde ist rund Es gibt Danke an unsere Leser und Unterstützer.
Helfen Sie uns, diese Idee aufrechtzuerhalten.
BEITRAGEN
