von RAFAEL CARDOSO SAMPAIO*
Unternehmen, die Daten und KI-Infrastruktur kontrollieren, profitieren von Massenüberwachung und räuberischer Automatisierung, während die Arbeitnehmer Autonomie und Einkommen verlieren
Im Jahr 2023 wird der Ökonom und MIT-Professor Daron Acemoglu, Gewinner des Nobelpreises für das Buch Warum Nationen scheitern, brachte in einem weiteren Werk eine vernichtende Kritik in die globale Debatte ein, genannt Macht und Fortschritt: Ein tausendjähriger Kampf zwischen Technologie und Wohlstand. Darin argumentieren Daron Acemoglu und Simon Johnson, dass die derzeitige Entwicklung der künstlichen Intelligenz – die durch immer größere Modelle gekennzeichnet ist, die auf riesigen Datenmengen beruhen und auf eine wahllose Automatisierung ausgerichtet sind – kein unausweichliches Schicksal sei. Es handelt sich um eine technologische Entscheidung, und wie wir alle wissen, können Entscheidungen überdacht werden.
Daron Acemoglu und Simon Johnson gehen von einer historischen Prämisse aus: Technologien werden von denen geprägt, die die Macht haben. Im Falle der modernen KI dreht sich die vorherrschende Erzählung, vorangetrieben von Giganten wie OpenAI, Google, Microsoft und Meta, um die Suche nach „künstlicher allgemeiner Intelligenz“ – Maschinen, die in der Lage sind, menschliches Denkvermögen zu replizieren (und zu ersetzen). Diese von den Ideen Alan Turings inspirierte Sichtweise fördert einen Teufelskreis der Machtkonzentration. Unternehmen, die die Daten- und KI-Infrastruktur kontrollieren – etwa Cloud-Anbieter und Big-Tech-Plattformen – profitieren von Massenüberwachung und rücksichtsloser Automatisierung, während die Arbeitnehmer an Autonomie und Einkommen verlieren.
Da das Ziel darin besteht, um jeden Preis führend bei Innovationen im Bereich der künstlichen Intelligenz zu sein, geben die entsprechenden Unternehmen enorme Summen an Ressourcen aus, sowohl an Ressourcen als auch an Rechenressourcen, was eine Reihe damit verbundener Probleme mit sich bringt. Modelle wie GPT-4 verbrauchen gigantische Mengen an Energie und kosten Millionen Liter Wasser um ihre Server für triviale Aufgaben zu kühlen, etwa das Erkennen von Katzen auf Fotos oder das Generieren von oberflächlich zusammenhängenden Texten, wie die Autoren des Buches zitieren. Gesellschaftlich relevante Anwendungen – etwa die Früherkennung seltener Krankheiten oder die Anpassung von Nutzpflanzen an den Klimawandel – geraten bei diesen Unternehmen hingegen in den Hintergrund.
Die jüngste Veröffentlichung des Open-Source-Modells für generative künstliche Intelligenz des chinesischen Unternehmens DeepSeek hat weltweite Aufmerksamkeit erregt und das Finanz- und Spekulationskapital direkt ins Herz getroffen. das einen großen Teil der Struktur der Big Techs des Silicon Valley aufrechterhält. Der Putsch fand genau deshalb statt, weil er die bisherigen Narrative dieses Sektors zunichtemachte.
Bis zur Markteinführung des Modells R1 Bei DeepSeek herrschte die Meinung vor, dass die Entwicklung hochmoderner künstlicher Intelligenzmodelle astronomische Investitionen, enorme Datenmengen und hochmoderne Nvidia-Hardware für intensive Rechenverarbeitung erfordert, was den proprietären Charakter und die Betriebsgeheimnis dieser Technologien rechtfertigen würde.
Obwohl DeepSeek im Vergleich zu den Giganten aus dem Silicon Valley über ein bescheideneres Budget und Team verfügt, gelang es dem Unternehmen, sein künstliches Intelligenzmodell mithilfe innovativer Trainingstechniken und in nur wenigen Monaten zu deutlich geringeren Kosten zu trainieren. Auch ohne die besten Prozessorkarten hat das Unternehmen ein Modell entwickelt, das mit den besten Produkten von OpenAI, Google und Anthropic konkurriert. Darüber hinaus leistete das Labor eine Innovation, indem es das Modell öffentlich zugänglich machte, sodass es von jedem Interessierten auf kleineren Servern verwendet und verarbeitet werden kann.
Der Erfolg von DeepSeek ist nicht nur technischer, sondern politischer Natur. Es handelt sich dabei nicht nur um eine technische Innovation, sondern um ein praktisches Manifest gegen die „Illusion der künstlichen Intelligenz“. Mit diesem Begriff beschreiben die Autoren Daron Acemoglu und Simon Johnson den naiven Glauben, dass autonome, superintelligente Maschinen der Gesellschaft automatisch Vorteile bringen.
In einem in der Zeitung veröffentlichten Artikel The GuardianKenan Malik argumentiert ähnlich, dass die Wirkung von DeepSeek darin liege, die Aura der künstlichen Intelligenz entmystifiziert zu haben. Silicon Valley, so der Autor, habe das Bild künstlicher Intelligenz als einer wertvollen und wundersamen Errungenschaft gepflegt, seine Anführer als Propheten dargestellt und der Technologie nahezu magische Kräfte zugesprochen, einschließlich des Versprechens einer „künstlichen allgemeinen Intelligenz“ (AGI). Kenan Malik weist jedoch darauf hin, dass derartige Behauptungen weniger auf technologischen Möglichkeiten als vielmehr auf politischer und wirtschaftlicher Notwendigkeit beruhen, da das Geschäftsmodell der KI auf Hype angewiesen ist, um Investitionen anzukurbeln und Einfluss auf die Politik zu nehmen.
DeepSeek zeigt, dass es möglich ist, der Erzählung und dem Hype der Big Tech-Unternehmen zu widerstehen und eine künstliche Intelligenz zu entwickeln, die menschlichen und nicht unternehmerischen Zielen dient. Acemoglu und Johnson erinnern uns daran, dass Technologie ein Spiegel der Werte ist: Wenn wir Nutzen über künstliche Intelligenz, Effizienz über Überwachung und Zusammenarbeit über Automatisierung stellen, wird die Zukunft radikal anders aussehen. DeepSeek erinnert uns daran, dass wir den Kurs der Innovation immer noch ändern können und dass es andere Optionen gibt.
Und Brasilien in dieser Geschichte?
Nun, wir können zunächst einmal traurig darüber sein, dass die Bundesregierung diese neue technologische Landschaft zunächst nicht ernst genommen hat. Hätte es dort bereits im Jahr 2023 eine Initiative gegeben, als ChatGPT die Welt bereits beeindruckte, könnte dies sicherlich das Land sein, das sein eigenes DeepSeek vorstellte.
Es hat jedoch keinen Sinn, im Regen Tränen zu vergießen. Dieser Wandel zeigt auch einige interessante Wege sowie einige dringende Bedürfnisse für Brasilien auf. Neben der technologischen Innovation erregten zwei Aspekte die Aufmerksamkeit von DeepSeek besonders.
Erstens: Obwohl das Angebot kostenlos ist, erlauben die Nutzungsbedingungen die Nutzung von Benutzerdaten, einschließlich Interaktionen in China gelagert und zum Trainieren zukünftiger Modelle wiederverwendet. Zweitens ist er durch seine Voreingenommenheit und in gewissem Maße auch durch Zensur aufgefallen, die ihn daran hindern, Themen anzusprechen, die für die chinesische Regierung heikel sind.
Das Interessante an dieser Frage ist, dass dies praktisch jedes wichtige Sprachmodell, wie etwa ChatGPT, Claude und Gemini, bereits tut. In ihren Servicebedingungen heißt es eindeutig, dass Benutzerinteraktionen zum Trainieren ihrer Modelle verwendet werden können und die Daten auf Servern in den USA gespeichert werden. Wie jede Technologie weisen solche Modelle mehrere Verzerrungen aus der Perspektive ihrer Programmierer auf. Dabei handelt es sich in der Regel um weiße Männer mit sehr hoher Kaufkraft, die im Silicon Valley leben.
Daher werden alle Fragen zu umstrittenen Konzepten wie Demokratie, Feminismus, wirtschaftlicher Gleichheit und vielen anderen dazu neigen, durch diese Perspektive verzerrt zu sein – zusätzlich natürlich zu den bereits in den Trainingsdaten vorhandenen Verzerrungen, was zu neuen Formen der Diskriminierung führen kann.
Trotzdem wendet DeepSeek keine Zensur an, wenn es heruntergeladen und lokal ausgeführt wird. Offenbar gibt es ein zweites System, das zur Einhaltung chinesischer Gesetze nur die Online-Version zensiert. Daher funktioniert DeepSeek bei lokaler Ausführung ohne diese Einschränkungen.
Wenn wir alle diese Informationen zusammenfassen, ergeben sich einige kurz- und langfristige Maßnahmen für Brasilien. Kurzfristig muss die brasilianische Regierung dringend Regelungen zur Sicherung strategischer Daten erlassen. Zwei Bereiche erfordern besondere Aufmerksamkeit: Regierungsdaten und wissenschaftliche Daten. Regierungsdaten stellen eines der wertvollsten Vermögenswerte jeder Regierung dar und betreffen oft strategische und sogar geheime Entscheidungen des Landes.
In gutem Glauben laden in diesem Moment Hunderte, wenn nicht Tausende von Beamten diese Daten unbeabsichtigt zu ChatGPT und ähnlichen Unternehmen hoch und geben diese Werte kostenlos an große amerikanische (und jetzt auch chinesische!) Technologieunternehmen weiter. Von der Bundesregierung insgesamt gibt es zum gegenwärtigen Zeitpunkt keine klaren Verordnungen und Vorgaben für einen besonders sorgsamen Umgang mit solchen Daten. Das Gleiche gilt für andere Mächte.
Ebenso wiederholen Akademiker bei bahnbrechenden wissenschaftlichen Entdeckungen denselben Fehler. Um die Produktivität zu steigern, analysieren unsere Wissenschaftler Daten, schreiben und überprüfen Texte mithilfe generativer künstlicher Intelligenz und stellen diese Daten, die das Ergebnis einer großen finanziellen und intellektuellen Investition sind, kostenlos und ohne jegliche Vergütung zur Verfügung. Derzeit gibt es weder eine Regulierung durch die Ministerien für Bildung oder Wissenschaft und Technologie noch durch Regulierungs- und Forschungsförderungsbehörden wie CAPES, CNPq und dergleichen.
Genau aus diesem Grund in einem eigener Guideschlage ich zusammen mit anderen Kollegen vor, dass die Wissenschaft offene Modelle der allgemeinen künstlichen Intelligenz übernimmt und ihre Daten in souveränen Clouds speichert, was in der Praxis auch von öffentlichen Bediensteten erledigt werden könnte. DeepSeek selbst könnte hierfür verwendet werden, aber es gibt bereits weitere Optionen auf dem Markt. Die Regierung des Bundesstaates Piauí steht kurz vor der Veröffentlichung der Souveränität, ein vollständig vom Staat entwickeltes Sprachmodell. Somit sind die brasilianische Wissenschaft und der Staat durchaus in der Lage, eigene Modelle zu entwickeln.
Mittel- und langfristig kennen wir das Rezept bereits. Investitionen. Der allgemeine Umriss des brasilianischen Plans für künstliche Intelligenz (PBIA) scheint ein guter Anfang und die Nachrichten, die von der jüngsten „Nationalen Konferenz für Wissenschaft, Technologie und Innovation“ kamen, sind ebenso aufregend, so dass wir uns vorstellen können, neue Wende der brasilianischen Wissenschaft. Wir scheinen also in die richtige Richtung zu gehen.
Wir müssen jedoch die Lektion von DeepSeek im Hinterkopf behalten. Erreichen Sie mehr mit weniger, arbeiten Sie mit offenen und kollaborativen Modellen, entgehen Sie dem Hype der großen Technologieunternehmen und entwickeln Sie Technologien, die für unsere Bedürfnisse nützlich sind, wie uns Daron Acemoglu und Simon Johnson in Erinnerung rufen. Nur dann werden wir in der Lage sein, effektiv über eine wirksame digitale Souveränität zu sprechen und nachzudenken.[1]
*Rafael Cardoso Sampaio ist Professor am Institut für Politikwissenschaft der Bundesuniversität Paraná (UFPR).
Hinweis:
[1] Dieser Text wurde mit Hilfe von DeepSeek R1 korrigiert und verbessert und anschließend von seinem menschlichen Autor ordnungsgemäß überprüft, erweitert und übernommen.
Die Erde ist rund Es gibt Danke an unsere Leser und Unterstützer.
Helfen Sie uns, diese Idee aufrechtzuerhalten.
BEITRAGEN
