Was wir heute erleben, ist keine Machtübernahme durch Roboter, wie unzählige Filme sie sich ausgemalt haben. Wir haben es mit einem anderen Modell digitaler Kontrolle zu tun, das auf Automatisierung und auf dem Einsatz künstlicher Intelligenz sowie Algorithmen beruht, um immer größere Bereiche des täglichen Lebens zu verwalten und das die Gesellschaften immer stärker Systemen, Konzernen und intelligenten Maschinen unterwirft.
Die Kontrolle über diese Systeme zu verlieren ist allerdings nur die Spitze des Eisbergs der Gefahr. Diese Spitze entwickelt sich rasch unter dem Druck der Konkurrenz zwischen den Großmächten und den kapitalistischen Monopolkonzernen, schneller als Gesetze, Gesellschaften und Bildungseinrichtungen folgen können. Die Gefahr endet dort jedoch nicht, denn diese Systeme werden innerhalb von Eigentumsverhältnissen und einer erbitterten kapitalistischen Konkurrenz entwickelt. Ihre schwerwiegendere Seite ist schwerer zu erkennen. Unter dem Kapitalismus wird künstliche Intelligenz eingesetzt, um das Bewusstsein von Milliarden Menschen zu formen und ihre Aufmerksamkeit und ihr Verhalten in eine Richtung zu lenken, die der Logik des kapitalistischen Modells dient. Die Konkurrenz zwischen den digitalen kapitalistischen Monopolen und den Großmächten kann, bei fehlenden wirksamen Schranken und Gesetzen, dem menschlichen Geist den schwersten Schaden zufügen und künstliche Intelligenz in eine Massenvernichtungswaffe verwandeln, wenn ihre Entwicklung und ihr Einsatz in diesem übermäßigen Tempo und ohne angemessene Schutzvorkehrungen weitergehen.
Diese Sorgen kommen längst nicht mehr allein von Kritikerinnen und Kritikern. Bei mehreren Gelegenheiten, darunter der von TIME aufgedeckte Fall, sind Systeme künstlicher Intelligenz außer Kontrolle geraten und haben andere Systeme angegriffen. Als Reaktion darauf unterzeichneten rund 1.400 Ingenieurinnen und Ingenieure der führenden Unternehmen der Branche eine Petition, die technische Instrumente und internationale Steuerungsmechanismen fordert, um das Tempo der Entwicklung dieser Technologie zu regulieren. Diese Petition war kein Einzelfall. Der Internationale Bericht zur Sicherheit künstlicher Intelligenz, erstellt von mehr als hundert Fachleuten mit der Unterstützung von über dreißig Staaten und internationalen Organisationen, warnte davor, dass die Modelle begonnen haben, zwischen der Testumgebung und dem realen Einsatz zu unterscheiden und die Bewertungsmechanismen zu umgehen, sodass gefährliche Fähigkeiten unentdeckt bleiben. Er warnte zudem davor, dass Agenten künstlicher Intelligenz das Risiko erhöhen, weil sie eigenständig handeln, was ein menschliches Eingreifen erschwert, bevor der Schaden eintritt. Es besteht die ernste Gefahr, dass Systeme künstlicher Intelligenz sich selbst weiterentwickeln, außer Kontrolle geraten und bei der Verwaltung und Kontrolle von Menschen eine größere Rolle spielen als vorgesehen.
Zehntausende Menschen, unter ihnen führende Wissenschaftlerinnen und Wissenschaftler, haben eine internationale Erklärung unterzeichnet, die ein Verbot der Entwicklung von „Superintelligenz“ verlangt, solange kein wissenschaftlicher Konsens darüber besteht, dass sie sicher und unter Kontrolle erreicht werden kann. Forscherinnen und Forscher großer digitaler Konzerne haben gekündigt, aus Protest gegen den Kurs der Entwicklung dieser Systeme und gegen deren Prioritäten.
Am 12. September erreichte die Sache eine andere Ebene. Unter weltweitem Druck aus der Öffentlichkeit, von Menschenrechtsorganisationen und aus der Branche selbst sahen sich die Konzerne des digitalen Kapitalismus, die Systeme künstlicher Intelligenz entwickeln, gezwungen, ihr Schweigen zu brechen. Anthropic-Chef Dario Amodei veröffentlichte einen Essay mit dem Titel „Wir müssen das Tempo an der Forschungsfront bestimmen“, in dem er seine eigene Branche auffordert, das Entwicklungsrennen zu verlangsamen, und drei Schritte vorschlägt: die Öffnung der Labore für unabhängige Prüfer, ein gemeinsames Normengremium und ein internationales Abkommen, das China einschließt. Innerhalb weniger Stunden erklärte OpenAI-Chef Sam Altman seine Zustimmung, X-Eigentümer Elon Musk schrieb „Dario hat recht“, und Demis Hassabis von Google DeepMind sprach seine Unterstützung aus. Die drei Unternehmen gaben außerdem bekannt, dass sie seit Wochen im Gespräch waren.
Dieses Eingeständnis ist die deutlichste Bestätigung für den Ernst der Lage. Sie sagen offen, dass sie allein nicht anhalten können, weil derjenige, der das Tempo drosselt, gegenüber der Konkurrenz verliert. Der Kern des Problems liegt in der Struktur von Eigentum und Konkurrenz, und nicht in einem Mangel an Wissen über die Risiken. Die politische Antwort kam schnell. US-Präsident Donald Trump bezeichnete diese Warnungen als „Schwindel“ und „kranke Verschwörung“ und schrieb „Tötet nicht die Gans, die goldene Eier legt“. Vizepräsident JD Vance nannte sie ein „trojanisches Pferd“. Der mächtigste Staat der Welt stellt sich damit auf die Seite der Beschleunigung ohne Schutzvorkehrungen, sogar gegen jene, die diese Technologie bauen. Die Konzerne, die künstliche Intelligenz entwickeln, werden keine wirklichen Kontrollmaßnahmen ergreifen. Ihre Maßnahmen werden höchstwahrscheinlich formal bleiben und darauf zielen, die wachsende Unruhe und Opposition aufzufangen. Sie sind auf die eine oder andere Weise mit den herrschenden Mächten verbunden und den Regeln von Konkurrenz und Herrschaft unterworfen.
Niemand bestreitet die enormen Möglichkeiten, die künstliche Intelligenz eröffnet. Sie verkürzt Jahre der Forschung bei der Entdeckung von Medikamenten, entschlüsselt Proteinstrukturen, die der Wissenschaft jahrzehntelang widerstanden haben, erhöht die Genauigkeit medizinischer Diagnosen und erlaubt es, Krankheiten in frühen Stadien zu erkennen, in denen Leben gerettet werden, modelliert den Klimawandel und warnt vor seinen Katastrophen, bevor sie eintreten, überwindet Sprachbarrieren durch Übersetzung und macht Wissen für jene zugänglich, denen es lange vorenthalten wurde, erleichtert Millionen Menschen das tägliche und das berufliche Leben und öffnet die Tür zu Diensten, die verhärtete Probleme der Menschheit lösen können. Gerade diese Errungenschaften machen die Frage dringlicher. Dieser Artikel bestreitet solche Fähigkeiten nicht, er fragt danach, wem die Systeme gehören, wer sie lenkt, welchen Interessen sie dienen und wie sie eingesetzt werden.
Bevor wir weitergehen, sind drei Ebenen zu unterscheiden, die regelmäßig vermengt werden. Die erste ist die der „Sortier- und Empfehlungsalgorithmen“, die entscheiden, was uns erscheint und was uns vorenthalten wird. Die zweite ist die der „digitalen Plattformen“ und ihres Geschäftsmodells, das auf der Aufmerksamkeitsökonomie beruht, also auf der Verwandlung von Zeit und Daten der Nutzerinnen und Nutzer in Profit. Die dritte ist die der „generativen Werkzeuge künstlicher Intelligenz“, die den Menschen beim Schreiben, beim Analysieren und beim Entscheiden ersetzen. Jede Ebene hat ihre eigenen Mechanismen und Wirkungen, die sich von den anderen unterscheiden, und dennoch sind die drei in den Händen derselben kapitalistischen Monopolkonzerne miteinander verflochten und gehorchen einer einzigen Logik der Kapitalakkumulation. Ihre Verflechtung reicht noch tiefer, denn künstliche Intelligenz treibt alle drei an: die Sortier- und Empfehlungsalgorithmen sind zu Modellen künstlicher Intelligenz geworden, das Geschäftsmodell der Plattformen nutzt künstliche Intelligenz, um Nutzerinnen und Nutzer gezielt anzusprechen, indem es ihr Verhalten beobachtet und vorhersagt und die generativen Werkzeuge sind künstliche Intelligenz. Weil sie so eng miteinander verbunden sind, ist es eine intellektuelle Notwendigkeit, sie zusammen zu lesen.
Die Lenkung des Bewusstseins zur Verankerung der neoliberalen kapitalistischen Kultur
Neben ihrem Einsatz zur Maximierung des Profits, zur Verankerung ökonomischer und politischer Kontrolle und zur Verstärkung digitaler Repression wird diese Technologie systematisch eingesetzt, um das individuelle Bewusstsein zu formen und zu lenken, mit dem Ziel, die kapitalistische Kultur und neoliberale Werte zu stärken. Durch die Auswertung von Daten und Nutzerverhalten steuern Sortier- und Empfehlungsalgorithmen die Inhalte, die auf den Plattformen angezeigt werden. Sie sind darauf ausgelegt, die Menschen mit all dem zu füttern, was der kapitalistischen Weltsicht dient.
Diese Tendenz hat sich mit der Ausbreitung der Plattformen verfestigt. Nach einem Bericht der Internationalen Fernmeldeunion nutzen heute rund drei Viertel der Weltbevölkerung das Internet, mit mehr als 240 Millionen neuen Nutzerinnen und Nutzern allein im vergangenen Jahr. Diese Ausbreitung geht zum Teil auf das Bestreben der Monopolkonzerne und der Großmächte zurück, das Internet in jeden Winkel der Welt zu bringen. Das betrifft insbesondere die Länder des globalen Südens, auch Regionen, in denen es an sauberem Wasser, Strom und Grundversorgung fehlt, denn die Investitionen stellen die Erweiterung des Marktes über die Bedürfnisse der Menschen und zielen darauf, den Profit zu maximieren, die Herrschaft zu festigen und diese Regionen digital zu kolonisieren. Das bedeutet nicht zwangsläufig, dass alle Nutzerinnen und Nutzer im gleichen Maß unter den Einfluss künstlicher Intelligenz geraten und es erweitert doch die materielle Grundlage, auf der der Apparat arbeitet.
Kapitalistische Eigentumsstrukturen und Profitmodelle drängen die Algorithmen dazu, jene Inhalte zu bevorzugen, die den Interessen des Marktes und der Monopolkonzerne dienen. Sie machen aus Algorithmen ein Instrument zur Reproduktion der kulturellen Hegemonie des Kapitalismus. Über diesen Mechanismus wird das kollektive Bewusstsein schrittweise dahin gelenkt, diese Werte als natürlich und unausweichlich zu akzeptieren, auf sanfte, allmähliche und unmerkliche Weise, bis hin zu dem Punkt, an dem die meisten Nutzerinnen und Nutzer, auch Teile der Linken, sie für neutrale Werkzeuge halten. Der Apparat trägt dazu bei, die kapitalistische Hegemonie zu festigen, verstärkt die Unterordnung der Massen und drängt linke und fortschrittliche Alternativen an den Rand. Das ist eine Bedrohung für das Bewusstsein der kommenden Generationen und für ihre Fähigkeit zu kritischem Denken und zur Organisierung für Veränderung.
Der Abbau menschlicher Fähigkeiten, digitale Abhängigkeit und vertiefte Entfremdung
Diese Bedrohung reicht bis in den Abbau der geistigen Fähigkeiten des Einzelnen. Hier verschiebt sich die Frage von der Ebene der Algorithmen, die lenken, was wir sehen, auf die Ebene der Werkzeuge künstlicher Intelligenz, die an unserer Stelle denken. Obwohl künstliche Intelligenz als Mittel beworben wird, das Leben zu erleichtern und die Produktivität zu steigern, zeigen wissenschaftliche Studien, dass ein unreflektiertes Vertrauen auf sie mit einer Vertiefung oberflächlichen Bewusstseins und einer Schwächung menschlicher Fähigkeiten einhergeht.
Nach einer Studie von Forschenden des Massachusetts Institute of Technology verringert das Vertrauen auf Schreibwerkzeuge mit künstlicher Intelligenz die Hirnaktivität und schwächt das Gedächtnis sowie das Gefühl, Herr der eigenen Gedanken zu sein. Die Forschenden gaben diesem Phänomen den Namen „kognitive Verschuldung“, das heißt, der Mensch leiht sich geistige Kapazität aus der Zukunft und erhält dafür Bequemlichkeit in der Gegenwart. Eine in der Zeitschrift Societies veröffentlichte Studie stellte fest, dass häufige Nutzung von Werkzeugen künstlicher Intelligenz mit einer Schwächung des kritischen Denkens einhergeht, über den Mechanismus der „kognitiven Auslagerung“, also der Übertragung des Erinnerns und des Analysierens an Geräte, statt sie im Kopf zu vollziehen. Besonders deutlich zeigte sich das bei jungen Menschen, was die Aussicht auf eine neue Generation eröffnet, die weniger imstande ist, selbständig zu analysieren. Auf der Grundlage von Daten von mehr als 6.000 Kindern in einem Projekt zur Hirnentwicklung Heranwachsender stellten Forschende der University of California fest, dass Kinder, die soziale Medien am stärksten nutzen, einen deutlichen Rückgang beim Lesen, beim Wortschatz und beim Gedächtnis aufweisen. Jene Studie befasste sich ausdrücklich mit sozialen Medien und der Mechanismus, den sie benennt, die Verlagerung der geistigen Anstrengung auf den Bildschirm, ist derselbe, der in den Werkzeugen künstlicher Intelligenz wirkt, dort sogar noch tiefer, da diese Werkzeuge die Aufgabe des Denkens selbst übernehmen.
Die Sache beschränkt sich nicht auf Labore. Das Programm zur internationalen Schülerbewertung (PISA), veröffentlicht am 8. September, nahm das gesamte Bildungssystem in den Blick. In Dänemark erzielten die Schülerinnen und Schüler ihre schlechtesten Ergebnisse aller Zeiten, ein Rückgang der Leistungen, der einem ganzen verlorenen Schuljahr entspricht. Die Regierung beschreibt das als eine schwere Bildungskrise, die alles übertrifft, was erwartet wurde. Der Rückgang fiel mit einer starken Ausweitung des Einsatzes digitaler Geräte und künstlicher Intelligenz im Unterricht zusammen, auch wenn der ursächliche Zusammenhang zu komplex ist, um ihn auf einen einzigen Faktor zu reduzieren. Dasselbe Bild wiederholt sich in 43 Ländern, in denen die Leistungen stark gefallen sind. Die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung stellte einen Zusammenhang zwischen diesem Rückgang und der steigenden Bildschirmzeit, der Nutzung künstlicher Intelligenz und dem Rückgang des freien Lesens fest und warnte, das Schwerwiegendste daran sei die Erosion genau jener Fähigkeiten, auf die es im Zeitalter der künstlichen Intelligenz am meisten ankommt, nämlich Informationen zu bewerten, mehrere Quellen zu verknüpfen und analytisch und kritisch zu denken.
Dieser Rückgang ist keine zufällige Nebenwirkung. Hinter ihm steht die zweite Ebene: das Profitmodell der Plattformen, das auf digitaler Abhängigkeit beruht. Digitale Plattformen und Anwendungen, die von künstlicher Intelligenz angetrieben werden, sind keine kostenlosen Dienste, die aus Zuneigung zu ihren Nutzerinnen und Nutzern angeboten werden. Sie sind Instrumente, die gezielt eingesetzt werden, um eine verhaltensmäßige und geistige Abhängigkeit zu verstärken, in der große Datenmengen ausgewertet werden, um die Beweggründe der Menschen zu verstehen und sie in einem Sinn zu manipulieren, der den Interessen der Konzerne und der Großmächte dient. Der Kapitalismus investiert auf verschiedenen Wegen in Techniken, die suchtförderndes Verhalten anregen, um das Verweilen auf den Plattformen zu sichern. Der Vorgang verwandelt sich in einen geschlossenen Kreislauf, der Profit auf Kosten der psychischen Gesundheit und der schulischen Leistungen erzeugt, besonders bei den jüngeren Generationen.
So wird die menschliche Entfremdung in digitaler Gestalt reproduziert. Der Einzelne wird von seinen geistigen und schöpferischen Fähigkeiten abgeschnitten und findet sich eingeschlossen in einen technischen Apparat, der ihm die Fähigkeit nimmt, selbständig zu handeln und zu denken, so wie die Arbeiterin und der Arbeiter unter dem Kapitalismus von ihrem Produkt entfremdet werden. Nach und nach wird er zu einem Wesen, das Algorithmen unterworfen ist, die seine täglichen Interaktionen lenken und bestimmen, was er liest, was er sieht, wie er denkt, was er schreibt und wie er kommuniziert, und das vertieft seine Abhängigkeit von Systemen, Konzernen und Staaten, die vom Kapital und von den Kräften der Ausbeutung und der Willkürherrschaft kontrolliert werden.
Freiwillige digitale Knechtschaft und der Verlust der Kontrolle
Wenn die digitale Abhängigkeit erklärt, wie ein Mensch in diesen Apparat hineingezogen wird, bleibt die schwierigere Frage: warum akzeptiert er ihn, während er das Gefühl hat, frei zu wählen? Diese psychologische Ausbeutung ist nicht mehr als ein Ausdruck einer Klassenherrschaft, die sich vertieft, je mehr künstliche Intelligenz von einem technologischen Werkzeug zu einem Mittel wird, Muster sozialer, politischer, ökonomischer und geistiger Kontrolle zu reproduzieren.
Was diese Herrschaft gefährlicher macht, ist ihr freiwilliger Charakter, insofern die Menschen durch algorithmische Manipulation und durch den Druck, im Alltag künstliche Intelligenz zu nutzen, in diese „digitale Knechtschaft“ gedrängt werden, ohne Zwang und in der Illusion von Kontrolle und Wahl. Entscheidungen werden auf vorbereitete Bahnen gelenkt, die dem Kapital dienen, während ihre geistigen, intellektuellen und beruflichen Fähigkeiten geschwächt werden.
Dieses Mitmachen wird als individuelle Freiheit vermarktet. Wer diese Anwendungen nutzt, tut es aus freier Wahl und wer es nicht mag, kann sein Telefon ausschalten. Viele neoliberale Theoretiker lehnen jeden Eingriff in den digitalen Markt ab und betrachten ihn als Bevormundung des Einzelnen und als Enteignung persönlicher Entscheidungen. Doch eine Freiheit, deren Bedingungen nicht demjenigen gehören, der sie ausübt, ist keine Freiheit. Der Einzelne hat den Algorithmus nicht gewählt, der ordnet, was er sieht, war an der Gestaltung der Anwendung nicht beteiligt, die ihm sein Arbeitgeber, die Schule seiner Kinder, seine Bank oder staatliche Behörden auferlegen, und wurde nie zum Profitmodell befragt, das seine Aufmerksamkeit, seine Zeit und sein Verhalten in eine gewinnbringende Ware verwandelt. Das ist die Freiheit, unter dem zu wählen, was das Kapital vorgelegt hat, und nicht die Freiheit, zu entscheiden, was überhaupt vorgelegt wird.
Hier trennt sich die linke Position von der liberalen, denn es geht nicht darum, den Einzelnen vor sich selbst zu schützen. Es geht darum, die Entscheidung über die digitale Infrastruktur denen zu entreißen, die sie besitzen, und die Gestaltung der Algorithmen, die Datenquellen und die Profitmodelle der Autorität der Gesellschaft und demokratischer Kontrolle zu unterwerfen. Wirkliche Freiheit beginnt dort, wo die Menschen die Bedingungen ihres Lebens gemeinsam besitzen, und nicht dort, wo ihnen eine individuelle Wahl zwischen Alternativen angeboten wird, die ohne sie geschaffen wurden.
Was auf der Ebene des Einzelnen geschieht, wiederholt sich auf der Ebene der Menschheit. In dem Maß, in dem ein Mensch seine kleinen Entscheidungen an Algorithmen abgibt und sich dabei für frei und wählend hält, geben Gesellschaften ihre großen Entscheidungen an digitale Systeme ab, die sie weder überblicken noch verstehen. Die Unterwerfung der Menschheit unter die Maschine ist deshalb keine philosophische Spekulation mehr. Sie ist mit den Fortschritten der künstlichen Intelligenz und mit dem Fehlen wirksamer internationaler und nationaler rechtlicher Schranken realer geworden. Wenn sie die ihr einprogrammierten Grenzen überschreitet, kann künstliche Intelligenz zu einem Apparat werden, der folgenschwere Entscheidungen allein trifft und sie der Menschheit ohne echte menschliche Aufsicht auferlegt.
Unter dem Kapitalismus wird künstliche Intelligenz entwickelt, um der Kapitalakkumulation zu dienen, und ist der Logik von Konkurrenz und Herrschaft unterworfen. Das macht den Verlust der Kontrolle über sie zu einer realen und ernsten, möglicherweise verheerenden Aussicht. Die Ursache ist in beiden Fällen dieselbe. Das Fehlen von gemeinschaftlichem Eigentum und demokratischer Kontrolle von unten ist es, was den Einzelnen die Herrschaft über sein Bewusstsein und seine Entscheidungen verlieren lässt. Dasselbe Fehlen ist es, was die Menschheit die Herrschaft über das gefährlichste Instrument verlieren lassen kann, das sie je gebaut hat. Freiwillige digitale Knechtschaft und der Verlust der Kontrolle sind zwei Seiten ein und desselben Fehlens.
Künstliche Intelligenz als Massenvernichtungswaffe
Diese Gefahr ist nicht weniger schwerwiegend als alle früheren Formen des Dienstes am Kapital. Das entfesselte Rennen zwischen den kapitalistischen Polen und den Großmächten um die Kontrolle über künstliche Intelligenz trägt, bei fehlenden strengen internationalen und nationalen Regeln und Gesetzen, die Keime des Kontrollverlusts in sich und die Möglichkeit, künstliche Intelligenz in ein Instrument der Massenvernichtung zu verwandeln, das nicht nur die Zukunft der Körper und der Güter bedroht, sondern auch die des menschlichen Geistes selbst.
Auf militärischer Ebene nimmt dieses Rennen die Gestalt eines tatsächlichen Wettrüstens an, das autonome Waffen, eigenständige Drohnen, Kampfroboter und Systeme zur Zielerfassung und Tötung umfasst. Forschende warnen davor, dass diese Systeme versagen können, wenn sie aus der Testumgebung in die Bedingungen des wirklichen Krieges übergehen, was Fehler, unvorhergesehene Entscheidungen und weitreichende Katastrophen hervorbringen kann. Diese Gefahr ist nicht hypothetisch. Es gibt dokumentierte Fälle, in denen Systeme künstlicher Intelligenz außer Kontrolle gerieten, darunter von künstlicher Intelligenz gelenkte Waffensysteme, auf die wir weiter unten zurückkommen, die den Tod einer großen Zahl von Zivilistinnen und Zivilisten verursachten. Wahrscheinlich gibt es weitere, die nie öffentlich wurden.
Die Zerstörung, die künstliche Intelligenz bringen kann, endet allerdings nicht an den Grenzen des Krieges und der militärischen Operationen. Sie hat eine andere Ebene, leiser und von größerer Reichweite. Atomwaffen sind an einen direkten militärischen Einsatz gebunden, der verhältnismäßig sichtbar ist und erklärten internationalen Kalkülen und Abkommen unterliegt. Ihre Gefahr blieb auf den Augenblick der Detonation und das, was darauf folgte, beschränkt. Auf der Ebene des Bewusstseins arbeitet künstliche Intelligenz dagegen im Stillen und dringt in die Einzelheiten des täglichen Lebens ein: in Bildung, Arbeit, Medien, Dienstleistungen und die meisten Bereiche der Gesellschaft. Sie schwächt menschliche Fähigkeiten, vertieft die Abhängigkeit von digitalen Systemen, untergräbt kritisches Denken und kognitive Eigenständigkeit und weitet Überwachung und Verhaltensmanipulation aus.
Hier wird die Zerstörung leiser und weiter verbreitet. Die digitale Knechtschaft selbst wird zu einer Form der Massenvernichtungswaffe, denn sie tötet den Menschen nicht auf einen Schlag, und formt stattdessen sein Bewusstsein, seine Fähigkeiten und seine Beziehungen Tag für Tag um. Beide Ebenen sind zwei Seiten ein und derselben Waffe: die eine zerstört die Körper in einem Augenblick, die andere zerlegt die Köpfe in aller Ruhe. Nimmt man beide Ebenen zusammen, liegt die Gefahr nicht allein in der Herstellung tödlicherer Waffen, sondern ebenso in der Umformung des Menschen und der Gesellschaft. Künstliche Intelligenz kann die menschliche Fähigkeit bedrohen, zu verstehen, zu wählen, zu analysieren und zu entscheiden, und diese Fähigkeit Systemen ausliefern, die von Anfang an gebaut wurden, um geopolitischer Rivalität und dem Profit zu dienen und nicht den Menschen.
Aus diesem Grund haben Hunderte führender Forscherinnen und Forscher im Bereich künstlicher Intelligenz, unter ihnen Menschen, die dieses Feld mit aufgebaut haben, eine knappe Erklärung unterzeichnet, die festhält: „Die Minderung des Risikos der Auslöschung durch künstliche Intelligenz sollte neben anderen Risiken gesellschaftlichen Ausmaßes wie Pandemien und Atomkrieg eine globale Priorität sein.“ Wenn die gefährlichste Technologie der Menschheitsgeschichte zu einem Faustpfand in den Händen geopolitischer und militärischer kapitalistischer Rivalen wird, ohne wirkliche rechtliche, soziale und demokratische Bremsen, dann ist der Verlust der Kontrolle nicht länger nur eine Bedrohung für das individuelle Bewusstsein, sondern eine Bedrohung für die Zukunft der Gesellschaft und der gesamten Menschheit.
Die digitalen Konzerne und die künstliche Intelligenz im Dienst der extremen Rechten
Der Einsatz künstlicher Intelligenz dient dem Kapital nicht nur in ökonomischer und kultureller Hinsicht. Er hat auch das direkte und wachsende Bündnis zwischen den größten digitalen Konzernen, der extremen Rechten und militärischen und repressiven Projekten weltweit befördert.
Zu den deutlichsten Ausdrucksformen dieses Bündnisses gehört das Manifest, das Palantir Technologies im April 2026 veröffentlichte und das ich als Ausdruck eines „digitalen Faschismus“ beschrieben habe. Es ruft offen dazu auf, die Macht in den Händen einer finanziellen und technologischen Oligarchie zu konzentrieren, die in der liberalen Demokratie ein Hindernis für ihre Vorherrschaft sieht, und die Ingenieure des Silicon Valley moralisch in den Dienst der Kriegs- und Sicherheitsmaschinerie zu stellen. Hinter diesem Projekt steht Peter Thiel, Mitgründer von Palantir und prominenter Geldgeber von Trump und Vance. Thiel ist ein Theoretiker der „akzelerationistischen“ Strömung, die dafür eintritt, die technologische Entwicklung von jeder Schranke zu befreien, ungeachtet der sozialen Kosten.
Dieses Bündnis beschränkt sich nicht auf Rhetorik. Palantir hat eine strategische Partnerschaft mit dem israelischen Verteidigungsministerium geschlossen, um es mit von künstlicher Intelligenz angetriebenen „Kampf“-Werkzeugen zu beliefern, neben dem von Google und Amazon betriebenen Projekt Nimbus, sowie mit algorithmischen Systemen zur Zielerfassung wie Lavender und The Gospel, die, wie journalistische Recherchen enthüllt haben, die massenhafte Tötung in Gaza in einen kalten Rechenvorgang verwandelt haben, der zivile Leben auf Daten reduziert. Nach Angaben US-amerikanischer Menschenrechtsorganisationen liefert Palantir zudem den US-Einwanderungs- und Zollbehörden über sein System ImmigrationOS Daten, die Kampagnen erzwungener Abschiebung und die Verfolgung von Aktivistinnen und Demonstranten beschleunigen. Das veranlasste Amnesty International und Human Rights Watch dazu, den Konzern zu verurteilen. Die digitale Repression ist von einem sanften Instrument zur Verwaltung des Bewusstseins zu einem aktiven Partner beim Töten, beim Festnehmen und beim Abschieben geworden.
International bietet Musk das klarste Modell eines digitalen Konzerns, der unmittelbar in den Dienst der extremen Rechten gestellt wird. Über X hat er rassistischen Kräften der extremen Rechten erhebliche Unterstützung geliefert, zuletzt bei den Wahlen im September im deutschen Bundesland Sachsen-Anhalt, und er greift aktiv in die brasilianischen Wahlen ein. Forschende von AlgorithmWatch haben dokumentiert, wie X durch Musks Eigentum und seinen direkten Einfluss zu einem zentralen Verstärker seiner eigenen Stimme zugunsten der weltweiten extremen Rechten wurde.
Damit ist das Bild vollständig: Algorithmen und künstliche Intelligenz im Dienst des Kapitals und der extremen Rechten, von der sanften Lenkung des Bewusstseins bis zu offenen Bündnissen mit den brutalsten militaristischen, repressiven und rassistischen Projekten der Welt.
Künstliche Intelligenz als Feld des Klassenkampfes und des kognitiven Kampfes
Es wäre ein Fehler, in einen „umgekehrten technologischen Determinismus“ zu verfallen, der die Algorithmen als eigenständigen Akteur darstellt, der das Bewusstsein unmittelbar herstellt, so als gebäre der Kapitalismus die Technologie und die Technologie ein einziges Bewusstsein in gerader Linie. Künstliche Intelligenz ist kein homogenes Gebilde in den Händen des Kapitals. Sie ist auch ein offenes Feld des Klassenkampfes und des kognitiven Kampfes. Zur selben Zeit, in der bestimmte digitale kapitalistische Konzerne und Staaten sie einsetzen, um Profite und Repression zu steigern, nutzen Klimaforschende sie, um Umweltveränderungen zu modellieren und vor Katastrophen zu warnen, Ärztinnen und Ärzte nutzen sie bei der Behandlung von Krankheiten, Aktivistinnen und Aktivisten greifen auf sie zurück, um Menschenrechtsmaterial zu übersetzen und die Stimme der Opfer weiter zu tragen und die Kräfte der Linken, die Gewerkschaften und die Arbeiterbewegungen nutzen sie, um ihren Kampf zu entwickeln.
Diese Unterscheidung hat eine empirische Grundlage, denn dieselben Belege, die den Schaden festhalten, halten auch den Nutzen fest, sobald sich die Bedingungen ändern, in der Hochschulbildung, in den Schulen und an den Arbeitsplätzen. Leistung und Produktivität steigen, wenn das System so gestaltet ist, dass die Nutzerin und der Nutzer die Arbeit selbst tun, statt dass es sie an ihrer Stelle erledigt und wenn die menschliche und gesellschaftliche Aufsicht über den Vorgang erhalten bleibt. Diese beiden Bedingungen sind eine gesellschaftliche Entscheidung und wer besitzt und entscheidet, ist derjenige, der sie festlegt. Es bleibt die wichtigste Frage: wem kommen diese Gewinne zugute?
Steigende Produktivität bedeutet einen Zuwachs des Mehrwerts, der aus der Arbeit der Arbeiterinnen und Arbeiter gezogen wird. Sie bedeutet, dass derselbe Wert mit weniger Arbeit und in weniger Zeit hergestellt werden kann und die Differenz sich in Profit verwandelt. Die Frage ist demnach nicht, ob die Produktivität steigt, denn sie steigt. Die Frage ist, wohin dieser Überschuss geht: in die Löhne derer, die produzieren, in die Verkürzung ihrer Arbeitszeit und die Verbesserung ihrer Bedingungen, oder in die Profite der kapitalistischen Arbeitgeber. Die Antwort liegt offen zutage.
Künstliche Intelligenz hebt die Ausbeutung nicht auf, sie verschärft und vertieft sie. Am deutlichsten zeigt sich das im Bereich der Arbeit, wo künstliche Intelligenz als eigenständiges Wesen dargestellt wird, das sich die Arbeitsplätze von selbst „aneignet“. Dieses Bild ist eine ideologische Verschleierung, die verbirgt, dass jeder gestrichene Arbeitsplatz eine in einem Vorstand getroffene Entscheidung ist. Die größten Eigentümer dieser Technologie sprechen bereits davon, in Kürze auf ganze Berufe zu verzichten, die Zehnmillionen Menschen beschäftigen. Selbst dort, wo künstliche Intelligenz niemanden ersetzt, genügt die bloße Aussicht darauf, um alle zu disziplinieren und die Beschäftigten akzeptieren längere Arbeitszeiten, niedrigere Löhne und engere Überwachung aus Angst vor der Entlassung. Das ist die Reservearmee der Arbeit in digitaler Gestalt. Dem Kapital genügt es, sie am Horizont zu halten, um die Arbeiterklasse beim Verhandeln, beim Organisieren und beim Streiken zu schwächen. Arbeitslosigkeit ist kein technologisches Schicksal, sie ist eine Entscheidung des Kapitals. Dieselbe Technologie, die einen Arbeitsplatz streicht, vermag den Arbeitstag zu verkürzen, während die Löhne gehalten und die Ruhezeiten ausgeweitet werden, wenn die Entscheidung in den Händen derer läge, die den Wert produzieren.
Das ist Klassenkampf im vollen Sinn und kein neutrales technisches Ergebnis. Welche Seite dieser Technologie wir auch betrachten, den Schaden, den Nutzen oder den Profit, die Antwort führt immer zum selben Punkt: wer besitzt, entscheidet. Das ist keine zufällige Wiederholung. Algorithmen sind im Kern mathematische Gleichungen ohne eigene Klasse. Ihre soziale und politische Funktion erhalten sie aus den Produktionsverhältnissen, in denen sie arbeiten und von der Instanz, die die Daten, die Labore und die Rechenzentren besitzt und daher entscheidet, zu welchem Zweck und in wessen Interesse sie arbeiten.
Hier tritt der grundlegende Widerspruch hervor. Künstliche Intelligenz ist ein gesellschaftliches Produkt im vollen Sinn, aufgebaut auf dem angesammelten menschlichen Wissen und auf der Arbeit von Millionen, und dennoch werden ihre Früchte von einer Handvoll Monopole und Staaten als Privateigentum angeeignet. Es ist der Widerspruch zwischen dem gesellschaftlichen Charakter der Produktion und der privaten Aneignung ihrer Ergebnisse, reproduziert in der fortgeschrittensten Produktivkraft der Menschheitsgeschichte. Das grundlegende Problem liegt weniger in der Maschine als im Eigentum an den digitalen Produktionsmitteln und in der Kontrolle über sie. Das ist es, was die Auseinandersetzung vom Feld der Klage über die Technologie auf das Feld des Klassenkampfes verschiebt.
Hin zu einer künstlichen Intelligenz im Dienst der Menschheit
Wenn diese Dynamik ohne eine kollektive Antwort weitergeht, die in einem linken, fortschrittlichen und an Rechten orientierten Bewusstsein verankert ist und ohne internationale und nationale Gesetze, die digitale Gerechtigkeit und Transparenz innerhalb gesellschaftlicher und basisnaher Strukturen sichern, kann künstliche Intelligenz sich Schritt für Schritt von einem Instrument in den Händen des Kapitalismus in ein System verwandeln, das wesentliche Funktionen des menschlichen Geistes ersetzt. Das hat bereits begonnen, durch den übermäßigen Gebrauch digitaler Anwendungen und künstlicher Intelligenz in den meisten Bereichen des beruflichen und persönlichen Alltags.
Was uns heute gegenübersteht, ist kein im Voraus geschriebenes technologisches Schicksal. Es ist das Ergebnis politischer und ökonomischer Entscheidungen, die den Interessen des Kapitals dienen. Man kann ihm entgegentreten, so schwer das auch sein mag. Künstliche Intelligenz unter Kontrolle zu bringen, die Algorithmen zu regulieren und sie demokratischer Aufsicht zu unterwerfen, ist eine kollektive Verantwortung. Das wird linke, fortschrittliche und an Rechten orientierte Arbeit und Organisierung auf weltweiter Ebene erfordern, um digitale Anwendungen zu Hilfsmitteln im Dienst des menschlichen Geistes zu machen und nicht zu seinem Ersatz. Damit muss die Förderung gemeinschaftlicher und partizipativer digitaler Alternativen einhergehen, die den Menschen ihre Fähigkeit zurückgeben, selbständig zu denken und gemeinsam zu handeln.
Um das zu erreichen, ist es nötig, daran zu arbeiten, die Dateninfrastruktur unter das öffentliche Interesse, demokratische Verwaltung und gesellschaftliche Rechenschaftspflicht zu stellen. Die Algorithmen aus geschlossenen „schwarzen Kästen“ in quelloffene Software zu verwandeln, die kollektiver Überprüfung und unabhängiger Kontrolle offensteht. Transparenz bei der Gestaltung der Modelle und bei den Quellen der Daten durchzusetzen, mit denen sie trainiert werden. Und genossenschaftliche digitale Alternativen zu unterstützen, die denen gehören, die sie nutzen und in ihnen arbeiten. Diese Technologie sollte darauf ausgerichtet werden, den Bedürfnissen der Gesellschaft zu dienen und zur Verteilung des Reichtums, zur Organisation der Produktion, zur Behandlung von Krankheiten, zum Kampf gegen die Armut und zur Verwirklichung sozialer Gerechtigkeit beizutragen.
Ohne solche Mechanismen bleiben die Rufe nach Gesetzen, Aufsicht und Regulierung allgemein und unzureichend und die Technologie bleibt Geisel einer Handvoll kapitalistischer Monopolkonzerne und Großmächte. Über gesellschaftliches Eigentum, Rechenschaftspflicht und genossenschaftliche Alternativen wird es dagegen möglich, künstliche Intelligenz der Logik von Monopol und Profit zu entreißen und sie in ein Gemeingut zu verwandeln, in dem künstliche Intelligenz der Befreiung der Menschheit dient, statt ein Instrument ihrer Versklavung zu sein.
