{"id":16534,"date":"2026-09-16T13:37:17","date_gmt":"2026-09-16T11:37:17","guid":{"rendered":"https:\/\/maulwuerfe.ch\/?p=16534"},"modified":"2026-09-16T13:37:20","modified_gmt":"2026-09-16T11:37:20","slug":"hinter-der-panikmache-um-die-ki-katastrophe-eine-berechtigte-warnung","status":"publish","type":"post","link":"https:\/\/maulwuerfe.ch\/?p=16534","title":{"rendered":"Hinter der Panikmache um die \u201eKI-Katastrophe\u201c: Eine berechtigte Warnung"},"content":{"rendered":"

Andre Damon. <\/em>In der vergangenen Woche hat sich in den US-Medien eine Kampagne rund um eine drohende \u201eKI-Katastrophe\u201c entwickelt. Die\u00a0New York Times<\/em>\u00a0warnt vor \u201eunvorhersehbaren, au\u00dfer Kontrolle geratenen Agenten der k\u00fcnstlichen Intelligenz\u201c.<\/p>\n

<\/p>\n

Die Gefahren, die vom Einsatz immer leistungsf\u00e4higerer KI-Systeme durch gewinnorientierte Konzerne ausgehen, sind real. Der Zweck dieser Kampagne besteht darin, sicherzustellen, dass sie niemals Gegenstand einer rationalen \u00f6ffentlichen Diskussion werden. Eine berechtigte Warnung wurde aufgegriffen, aufgebauscht und in einen Notfall verwandelt. Dieser Notfall wird wiederum genutzt, um die Entwicklung der Technologie direkter an die geopolitischen Interessen des amerikanischen Imperialismus zu binden und sie jeder demokratischen Kontrolle zu entziehen.<\/p>\n

Ausl\u00f6ser war der R\u00fccktritt eines Forschers bei Anthropic, Jacob Coxon, am 8. September. Coxon erkl\u00e4rte, dass \u201edie Menschen, die KI entwickeln, ernsthaft meinen, dass sie uns alle bis zum Ende des Jahrzehnts t\u00f6ten k\u00f6nnte\u201c. Coxon verzichtete auf noch nicht unverfallbare Aktienanspr\u00fcche und erkl\u00e4rte, die Branche ganz zu verlassen.<\/p>\n

Evan Hubinger, der die Alignment-Forschung bei Anthropic leitet, schloss sich ihm am folgenden Tag an: \u201eJacob hat hier Recht \u2013 wir glauben wirklich ernsthaft, dass KI alle Menschen t\u00f6ten k\u00f6nnte! Ich pers\u00f6nlich sch\u00e4tze die Wahrscheinlichkeit innerhalb des n\u00e4chsten Jahrzehnts auf \u00fcber 10 Prozent.\u201c Hubinger f\u00fcgte hinzu, die derzeitigen Modelle stellten nur ein geringes Risiko dar; die Gefahr liege in den selbstverbessernden Systemen, die derzeit entwickelt werden.<\/p>\n

Die Vorgehensweise ist bekannt. Im September 2002, als die Bush-Regierung die Invasion des Irak vorbereitete, lautete der Satz in allen Medien: \u201eWir wollen verhindern, dass der entscheidende Beweis eine Atompilzwolke ist.\u201c Im Jahr 2020, als die herrschende Klasse daran ging, die Schutzma\u00dfnahmen gegen Covid-19 abzubauen, lautete das Motto: \u201eDie Therapie darf nicht schlimmer sein als die Krankheit.\u201c In beiden F\u00e4llen wurde eine Warnung in Panik umgewandelt, und die Panik wurde genutzt, um bereits vorbereitete Ma\u00dfnahmen durchzusetzen. So ist es auch jetzt.<\/p>\n

Von Barack Obama, Kamala Harris und Bernie Sanders bis hin zu Steve Bannon und Elon Musk haben sich alle zu Wort gemeldet.<\/p>\n

Am Samstag ver\u00f6ffentlichte Anthropic-Chef Dario Amodei einen Essay mit dem Titel \u201eWe Must Pace the Frontier\u201c, der innerhalb weniger Stunden von Sam Altman von OpenAI, Demis Hassabis von Google DeepMind und Musk, dem reichsten Mann der Welt, unterst\u00fctzt wurde. Am Montag brachte die Times<\/em> auf ihrer Titelseite eine Analyse von David Sanger, in der er die \u201eDominanz der KI\u201c als das \u201ewichtigste nationale Sicherheitsproblem des Jahrhunderts\u201c bezeichnete.<\/p>\n

Amodeis Essay schl\u00e4gt \u201eeingebettete Gutachter\u201c vor, die von den Labors selbst ausgew\u00e4hlt werden \u2013 eine Form der Selbstkontrolle, die darauf abzielt, jegliche verbindliche Regulierung zu verhindern. Die KI-Konzerne dr\u00e4ngen darauf, dass Bundesgesetze die einzelstaatlichen Vorschriften zu dieser Technologie au\u00dfer Kraft setzen. Und die Labors werden \u2013 mit der damit einhergehenden Geheimstufung und rechtlichen Immunit\u00e4t \u2013 in den nationalen Sicherheitsapparat integriert. Die Panik suggeriert, dass nur die Unternehmen, die die Gefahr geschaffen haben, auch in der Lage sind, sie zu bew\u00e4ltigen.<\/p>\n

Sie bildet einen Schutzwall um die etablierten Akteure \u2013 genau in dem Moment, in dem Anthropic seinen B\u00f6rsengang vorbereitet.<\/p>\n

Der unmittelbare Anlass f\u00fcr diese Kampagne ist die unbestreitbare Leistungssteigerung der neuesten gro\u00dfen Sprachmodelle, insbesondere von Anthropics \u201eFable\u201c und \u201eMythos 5.1\u201c, die am 1. September ver\u00f6ffentlicht wurden, sowie von OpenAIs \u201eAstra\u201c, das am 3. September erschien. Diese Systeme sind in der Lage, stunden- oder sogar tagelang selbstst\u00e4ndig an Aufgaben zu arbeiten und komplexe Probleme mit au\u00dfergew\u00f6hnlicher Geschwindigkeit zu l\u00f6sen.<\/p>\n

<\/a><\/p>\n

Die F\u00fchrungskr\u00e4fte, die sich an die Spitze der Kampagne stellen, beabsichtigen, diese Systeme zu nutzen, um einen massiven Angriff auf Arbeitspl\u00e4tze zu starten. Anthropic-Chef Amodei erkl\u00e4rte gegen\u00fcber Axios im Mai 2025, dass KI die H\u00e4lfte aller Einstiegspositionen im Angestelltenbereich eliminieren und die Arbeitslosigkeit innerhalb von f\u00fcnf Jahren auf 10 bis 20 Prozent treiben k\u00f6nnte. Er warnte im Januar, dass die Entlassenen \u201eeine arbeitslose oder sehr niedrig bezahlte \u201aUnterschicht\u2018 bilden k\u00f6nnten\u201c. Altman erkl\u00e4rte gegen\u00fcber der Federal Reserve, dass \u201eganze Berufsgruppen verschwinden werden\u201c.<\/p>\n

Neben dem Angriff auf Arbeitspl\u00e4tze bestehen Gefahren durch den Einsatz dieser Systeme durch die Labore selbst. Sie stehen in einem Wettlauf um die Entwicklung der leistungsf\u00e4higsten Modelle, wobei dem Gewinner unvorstellbarer Reichtum versprochen wird.<\/p>\n

Das gef\u00e4hrlichste Beispiel war der Hack von Hugging Face durch Agenten, die mit OpenAI-Modellen liefen. Laut den eigenen Berichten von OpenAI setzte das Unternehmen ein Modell, das \u201eauf hohe Beharrlichkeit trainiert\u201c war, auf einen Hacking-Benchmark an, wobei die Sicherheitsvorkehrungen \u201eabsichtlich nicht aktiviert\u201c waren.<\/p>\n

Zwischen Ende Mai und dem 5. Juli entdeckten OpenAI-Mitarbeiter bei drei Gelegenheiten Hinweise darauf, dass Agenten aus ihrer Umgebung ausgebrochen waren; dennoch wurden die Tests jedes Mal fortgesetzt. Vom 9. bis 13. Juli drangen rund 700 Agenten, die durch Schwachstellen in der Software des israelisch-amerikanischen Unternehmens JFrog ausgebrochen waren, mithilfe geleakter Zugangsdaten und Schwachstellen in den eigenen Systemen von Hugging Face dort ein.<\/p>\n

OpenAI hat die von Mitgliedern des US-Kongresses und von Hugging Face geforderten Protokolle nicht ver\u00f6ffentlicht. Es wurden keine Strafanzeigen erstattet. Hugging Face, dessen \u00dcbernahme Nvidia inzwischen vereinbart hat, reichte keine Klage ein; Berichten zufolge informierte das Unternehmen das FBI, das eine Stellungnahme ablehnte.<\/p>\n

Die Details dessen, was der CEO von Hugging Face als \u201ebeispiellosen\u201c KI-gest\u00fctzten Cyberangriff bezeichnete, offenbaren die tats\u00e4chlichen Gefahren der KI. Dieser Angriff war nicht einfach das Ergebnis der inh\u00e4renten Eigenschaften gro\u00dfer Sprachmodelle. Er war das Ergebnis grober Fahrl\u00e4ssigkeit eines riesigen KI-Konzerns, der ein zum Hacken bef\u00e4higtes Modell bei bewusst deaktivierten Sicherheitsvorkehrungen einsetzte und wiederholte Warnungen ignorierte.<\/p>\n

Nichts von dem, was die KI-Forschungslabore vorschlagen, w\u00fcrde diese Gefahren in irgendeiner Weise verringern. Vielmehr zielt die von Amodei vorgeschlagene L\u00f6sung darauf ab, die Zusammenarbeit mit der US-Regierung in ihrem Krieg gegen China noch enger zu gestalten. Wenn die US-Labore das Tempo drosseln, schreibt er, \u201edann werden (ungebremste) mit der KPCh verbundene Projekte die F\u00fchrung \u00fcbernehmen und ein erhebliches Risiko f\u00fcr die nationale Sicherheit schaffen. Ich stimme Minister Bessent zu, dass eine chinesische F\u00fchrungsrolle im Bereich der KI eine gro\u00dfe Gefahr f\u00fcr die Vereinigten Staaten und die Welt darstellen w\u00fcrde.\u201c<\/p>\n

Er erkl\u00e4rt weiter: \u201eDaher besteht ein wesentlicher Teil der Geschwindigkeitsregulierung in Demokratien darin, den Vorsprung der Demokratien gegen\u00fcber Autokratien im Bereich der KI so gro\u00df wie m\u00f6glich zu halten, um uns den n\u00f6tigen Spielraum zu verschaffen, den wir f\u00fcr eine effektive Geschwindigkeitsregulierung ben\u00f6tigen.\u201c<\/p>\n

\u201eDemokratie\u201c ist in Amodeis Sprachgebrauch der Begriff, unter dem die Einbindung der KI-Konzerne in die Kriegsmaschinerie legitimiert werden soll. Die Vereinigten Staaten sind jedoch keine \u201eDemokratie\u201c. Ihr Pr\u00e4sident, ein bekennender Bewunderer Hitlers, der keine rechtliche Kontrolle seiner Macht akzeptiert, f\u00fchrt weltweit v\u00f6lkerrechtswidrige Kriege und bewaffnet den V\u00f6lkermord im Gazastreifen.<\/p>\n

Modelle von Anthropic wurden bei der Entf\u00fchrung des venezolanischen Pr\u00e4sidenten im Januar eingesetzt. Sie kamen auch innerhalb des Zielerfassungssystems von Palantir beim Angriff auf den Iran zum Einsatz, bei dem am ersten Morgen ein Raketenangriff 165 Menschen in einer M\u00e4dchenschule in Minab t\u00f6tete.<\/p>\n

Trump seinerseits reagiert auf die Kampagne mit der Behauptung, dass \u201edie Behauptung, \u201aKI werde die Welt \u00fcbernehmen\u2018, ein Schwindel\u201c sei, und dr\u00e4ngt auf die vollst\u00e4ndige Abschaffung s\u00e4mtlicher Klimaschutzauflagen f\u00fcr die Entwicklung von KI-Rechenzentren. Trump prahlte: \u201eKI und Rechenzentren werden der gr\u00f6\u00dfte Motor f\u00fcr wirtschaftliche Entwicklung in der Geschichte sein \u2013 gr\u00f6\u00dfer als \u00d6l, Gold, Diamanten oder sogar das Internet.\u201c<\/p>\n

Trump spricht f\u00fcr eine Fraktion der US-Finanzoligarchie, die vor allem bef\u00fcrchtet, dass jeder Einbruch an den M\u00e4rkten eine Finanzkatastrophe ausl\u00f6sen k\u00f6nnte. Die Frage der \u201eKatastrophe\u201c ist daher innerhalb der herrschenden Klasse selbst umk\u00e4mpft: zwischen jener Fraktion, deren Verm\u00f6gen an den Boom der Rechenzentren und die Finanzm\u00e4rkte gebunden ist, und den KI-Laboren sowie dem nationalen Sicherheitsapparat, f\u00fcr die diese Technologie in erster Linie eine Waffe ist. Die Times<\/em> spricht f\u00fcr Letztere.<\/p>\n

Die gr\u00f6\u00dfte Gefahr liegt im anarchischen Charakter der technologischen Entwicklung selbst. Systeme von immenser und noch nicht absehbarer Macht werden von einer Handvoll rivalisierender Konzerne aufgebaut, die um Marktanteile und Unternehmensbewertungen wetteifern. Sicherheitsvorkehrungen werden deaktiviert, wenn sie das Rennen verlangsamen. Es besteht keinerlei gesellschaftliche Kontrolle.<\/p>\n

Es sind dieselben Leute, die die Welt an den Rand eines Atomkriegs bringen und die zulassen, dass eine Pandemie Millionen Menschen t\u00f6tet, anstatt die Gewinnmaximierung zu unterbrechen. Und dieselben Leute haben l\u00e4ngst jegliche Bem\u00fchungen aufgegeben, die Erderw\u00e4rmung aufzuhalten.<\/p>\n

Dieselbe Macht, die diese Technologie in den H\u00e4nden der Oligarchie so gef\u00e4hrlich macht, macht sie in den H\u00e4nden der Arbeiterklasse zu einem potenziell unglaublich wirkungsvollen Instrument f\u00fcr den menschlichen Fortschritt.<\/p>\n

KI k\u00f6nnte genutzt werden, um Medikamente und Impfstoffe zu entwickeln und Epidemien zu erkennen, bevor sie sich ausbreiten. Sie kann Krankheiten bei den Milliarden Menschen diagnostizieren, die noch nie einen Facharzt aufgesucht haben. Mit KI k\u00f6nnte jedem Kind eine Lehrkraft in jeder Sprache zur Verf\u00fcgung stehen. Mit ihr k\u00f6nnte die Menschheit Produktion und Verteilung auf globaler Ebene so planen, dass Lebensmittel nicht vernichtet werden, w\u00e4hrend gleichzeitig Menschen hungern. Und mit ihr l\u00e4sst sich die Umgestaltung des Energie- und Industriesektors durchf\u00fchren, die erforderlich ist, um die Erderw\u00e4rmung zu stoppen.<\/p>\n

Die Technologie-Oligarchen sprechen st\u00e4ndig von der \u201eAusrichtung\u201c der Technologie auf die Bed\u00fcrfnisse der \u201eGesellschaft\u201c. Dabei ignorieren sie jedoch geflissentlich die Tatsache, dass die \u201eGesellschaft\u201c aus antagonistischen Klassen besteht und dass ihr Programm, die Arbeitspl\u00e4tze der \u00fcberwiegenden Mehrheit der Bev\u00f6lkerung abzubauen, in direktem Widerspruch zu den elementaren Bed\u00fcrfnissen der Menschen steht, die sie entlassen wollen.<\/p>\n

Mit anderen Worten: Die \u201eAusrichtung\u201c der KI im Kapitalismus ist eine Ausrichtung auf das Programm des Krieges und der eskalierenden Ungleichheit.<\/p>\n

Amodeis Essay ist, unabh\u00e4ngig von seiner Absicht, ein Eingest\u00e4ndnis. Er schreibt, das Entwicklungstempo m\u00fcsse verlangsamt werden, r\u00e4umt aber zugleich ein, dass dies aufgrund der Konkurrenz zwischen den Konzernen und mit China nicht m\u00f6glich sei. Er beschreibt eine Technologie, deren Entwicklung der Kapitalismus nicht kontrollieren kann, und schl\u00e4gt vor, dass der Staat sie f\u00fcr den Krieg \u00fcbernimmt. Die Frage, wer das Tempo der Entwicklung dieser Technologie kontrolliert und zu welchem Zweck, ist genau die Frage, die die Panikkampagne der \u00f6ffentlichen Kontrolle entziehen soll.<\/p>\n

Die Resolution, die der Kongress der Socialist Equality Party (US) im August verabschiedete, \u201elehnt sowohl die von den Apologeten der Branche gef\u00f6rderte unkritische Bewunderung als auch die irrationale Angst der Technophoben ab\u201c und fordert, dass die \u201egro\u00dfen KI-, Cloud-Computing-, Halbleiter- und Digitalplattform-Konzerne enteignet und in \u00f6ffentliche Versorgungsbetriebe unter der demokratischen Kontrolle der Arbeiterklasse umgewandelt werden m\u00fcssen\u201c.<\/p>\n

Der einzige Weg, Technologie auf die Bed\u00fcrfnisse der \u00fcberwiegenden Mehrheit der Gesellschaft \u201eauszurichten\u201c, besteht in der Aus\u00fcbung gesellschaftlicher Kontrolle \u00fcber die Produktivkr\u00e4fte durch die Arbeiterklasse, das hei\u00dft im Sozialismus.<\/p>\n

#Titelbild: Website und Logos von Anthropic auf einem Laptop-Bildschirm [AP Photo\/Patrick Sison]<\/em><\/p>\n

Quelle: <\/em>wsws.org…<\/a><\/em> vom 16. September 2026<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"

Andre Damon. In der vergangenen Woche hat sich in den US-Medien eine Kampagne rund um eine drohende \u201eKI-Katastrophe\u201c entwickelt. Die\u00a0New York Times\u00a0warnt vor \u201eunvorhersehbaren, au\u00dfer Kontrolle geratenen Agenten der k\u00fcnstlichen Intelligenz\u201c.<\/p>\n","protected":false},"author":2,"featured_media":16535,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2,7],"tags":[87,113,22,49,4],"class_list":["post-16534","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-debatte","category-international","tag-arbeitswelt","tag-kultur","tag-politische-oekonomie","tag-repression","tag-strategie"],"_links":{"self":[{"href":"https:\/\/maulwuerfe.ch\/index.php?rest_route=\/wp\/v2\/posts\/16534","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/maulwuerfe.ch\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/maulwuerfe.ch\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/maulwuerfe.ch\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/maulwuerfe.ch\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=16534"}],"version-history":[{"count":1,"href":"https:\/\/maulwuerfe.ch\/index.php?rest_route=\/wp\/v2\/posts\/16534\/revisions"}],"predecessor-version":[{"id":16536,"href":"https:\/\/maulwuerfe.ch\/index.php?rest_route=\/wp\/v2\/posts\/16534\/revisions\/16536"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/maulwuerfe.ch\/index.php?rest_route=\/wp\/v2\/media\/16535"}],"wp:attachment":[{"href":"https:\/\/maulwuerfe.ch\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=16534"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/maulwuerfe.ch\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=16534"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/maulwuerfe.ch\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=16534"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}