KI-Missbrauch: Spione nutzen Claude von Anthropic

Das KI-Unternehmen Anthropic hat in den vergangenen acht Monaten mehrere schwerwiegende Fälle von KI-Missbrauch seines Sprachmodells Claude aufgedeckt und unterbunden. Darunter befinden sich eine mutmaßlich von Russland gesteuerte Cyberspionagekampagne, Angriffe chinesischer Technologiekonzerne sowie Akteure, die Claude zur Entwicklung von Waffensoftware eingesetzt haben sollen. Der Bericht des Unternehmens, veröffentlicht am Donnerstag, zeichnet ein beunruhigendes Bild davon, wie staatliche und kriminelle Akteure generative KI zunehmend nicht nur als Hilfsmittel, sondern als eigenständiges Angriffswerkzeug einsetzen.

Russische Hackergruppe greift Ukraine mit Claude an

Besonders brisant ist der Fund einer Hackergruppe, deren Vorgehensweise mit der russischen Gruppierung Midnight Blizzard übereinstimmt. Diese soll Claude genutzt haben, um Cyberangriffe auf Ziele in der ukrainischen Regierung, im Militär und im diplomatischen Sektor zu planen und durchzuführen.

Der Fall verdeutlicht eine neue Qualität im Bereich der Cyberspionage: KI-Modelle werden nicht mehr nur zur Recherche oder Texterstellung genutzt, sondern übernehmen aktiv operative Aufgaben bei der Ausführung ganzer Angriffskampagnen. Anthropic stuft dieses Muster als besonders gefährlich ein, da die Komplexität und Geschwindigkeit solcher Angriffe durch den Einsatz von KI deutlich steigen.

Chinesische Tech-Konzerne zapfen Claude-Fähigkeiten an

Neben staatlich gelenkter Spionage dokumentierte Anthropic auch Angriffe aus sieben chinesischen Laboren. Zu den identifizierten Akteuren zählen Mitarbeiter, die den Technologieriesen Alibaba, DeepSeek und Xiaomi zugeordnet werden.

Den größten Angriff dieser Kategorie sollen Alibaba-Mitarbeiter durchgeführt haben. Ihr Ziel war es, die Fähigkeiten von Claude systematisch auszulesen, um damit die Leistung hauseigener KI-Modelle zu verbessern – ein Vorgehen, das als Modell-Extraktion bekannt ist. Zwischen Mai und Juli 2026 registrierte Anthropic dabei mehr als 151 Millionen Interaktionen von Konten, die als betrügerisch eingestuft wurden.

• Sieben chinesische Labore insgesamt identifiziert
• Alibaba-Mitarbeiter für den größten Einzelangriff verantwortlich
• DeepSeek und Xiaomi ebenfalls unter den betroffenen Akteuren
• Über 151 Millionen Interaktionen von betrügerischen Konten in drei Monaten

KI als Werkzeug zur Waffenentwicklung

Ein weiterer Missbrauchsbereich betrifft die Entwicklung von Software für konventionelle Waffen. Anthropic identifizierte Akteure, die Claude dazu nutzten, Anwendungen für Schusswaffen, Raketen und bewaffnete Drohnen zu programmieren oder weiterzuentwickeln.

Dieser Befund unterstreicht, dass die Bedrohung durch KI-Missbrauch weit über digitale Angriffe hinausgeht und in den physischen Raum reicht. Die Nutzung von generativer KI zur Beschleunigung der Rüstungsentwicklung stellt Regulierungsbehörden weltweit vor neue Herausforderungen, da bestehende Exportkontroll- und Technologierecht-Frameworks kaum auf KI-gestützte Waffenprogrammierung ausgelegt sind.

Anthropic verschärft Sicherheitsmaßnahmen

Der Bericht macht deutlich, dass KI-Sicherheit längst nicht mehr nur eine technische, sondern eine geopolitische Frage ist. Anthropic reagiert nach eigenen Angaben mit verstärkter Überwachung, schnellerer Sperrung verdächtiger Konten und engerer Zusammenarbeit mit Behörden.

Die Dimension des aufgedeckten Missbrauchs – staatliche Spionage, industrielle Modell-Extraktion und Waffenentwicklung in einem einzigen Bericht – zeigt, wie breit das Spektrum an Bedrohungen bereits geworden ist. Für die gesamte KI-Branche dürfte der Fall Anthropic ein Signal sein, dass freiwillige Sicherheitsarchitekturen allein nicht ausreichen werden. Politische Rahmenbedingungen und internationale Abkommen zur Eindämmung des militärischen und kriminellen KI-Einsatzes gewinnen damit erheblich an Dringlichkeit.