KI-Fehler hätte beinahe zu einem US-amerikanisch-chinesischen Krieg geführt

Wie dem Sender CNN diese Woche aufzudecken gelang, stand die Welt im Frühjahr diesen Jahres kurz vor dem Ausbruch eines Krieges zwischen den Weltmächten China und USA. Ein auf einer falschen KI-Analyse beruhender Geheimdienstbericht hätte beinahe zur Erstürmung eines chinesischen Schiffes geführt – mit unabsehbaren Folgen bezüglich einer weiteren militärischen Eskalation. CNN beruft sich bei der Aufdeckung auf vier nicht näher spezifizierte Quellen.

Demnach hatte ein Analyst des US Special Operations Command zum Abfassen eines Geheimberichtes einen Chatbot verwendet. Die KI deutete die vorliegenden Informationen so, dass ein chinesisches Schiff, das während des damals aufgeflammten Iran-Krieges im Nahen Osten unterwegs war, Komponenten für ein Atomwaffenprogramm mit sich führte.

Analyse

KI könnte die Welt in eine neue Finanzkrise stürzen

Diese Analystenmeldung löste wiederum eine Kette von Reaktionen beim US-Militär aus, das eine Operation zum Abfangen des Schiffs vorbereitete. Bewaffnete US-Soldaten hätten sich schon zum Entern des Frachtschiffes bereit gemacht, so die CNN-Quellen. Auch Militärflugzeuge seien in die Luft gestiegen. Beinahe wäre ein Krieg ausgebrochen, so der CNN-Gewährsmann.

Doch plötzlich wurde die militärische Operation kurz vor dem Einsatz abgeblasen. Die Verantwortlichen hatten den zugrunde liegenden Bericht noch einmal geprüft und dabei festgestellt, dass er mithilfe von KI erstellt worden war. Wie sich herausstellte, hatte der Chatbot die im Ladungsmanifest aufgeführten Güter falsch bestimmt. Der auf der KI-Analyse beruhende Geheimdienstbericht war von völlig falschen Voraussetzungen ausgegangen. Dennoch hatte ihn die US-Militärführung zunächst einmal akzeptiert und über interne Kanäle weitergeleitet.

Der US-Militäranalyst hatte die KI bei der Analyse der Ladung öffentlich zugängliche sowie geheime Quellen kombinieren lassen. Dabei muss die künstliche Intelligenz zu falschen Schlüssen gekommen sein. Um welche KI es sich genau handelte, bleibt unklar. Ein ehemaliger hochrangiger US-Geheimdienstbeamter erklärte aber CNN, im internen Gebrauch fänden größtenteils auch nur "etwas aufgehübschte" Kopien kommerzieller Produkte Verwendung.

Können KI-Systeme jetzt komplette Viren erschaffen? US-Forscher zeigen es

Nach der Zusammenfassung und Deutung der vorliegenden Informationen durch den Chatbot hat der Analyst die KI erneut benutzt, um einen Geheimdienstbericht zu verfassen, der dem Standard üblicher Analysen entsprach. Die Personen, die den Text erhielten, konnten also nicht von vornherein davon ausgehen, dass eine KI den Bericht erstellt hatte.

Das US Special Operations Command Pacific und das Pentagon wollten den Vorfall gegenüber CNN nicht kommentieren. Der Vorfall fällt in eine Zeit, in der Kriegsminister Pete Hegseth den Einsatz von KI beim US-amerikanischen Militär zu beschleunigen versucht, um gegenüber möglichen Kriegsgegnern nicht ins Hintertreffen zu geraten. Aber offenbar kann der Einsatz von KI solche kriegerischen Konflikte überhaupt erst auslösen.

Mehr zum Thema – KI-Pionier besorgt über potenziell schreckliche Folgen der Technologie für Menschheit