KI-Fehler hätte beinahe US-Militäreinsatz gegen chinesisches Schiff ausgelöst
Washington/ID. Ein fehlerhafter, mithilfe Künstlicher Intelligenz erstellter US-Geheimdienstbericht hat nach einem Bericht des Nachrichtensenders CNN offenbar beinahe einen Militäreinsatz gegen ein chinesisches Schiff ausgelöst. US-Soldaten sollen sich bereits auf die Enterung des Schiffes vorbereitet haben, nachdem der Bericht fälschlicherweise behauptet hatte, der Frachter transportiere Komponenten für ein Atomwaffenprogramm.
KI identifizierte Ladung offenbar falsch
Dem CNN-Bericht zufolge hatte ein Analyst des US Special Operations Command einen Chatbot genutzt, um nachrichtendienstliche Informationen über die Ladung des Schiffes auszuwerten. Dabei soll die KI öffentlich zugängliche Informationen mit Geheimdienstdaten verknüpft und daraus eine falsche Schlussfolgerung gezogen haben.
Der daraus erstellte Geheimdienstbericht wurde anschließend weiterverbreitet. Nach Angaben von mit dem Vorgang vertrauten Personen war die darin enthaltene Einschätzung zur Ladung des Schiffes vollständig falsch. Welche Fracht der Frachter tatsächlich transportierte und wohin er unterwegs war, blieb zunächst unklar.
Militär bereitete sich auf Einsatz vor
Die Fehleinschätzung hatte dem Bericht zufolge bereits konkrete Folgen. US-Soldaten sollen Vorbereitungen für eine Enterung des chinesischen Schiffes getroffen haben. Nach Angaben von CNN waren demnach auch Militärflugzeuge bereits in der Luft.
Erst bei einer weiteren Überprüfung des Geheimdienstberichts sei aufgefallen, dass die Angaben zur Fracht auf einer fehlerhaften KI-Analyse beruhten. Daraufhin wurde der geplante Einsatz abgebrochen. Das US-Militär und das Pentagon äußerten sich CNN zufolge zunächst nicht zu dem Vorgang.
Vorfall wirft Fragen zum Einsatz von KI auf
Der Vorgang fällt in eine Phase, in der die US-Streitkräfte den Einsatz Künstlicher Intelligenz bei der Auswertung von Informationen und militärischen Entscheidungsprozessen ausweiten. Der Fall zeigt zugleich die Risiken, wenn KI-generierte Analysen in sicherheitsrelevante Entscheidungsprozesse einfließen, ohne dass die zugrunde liegenden Informationen ausreichend überprüft werden.
Nach CNN-Angaben ist nicht bekannt, welchen konkreten Chatbot der Analyst verwendete und ob es sich um ein kommerzielles System oder eine für die US-Regierung entwickelte Anwendung handelte.
Der Vorfall ereignete sich dem CNN-Bericht zufolge im Frühjahr während des Krieges zwischen den USA und Iran. Die Enterung eines chinesischen Schiffes hätte angesichts der bestehenden Spannungen zwischen Washington und Peking erhebliche internationale Folgen haben können. Dass es tatsächlich zu einem solchen Einsatz kam, wird in den vorliegenden Berichten jedoch gerade nicht behauptet – die Operation wurde vor ihrer Durchführung gestoppt.
