KI-Systeme rücken erneut in den Mittelpunkt

Der Einsatz künstlicher Intelligenz im Krieg sorgt erneut für eine intensive Debatte.

Im Zentrum steht der israelische Dokumentarfilm „NAZA“ der Filmemacher Rachel Szor und Yuval Abraham. Dafür wurden nach Angaben der Produzenten mehr als 100 Personen mit Kenntnissen über militärische Abläufe befragt. 24 anonyme Angehörige beziehungsweise frühere Angehörige von Militär und Nachrichtendiensten kommen im Film selbst zu Wort.

Sie beschreiben computergestützte Systeme, mit denen große Mengen an Überwachungs- und Geheimdienstdaten ausgewertet werden.

Eine zentrale Rolle spielt dabei das unter dem Namen „Lavender“ bekannt gewordene System.

Personen erhalten Risikobewertungen

Nach früheren Recherchen wertet die Software unterschiedliche Informationen aus und soll daraus ableiten, wie wahrscheinlich eine Verbindung einer Person zu Hamas oder zum Palästinensischen Islamischen Dschihad ist.

Dazu können beispielsweise Bewegungs-, Kommunikations- und Standortdaten miteinander abgeglichen werden.

Auf Grundlage statistischer Ähnlichkeiten können Personen anschließend eine Bewertung erhalten. Ab bestimmten Schwellenwerten werden sie von Analysten genauer betrachtet.

Kritiker sehen darin ein erhebliches Problem: Statistische Ähnlichkeit sei nicht dasselbe wie der sichere Nachweis, dass eine Person tatsächlich Kämpfer einer bewaffneten Organisation ist.

Forscher warnen vor Automatisierungsfehlern

Besonders problematisch kann dabei der sogenannte Automation Bias sein.

Damit wird die Tendenz beschrieben, technischen Systemen stärker zu vertrauen, weil deren Ergebnisse den Eindruck objektiver Berechnungen vermitteln.

Wenn innerhalb kurzer Zeit Tausende möglicher Ziele vorgeschlagen werden, steigt die Gefahr, dass menschliche Kontrolle nur noch oberflächlich stattfindet.

Forscher und Menschenrechtsexperten warnen deshalb davor, dass Geschwindigkeit und Masse computergestützter Empfehlungen klassische Prüfmechanismen militärischer Zielauswahl unter Druck setzen könnten.

Israelische Armee weist Darstellung zurück

Die israelischen Streitkräfte widersprechen dieser Darstellung in wesentlichen Punkten.

Nach ihrer Version entscheidet künstliche Intelligenz weder darüber, ob eine Person oder ein Gebäude als militärisches Ziel eingestuft wird, noch darüber, ob ein Angriff erfolgt.

Computergestützte Werkzeuge dienten lediglich dazu, vorhandene Geheimdienstinformationen schneller miteinander abzugleichen und menschliche Analysten auf möglicherweise relevante Daten aufmerksam zu machen.

Ein mögliches Ziel werde anschließend durch menschliche Geheimdienstmitarbeiter geprüft. Weitere Offiziere seien an Planung und Freigabe eines Angriffs beteiligt.

Die Armee bezeichnet die Darstellung im Film als verzerrt und wirft dessen Machern grundlegende Fehler vor.

Streit um das System „Lavender“

Auch die Bedeutung von „Lavender“ selbst ist umstritten.

Die israelische Armee bezeichnet es nicht als Liste bereits freigegebener Angriffsziele, sondern als Datenbank zur Zusammenführung verschiedener Geheimdienstinformationen.

Die Aufnahme einer Person in dieses System bedeute nach Darstellung der Armee ausdrücklich nicht, dass diese Person automatisch angegriffen werden dürfe.

Die Filmemacher und ihre Quellen schildern dagegen ein System, das während des Gazakrieges eine wichtige Rolle bei der massenhaften Generierung möglicher Ziele gespielt habe.

Wie viel menschliche Kontrolle bleibt?

Damit führt die Debatte zu einer grundsätzlichen Frage, die weit über den Krieg in Gaza hinausgeht.

Militärische KI kann Datenmengen analysieren, die ein Mensch kaum noch überblicken könnte. Sie kann Muster erkennen, Bewegungen verfolgen und mögliche Zusammenhänge innerhalb von Sekunden sichtbar machen.

Doch je stärker solche Systeme in Entscheidungsprozesse eingebunden werden, desto wichtiger wird die Frage, wo die Verantwortung liegt.

Das humanitäre Völkerrecht verlangt weiterhin eine Unterscheidung zwischen militärischen Zielen und Zivilisten. Ebenso müssen mögliche zivile Schäden gegen den erwarteten militärischen Vorteil eines Angriffs abgewogen werden.

Diese Verantwortung lässt sich nicht einfach an einen Algorithmus übertragen.

Debatte dürfte weiter an Bedeutung gewinnen

Israel ist bei weitem nicht das einzige Land, das künstliche Intelligenz militärisch nutzt.

Armeen weltweit investieren in Systeme zur Aufklärung, Zielerkennung, Drohnensteuerung und Auswertung von Satelliten- und Sensordaten.

Damit wächst auch der internationale Druck, klare Regeln für den Einsatz solcher Technologien zu entwickeln.

Der Streit über „Lavender“ und andere Systeme dürfte deshalb beispielhaft für eine wesentlich größere Debatte sein:

Wie viel Entscheidungsmacht darf Software im Krieg erhalten – und wie verhindert man, dass menschliche Kontrolle irgendwann nur noch auf dem Papier existiert?