Russland blockiert UN-Verhandlungen über KI-Killerroboter – Entscheidung über autonome Waffen droht zu scheitern
Künstliche Intelligenz kann bereits militärische Ziele erkennen und Waffensysteme steuern. Doch internationale Regeln für autonome Waffen lassen weiter auf sich warten. Bei einer UN-Konferenz in Genf blockiert Russland die Gespräche. Auch die USA und Israel lehnen ein verbindliches Abkommen ab. Bis Freitagabend wollten sich 128 Vertragsstaaten auf weitere Verhandlungen verständigen.
Genf. Ob eine Maschine eigenständig entscheiden darf, einen Menschen zu töten, ist eine der umstrittensten Fragen moderner Kriegsführung. Seit Jahren versuchen Staaten, verbindliche Regeln für solche Waffensysteme auszuhandeln. Bei einer Konferenz der Vereinten Nationen in Genf ist dieser Versuch nun erneut ins Stocken geraten. Russland verhinderte bereits zu Beginn der Beratungen eine Einigung über die Tagesordnung. Auch bei den geplanten Verhandlungen über internationale Beschränkungen gibt es erhebliche Widerstände.
Die 128 Vertragsstaaten des UN-Übereinkommens über bestimmte konventionelle Waffen wollten bis Freitagabend, den 20. November 2026, entscheiden, ob und unter welchen Bedingungen Verhandlungen über autonome Waffensysteme beginnen sollen.
Doch selbst am letzten Konferenztag war eine Einigung nicht in Sicht.
Die Auseinandersetzung zeigt, wie schwierig internationale Rüstungskontrolle geworden ist. Während künstliche Intelligenz zunehmend in militärische Systeme eingebaut wird, fehlt weiterhin ein spezielles weltweites Abkommen, das den Einsatz tödlicher autonomer Waffen verbindlich begrenzt.
Russland verhindert schon die reguläre Tagesordnung
Die Probleme begannen am Montag, dem 16. November, unmittelbar nach Eröffnung der Konferenz.
Die russische Delegation widersprach einer Verfahrensregel, nach der auch Beobachter an den Beratungen teilnehmen dürfen. Dazu gehören Vertreter der Europäischen Union und zivilgesellschaftlicher Organisationen.
Weil die Vertragsstaaten ihre Entscheidungen im Konsens treffen müssen, konnte die Tagesordnung nicht wie vorgesehen verabschiedet werden.
Die Verhandlungen wurden daraufhin in informellen Konsultationen fortgesetzt.
Damit war eine reguläre Beschlussfassung erheblich erschwert.
Am Donnerstag verlangte die russische Delegation zudem wiederholt Änderungen am Entwurf des Abschlussberichts. Betroffen waren nach Angaben von Teilnehmern auch Passagen, die nicht unmittelbar mit autonomen Waffen zusammenhingen.
Russland begründet seine Haltung mit grundsätzlichen Einwänden gegen den Verhandlungsprozess.
Das russische Außenministerium hatte bereits vor der Konferenz erklärt, es halte die Entwicklung einschränkender oder verbietender Maßnahmen für solche Waffensysteme gegenwärtig für verfrüht.
Moskau verweist außerdem darauf, dass bestehende Regeln des humanitären Völkerrechts auch für neue Waffen gelten.
Was sind autonome Waffensysteme?
Militärische künstliche Intelligenz kommt bereits in unterschiedlichen Bereichen zum Einsatz.
Computerprogramme können Satellitenaufnahmen auswerten, Drohnenbilder untersuchen, mögliche Ziele erkennen oder militärische Bewegungen analysieren.
Bei vollständig autonomen Waffensystemen geht die Technik einen entscheidenden Schritt weiter.
Solche Systeme können nach ihrer Aktivierung Ziele auswählen und angreifen, ohne dass ein Mensch jeden einzelnen Angriff ausdrücklich genehmigen muss.
Die Vereinten Nationen verwenden dafür die englische Bezeichnung Lethal Autonomous Weapon Systems, abgekürzt LAWS.
Der Begriff „Killerroboter“ ist keine offizielle technische Kategorie. Er wird vor allem von Menschenrechtsorganisationen und politischen Initiativen verwendet.
Gemeint sind auch nicht ausschließlich menschenähnliche Roboter, wie sie aus Science-Fiction-Filmen bekannt sind.
Autonome Funktionen können beispielsweise in Drohnen, unbemannten Fahrzeugen, stationären Waffensystemen oder anderen militärischen Plattformen eingesetzt werden.
Entscheidend ist, wie viel Kontrolle ein Mensch über die Auswahl und Bekämpfung eines Ziels behält.
Warum die menschliche Kontrolle so wichtig ist
Im Zentrum der Verhandlungen steht eine rechtliche und ethische Frage: Wer trägt die Verantwortung, wenn ein autonomes System einen Menschen angreift?
Das humanitäre Völkerrecht verpflichtet Konfliktparteien, zwischen militärischen Zielen und geschützten Zivilpersonen zu unterscheiden.
Angriffe müssen zudem verhältnismäßig sein. Die zu erwartenden zivilen Schäden dürfen nicht außer Verhältnis zum erwarteten konkreten und unmittelbaren militärischen Vorteil stehen.
Diese Anforderungen gelten unabhängig davon, ob ein Angriff durch einen Soldaten oder mithilfe eines automatisierten Systems erfolgt.
Problematisch wird es, wenn Menschen nur wenige Sekunden Zeit haben, eine von künstlicher Intelligenz vorgeschlagene Zielentscheidung zu überprüfen.
Fehlerhafte Sensordaten, unvollständige Informationen und Schwierigkeiten bei der Erkennung von Zivilpersonen können erhebliche Folgen haben.
Auch die Zuordnung der Verantwortung ist kompliziert.
Wenn ein Waffensystem eigenständig einen Angriff auslöst, stellt sich die Frage, welche Verantwortung die militärische Führung, die Bediener und möglicherweise die Entwickler tragen.
Das Internationale Komitee vom Roten Kreuz fordert deshalb klare Grenzen für Systeme, die ohne ausreichende menschliche Kontrolle Gewalt anwenden.
USA, Russland und Israel lehnen verbindliche Beschränkungen ab
Die Differenzen verlaufen nicht ausschließlich zwischen Russland und den westlichen Staaten.
Auch die Vereinigten Staaten und Israel gehören zu den Ländern, die einem neuen rechtsverbindlichen Abkommen skeptisch gegenüberstehen.
Sie argumentieren, dass bestehendes humanitäres Völkerrecht auch für autonome Waffensysteme gilt und zusätzliche Verbote militärische Entwicklungen unangemessen einschränken könnten.
Washington setzt stärker auf unverbindliche Leitlinien und technische Vorgaben.
Die USA haben einen Verhandlungsprozess von bis zu fünf Jahren vorgeschlagen.
Humanitäre Organisationen halten diesen Zeitraum angesichts der technologischen Entwicklung für zu lang. Sie drängen darauf, innerhalb eines Jahres verbindliche Regeln auszuarbeiten.
Frankreich setzt sich für eine Kombination aus verbindlichen und unverbindlichen Maßnahmen ein.
Auch Großbritannien und Indien stehen einem umfassenden rechtlich verbindlichen Instrument zurückhaltend gegenüber.
Damit wird deutlich, dass mehrere militärisch einflussreiche Staaten ihre Handlungsmöglichkeiten beim Einsatz neuer Waffentechnologien möglichst wenig einschränken wollen.
Deutschland fordert ein Verbot vollständig autonomer Angriffe auf Menschen
Die Bundesregierung unterstützt grundsätzlich die Schaffung international verbindlicher Regeln.
Nach ihrer Position sollen Waffensysteme verboten werden, die ohne ausreichende menschliche Kontrolle eigenständig Menschen als Ziele auswählen und töten können.
Für andere Systeme mit autonomen Funktionen sollen klare rechtliche Anforderungen gelten.
Deutschland gehört damit zu den Staaten, die in Genf auf Fortschritte drängen.
Allerdings zeigt sich auch innerhalb Europas, dass nicht alle Regierungen dieselben Vorstellungen vom Umfang und von der rechtlichen Ausgestaltung einer möglichen Vereinbarung haben.
Bei der Konferenz wird deshalb darüber verhandelt, ob zunächst ein Mandat für weitere Gespräche beschlossen werden kann, ohne bereits alle Einzelheiten eines späteren Abkommens festzulegen.
Selbst dieser erste Schritt ist umstritten.
Im Ukraine-Krieg verändert KI bereits die Gefechtsführung
Die Diskussion ist keineswegs theoretisch.
Im russischen Angriffskrieg gegen die Ukraine werden unbemannte Fluggeräte in großem Umfang eingesetzt. Beide Kriegsparteien arbeiten daran, ihre Drohnen gegenüber elektronischen Störungen widerstandsfähiger zu machen.
Dabei spielen automatisierte Navigation, Bildauswertung und Zielverfolgung eine zunehmende Rolle.
Einige Systeme können ein zuvor erkanntes Ziel auch dann weiterverfolgen, wenn die Verbindung zum Bediener unterbrochen wird.
Das bedeutet allerdings nicht zwangsläufig, dass jede solche Drohne vollständig autonom über den Einsatz tödlicher Gewalt entscheidet.
Zwischen einem ferngesteuerten Waffensystem, einer automatisierten Zielverfolgung und einer eigenständigen Zielauswahl bestehen erhebliche Unterschiede.
Internationale Beobachter warnen jedoch davor, dass sich die technische Entwicklung schneller vollzieht als die politische Regulierung.
Auch aus anderen Konflikten gibt es Berichte über den Einsatz KI-gestützter Zielerfassung.
Rüstungsunternehmen entwickeln immer leistungsfähigere Systeme
Die Entwicklung militärischer künstlicher Intelligenz betrifft auch die europäische Rüstungsindustrie.
Unternehmen arbeiten an Software, die große Datenmengen aus unterschiedlichen militärischen Quellen zusammenführt und auswertet.
Dazu gehören Radaraufzeichnungen, Drohnenbilder, Satellitendaten und Informationen aus anderen Aufklärungssystemen.
Auch deutsche Unternehmen sind auf diesem Gebiet tätig.
Der Rüstungstechnologieanbieter Helsing entwickelt beispielsweise KI-gestützte Systeme zur militärischen Datenanalyse.
Das Unternehmen betont, dass bei seinen entsprechenden Anwendungen die menschliche Kontrolle über Entscheidungen erhalten bleiben soll.
Die grundsätzliche Herausforderung bleibt dennoch bestehen: Je schneller Maschinen Informationen verarbeiten und Handlungsvorschläge liefern, desto weniger Zeit steht Menschen möglicherweise für eine unabhängige Bewertung zur Verfügung.
Deshalb geht es bei der Regulierung nicht allein darum, ob ein Mensch technisch auf einen Auslöser drücken muss.
Entscheidend ist auch, ob er tatsächlich verstehen und kontrollieren kann, welche Ziele das System auswählt und welche Folgen ein Angriff haben könnte.
Rotes Kreuz warnt vor Verlust menschlicher Verantwortung
Das Internationale Komitee vom Roten Kreuz gehört zu den wichtigsten Befürwortern internationaler Beschränkungen.
Seine Präsidentin Mirjana Spoljaric warnte während der Konferenz davor, Entscheidungen über den Einsatz tödlicher Gewalt vollständig technischen Systemen zu überlassen.
Die Organisation fordert Verbote für bestimmte autonome Waffen sowie klare Einschränkungen für andere Systeme.
Unterstützung erhält sie von der internationalen Kampagne „Stop Killer Robots“.
In dem Bündnis haben sich mehr als 300 Organisationen zusammengeschlossen.
Sie warnen vor unvorhersehbaren Entscheidungen automatisierter Systeme, möglichen Angriffen auf Zivilpersonen und Schwierigkeiten bei der rechtlichen Verantwortungszuordnung.
Die Organisationen fordern die Staaten auf, die Entwicklung nicht erst dann zu regulieren, wenn vollständig autonome Waffensysteme bereits in großer Zahl eingesetzt werden.
UN-Generalsekretär drängt auf eine Einigung
Auch UN-Generalsekretär António Guterres hat die Regierungen aufgefordert, rasch zu handeln.
Zu Beginn der Konferenz am Montag verwies er auf die humanitären, rechtlichen und sicherheitspolitischen Risiken autonomer Waffen.
Nach seiner Auffassung müssen internationale Verbote und Beschränkungen geschaffen werden, bevor sich solche Systeme weiter verbreiten.
Die Vereinten Nationen beschäftigen sich bereits seit mehr als einem Jahrzehnt mit der Frage.
Trotz zahlreicher Expertenrunden und diplomatischer Beratungen kam bislang kein eigenständiges verbindliches Abkommen zustande.
Die Konferenz in Genf sollte deshalb den Übergang von allgemeinen Diskussionen zu konkreten Verhandlungen ermöglichen.
Entscheidung bis Freitagabend weiter offen
Am Freitagnachmittag lagen die Positionen der Staaten weiterhin auseinander.
Aus diplomatischen Kreisen hieß es, dass sich die Beteiligten in einigen Punkten angenähert hätten. Allerdings gebe es weiterhin Widerstand gegen einen verbindlichen Verhandlungsprozess.
Eine Verlängerung der Beratungen bis in die Nacht wurde nicht ausgeschlossen.
Sollte kein Konsens zustande kommen, könnte die Konferenz ohne den erhofften Beschluss über neue Verhandlungen enden.
Das würde bestehende völkerrechtliche Verpflichtungen nicht außer Kraft setzen. Es würde aber bedeuten, dass die Staaten vorerst weiterhin keine speziellen verbindlichen internationalen Regeln für autonome Waffensysteme vereinbart haben.
Die technische Entwicklung geht währenddessen weiter.