Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Titelbild: Kurzfilm "Slaughterbots"

In Genf treffen sich derzeit Vertreter aus über 75 Ländern, um über die Zukunft von tödlichen autonomen Waffen zu diskutieren. Diese „Killerroboter“ stehen schon lange in der Kritik: Ihre Entwicklung könnte ein neues Wettrüsten auslösen.

Teilweise autonome Waffensysteme sind bereits Realität. Südkorea setzt automatisierte Geschütze ein, Israels Raketenabwehrsystem „Iron Dome“ ist teilweise autonom und moderne Raketen finden nach Zieleingabe ihren Weg alleine. Sie müssen allerdings durch Menschen aktiviert werden.

Der nächste Schritt sind tödliche, vollständig autonome Waffensysteme (sog. „LAWS“ - Lethal Autonomous Weapon Systems): umgangssprachlich auch Killerroboter genannt.

Anzeige
Anzeige

Sie finden ihre Ziele eigenständig und warten vor dem Abschuss nicht mehr auf die Bestätigung eines Menschen. Alle großen Militärmächte sollen an solchen Systemen forschen.

LAWS stehen stark in der Kritik: Die Non-Profit-Organisation Human Rights Watch fordert, dass sie präventiv verboten werden. Über 2.000 Forscher unterschrieben einen offenen Brief des Future of Life Instituts gegen die Entwicklung, Verwendung und Verbreitung autonomer Waffen. Im deutschen Koalitionsvertrag 2018 sprechen sich die Regierungsparteien ebenfalls gegen LAWS aus und wollen sie „weltweit ächten“.

UN versammelt staatliche Experten

Vom 27.08. bis zum 31.08. kommen nun in Genf Vertreter aus mehr als 75 Ländern zusammen, um über ein LAWS-Verbot zu diskutieren. Seit 2014 treffen sich regelmäßig Experten der UN, um über die Entwicklung der LAWS zu sprechen. 2016 etablierten daran anschließend die Mitglieder des UN-Waffenabkommens CCW (Konvention über bestimmte konventionelle Waffen) eine Gruppe von staatlichen Experten (GGE).

Die CCW schränkt den Gebrauch menschenunwürdiger Waffen ein, entweder indem sie ihren Einsatz streng reguliert oder verbietet. Beispiele sind Minen, Brandgeschosse oder Blendwaffen. Die staatliche Expertengruppe kann diplomatisch bindende Absprachen durchsetzen.

Die GGE kommt zum dritten Mal seit 2017 zusammen. Sie soll die Beschaffenheit und den Einsatz von LAWS definieren. Da die Entwicklung der Waffensysteme nicht abgeschlossen ist und daher die genauen Fähigkeiten und Einsatzgebiete nicht definiert sind, lauten die Ziele der GGE wie folgt:

Empfehlung
  • Charakterisierung der LAWS, um ein gemeinsames Verständnis von Konzepten und Merkmalen zu entwickeln
  • Berücksichtigung des menschlichen Elements bei der Anwendung tödlicher Gewalt und Aspekte der Mensch-Maschine-Interaktion bei der Entwicklung, dem Einsatz und der Nutzung neuer LAWS-Technologien
  • Überprüfung möglicher militärischer Anwendungen der LAWS
  • Mögliche Optionen zur Bewältigung der humanitären und internationalen Sicherheitsherausforderungen durch LAWS finden

Die Agenda macht deutlich, dass sich der diplomatische Fortschritt seit dem ersten Treffen in Grenzen hält. Ein Verbotsvorschlag ist vermutlich auch in diesem Jahr nicht zu erwarten. Angesichts des Potenzials der LAWS für die Verteidigung eines Staates wird sich die Regulierung wohl noch eine Weile hinziehen.

Der folgende Kurzfilm“Slaughterbots” zeigt ein dystopisches Szenario, in dem KI-Tötungsroboter in Form von Mini-Drohnen außer Kontrolle geraten. Der Film wurde von KI-Aktivisten rund um das “Future of Life”-Institut lanciert.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Weiterlesen über KI-Waffen:

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!