Wie weit dürfen militärische KI-Agenten selbst entscheiden? UNIDIR empfiehlt Staaten, Befugnisse und Eingriffsschwellen ausdrücklich festzulegen. Der am 19. Oktober veröffentlichte Leitfaden für nationale KI-Strategien nennt auch Rücksetzmechanismen und Bedingungen, unter denen Agenten eingesetzt werden dürfen.
Die Autoren Yasmin Afina, Jan Hendrik Mannsperger und Edward Madziwa behandeln mehrstufig handelnde Agenten gesondert. Aktionen in Maschinengeschwindigkeit könnten bestehende Annahmen über menschliche Kontrolle, Befehlsketten und Verantwortung infrage stellen.
Ein weiterer Abschnitt warnt vor übermäßigem Vertrauen in automatisierte Entscheidungen und einer Zerstreuung von Verantwortung. Die Empfehlungen sollen Staaten helfen, Aufsicht an Geschwindigkeit und Umfang der Systeme anzupassen.
Die 81-seitige Fassung überarbeitet frühere Entwürfe nach Konsultationen und Literaturauswertung. Sie enthält Empfehlungen der Autoren; ob Staaten diese umsetzen und wie wirksam die vorgeschlagenen Grenzen sind, weist die Veröffentlichung nicht nach.