Morten Lyhne Petersen
Ukraina har för första gången öppet bekräftat ett dödligt test med en helt autonom AI-drönare.
Tio quadcopter-drönare lyfte mot frontlinjen, flög tre till fem kilometer på egen hand och slog över i så kallat Terminator-läge. Då hade den mänskliga operatören redan släppt kontrollen helt. Maskinen valde själv vad som skulle träffas.
Resultatet, enligt den ukrainske drönartillverkaren Alexander Kokhanovskyy, blev ”ett par soldater och en lastbil”. Uppgifterna lades fram vid en pressbriefing på den ukrainska ambassaden och återges av Unilad Tech. Det skulle i så fall vara första gången helt autonoma vapen bekräftas ha dödat människor i strid.
Testet ska ha utförts för cirka två år sedan i området kring Bachmut och Tjasiv Jar, mitt under den ukrainska motoffensiven.
Drönaren utan videolänk
Det som skiljer Terminator-konceptet från övriga AI-stödda drönare i kriget är att operatören saknar varje form av kontakt efter start. Det finns ingen videoström, ingen avbrottsknapp, inget sätt att ompröva ett mål.
”Vi skickar upp den och vi vet att allt kommer att vara dött, allt som finns i det här området kommer att vara dött”, har Kokhanovskyy sagt om systemet.
I en annan formulering vid samma tillfälle beskrev han principen ännu mer rakt: ”Det finns ingen koppling till drönaren alls, du kan inte se videon, ingenting. Allt den ser kommer att dödas.” Eftersom ingen kunde följa vad de autonoma drönarna faktiskt riktade in sig på skickades manuellt flugna drönare in efteråt för att kontrollera resultatet.
Ukrainska militären drar gränsen
Den ukrainska försvarsmakten tar avstånd från idén om att ge AI sista ordet vid en avtryckare. Major Danylo Polozhukhno har gjort gällande att armén inte använder helt autonoma system som självständigt väljer ut och bekämpar mål utan att en operatör är inblandad.
Enligt Kokhanovskyy har Terminator-projektet inte heller utvecklats vidare sedan testet, just på grund av nuvarande ukrainska regler. AI får bistå med att hitta och spåra mål, men den slutliga vapeninsatsen ska godkännas av en människa.
Drönartillverkaren har sedan dess gått vidare som vd för det ukrainska bolaget Aero Center, som utvecklar autonoma avfångningsdrönare för luftförsvar.
Forskare: ”fasansfullt”
Bekräftelsen sätter ny fart på en debatt som länge förts i FN-systemet och inom Nato. Frågan är om en maskin överhuvudtaget kan eller bör fatta beslut om liv och död utan en människa i loopen.
Mariarosaria Taddeo vid Oxford University, som forskar om etik och AI-användning i militära system, har beskrivit utvecklingen som ”inte bara problematisk, det är fasansfullt”, enligt Birds Advice.
Internationell humanitär rätt kräver att stridande parter kan skilja mellan kombattanter och civila och göra proportionalitetsbedömningar i varje enskilt anfall. Hur ansvaret ska fördelas när en algoritm väljer mål är en av de mest omtvistade frågorna i den pågående översynen av reglerna för autonoma vapen.
Sverige finansierar drönarutveckling i Ukraina
Frågan har en direkt svensk koppling. Sverige har sedan februari 2022 lämnat militärt stöd till Ukraina till ett samlat värde av omkring 128 miljarder kronor och har bundit sig till 40 miljarder kronor per år 2026 och 2027, enligt regeringen.
En del av stödet går till långräckviddiga drönare och till gemensamma innovationsprojekt med den ukrainska försvarsindustrin. Något explicit krav på begränsning av autonoma funktioner finns inte i den offentliga beskrivningen av stödet.
För svensk del aktualiserar bekräftelsen från Kiev en fråga som hittills mest behandlats på principnivå: var går gränsen för vad svenska skattepengar får finansiera när tekniken nu visat sig kunna döda på egen hand?
