Lockheed test AI-gevechtsvliegtuig zonder piloot: “Mogen machines zelfstandig mensen doden?”
Een gevechtsvliegtuig van Lockheed-Martin heeft 17 uur lang gevlogen zonder piloot. Het werd bestuurd door artificiële intelligentie, de eerste keer dat zoiets gebeurt. De vraag stelt zich of we niet op gerobotiseerde oorlogen afstevenen door dit soort systemen: “Beslissingen over leven en dood kan je niet overlaten aan een machine”, vindt professor Sven Biscop, die zich specialiseert in veiligheid en defensie.
Kenneth Dee
‘VISTA’ heet het vliegtuig, en het toestel is speciaal ontworpen om andere (gevechts)vliegtuigen te imiteren. Het is eigenlijk een aangepaste F16 waarop gemakkelijk software kan worden geïnstalleerd. In dit geval dus om het toestal autonoom te laten vliegen, zonder menselijke tussenkomst. Tijdens verschillende testvluchten mocht VISTA opstijgen en landen onder variabele omstandigheden. Er zijn daarbij geen opvallende problemen gedetecteerd, aldus Lockheed.
Zelfvliegende oorlogsmachines
De Amerikaanse luchtmacht is vastbesloten om autonome vliegtuigen in te zetten. De ontwikkeling van dat soort toestellen heeft onlangs nog een ferme boost gekregen. VISTA is zowat het belangrijkste toestel waarop getest wordt.
De bedoeling is om VISTA te gebruiken om situaties in de lucht te simuleren. Piloten die trainingen volgen, kunnen zo levensechter oefenen. Tegelijk moet de luchtmacht geen piloten vrijmaken om de trainingstoestellen te besturen. Iets wat veel tijd en geld kost. Maar de luchtmacht heeft ook de ambitie om de software die het ontwikkelt te gebruiken tijdens oorlogssituaties.
Toch zal het nog een hele tijd duren voor we dat ook echt zien gebeuren, klinkt het hier en daar:“Zoals dat gaat, experimenteert men met elke technologie, maar dat betekent nog niet dat die uiteindelijk op het slagveld zal verschijnen” zegt defensiespecialist en UGent-professor Sven Biscop. “AI maakt op dit moment nog te veel foute inschattingen.”
Wie beslist over leven en dood?
Groot probleem is nog de ethische kwestie: mag een machine zelf beslissen over leven of dood van vijandige strijders? “Over het gebruik van AI als tool om trainingen te verbeteren, bijvoorbeeld om die realistischer te maken, bestaat er geen discussie”, zegt Majoor van het vliegwezen bij onze Belgische defensie Dirk Naessens. “De discussie is eerder van ethische en juridische aard. Is het ethisch verantwoord om mensen te laten doden door een machine, die daar op basis van algoritmes, eigenlijk zelf over beslist?”
Het is een discussie die nog volop woedt en waarover nog niet zomaar iedereen het eens is: “Vooralsnog blijft de mens onontbeerlijk om te beslissen wat een legitiem doelwit is en wat niet, en ik zie dat niet gauw veranderen”, zegt Biscop. Hij is duidelijk: “beslissingen over leven en dood, en de ongetwijfeld verkeerde beslissingen die er genomen zullen worden, kan je niet uitbesteden aan een machine.”
Hoe kan een algoritme het verschil zien tussen een vijand of een burger? Wat als de tegenstanders een list gebruiken en kinderen inzetten?”
Majoor Dirk Naessens, Belgische defensie
Wie is burger, wie de vijand?
Het is niet gemakkelijk om alle situaties te vertalen naar artificiële intelligentie. Hoe kan een algoritme namelijk het verschil zien tussen een vijand of een burger? “Op basis waarvan zou die dat inderdaad doen”, zegt Majoor Naessens. “Het dragen van een uniform, of op basis van gedrag? Wat als de tegenstanders een list gebruiken en kinderen inzetten?”
Er is op dit moment alleszins geen internationale regelgeving over het gebruik van autonomie in wapensystemen. Maar de discussie wordt wel volop gevoerd, vooral op diplomatiek niveau. Er wordt geneigd naar een verbod op autonome wapensystemen omdat ze niet kunnen voldoen aan het Internationaal humanitair recht. Met andere woorden: er zouden te veel onschuldige slachtoffers vallen omdat AI nu eenmaal fouten maakt.
Maar dat de discussie niet helemaal één kant op gaat bewijst de interesse die er voor is: vandaag en morgen vindt in Den Haag een conferentie plaats over de plaats van AI binnen defensie en vrijdag vindt ook in ons land een studiedag plaats rond hetzelfde thema. Helemaal zwartwit is het verhaal dus niet. Al zal het nog wel even duren voor we Transformers-gewijs oorlogen zien met robots, autonome vliegtuigen en wapensystemen zonder menselijke interventie.
