Boswijk over militaire AI: “Innovatie zonder ethiek is gevaarlijk”
“Kunstmatige intelligentie is buitengewoon krachtig in het herkennen van patronen, verwerken van informatie en voorspellen van uitkomsten. AI beschikt echter niet over wijsheid. Berekeningen zijn geen oordelen en informatie is geen moreel inzicht.” Staatssecretaris Derk Boswijk zei dit gisteren in Rome bij het International Catholic Legislators Network. Hij sprak daar over het gebruik van kunstmatige intelligentie binnen de krijgsmacht.
De staatssecretaris vertelde over een eerder bezoek aan een Oekraïense commandopost onder de grond, in de buurt van Dnipro. Daar ontmoette hij majoor Robert Brovdi, die een eenheid leidt die drones en andere onbemenste systemen gebruikt. Boswijk zag hoe AI wordt ingezet om doelen te herkennen en de kans op succes te berekenen. Op een scherm zag hij zelfs de kosten van de oorlog. Het uitschakelen van één Russische soldaat kost nog geen 1.000 dollar, terwijl het opleiden en inzetten van een soldaat 58.000 dollar kost.
Morele uitdaging
Volgens Boswijk laat dit voorbeeld zien hoe belangrijk AI is geworden in de oorlog. Hij waarschuwt echter ook voor de gevaren. De toekomst van militaire AI is volgens hem niet in de eerste plaats een technologische, maar vooral een morele uitdaging. “Innovatie zonder ethiek is gevaarlijk”, stelt hij. “AI kan doelen verkeerd identificeren, fouten versterken, verantwoordelijkheid vertroebelen en situaties laten escaleren buiten menselijke controle. Algoritmen hebben geen geweten. Ze kennen geen twijfel, verantwoordelijkheid of medelijden. Het toevertrouwen van levensbepalende beslissingen aan machines zonder de juiste menselijke tussenkomst en controle is niet alleen riskant, het is onacceptabel.”
Internationale regels
De staatssecretaris pleit daarom voor duidelijke internationale regels over het gebruik van militaire AI. Nederland speelt hierin al een belangrijke rol. In 2023 organiseerde Nederland de eerste Responsible AI in the Military Domain (REAIM)-top in Den Haag. De volgende is in 2027 in Kenia. Nederland blijft daarbij nauw betrokken.
“We moeten blijven innoveren”, sloot Boswijk af. “AI kan helpen de vrijheid te verdedigen. Het kan levens redden. Maar we mogen technologische vooruitgang nooit verwarren met morele vooruitgang. Laten we niet vergeten wat we proberen te beschermen. Niet algoritmes. Niet markten. Zelfs niet staten, maar mensen.”