Mördarrobotarna är redan här

bild.

Årets mest skrämmande bok

Glöm bajonettanfall, stridsvagnar och kryssare. Framtidens krig kommer inte att utkämpas av människor utan av maskiner. Vad värre är: framtiden är redan här. Läs mer i Framtidens fjärrstyrda krig – en skakande inblick i en mörk morgondag.

Av Mattis Bergwall,
Pennan & Svärdets historiograf
från medlemssidor i Pennan & Svärdet

https://tidning.pennanochsvardet.se/

Slutövning 2006. Jag och de andra stadsskyttesoldaterna står och trycker utanför ett våningshus som ska intas, rensas. Alla är redan trötta in i benmärgen. Kulsprutan väger tungt över axeln och kroppen kliar av ingrodd lort. Plötsligt ser vi en soldat som går runt med en liten skärm. Med sig har han en låg, bandgående robot. Vi får det förklarat för oss att den är fjärrstyrd och kan se runt hörn åt oss. Operatören drar stolt i några rattar varpå maskinen skumpar framåt, stannar, skumpar till för att till sist stanna helt. Vår fänrik rycker på axlarna och konstaterar att roboten i alla fall är betydligt dyrare än ersättliga skyttesluskar och ger order om framryckning. Vi meniga konstaterar vist att roboten är en uppenbar kalkon.

Fel fick vi.

bild.

Svenska och norska soldater i Afghanistan. Förmånsboksförfattaren Paul Scharre är själv veteran från Afghanistankriget och har kommit i närkontakt med både strid och drönare

Robotkriget är här

Det räcker egentligen med att se till de amerikanska försvarsanslagen för att förstå att automatiserade vapensystem är framtidens vapensystem. Under 1990-talet låg sagda utgifter på 300 miljoner dollar per år. År 2005 låg de på två miljarder dollar, 2011 sex miljarder dollar och så vidare, och så vidare. Det gäller inte heller längre bara det man till vardags tänker sig som en drönare – små flygande farkoster – utan innefattar numera allt ifrån torpeder och attackrobotar till bandgående fordon och automatiska vapenstationer. Anslagen skenar och med dem kommer allt mer avancerade och allt mer självständiga vapensystem.

bild.

bild.

Drönare finns numera i alla storlekar. Längst upp ser du världens minsta militära spaningsdrönare – PD-100 Black Hornet Nano – och längst ner enorma Northrop Grumman X-47B.

Självständiga maskiner

Vad menar jag när jag skriver ”självständig”? En maskin kan väl inte gärna fatta egna beslut? Jo, det är faktiskt dit vi är på väg. Till viss mån är vi redan där. Pentagon har redan förevisat drönare som på egen hand kan navigera genom kringelkrokiga korridorer och ta sig förbi hinder – detta utan att en människa lyfter ett finger. Amerikanska försvarsdepartementets krav är här även tydliga: drönare måste i framtiden kunna vara självständiga, förstå och anpassa sig till sin miljö samt kunna samarbeta med andra maskiner. De ska alltså bli autonoma, kapabla att agera utan mänsklig påverkan.

 När robotarna ordervägrar

Fördelarna med autonoma vapensystem är uppenbara. Om en robot skjuts ner så dör ingen människa. De kan agera snabbare än en soldat och blir aldrig trötta, hungriga eller stridsutmattade. Nackdelarna är subtilare, men potentiellt apokalyptiska. Flera framstående tech-experter varnar redan nu för vad som kan ske om vi ger robotar för stor makt. Vi kan låta en maskin köra en bil. Vi kan låta en maskin navigera ett slagfält på egen hand. Vi kan låta en maskin själv avgöra om den ska bekämpa ett mål. Men vad gör vi om vi vill att de inte ska göra det? Kan vi hejda den?

Vad händer om den en dag besvarar våra instruktioner med ett nej?

Det största existentiella hotet

Elon Musk om artificiell intelligens

bild.

bild.

Många tänker sig nog drönare som någonting som flyger, men numera återfinns de i alla stridsytor. Längst upp ser du minjagaren AN/WLD-1, längst ner israeliska Guardium som används längs gränsen mot Gaza. I förmånsboken får du initierad information om de självständiga mördarrobotarna och hur de påverkar det moderna slagfältet.

En alarmerande blåögdhet

Den här typen av frågor är potentiellt livsviktiga för oss alla, men är frågor som ses på med stor lättvindighet av dem som är ansvariga för att underblåsa utvecklingen. USA:s före detta biträdande försvarsminister Robert O. Work säger till förmånsboksförfattaren Paul Scharre angående maskinernas allt ökande självständighet att ”folk börjar bli nervösa över det, men återigen, jag oroar mig inte alls”. Sorglösheten i hans svar är i min värld allt annat än betryggande eftersom den vittnar om en ovilja att tänka i mer långsiktiga termer.

Det mesta hemlighålls för oss

Orsaken till denna kortsiktighet är att vi i dag lever i en robotteknologisk kapprustning som sker i ett rasande tempo. Över ett dussin länder har i dag vapensystem som är halvautonoma, övervakat autonoma eller helt autonoma – men alla är de förtegna om vad de utvecklar och framför allt vilka gränser som sätts mellan människor och maskiners beslut.

Även om vi i dag har flygande drönare kommer morgondagens slagfält att fyllas med gående, krypande, hoppande och flygande robotar. Inom en snar framtid kommer det att bli möjligt att sätta upp ett helt robotiserat förband med förmåga att genomföra militära operationer på egen hand.

Rysslands generalstabschef Valerij Gerasimov

bild.

Det sydkoreanska automatiska SGR-A1. Detta är tänkt att ersätta en stor del av de soldater som vaktar gränsen mot Nordkorea och är beväpnat med dels en kulspruta, dels en granatkastare.

Svärmar av mördarrobotar

I dag styrs nämligen de flesta autonoma system av en operatör med en styrspak, men redan nu har vi nått ett plan där operatören inom kort kommer att kunna styra en svärm av mördarrobotar snarare än bara en enskild maskin. Svärmteknologin är i nuläget i ett tidigt skede, men utvecklas konstant till att bli allt mer autonom. Svärmarna efterapar beteendet hos bisvärmar eller myrkolonier, men målet är att de ska agera som vargflockar – en kollektiv organism som via maskininlärning kan utveckla ny taktik på egen hand.

bild.

Har vi redan tappat kontrollen?

Till viss mån är vi redan där. Ta Harpy som exempel. Detta är ett israeliskt luftburet vapensystem som i skarpt läge tilldelas uppgiften att förinta alla fiendens radaranläggningar inom ett visst område. Därefter får roboten själv avgöra vilka som är målen och i vilken ordning dessa ska bekämpas. Detta sker utan mänsklig interaktion. Arbete pågår även för att ge robotar möjlighet att målidentifiera på egen hand – och därvid kan det handla om allt ifrån fartyg till människor. De ska även kunna prioritera vilka mål som ska slås ut med hänsyn till hotbild.

bild.

Detta är en av de hemmagjorda drönare som tillverkats av någon av Syriens många terrorgrupper. Tro inte att drönarteknologin kommer att förbli i statliga händer, för det tåget har redan gått. Med tanke på de många alarmerande frågetecken som finns kring robotkrigföringen är det även värt att ställa sig frågan vad vi tar oss till den dag en terrorgrupp får tag på avancerad artificiell intelligens.

Katastrofer som bara väntar på att ske

Den här autonomin är baserad på att roboten tilldelas grundvärden utifrån vilka den agerar. Problemet är dock att ju mer ansvar och autonomi en maskin ges, desto fler grundvärden måste matas in. I rasande hög hastighet når man en komplexitetsgrad som är så hög att det är näst intill omöjligt att förutse alla tänkbara situationer som en robot måste kunna hantera. Det blir även allt svårare att veta hur maskinen ska agera i oväntade situationer.

bild.

Ryska Ural-9 beväpnad med en 30 mm automatkanon, en 7,62 mm kulspruta, fyra pansarvärnsrobotar och ett antal raketgevär. Under utprovningar i Syrien misslyckades Ural-9 med alla sina stridsuppdrag, vilket ur svenskt hänseende är betryggande. Det är dock bara en tidsfråga innan ryssarna förfogar över sina egna omfattande robotstridskrafter.

Robotar med egen moral

Alla dessa frågetecken leder i sin tur till svåra följdfrågor. Om vi ger en maskin möjligheten att lära sig, hur kan vi då veta att den lär sig rätt saker – det vill säga det vi vill att den ska lära sig? Vi kan säga åt den att lyda vår moral, men hur tolkar den detta kommando? Vet vi ens vad tolkning innebär för en robot? Vad är moral för en maskin?

Oundgänglig läsning

I förmånsboken Framtidens fjärrstryrda krig. Soldatrobotar, drönare och artificiell intelligens får du läsa mer om framtidens krig och den oroväckande morgondagen. Här beskrivs en mängd av de autonoma vapensystem som redan finns och ett antal av dem som är på väg att utvecklas. Du får en djupare förståelse för hur robotarna fungerar, hur de programmeras och agerar och vilka som är deras katastrofala fallgropar. Författaren, själv veteran från kriget i Afghanistan, har intervjuat några av de mest framträdande personerna inom robotteknologin och robotkrigföringen – inklusive högt uppsatta personer på bland annat Pentagon och DARPA. Vi medlemmar i Pennan & Svärdet är vana vid att läsa om de krig som har utkämpats och de som utkämpas nu, men här får du en inblick i det krig som kommer. Detta krig kommer vara allt mer robotiserat, kanske helt utkämpat av maskiner och vi vet i dagsläget inte om det är ett krig som människor kommer att kunna behålla kontrollen över. Förmånsboken ger dig en inblick i framtiden varför den rekommenderas till alla militärt intresserade människor.



Kategorier:Böcker, Uncategorized, Världspolitik

Etiketter:,

%d bloggare gillar detta: