AI-system för försvaret en ny nyckelfråga – det här är vad det handlar om

Det skulle potentiellt kunna finnas hur många användningsområden som helst. Men först och främst kan AI användas för att det svenska försvaret snabbare ska komma fram till relevanta insikter och fatta bättre beslut.

– Helst snabbare än motståndaren, säger Peter Bovet Emanuel, som forskar på Försvarshögskolan om AI inom krigföring.

Samtidigt uppstår frågan: när tempot ökar, hur säkerställer man att kvaliteten på besluten som fattas också gör det?

AI kan supersnabbt ge underlag, hitta mönster i en enorm mängd data och föreslå handlingsvägar. Nästa generation AI kan dessutom få ett mål och själv bryta ner det i deluppgifter, samla in data, analysera och leverera ett resultat.

När AI kan göra allt fler av de uppgifter som tidigare gjordes av människor så menar Peter Bovet Emanuel att det svenska försvaret istället för att fokusera på tekniken måste titta på besluten. Vilka beslut måste alltid fattas av människor och vilka skulle delvis eller helt kunna automatiseras?

Dessutom måste själva kunskapen om hur AI fungerar bli bättre för att staber och chefer ska förstå underlaget.

– Det får inte bli så att chefer och staber bara trycker på en knapp där de godkänner någonting utan att de faktiskt vet vad de godkänner, säger han till Omni.

Det har varit en het fråga i den offentliga debatten.

Förra året avslöjade Dagens ETC att både den svenska polisen och det svenska försvaret använder system från det amerikanska dataanalysbolaget Palantir.

Det kontroversiella techbolaget har system som kan samla in mängder av datapunkter och på bara sekunder kunna hitta mönster som det skulle ta mycket längre tid för människan att upptäcka.

Palantir har uppgett att man samarbetar med en ”handfull” svenska myndigheter och kritiken handlar delvis om integritet och risken att verktygen används för massövervakning. Den större frågan är också vilken roll privata techbolag ska få i statens mest känsliga och centrala funktioner.

En annan sak som sticker ut med just Palantir är personerna i bolagets topp. Palantirs medgrundare Peter Thiel och vd:n Alex Karp är båda kontroversiella figurer – Thiel har uttryckt att demokrati kan stå i vägen för frihet, och Karp har nyligen publicerat ett manifest om att den militära tekniken måste fungera avskräckande. Kritiker menar att de är symboler för ”tech-fascism” medan förespråkare menar att tekniken är neutral, att staterna och myndigheterna äger sin egen data och att de bara levererar ett tekniskt verktyg. Ändå har det lett till oro: enorma mängder data skulle potentiellt kunna hamna i orätta händer.

Palantirs Sverigechef Anders Fridén har i en intervju med SvD sagt att de svenska kunderna oftast har egna datacenter där Palantirs mjukvara installeras – just för att de inte vill vara beroende av ett amerikanskt bolag.

– Kunderna äger sin data och styr helt vem som får se den, säger han och menar att det skulle vara ”ett väldigt grovt kontraktsbrott” om de tog del av den utan att ha fått lov.

Men frågan handlar inte bara om just Palantir. Bakom kontroverserna finns en diskussion om ”digital suveränitet” – alltså att Sverige måste behålla kontrollen över sin data, inte låsa in sig på långa kontrakt och bli beroende av en privat teknikplattform.

– Det handlar mindre om en leverantör och mer om en arkitektur och ett ekosystem, säger AI-forskaren Peter Bovet Emanuel.

Beroendet av amerikansk teknik har blivit en allt hetare fråga. Efter Donald Trumps utspel i vintras om att ta över Grönland oroade sig en del för att Trump exempelvis skulle beordra Palantir att stänga av sina system för EU. Den här farhågan har tillbakavisats från Palantir.

I intervjun med SvD säger Sverigechefen Anders Fridén att det inte skulle hända i ett sådant scenario. Palantir har inte ens den tekniska förmågan att stänga av program som har sålts till kunder som kör det på egna serverhallar, enligt Sverigechefen.

Det kan förstås finnas andra risker. Som att vi inte riktigt vet hur flera av de största bolagen som genererar och levererar de främsta språkmodellerna, som Open AI och Anthropic, ser ut under huven.

– Stora språkmodeller är stora svarta lådor och vi som använder dessa har få, om några möjligheter, att påverka den bakomliggande logiken och informationsmodellerna som styr svaren. Man tror att man ska kunna påverka och säga till den att den ska svara på ett visst vis, men det är mer en chimär, säger Peter Bovet Emanuel.

Vi känner inte till det som Peter Bovet Emanuel kallar den ”ontologiska setupen” – alltså själva strukturen för hur ett AI-system som Palantirs Maven Smart System organiserar, kopplar ihop, väger in och slutligen lämnar sin information till användaren.

Just Maven Smart System används av både Nato och USA:s militär. Det låter som att ett litet, allierat land som Sverige skulle kunna ha en fördel att ha samma verktyg. Men det innebär i sig också en risk.

– Om låt säga alla västerländska länder och organisationer anammar Palantirs Maven Smart System så växer en angreppsyta. Om vi alla har samma och det skulle finnas någon svaghet i systemet då drabbas vi allihop, säger Peter Bovet Emanuel.

Anthropics Mythos stoppades när det stod klart att det rekordsnabbt kunde hitta svagheter i olika datasystem. Enligt Bovet Emanuel är det rimligt att anta att liknande AI-verktyg också kommer användas av framtida motståndare.

I dag finns inget svenskt eller europeiskt alternativ som fullt ut kan ersätta de amerikanska AI-bolagen. Men Peter Bovet Emanuel tror att Sverige relativt snabbt skulle kunna bygga stora delar av funktionaliteten – om staten, akademin och industrin samarbetade närmare.

Enligt honom handlar utmaningen främst inte om teknik, utan om organisation och struktur. Sverige skulle behöva bygga modulära system där staten behåller kontrollen över data och säkerhet, samtidigt som det går att byta leverantörer genom så kallad öppen systemarkitektur.

Han lyfter också fram vikten av svenska och europeiska bolag som kan arbeta i säkerhetsklassade miljöer, som Saab. Om systemen byggs från grunden i Sverige blir det också lättare att sätta upp egna säkerhetsramar, enligt Bovet Emanuel.

– Motsvarigheten skulle kunna byggas i Sverige på ett år, det är jag övertygad om, säger han.