Ett undantag från AI-förordningen, men inte från ansvar
Många har säkert hört talas om EU:s nya AI-förordning, vars bestämmelser träder i kraft successivt från och med februari 2025 (Europaparlamentets och rådets förordning (EU) 2024/1689 av den 13 juni 2024). Förordningen syftar till att reglera och harmonisera utveckling och användning av AI-system på den inre marknaden. System som utvecklas uteslutande för militära ändamål är däremot undantagna från förordningens tillämpningsområde (se artikel 2.3 i AI-förordningen). Anledningen till detta undantag är att nationell säkerhet och försvar är en medlemsstatlig kompetens, där EU har begränsad lagstiftningsrätt. Sverige har hittills ännu inte heller infört några nationella regler som direkt riktar sig mot militära AI-systems konstruktion, prestanda eller etiska ramar. Detta innebär dock inte att militär AI-utveckling sker i ett juridiskt vakuum. Tvärtom, när AI-förordningen inte är tillämplig faller ansvaret tillbaka på den nationella lagstiftningen, där bland annat regelverket om krigsmateriel blir centralt. Höga krav ställs därmed på företag som arbetar med tillverkning och försäljning av AI-system för militära ändamål.
Kan ett AI-system utgöra krigsmateriel?
För att ta reda på om man som leverantör omfattas av lagen (1992:130) om krigsmateriel (LoK) måste man först utreda om AI-systemet i fråga faller under definitionen av krigsmateriel. Enligt 1 § LoK definieras krigsmateriel som ”materiel som är utformad för militärt bruk och som enligt regeringens föreskrifter utgör krigsmateriel”. Lagen hänvisar vidare till bilagan till förordningen (1992:1303) om krigsmateriel, den så kallade krigsmaterielförteckningen, som i sin tur överensstämmer med EU:s gemensamma militära lista (se Europeiska unionens gemensamma militära förteckning (2019/C 95/01).
Ett AI-system är varken en stridsvagn eller en robot i traditionell mening, men kan ändå passa väl in under flera av krigsmaterielförteckningens kategorier. Till exempel skulle AI-system kunna utgöra:
- ML5: Eldlednings-, övervaknings- och varningsutrustning
- ML11: Elektronisk utrustning
- ML21: ”Programvara”
- ML22: ”Teknologi”
Ett AI-system som utvecklats för militära ändamål, exempelvis för att styra ett vapensystem eller analysera underrättelsedata, är med största sannolikhet att anse som krigsmateriel. För att ta ett konkret exempel: en AI-algoritm för autonom målidentifiering i en drönare skulle kunna klassificeras under flera kategorier samtidigt: som en del av eldledningsutrustningen (ML5), som specifik militär programvara (ML21) och som den bakomliggande teknologin (ML22). Även produkter som ursprungligen utformats för civilt bruk men som senare anpassats uteslutande för militära syften kan komma att omfattas av begreppet krigsmateriel. Det finns dock ett särskilt regelverk som reglerar produkter och teknik som främst är avsedda för civilt bruk men som också kan användas för militära ändamål – så kallade produkter med dubbla användningsområden (se Europaparlamentets och rådets förordning (EU) 2021/821 av den 20 maj 2021). Det är därför avgörande att tidigt i utvecklingsprocessen göra en analys, och vid behov föra en dialog med Inspektionen för strategiska produkter (ISP), för att fastställa om systemet klassas som krigsmateriel, en produkt med dubbla användningsområden, eller inget av dem.
Strikta krav på tillverkare av AI-system för militära ändamål
När det väl konstaterats att ett AI-system utgör krigsmateriel ställs en rad strikta krav på tillverkaren enligt LoK, då detta inte är en verksamhet som kan bedrivas fritt. Först och främst omfattas verksamheten av tillståndsplikt. Tillstånd enligt LoK får lämnas endast om det finns säkerhets- eller försvarspolitiska skäl för det och det inte strider mot Sveriges internationella förpliktelser eller Sveriges utrikespolitik i övrigt (1 § LoK).
Inspektionen för strategiska produkter (ISP) är den myndighet som prövar frågor om tillstånd, förbud, undantag i enskilda fall och certifiering enligt LoK. ISP ska dock lämna över ett ärende till regeringens prövning, om ärendet har principiell betydelse eller annars är av särskild vikt.
Det finns olika tillstånd och certifieringar som kan krävas för att arbeta med utveckling och försäljning av AI-system för militära ändamål. Ett företag måste exempelvis ha tillstånd från ISP för att överhuvudtaget få tillverka krigsmateriel (se 3 § LoK). Vidare krävs separata tillstånd för att få tillhandahålla materielen till någon i utlandet (4 § LoK) samt för att föra ut den ur landet (6 § LoK). Tillstånd enligt 3 och 4 §§ LoK får meddelas för viss tid eller tills vidare. För ett svenskt aktiebolag kan tillstånd enligt 3 eller 4 §§ LoK förenas med villkor om att endast en viss andel av aktierna, direkt eller indirekt, får ägas av utländska rättssubjekt. Ett sådant tillstånd kan också förenas med villkor om att styrelseledamöter, och suppleanter för dem, samt verkställande direktör i bolaget skall vara svenska medborgare och bosatta i Sverige.
Det finns också bestämmelser i LoK som reglerar möjligheten för en aktör i Sverige att ta emot krigsmateriel eller tekniskt bistånd, som överförs till Sverige från ett land inom Europeiska ekonomiska samarbetsområdet. Detta kräver en särskild certifiering (10 a § LoK) som får beviljas om sökanden anses tillförlitlig (10 b § LoK). Vid bedömningen av tillförlitligheten ska ISP särskilt beakta aktörens förmåga att följa villkor i ett så kallat överföringstillstånd, som innebär begränsningar av export av krigsmateriel eller av tekniskt bistånd till ett land utanför EES. Regeringen meddelar föreskrifter om kriterier för bedömning av tillförlitligheten vid prövning av certifiering.
Företag som beviljas tillstånd enligt 3 eller 4 §§ LoK ställs under ISP:s tillsyn (18 § LoK). Det innebär att företaget har en skyldighet att på begäran lämna de upplysningar och handlingar som behövs för kontroll av verksamheten. Den som har tillstånd enligt 3 eller 4 § LoK ska till exempel lämna redovisning till ISP om den marknadsföring av krigsmateriel som bedrivs i utlandet. Tillståndsinnehavaren ska också lämna deklaration på heder och samvete till ISP rörande den verksamhet som tillståndet har meddelats för. Den som har tillstånd enligt 3 eller 4 §§ LoK måste även, innan ett anbud lämnas eller ett avtal ingås om försäljning av krigsmateriel till utlandet, underrätta ISP, som kan förbjuda att anbudet lämnas eller att avtalet ingås (12 § LoK).
AI-utveckling kan utgöra säkerhetskänslig verksamhet
Att utveckla ett militärt AI-system kan definitionsmässigt också utgöra ”säkerhetskänslig verksamhet” enligt säkerhetsskyddslagen (2018:585) (SSL). Säkerhetskänslig verksamhet är sådan verksamhet som är av betydelse för Sveriges säkerhet eller som omfattas av ett för Sverige förpliktande internationellt åtagande om säkerhetsskydd (1 kap. 1 § SSL). Om verksamheten anses utgöra säkerhetskänslig verksamhet innebär det att företaget måste leva upp till höga krav på säkerhetsskydd. Detta inkluderar krav på personalsäkerhet, informationssäkerhet och fysisk säkerhet. Personal som deltar i verksamheten ska säkerhetsprövas för att bedöma deras pålitlighet och lojalitet. Det innebär bland annat grundutredning och i vissa fall registerkontroll. Den känsliga informationen, så som algoritmer och träningsdata, måste skyddas mot spioneri och röjande genom robusta informationssäkerhetsåtgärder. Även de lokaler där utvecklingen sker måste ha ett fullgott skydd mot obehörigt tillträde.
Även om ett privat bolags egen verksamhet inte omfattas av säkerhetsskyddslagen blir bolaget formellt bundet av säkerhetsskyddslagen ändå när bolaget ingår ett avtal med en myndighet (till exempel Försvarsmakten) som innehåller säkerhetsskyddskrav, dvs. ett så kallat säkerhetsskyddsavtal. I ett sådant avtal specificeras vilka krav på informationssäkerhet, fysisk säkerhet och personalsäkerhet som leverantören måste uppfylla. För mer ingående information om vilka krav på säkerhetsskydd som gäller för en verksamhetsutövare som bedriver säkerhetskänslig verksamhet, och för leverantörer till sådana verksamhetsutövare, rekommenderar vi vår tidigare krönika på temat, som du hittar här: https://www.foyen.se/aktuellt/sakerhetsskyddslagen-en-vagledning-for-leverantorer-till-verksamhetsutovare-som-bedriver-sakerhetskanslig-verksamhet/
Ytterligare juridiska dimensioner: Upphandling och krigets lagar
Förutom regelverken om krigsmateriel och säkerhetsskydd måste utvecklare av militära AI-system förhålla sig till andra centrala rättsområden.
Försäljning till Försvarsmakten sker oftast genom offentlig upphandling, som regleras av lagen (2011:1029) om upphandling på försvars- och säkerhetsområdet (LUFS). I lagen regleras hur inköpen, dvs. upphandlings- och anbudsprocessen, går till. Till exempel finns regler om vilka typer av krav Försvarsmakten kan ställa på leverantörer och på deras anbud. Särregleringen av upphandling inom det här området motiveras av att denna typ av anskaffningar ofta omgärdas av sekretess och rör Sveriges väsentliga säkerhetsintressen, vilket kräver ett regelverk som medger större flexibilitet och anpassade förfaranden. Exempelvis finns i LUFS utökade möjligheter att använda förhandlat förfarande utan föregående annonsering, jämfört med annan upphandlingslagstiftning, och även möjligheter att ställa krav på försörjningstrygghet och särskilt skydd för säkerhetsskyddsklassificerade uppgifter.
Vidare ska Försvarsmakten, Försvarets materielverk, Totalförsvarets forskningsinstitut och andra myndigheter anmäla varje projekt som avser studium, utveckling, nyanskaffning eller modifiering av vapen eller stridsmetoder till Delegationen för folkrättslig granskning av vapenprojekt (se 13 § förordningen (2007:936) om folkrättslig granskning av vapenprojekt). Även andra än dessa myndigheter får inkomma med anmälan om sådana projekt. Enligt artikel 36 i 1977 års tilläggsprotokoll I till Genèvekonventionerna den 12 augusti 1949 angående skydd för krigets offer (”Tilläggsprotokollet”), måste en stat avgöra om användningen av nya vapen, stridsmedel eller stridsmetoder under vissa eller alla omständigheter skulle vara förbjuden enligt Tilläggsprotokollet eller någon annan av folkrättens regler som är tillämpliga för staten i fråga. Det är till exempel, enligt artikel 35.1 i Tilläggsprotokollet, förbjudet att använda vapen eller stridsmetoder som är av sådan beskaffenhet att de orsakar överflödig skada eller onödigt lidande. Enligt artikel 48.1 i Tilläggsprotokollet måste stridande parter göra åtskillnad mellan civilbefolkning och kombattanter samt mellan civil egendom och militära mål. För att ett AI-system för militärt bruk ska kunna användas i enlighet med folkrätten skulle det därför till exempel kunna krävas att systemet kan skilja på civila och militära mål. Delegationens granskning kan visa att ett projekt är folkrättsenligt, eller att det inte är det. Om ett projekt inte anses vara folkrättsenligt kan delegationen uppmana anmälaren att vidta konstruktionsändringar, att överväga andra vapenprojekt, att utfärda begränsningar för vapnets operativa användning eller att modifiera stridsmetoden.
En balansgång mellan innovation och säkerhet
För en aktör som ger sig in på området för militär AI är det viktigt att förstå att undantaget från AI-förordningens regler inte innebär att marknaden för militära AI-system är oreglerad. Tvärtom omfattas sådan verksamhet av ett omfattande och strikt nationellt och internationellt regelverk. Vägen framåt för sådana aktörer handlar om att balansera behovet av innovation och att dra nytta av näringslivets spetskompetens, men också att följa oeftergivliga krav på säkerhet och kontroll. För den som utvecklar framtidens försvarsteknologi är den juridiska kompassen minst lika viktig som den tekniska – att navigera fel kan få konsekvenser som sträcker sig långt utanför den egna verksamheten och påverka Sveriges säkerhet.
Sammanfattningsvis är de viktigaste juridiska medskicken för en utvecklare av AI-system för militära ändamål:
- Klassificera AI-systemet: Utred tidigt om er produkt utgör krigsmateriel eller en produkt med dubbla användningsområden
- Sök nödvändiga tillstånd: Säkerställ att ni har alla tillstånd från ISP innan tillverkning, marknadsföring eller export påbörjas.
- Bygg för säkerhetsskydd: Om ni samarbetar med försvarssektorn, var förberedda på att uppfylla kraven i säkerhetsskyddslagen.
- Upphandling: Om möjligt, undersök vilka krav som normalt ställs, både på leverantörer och produkter, exempelvis i upphandlingar från Försvarets materielverk.
- Tänk bortom nationell rätt: Se till att AI-systemets funktion är förenlig med krigets lagar.
Foyen har bred erfarenhet av att arbeta med AI och säkerhetsskyddsfrågor och kan även bistå i bedömningen av vilka regelverk som är relevanta för ert AI-system. För rådgivning är ni välkomna att kontakta någon av artikelförfattarna via deras profilsidor till höger.
