Vitbok om artificiell intelligens

Yttrande 2019/20:UU4y

Utrikesutskottets yttrande

2019/20:UU4y

Vitbok om artificiell intelligens

Till utbildningsutskottet

Utbildningsutskottet beslutade vid sitt sammanträde den 2 april 2020 att ge utrikesutskottet tillfälle att yttra sig över kommissionens meddelande COM(2020) 65 Vitbok om artificiell intelligens – en EU-strategi för spetskompetens och förtroende.

Utrikesutskottet har beslutat att yttra sig över vitboken i de delar som rör utrikesutskottets beredningsområde.

Utskottets överväganden

Bakgrund

Som en uppföljning av Europeiska rådets och telekomministerrådets slutsatser av den 21 mars 2019 respektive den 7 juni 2019, genom vilka kommissionen och medlemsstaterna uppmanas att ta fram en integrerad strategi för att vidareutveckla den digitala ekonomin, tillkännagav kommissionens ordförande Ursula von der Leyen i sina politiska riktlinjer från den 16 juli 2019 en samordnad europeisk strategi för de mänskliga och etiska konsekvenserna av AI samt en reflektion om hur stordata bäst kan användas för innovationer.

I kommissionens meddelande Att forma EU:s digitala framtid (COM(2020) 67) från den 19 februari 2020, vilket är avsett som en övergripande strategi från kommissionens sida för unionens digitaliseringspolitik, presenteras insatser inom tre grundpelare som kommissionen kommer att fokusera på under de kommande fem åren: 1) teknik som fungerar för människorna, 2) en rättvis och konkurrenskraftig ekonomi och 3) ett öppet, demokratiskt och hållbart samhälle.

Meddelandena om en vitbok om artificiell intelligens – en EU-strategi för spetskompetens och förtroende (COM(2020) 65) och en EU-strategi för data (COM(2020) 66) utgör vidare led i denna övergripande europeiska digitala strategi. Meddelandena innehåller inte några förslag till lagstiftning i sig men presenterar ett antal åtgärder som kommissionen avser att lägga fram under den närmaste tiden på de områden som meddelandena behandlar.

Utbildningsutskottet beslutade vid sammanträdet den 2 april 2020 att ge utrikesutskottet tillfälle att yttra sig över kommissionens meddelande COM(2020) 65 Vitbok om artificiell intelligens – en EU-strategi för spetskompetens och förtroende. Utrikesutskottet beslutade vid sammanträdet den 16 april 2020 om att yttra sig över vitboken i de delar som rör utrikesutskottets beredningsområde.

Vitbokens innehåll

I meddelandet om en vitbok för AI beskriver kommissionen de förslag till åtgärder som kommissionen anser behöver vidtas för att främja utvecklingen och användningen av AI och hantera de risker som är kopplade till viss AI-användning. Utveckling och användning av AI för militära ändamål behandlas inte i vitboken. Kommissionens ambition är att främja förtroendeingivande och säker utveckling av AI i Europa som grundar sig i en respekt för grundläggande värden och rättigheter.

Vitboken består av två huvudsakliga delar. Den första delen består av ett paket med sex åtgärder vilka syftar till att skapa ett ekosystem av spetskompetens inom unionen som kan bidra till samarbete mellan offentlig och privat sektor för utveckling och användning av AI. Åtgärderna är:

1) att i slutet av 2020 anta en ny version av den samordnande planen för AI

2) att främja etablerandet av test- och excellensmiljöer för AI i Europa

3) att stötta universitet och institutioner att attrahera forskare och professorer samt erbjuda världsledande mastersprogram för AI

4) att etablera minst en europeisk digital innovationshubb per medlemsstat med hög specialisering mot AI samt att tillgängliggöra riskkapital för AI-utveckling via den europeiska investeringsfonden

5) att inrätta ett offentligt-privat partnerskap för AI, data och robotik

6) att förbereda ett ”Adopt AI-programme” som kommer att stötta den offentliga sektorn i upphandling av AI-system.

Utöver de sex åtgärderna betonar också kommissionen vikten av de internationella dimensionerna i AI-arbetet och att EU ska fortsätta att samarbeta med både likasinnade länder och globala aktörer utifrån europeiska regler och värden.

Den andra delen av vitboken utgörs av en beskrivning av de grundläggande delar som ett regelverk för AI bör bestå av för att skapa ett ”ekosystem av förtroende”. Kommissionens utgångspunkt är att ett regelverk för AI främst bör fokuseras på hur olika risker med AI kan minimeras. Enligt kommissionen är de mest betydande riskerna främst kopplade till skydd av grundläggande rättigheter (inklusive icke-diskriminering), säkerhet och ansvarsrelaterade frågor. I vitboken ges en närmare beskrivning av risker som AI kan medföra på dessa områden. Kommissionen konstaterar i vitboken att utvecklare och användare redan omfattas av europeiska regelverk om grundläggande rättigheter, konsumentskydd, produktsäkerhet och produktansvar men att det behöver undersökas om befintliga regelverk kan tillämpas på den nya tekniken, om anpassningar av regelverken behövs eller om ny lagstiftning krävs.

Med vitboken om AI inleder kommissionen en bred konsultation, där kommissionen inbjuder medlemsstater, andra europeiska institutioner och alla intressenter att yttra sig över förslagen och bidra till kommissionens framtida beslutsfattande på området. Konsultationen är öppen för synpunkter till den 19 maj 2020.

Regeringskansliets faktapromemoria

Med anledning av kommissionens meddelanden om att forma EU:s digitala framtid (COM(2020) 67), vitboken om artificiell intelligens (COM(2020) 65) och en EU-strategi för data (COM(2020) 66) inkom regeringen den 19 mars 2020 med en faktapromemoria (2019/20:FPM23).

I promemorian konstaterar regeringen att vitboken inte innehåller några förslag till nya eller ändrade rättsakter och att det därför inte finns något att säga om förhållandet till svenska regler. Regeringen framhåller vidare att vitboken inte har några direkta budgetära konsekvenser men att regeringen avser att återkomma till de aviserade initiativen och eventuella lagstiftningsförslag som följer av vitboken och deras budgetära konsekvenser när de har presenterats. Som utgångspunkt anser regeringen att initiativ som följer på vitboken bör finansieras inom EU:s fleråriga budgetram.

Som en preliminär ståndpunkt redovisar regeringen att den övergripande välkomnar såväl kommissionens meddelande om en ny digital strategi som vitboken om AI och datastrategin. Regeringen framhåller vidare att digitalisering bör vara ett verktyg för att uppnå ett smartare, mer konkurrenskraftigt, inkluderande, säkert och hållbart Europa.

När det gäller vitboken om AI ställer sig regeringen positiv till den ansats som kommissionen föreslår. EU behöver på en övergripande nivå stärka sin kapacitet att utveckla och använda AI. Regeringen är positiv till att kommissionen undersöker hur befintliga regelverk fungerar och analyserar om det finns behov av att se över reglerna med hänsyn till den nya tekniken.

Regeringen delar kommissionens uppfattning om att ett framtida generellt rättsligt regelverk för AI bör lyfta fram etiska riktlinjer för utveckling och användning av AI, vilket går väl i linje med regeringens nationella inriktning för AI (N2018.14). Regeringen stöder kommissionens inriktning att göra en heltäckande analys av vilka risker med AI som behöver hanteras och anser att det kommer att vara nödvändigt att vara tydlig med vad som ska regleras och vilket tillämpningsområde som ska gälla. Regeringen välkomnar vidare internationellt samarbete i frågan om AI då det gynnar både EU och Sverige.

Tidigare beredning

Utrikesutskottet fick den 17 maj 2018 information av Sipri på temat artificiell intelligens samt risker och möjligheter med nya teknologier och deras påverkan på konflikter och vapensystem. Vidare anordnade utskottet i samband med Stockholm Security Conference den 19–20 september 2018 ett seminarium tillsammans med Sipri om framväxande teknologier och internationell säkerhet.

Utskottets ställningstagande

Inledningsvis vill utskottet betona att digitaliseringen och den snabba teknikutvecklingen har varit en förutsättning för globaliseringens genomslag under de senaste decennierna. Digitaliseringen bidrar till spridningen av teknologi, information och idéer globalt. Såväl den nationella säkerheten som det ekonomiska välståndet vilar alltmer på digitala grunder. Sammantaget innebär digitalisering och teknikutveckling en snabb strukturomvandling, och många bedömare av AI förutspår att tekniken kommer att få en avgörande betydelse på nästan alla områden där det är viktigt att snabbt behandla stora mängder data. Utvecklingen av AI, självlärande system, kvantdatorer och sakernas internet kommer att medföra stora möjligheter men väcker samtidigt allvarliga frågor om etik, säkerhet och människans plats i beslutskedjan.

Utskottet noterar att AI på ett grundläggande sätt kan komma att förändra människors livsvillkor och säkerhet. Många digitala system sträcker sig såväl tekniskt som organisatoriskt över statsgränserna i sammanlänkade nätverk. Utvecklingen sker i en snabb takt samtidigt som kompetens och resurser är ojämnt fördelade globalt. För att möta hot och ta vara på de möjligheter som AI medför är det viktigt att EU:s medlemsländer tillsammans med likasinnade globalt, samarbetar över statsgränserna.

Utskottet delar kommissionens inställning i vitboken om att EU kan och bör verka på den internationella arenan för att säkerställa en utveckling och användning av AI som respekterar de mänskliga rättigheterna och som kan bidra till mänsklig samlevnad och välstånd.

Utskottet konstaterar att tyngdpunkten håller på att förskjutas i fråga om politisk, ekonomisk och militär makt, från Europa och Nordamerika mot Asien. Detta är inte minst tydligt i fråga om utvecklingen av AI och andra avancerade teknologier. Utskottet ser med oro på utvecklingen där auktoritära stater genom ett visst teknologiskt försprång eller kraftigt ökade investeringar präglar utformningen och användningen av AI och noterar att auktoritära stater redan i dag använder sig av AI-teknik för att bygga upp övervakningssystem.

Utveckling och användning av AI för militära ändamål behandlas inte i kommissionens vitbok. Utskottet konstaterar dock i linje med försvarsberedningens rapport (DS 2019:8) att utvecklingen av digitala system med breda användningsområden, under de senaste decennierna har drivits fram av kommersiella civila intressen, i kontrast till den historiska trenden där högteknologisk utveckling framför allt har pådrivits av militära intressen. Vidare noterar utskottet regeringens uttalande i den utrikespolitiska deklarationen om att Sverige driver på inom ramen för konventionen om vissa konventionella vapen för ett effektivt internationellt förbud mot dödliga autonoma vapensystem vilka är oförenliga med folkrättens krav.

Utskottet delar kommissionens uppfattning om att EU har goda förutsättningar att utöva globalt ledarskap för att skapa allianser med likasinnade utifrån gemensamma värden och främja etisk användning av AI.

Utskottet välkomnar också EU:s arbete med att påverka de internationella diskussionerna om AI inom FN, Europarådet, OECD, WTO, Unesco och den internationella telekomunionen (ITU). Vidare noterar utskottet att OECD har tagit fram de första mellanstatliga policyriktlinjerna för AI som antogs av OECD:s medlemsländer i maj 2019.

Utskottet vill betona vikten av fortsatt dialog och samarbete inom relevanta internationella forum. Enligt utskottet har Sverige tillsammans med EU och andra likasinnade länder goda möjligheter att bidra med svensk kompetens och erfarenhet i arbetet med lagstiftning, standarder, policyer och internationella konventioner.

Utskottet instämmer i kommissionens uppfattning om att det internationella samarbetet kring AI måste främja respekten för de grundläggande rättigheterna, inbegripet mänsklig värdighet, mångfald, inkludering, icke-diskriminering och skydd av integritet och personuppgifter, samt att EU bör verka för att sprida dessa värden globalt. Utskottet konstaterar att ett långtgående teknologiskt försprång inom AI för auktoritära stater kan få allvarliga och bestående konsekvenser för mänskliga rättigheter och global säkerhet. En ansvarsfull utveckling och användning av AI skulle istället kunna bidra till att uppnå målen om hållbar utveckling i Agenda 2030 och hjälpa till i arbetet mot korruption och annan brottslighet.

Avslutningsvis har utskottet i övrigt inga synpunkter på kommissionens vitbok.

Stockholm den 7 maj 2020

På utrikesutskottets vägnar

Kenneth G Forslund

Följande ledamöter har deltagit i beslutet: Kenneth G Forslund (S), Kerstin Lundgren (C), Håkan Svenneling (V), Lars Adaktusson (KD), Fredrik Malm (L), Kristina Axén Olin (M), Karin Enström (M), Maria Stockhaus (M), Ulrika Heie (C), Hans Ekström (S), Isak From (S), Lawen Redar (S), Leif Nysmed (S), Angelika Bengtsson (SD), Mikael Strandman (SD), Robert Stenkvist (SD) och Karolina Skog (MP).