Hantering av olagligt innehåll online

Fakta-pm om EU-förslag 2017/18:FPM16 : KOM(2017) 555

Regeringskansliet

Faktapromemoria 2017/18:FPM16

Hantering av olagligt innehåll online

2017/18:FPM16

Näringsdepartementet

2017-11-02

Dokumentbeteckning

KOM(2017) 555

Meddelande från kommissionen till Europaparlamentet, Rådet, Europeiska Ekonomiska och sociala kommittén samt regionkommittén. Hantering av olagligt innehåll online - Mot ett ökat ansvar för onlineplattformar.

Sammanfattning

I meddelandet presenteras en uppsättning riktlinjer och principer hur onlineplattformar bör intensifiera kampen mot olagligt innehåll online i samarbete med nationella myndigheter, medlemsstater och andra relevanta intressenter. Den ökade tillgången på terrormaterial online och spridningen av sådant material är ett hot mot tryggheten och säkerheten samt mot offrens värdighet. Syftet med meddelandet är att underlätta och intensifiera genomförandet av god praxis för att förhindra, upptäcka, undanröja och blockera tillgången till olagligt innehåll för att säkerställa en effektiv borttagning av olagligt innehåll, ökad transparens och skydd av grundläggande rättigheter online. Spridning av olagligt innehåll på internet kan dessutom underminera allmänhetens tilltro till den digitala miljön och äventyra den digitala inre marknaden. Avsikten är att ge plattformarna förtydliganden om deras ansvar när de vidtar proaktiva åtgärder för att upptäcka, ta bort eller blockera tillgången till olagligt innehåll. Lagstiftningsåtgärder skulle vid behov kunna bli nästa steg enligt kommissionen, om inte de åtgärder som anges i meddelandet visar sig tillräckliga. Kommissionen kommer övervaka utvecklingen det närmsta halvåret och slutföra arbetet i maj 2018. Regeringen välkomnar meddelandet och att plattformar genom självreglerande åtgärder tar ett ansvar för att ta bort olagligt innehåll.

1 Förslaget

1.1Ärendets bakgrund

I tidigare meddelanden från 2016 och 20171 betonade kommissionen behovet av att onlineplattformarna agerar mer ansvarsfullt och intensifierar självreglerande satsningar i hela EU för att få bort olagligt innehåll. Dessutom förbinder sig kommissionen att förbättra samordningen av de olika sektorsspecifika dialogerna med plattformarna och att utforska behovet av vägledning när det gäller formella förfaranden för anmälan och åtgärd. Detta bör göras i samverkan med – och utan att det påverkar – de dialoger som redan pågår och det arbete som påbörjats på andra områden, till exempel enligt den europeiska säkerhetsagendan eller på området olaglig hatpropaganda. De olika nu pågående sektorsspecifika dialogerna avslöjar dessutom en betydande grad av likhet när det gäller de förfaranden som bestämmer upptäckt, identifiering, borttagning och skydd mot återuppladdning av olagligt innehåll i de olika sektorerna. Dessa slutsatser ligger till grund för detta meddelande.

Europeiska unionen har redan reagerat på den utmaning som olagligt innehåll online utgör, med både bindande och icke-bindande åtgärder. Dessa åtgärder innefattar direktivet om bekämpande av sexuella övergrepp mot barn, sexuell exploatering av barn och barnpornografi, direktivet om bekämpande av terrorism, de föreslagna åtgärderna mot bakgrund av förändringarna av upphovsrätten och direktivet om audiovisuella medietjänster (AVMSD).

Befintliga och förslagna lagstiftande åtgärder har kompletterats med en rad icke lagstiftande åtgärder, till exempel uppförandekoden för att motverka olaglig hatpropaganda online, det arbete som utförs av EU:s internetforum när det gäller terroristpropaganda, samförståndsavtalet omförsäljning av varumärkesförfalskade varor via internet, kommissionens meddelande om marknadskontroll av produkter som säljs online, onlineförsäljning av produkter i livsmedelskedjan, EU:s handlingsplan mot olaga handel med vilda djur, vägledningen om direktivet om otillbörliga affärsmetoder och nationella myndigheters gemensamma åtgärder inom samarbetsnätverket för konsumentskydd. Den europeiska strategin för ett bättre internet för barn är ett initiativ som syftar till att genom självreglering förbättra onlinemiljön för barn och ungdomar.

1 COM(2016) 288 och COM(2017) 228.

Med anledning av ett flertal terroristattacker inom EU och spridningen av terroristpropaganda online framförde Europeiska rådet den 22–23 juni 2017 att det ”förväntar sig [...] att sektorn ska [...] utveckla nya tekniker och verktyg i syfte att förbättra den automatiska upptäckten av och raderingen av innehåll som uppviglar till terrordåd. Detta bör vid behov kompletteras genom relevanta lagstiftningsåtgärder på EU-nivå”.

I avsiktsförklaringen av den 13 september 2017 från Europeiska kommissionens ordförande, som riktades till Europaparlamentets talman och ordföranden för Europeiska unionens råd, för att säkerställa ett område med rättvisa och grundläggande rättigheter som bygger på ömsesidigt förtroende, tillkännagavs ytterligare åtgärder för att garantera skyndsam och proaktiv upptäckt och borttagning av olagligt innehåll som uppmuntrar till hat, våld och terrorism. Detta meddelande är den första delen av dessa åtgärder. Kommissionen förväntar sig att onlineplattformarna vidtar snabba åtgärder under de kommande månaderna, också beträffande relevanta dialoger, i synnerhet på området terrorism och olaglig hatpropaganda. Kommissionen kommer att fortsätta arbetet med utbyten och dialoger med onlineplattformar och andra relevanta intressenter. Den kommer att övervaka framstegen och bedöma om det behövs fler åtgärder för att garantera skyndsam och proaktiv upptäckt och borttagning av olagligt innehåll online, inbegripet möjliga lagstiftande åtgärder för att komplettera det befintliga regelverket. Detta arbete kommer att slutföras i maj 2018.

1.2Förslagets innehåll

Vägledningen i detta meddelande påverkar inte EU:s regelverk utan avser leverantörer av värdtjänster i enlighet med artikel 14 i det s.k. e- handelsdirektivet2. Riktlinjerna i meddelandet täcker alla kategorier av olagligt innehåll men tar samtidigt hänsyn till det faktum att olika typer av innehåll kan kräva olika sorters åtgärder.

Onlineplattformar bör enligt kommissionen, mot bakgrund av plattformars centrala roll/förmåga med vidhörande ansvar, vidta effektiva och proaktiva åtgärder för att upptäcka och ta bort olagligt innehåll på internet, och inte enbart begränsa sig till att agera på anmälningar. För vissa kategorier av olagligt innehåll kanske det inte heller är möjligt att helt uppnå målet att minska risken för allvarlig skada om inte plattformarna vidtar sådana proaktiva åtgärder.

2 Direktiv 2000/31/EG av den 8 juni 2000, om vissa rättsliga aspekter på informationssamhällets tjänster, särskilt elektronisk handel, på den inre marknaden.

Kommissionen lyfter fram att plattformar inte automatiskt förlorar sin ansvarsfrihet enligt artikel 14 i e-handelsdirektivet när de vidtar frivilliga proaktiva åtgärder för att upptäcka och ta bort olagligt innehåll. Tjänsteleverantören kan nämligen dra fördel av undantaget under två förutsättningar, antingen a) att tjänsteleverantören inte hade kännedom om förekomsten av olaglig verksamhet eller olaglig information och, beträffande skadeståndsanspråk, inte var medveten om fakta eller omständigheter som gjort förekomsten av den olagliga verksamheten eller den olagliga informationen uppenbar, eller b) att tjänsteleverantören så snart denne fått sådan kännedom eller blivit medveten om detta handlat utan dröjsmål för att avlägsna informationen eller göra den oåtkomlig. Kommissionen erinrar om att undantaget från ansvar enligt rättspraxis endast kan utnyttjas av leverantörer av värdtjänster vars verksamhet består av lagring av information på begäran av tredje part och som inte spelar någon aktiv roll av ett sådant slag att de får kännedom om eller kan styra över denna information3. Samtidigt bör direktivet utgöra en tillämplig grund vid utarbetande av snabba och tillförlitliga förfaranden som syftar till att avlägsna olaglig information och göra den oåtkomlig.

Upptäckt och anmälan av olagligt innehåll

Onlineplattformarna bör systematiskt förstärka sitt samarbete med de behöriga myndigheterna i medlemsstaterna. Samtidigt bör medlemsstaterna se till att domstolarna kan reagera effektivt mot olagligt innehåll på internet liksom bättre (gränsöverskridande) samarbete mellan myndigheter. Plattformarna och de brottsbekämpande myndigheterna uppmanas också bl.a. att utveckla tekniska gränssnitt som gör det möjligt för dem att samarbeta mer effektivt under hela förvaltningscykeln för innehållet. Det kan också vara fördelaktigt att samarbeta med det tekniska samfundet när det gäller framsteg i riktning mot effektiva och tekniskt problemfria lösningar på denna utmaning.

För att undvika upprepning av insatser och anmälningar och en därmed minskad effektivitet i borttagningsprocessen bör brottsbekämpande myndigheter och andra behöriga myndigheter också göra vad de kan för att samarbeta med varandra för att definiera effektiva digitala gränssnitt som underlättar förfarandet med anmälningar, och för att garantera en effektiv identifiering och rapportering av olagligt innehåll. Onlineplattformarna och de brottsbekämpande och andra behöriga myndigheter bör upprätta effektiva kontaktpunkter inom EU, och där så är lämpligt definiera effektiva digitala gränssnitt för att underlätta interaktion.

3 Se Google France, 114 och 120, dom av den 12 juli 2011, och mål C-324/09 L’Oréal mot eBay par 113.

Kommissionen uppmuntrar ett nära samarbete mellan onlineplattformar och betrodda anmälare (trusted flaggers). Anmälningar från betrodda anmälare bör kunna spåras snabbt av plattformen. Detta samarbete bör innehålla ett ömsesidigt informationsutbyte för att utvärdera och förbättra processen för borttagning över tid. En betrodd anmälare har en priviligierad status när det gäller att identifiera olagligt innehåll och förväntas inneha expertis och arbeta med höga kvalitetsstandarder. Behöriga myndigheter bör i relevanta fall ges möjlighet att delta i rapporteringsmekanismen för betrodda anmälare. Kommissionen kommer att undersöka möjligheterna att enas om kriterier på EU-nivå för betrodda anmälare.

Onlineplattformarna bör inrätta en lättåtkomlig och användarvänlig mekanism (notice eller referral) som gör det möjligt för användarna att anmäla innehåll som de anser vara olagligt och som plattformarna är värd för. Sådana mekanismer ska underlätta inlämning av anmälningar som är tillräckligt exakta och lämpligt underbyggda, för att göra det möjligt för plattformarna att fatta snabba och välgrundade beslut om uppföljningen. Detta bör underlätta tillhandahållandet av anmälningar som innehåller en förklaring av skälen till att anmälaren anser att innehållet är olagligt och en tydlig indikering av platsen på internet för det potentiellt olagliga innehållet (t.ex. URL-adressen).

Med hänsyn tagen till den mängd material som förmedlas av onlineplattformar, liksom den tekniska utvecklingen inom informationsbehandling och maskinintelligens, håller användning av teknik för automatisk upptäckt och filtrering på att bli ett allt viktigare verktyg i kampen mot olagligt innehåll på internet. Många stora plattformar använder nu någon typ av matchningsalgoritmer, baserade på flera olika sorters teknik, från enkel metadatafiltrering till att hasha och ta fingeravtryck på innehållet. Kommissionen uppmuntrar plattformarna att använda sådan teknik och att stödja ytterligare forskning. I de flesta fall är aktuell bästa praxis i branschen att använda automatiska verktyg för att begränsa mängden omtvistat innehåll för granskning av mänskliga experter, som sedan kan behöva bedöma om innehållet är olagligt. Denna princip om mänsklig inblandning är i allmänhet en viktig del i automatiska processer som söker fastställa vad som är olagligt i ett givet innehåll, särskilt på områden där felfrekvensen är hög eller där kontextualisering krävs.

Borttagning av olagligt innehåll

Plattformarna bör enligt kommissionen ta bort olagligt innehåll så snart som möjligt. Enligt e-handelsdirektivet måste onlineplattformar agera skyndsamt för att ta bort olagligt innehåll när de har fått kännedom om det, om de vill

dra nytta av undantaget från ansvar. Vad detta innebär i praktiken beror på de närmare detaljerna i det aktuella fallet, i synnerhet typen av olagligt innehåll, riktigheten i anmälan och den skada som eventuellt orsakats. I praktiken kräver olika typer av innehåll varierande mängd kontextuell information för att avgöra lagligheten i ett givet innehåll. Samtidigt som det är enklare att avgöra olagligheten i barnpornografi krävs det i allmänhet en noggrann analys av sammanhanget för att fastställa om nedsättande yttranden är olagliga. Om det finns risk för allvarliga skador, till exempel i fall med offentlig uppmaning till terroristbrott, är det särskilt viktigt med att avlägsna innehållet skyndsamt, vilket kan omfattas av särskilda tidsramar.

Samtidigt bör borttagande av innehåll inte hindra åtal eller annan uppföljning av ett eventuellt underliggande lagbrott. Bevisdelning mellan offentliga myndigheter och onlineplattformar är därför en viktig princip i detta avseende. (Gränsöverskridande åtkomst till bevis bör underlättas genom ett förestående lagstiftningsinitiativ inom EU i denna fråga.) Plattformarnas borttagning av olagligt innehåll bör inte hindra utredningar av eller åtal gällande överträdelser baserade på europeisk eller nationell lagstiftning.

Det finns risk för överborttagning. Robusta skyddsmekanismer för att begränsa risken för borttagning av lagligt innehåll bör därför finnas. Plattformarna bör därför erbjuda enkla förfaranden för användaren att bestrida/motanmäla ett borttagande (counter notice). Om det i en motanmälan tillhandahålls rimliga skäl för att anse att den anmälda verksamheten eller informationen inte är olaglig bör leverantören av plattformen återställa det innehåll som tagits bort utan otillbörligt dröjsmål, eller låta användaren ladda upp innehållet på nytt, utan att detta påverkar tillämpningen av plattformens tjänstevillkor. När en motanmälan registreras bör plattformarna svara på den, och vid ett negativt beslut bör orsakerna anges. Om det är möjligt i den aktuella medlemsstaten uppmuntras plattformarna att tillåta användning av organ för tvistlösning utanför domstol för att lösa eventuella tvister angående motanmälningar.

Onlineplattformarna bör tillhandahålla en tydlig, lättförståelig och tillräckligt detaljerad förklaring av sin innehållspolicy i sina tjänstevillkor. Förklaringen bör spegla både behandlingen av olagligt innehåll och innehåll som inte respekterar plattformens egna tjänstevillkor. Alla begränsningar när det gäller typen av innehåll som är tillåtet på en viss plattform bör anges tydligt och meddelas användarna. Denna förklaring bör också omfatta de förfaranden som finns för motanmälningar, inbegripet sådana som initieras av betrodda anmälare. Plattformarna bör även publicera transparensrapporter för att öka öppenhet och insyn. Dessa rapporter bör innehålla resultatet av tillämpningen av plattformarnas policyer för hantering av innehåll. Särskild

hänsyn bör härvidlag tas till små och medelstora företag så att den administrativa bördan minimeras.

Onlineplattformar bör rapportera till brottsbekämpande myndigheter så snart de blir medvetna om eller stöter på bevis på brottsliga eller andra överträdelser för att varna och göra det möjligt för relevanta myndigheter att utreda och åtala de individer som genererar ett sådant innehåll, eller missbruk av tjänsterna av organiserade kriminella grupper eller terroristgrupper.

Behovet att samarbeta med brottsbekämpande myndigheter vid utredning och lagföring av brott kan dessutom i vissa fall leda till att plattformar avstår från att ta bort olagligt innehåll, om detta krävs inom ramen för en särskild pågående utredning, under nära överinseende av nationella myndigheter och helt i överensstämmelse med nationella regler för brottsmålsprocesser. Brottsbekämpande myndigheter bör bygga upp den kapacitet som krävs för att vidta lämpliga åtgärder till följd av dessa rapporter. Ett exempel på bästa praxis när det gäller kontaktpunkter är SIRIUS-portalen som upprättats av Europol för att stödja medlemsstaterna i samband med utredningar om terrorismbekämpning online, inbegripet att underlätta samarbetet mellan plattformarna och EU:s brottsbekämpning.

Förhindra att olagligt innehåll återkommer

Plattformarna bör vidta särskilda åtgärder mot upprepade överträdelser. Det bör innefatta att avråda användarna från dessa beteenden men även att använda automatiska filter mot återuppladdning. Vid sidan av den teknik som används för att identifiera potentiellt olagligt innehåll kan tekniska verktyg användas med en högre grad av tillförlitlighet för att ta fingeravtryck på och filtrera (ta bort och förhindra att återkommer) innehåll som redan har identifierats och bedömts vara olagligt. Kommissionen uppmuntrar därför vidare användning av automatiska filter mot återuppladdning för att förhindra att olagligt innehåll kommer tillbaka. Detta sker för närvarande med ”Database of Hashes” med avseende på terroristbrott och inom ramen för EU:s internetforum, eller på upphovsrättsområdet, eller för barnpornografi, men också för produkter som har flaggats av brottsbekämpande myndigheter som icke överensstämmande med relevant lagstiftning. Denna praxis har visat goda resultat. Tekniken behöver dock förbättras ytterligare.

Det är viktigt att plattformarnas tjänstevillkor tydligt informerar användarna om konsekvenser av upprepade överträdelser av villkoren och hur de

automatiska verktygen fungerar, inklusive skyddsmekanismerna för felaktiga borttaganden.

Det är vidare viktigt att öka brottsbekämpande myndigheters samarbete med små mindre motståndskraftiga företag, som kan bli sådana plattformar som brottslingar föredrar eller andra personer som är involverade i onlineverksamhet som utgör en överträdelse, om dessa företag bedöms som mer sårbara än andra.

1.3Gällande svenska regler och förslagets effekt på dessa

Meddelandet innehåller inga konkreta lagförslag och påverkar därför inte svenska regler.

1.4Budgetära konsekvenser / Konsekvensanalys

Meddelandet innehåller inga konkreta förslag med budgeteffekter.

2 Ståndpunkter

2.1Preliminär svensk ståndpunkt

Regeringen välkomnar meddelandet och att plattformar genom självreglerande åtgärder tar ett ansvar för att ta bort olagligt innehåll.

2.2Medlemsstaternas ståndpunkter

Medlemsstaternas ståndpunkter är inte kända.

2.3Institutionernas ståndpunkter

Europaparlamentet antog den 15 juni 2017 en resolution om onlineplattformar (2016/2274(INI)) där plattformar uppmanas att vidta kraftigare åtgärder mot olagligt och skadligt innehåll på internet, samtidigt som kommissionen uppmanas att presentera förslag för att åtgärda dessa problem. Institutionernas ståndpunkter i övrigt är inte kända.

Europarådet arbetar för närvarande med framtagande av rekommendationer på området.

2.4Remissinstansernas ståndpunkter

Meddelandet har inte remitterats.

3 Förslagets förutsättningar

3.1Rättslig grund och beslutsförfarande

Meddelandet innehåller inga lagstiftningsförslag. Därmed är frågan om rättslig grund inte aktuell.

3.2Subsidiaritets- och proportionalitetsprincipen

Meddelandet innehåller inga lagstiftningsförslag. Därmed är en prövning av subsidiaritets- och proportionalitetsprincipen inte aktuell.

4 Övrigt

4.1Fortsatt behandling av ärendet

Europeiska rådet välkomnade meddelandet i sina slutsatser den 19 oktober 2017. Meddelandet har även presenterats av kommissionen i rådet. Kommissionen anger att den kommer att fortsätta arbetet och bedöma om det behövs fler åtgärder, inbegripet möjliga lagstiftande åtgärder för att komplettera det befintliga regelverket. Detta arbete kommer att slutföras i maj 2018.

4.2Fackuttryck/termer

URL är ett annat ord för webbadress. Förkortningen står för Uniform Resource Locator.