”Orwellian”: EU:s strävan att massskanna privata meddelanden på WhatsApp, Signal | Teknologi

Europeiska unionen överväger kontroversiella förslag om att massskanna privat kommunikation på krypterade meddelandeappar för material som övergrepp mot barn.

Enligt den föreslagna lagstiftningen skulle foton, videor och webbadresser som skickas på populära appar som WhatsApp och Signal skannas av en artificiell intelligens-driven algoritm mot en statlig databas med känt missbruksmaterial.

EU-rådet, ett av blockets två lagstiftande organ, ska rösta om lagstiftningen, populärt kallad Chat Control 2.0, på torsdag.

Om de godkänns av rådet, som representerar regeringarna i blockets 27 medlemsländer, kommer förslagen att gå vidare till nästa lagstiftningsfas och förhandlingar om de exakta villkoren i lagen.

Medan EU-tjänstemän har hävdat att Chat Control 2.0 kommer att hjälpa till att förhindra sexuell exploatering av barn, har krypterade meddelandeplattformar och integritetsförespråkare häftigt motsatt sig förslagen och liknat dem med massövervakningen av George Orwells 1984.

Varför är EU:s planer så kontroversiella?

Kritiker hävdar att Chat Control 2.0 är inkompatibelt med end-to-end-kryptering, vilket säkerställer att meddelanden endast kan läsas av avsändaren och den avsedda mottagaren.

Medan den föreslagna ”uppladdningsmodereringsregimen” skulle skanna meddelanden innan de skickas, har kritiker kritiserat åtgärderna som en ”bakdörr” med ett annat namn som skulle göra allas kommunikation sårbar för potentiell hackning eller störning från tredje part.

”Vi kan kalla det en bakdörr, en ytterdörr eller ’ladda upp moderering’. Men vad vi än kallar det, skapar var och en av dessa tillvägagångssätt en sårbarhet som kan utnyttjas av hackare och fientliga nationalstater, tar bort skyddet av okrossbar matematik och sätter i stället en högt värdefull sårbarhet, säger Meredith Whittaker, VD för Signal , sade denna vecka i ett uttalande.

Motståndarna säger också att förslagen skulle ge enorm makt till privata företag, många av dem baserade i USA, att engagera sig i massövervakning av europeiska medborgare.

När en bakdörr väl finns kan den användas för att söka efter mer än bara material för sexuella övergrepp mot barn, enligt Matthew Green, expert på tillämpad kryptografi vid Johns Hopkins University.

”Folk tror att Chat Control handlar om specifika brott. Nej, det är inte det som står på spel. Vad som görs är ett arkitekturbeslut för hur privata meddelandesystem fungerar: om det går igenom kommer dessa system enligt lag att kopplas till massövervakning. Det här kan användas för alla ändamål, säger Green i ett inlägg på X.

Europaparlamentarikern Patrick Breyer, från Piratpartiet Tyskland, har liknat förslagen med att lägga till statliga spionprogram på alla enheter i EU.

”Vi är på randen av en övervakningsregim så extrem som vi inte ser någon annanstans i den fria världen. Inte ens Ryssland och Kina har lyckats implementera buggar i vår ficka på det sätt som EU har för avsikt att göra, säger Breyer i ett uttalande.

Vem stöder lagen?

Förslag om att skanna privat kommunikation en masse efter material om sexuella övergrepp mot barn presenterades först av EU-kommissionären för inrikes frågor Ylva Johansson, som är svensk, 2022.

Belgien, den nuvarande chefen för rådet, föreslog den senaste versionen av lagstiftningen som en kompromiss efter att mer invasiva förslag fått tillbakatryck från Europaparlamentet.

Under den senaste iterationen skulle skanningar begränsas till foton, videor och webbadresser och användare måste samtycka till skanningen.

Alla som inte samtyckte skulle hindras från att ladda upp eller dela foton och videor.

Supportrar säger att förslagen är nödvändiga för att bekämpa plågan av utnyttjande av barn, som tjänstemän säger underlättas av krypterade plattformar och framväxten av AI-driven bildgenereringsprogramvara.

År 2022 sa det amerikanska nationella centret för försvunna och utnyttjade barn att 68 procent av de rekordstora 32 miljoner fallen av material för utnyttjande av barn som rapporterats av tjänsteleverantörer kom från ”chatt, meddelanden eller e-posttjänster” inom EU.

Den Storbritannien-baserade Internet Watch Foundation rapporterade liknande fynd och identifierade EU som källan till två tredjedelar av övergreppsmaterialet.

Brottsbekämpande och underrättelsemyndigheter har ofta uttryckt oro över brottslingar som använder krypterade meddelandeappar för att undvika upptäckt.

Telegram och Signal har båda använts av väpnade grupper från ISIL (ISIS) till Oath Keepers.

Underrättelsebyråer, militärer, poliser och vissa EU-ministerier skulle undantas från åtgärderna, enligt läckta dokument som den franska medieorganisationen Contexte tagit del av.

Vem är emot lagen?

Bland EU:s medlemsländer är det bara Tyskland, Luxemburg, Nederländerna, Österrike och Polen som har tagit en tydlig ställning mot förslagen, enligt Breyer, medan bland andra Italien, Finland, Sverige, Grekland och Portugal ännu inte har klargjort sin ståndpunkt. .

Enskilda parlamentsledamöter i länder inklusive Tyskland, Luxemburg, Nederländerna och Österrike har också uttryckt oro, några av dem hävdar att övervakning endast bör riktas mot specifika individer baserat på sannolika skäl som bestämts av en domare.

I november röstade EU-parlamentet, som måste godkänna de flesta EU-lagar, för att motsätta sig ”urskillningslös chatkontroll” till förmån för riktad övervakning.

Teknikföretag och digitala rättighetsgrupper som motsätter sig förslagen inkluderar Mozilla, Signal, Proton, Electronic Frontier Foundation, European Digital Rights, Internet Freedom Foundation och Irish Council for Civil Liberties.

USA:s nationella säkerhetsbyrå (NSA) whistleblower Edward Snowden beskrev på onsdagen förslagen som en ”skrämmande massövervakningsåtgärd”.

Hur skulle Chat Control 2.0 fungera i praktiken?

Även om Chat Control 2.0 går framåt, säger experter att den nuvarande versionen av lagen som stöds av Belgien skulle vara mycket svår, för att inte säga omöjlig, att genomdriva med end-to-end-kryptering.

I Storbritannien, som antog den liknande temat Online Safety Bill, har regeringen medgett att tekniken ännu inte existerar för att skanna krypterade meddelanden utan att kompromissa med säkerheten generellt.

Tekniska plattformar som Signal och WhatsApp, som hade hotat att dra sig ur Storbritannien, ansåg att detta var en delseger.

Kritiker säger också att inriktning på meddelandeappar kommer att vara ineffektivt när det gäller att stoppa barnmisshandel med tanke på att det finns privata nätverk och den mörka webben.

AI-drivna algoritmer har också visat sig vara benägna att göra misstag, vilket ökar risken för att oskyldiga människor rapporteras till polisen.

New York Times rapporterade 2022 att Googles AI-verktyg för att upptäcka övergreppsmaterial felaktigt flaggade en hemmavarande pappa i San Francisco efter att han skickat ett foto av sin sons penis till läkaren, vilket resulterade i en polisutredning och avslutande av hans Google-konton.