De greps för att ha skrivit på sociala medier under upploppen – kommer det att förändra något?

BBCFör Tyler Kay och Jordan Parlour har rättvisan för vad de postat på sociala medier kommit snabbt och tungt.Kay, 26, och Parlour, 28, har dömts till 38 månader respektive 20 månaders fängelse för att ha väckt rashat online under sommarupplopp. Anklagelser i efterdyningarna av störningen kändes som ett betydelsefullt ögonblick, då människor fick möta verkliga konsekvenser för vad de sa och gjorde online. Det fanns ett brett erkännande att falska påståenden och näthat bidrog till våldet och rasismen på brittiska gator i augusti. I deras kölvatten sade premiärminister Keir Starmer att sociala medier ”bär ansvar” för att ta itu med desinformation. Mer än 30 personer fann sig gripna över inlägg på sociala medier. Vad jag har funnit har minst 17 av dem åtalats. Polisen kommer att ha bedömt att en del av de utredda inte uppfyllde tröskeln för brott. Och i många fall kan rättssystemet vara fel sätt att hantera inlägg på sociala medier. Men vissa inlägg som inte gick över gränsen till kriminalitet kan fortfarande ha haft verkliga konsekvenser. Så för dem som skapade dem, ingen dag av uppgörelse. Och det verkar inte heller för sociala mediejättar vars algoritmer, gång på gång, anklagas för att prioritera engagemang framför säkerhet, driva innehåll oavsett vilken reaktion det kan provocera.Getty ImagesX:s ägare Elon Musk kritiserade brittiska myndigheter för deras svar på upploppen. Vid tidpunkten för upploppen hade jag undrat om detta kunde vara ögonblicket som till slut förändrade onlinelandskapet. Nu är jag dock inte så säker.För att förstå de sociala mediejättarnas roll i allt detta är det användbart att börja med att titta på fallen med en pappa i Pakistan och en affärskvinna från Chester.On X (tidigare känd som Twitter) publicerade en pseudonyhetswebbplats som heter Channel3Now ett falskt namn av 17-åringen åtalad för morden på tre flickor i Southport. Detta falska namn citerades sedan allmänt av andra. En annan affisch som delade det falska namnet på X var Bernadette Spofforth, en 55-åring från Chester med mer än 50 000 följare. Hon hade tidigare delat inlägg som väckte frågor om låsning och klimatförändringsåtgärder utan nettonoll. Inläggen från Channel3Now och Spofforth antydde också felaktigt att 17-åringen var en asylsökande som hade anlänt till Storbritannien med båt. Allt detta tillsammans med ytterligare osanna påståenden från andra källor om att angriparen var muslim, fick bred skuld för att ha bidragit till upploppen – av vilka några riktade sig mot moskéer och asylsökande. Jag upptäckte att Channel3Now var kopplad till en man vid namn Farhan Asif i Pakistan, liksom en hockeyspelare i Nova Scotia och någon som påstod sig heta Kevin. Sajten verkade vara en kommersiell verksamhet som vill öka antalet visningar och sälja annonser. Vid den tiden sa en person som påstod sig vara från Channel3Nows ledning för mig att publiceringen av det falska namnet ”var ett misstag, inte avsiktligt” och förnekade att det var ursprunget. med det namnet. Och Ms Spofforth berättade att hon raderade sitt osanna inlägg om den misstänkte så fort hon insåg att det var falskt. Hon förnekade också starkt att hon hade hittat på namnet. Så, vad hände sedan? Farhan Asif och Bernadette Spofforth arresterades båda för dessa inlägg inte långt efter att jag pratade med dem. Åtalspunkterna lades dock ner. Myndigheterna i Pakistan sa att de inte kunde hitta bevis för att Asif var upphovsmannen till det falska namnet. Cheshire-polisen beslutade också att inte åtala Spofforth på grund av ”otillräckliga bevis”. Farhan verkar ha gått till marken. Sajten Channel3Now och flera anslutna sidor på sociala medier har tagits bort. Bernadette Spofforth är dock nu tillbaka med regelbundna inlägg på X. Bara den här veckan har hon haft mer än en miljon visningar av sina inlägg. Hon säger att hon har blivit en förespråkare för friheten av uttryck sedan hennes arrestering. Hon säger: ”Som nu har visat sig, är tanken att en enda tweet kan vara katalysatorn för upploppen som följde på grymheterna i Southport helt enkelt inte sant.” Att fokusera på dessa enskilda fall kan ge en värdefull inblick i vem som delar denna typ av innehåll och varför. Men för att komma till kärnan av problemet är det nödvändigt att ta ytterligare ett steg tillbaka. Medan människor är ansvariga för sina egna inlägg, har jag funnit gång på gång att detta i grunden handlar om hur olika sociala medier webbplatser arbete.Beslut som fattats under ledning av Elon Musk, ägaren till X, är också en del av historien. Dessa beslut inkluderar möjligheten att köpa blå bockar, vilket ger dina inlägg större framträdande plats, och ett nytt tillvägagångssätt för måttfullhet som gynnar yttrandefrihet framför allt annat. Storbritanniens chef för kontraterrorpolisen, biträdande kommissionär Matt Jukes, sa till mig för BBC:s nyhetssändning att ”X var en enorm drivkraft” av inlägg som bidrog till sommarens oordning. Getty ImagesMatt Jukes har anklagat X för att spela en betydande roll i att underblåsa upploppen. Ett team han övervakar kallade Internet Referral Unit märkte ”den oproportionerliga effekten av vissa plattformar ”, sa han. Han säger att det fanns omkring 1 200 remisser – inlägg som flaggats till polisen av allmänheten – enbart i samband med upploppen. För honom var det ”bara toppen av isberget”. Enheten såg 13 gånger fler hänvisningar i relation till X än TikTok. Att agera på innehåll som är olagligt och strider mot terrorlagar är i en mening den enkla biten. Svårare att ta itu med är de inlägg som faller inom vad herr Jukes kallar kategorin ”laglig men hemsk”. Enheten flaggar sådant material till webbplatser som det har lagts upp på när den anser att det bryter mot deras villkor. Men Mr Jukes hittade Telegram, värd för flera stora grupper där oordning var organiserad och hat och desinformation delades, svåra att hantera. Enligt Jukes uppfattning har Telegram en ”gjutjärnsfast beslutsamhet att inte engagera sig” med myndigheterna. Elon Musk har anklagat brottsbekämpande myndigheter i Storbritannien för att försöka polisa åsikter om frågor som immigration och det har förekommit anklagelser om att åtgärder som vidtagits mot enskilda affischer har varit oproportionerliga. Herr Jukes svarar: ”Jag skulle säga detta till Elon Musk om han var här, vi arresterade inte folk för att de hade åsikter om invandring. [Police] gick och arresterade människor för att ha hotat eller hetsat andra att bränna ner moskéer eller hotell.” Men medan ansvar har känts i ”den mycket skarpa änden” av de som deltog i oordningen och lagt ut hatiskt innehåll på nätet, sa Jukes ” människorna som tjänar miljarder på att tillhandahålla dessa möjligheter” att lägga upp skadligt innehåll på sociala medier ”har egentligen inte betalat något pris alls”. Han vill att onlinesäkerhetslagen som träder i kraft i början av 2025 stärks så att den bättre kan hantera innehåll som är ”lagligt men hemskt”. Jag kontaktade både X och Telegram som inte svarade på de punkter som BBC tog upp. Under upploppen sa Telegram att dess moderatorer ”aktivt övervakar situationen och tar bort kanaler och inlägg som innehåller uppmaningar till våld ” och att ”uppmaningar till våld är uttryckligen förbjudna enligt Telegrams användarvillkor”. X fortsätter att dela i sina allmänt tillgängliga riktlinjer att dess prioritet är att skydda och försvara användarens röst. Nästan varje undersökning jag gör kommer nu tillbaka till utformningen av sociala medier och hur algoritmer driver innehåll som utlöser en reaktion, vanligtvis oavsett vilken effekt det kan ha. Under störningen förstärkte algoritmerna desinformation och hat till miljontals, lockade in nya rekryter och uppmuntrade människor att dela kontroversiellt innehåll för åsikter och likes.Varför ändras inte det? Tja, vad jag har funnit, skulle företagen behöva ändra sina affärsmodeller. Och för politiker och tillsynsmyndigheter kan det verkligen visa sig vara en mycket stor utmaning. BBC InDepth är det nya hemmet på webbplatsen och appen för den bästa analysen och expertis från våra främsta journalister. Under ett distinkt nytt varumärke kommer vi att ge dig nya perspektiv som utmanar antaganden och djupgående rapportering om de största frågorna för att hjälpa dig förstå en komplex värld. Och vi kommer att visa upp tankeväckande innehåll från hela BBC Sounds och iPlayer också. Vi börjar smått men tänker stort, och vi vill veta vad du tycker – du kan skicka oss din feedback genom att klicka på knappen nedan.