Meta vill att anteckningar i X-stil ska ersätta faktagranskare

Chris Vallance Senior Technology ReporterGetty Images Metaägare Mark Zuckerberg När lågor slet genom stora delar av Los Angeles den här månaden, gjorde också falska nyheter. Inlägg på sociala medier hyllade vilda konspirationer om branden, med användare som delade vilseledande videor och felaktigt identifierade oskyldiga människor som plundrare. Det satte skarpt fokus på en fråga som har plågat sociala mediers ålder: vad är det bästa sättet att begränsa och korrigera potentiellt brandgnistor av felaktig information? Det är en debatt som Mark Zuckerberg, vd för Meta, har stått i centrum för. Strax efter den 6 januari Upploppen i Capitol 2021, som underblåstes av falska påståenden om ett falskt presidentval i USA, gav Zuckerberg vittnesmål för kongressen. Miljardären skröt om Metas ”branschledande program för faktagranskning”. Det drog, påpekade han, på 80 ”oberoende tredje parts faktagranskare” för att stävja desinformation på Facebook och Instagram. Fyra år senare är det systemet inte längre något att skryta om.”Faktagranskare har helt enkelt varit för politiskt partiska och har förstört mer förtroende än de har skapat, särskilt i USA,” sa Zuckerberg tidigare i januari. plats, sa han, skulle vara något helt annat: ett system inspirerat av X:s ”community notes”, där användare snarare än experter bedömer exakthet. Många experter och faktagranskare ifrågasatte Mr Zuckerbergs motiv.” och till Elon Musk,” sa Alexios Mantzarlis, chef för Security, Trust and Safety Initiative vid Cornell Tech, till BBC.Mr Mantzarlis är också djupt kritisk till beslutet att yxa faktagranskare. Men som många experter gör han också en annan poäng som kanske har gått förlorad i den eldstorm av kritik som Meta möter: att i princip kan system i gemenskapsanteckningar vara en del av lösningen på desinformation. Fågelskådning Att anta ett faktakontrollsystem inspirerat av en Elon-Musk-ägd plattform skulle alltid höja hacklet. Världens rikaste man anklagas regelbundet för att använda sitt X-konto för att förstärka desinformation och konspirationsteorier. Men systemet föregår hans ägande.” Birdwatch”, som det då hette, började 2021 och hämtade inspiration från Wikipedia, som är skriven och redigerad av volunteers.Meta ScreenshotMark Zuckerberg tillkännagav ändringarna i en onlinevideo. Liksom Wikipedia förlitar sig community-anteckningar på obetalda bidragsgivare för att korrigera felaktig information. Bidragsgivare betygsätter korrigerande anteckningar under falska eller vilseledande inlägg och med tiden får vissa användare möjligheten att skriva dem. Enligt plattformen är denna grupp av bidragsgivare nu nästan en miljon stark. Herr Mantzarlis – som själv en gång drev ett ”crowd-sourced” faktakontrollprojekt – hävdar att denna typ av system potentiellt tillåter plattformar att ”få fler faktakontroller, fler bidrag , snabbare”. En av huvudattraktionerna med system i gemenskapsanteckningar är deras förmåga att skala: i takt med att en plattforms användarbas växer, ökar också poolen av volontärer bidragsgivare (om du kan övertala dem att delta). Enligt X producerar community-anteckningar hundratals faktakontroller per dag. Däremot kan Facebooks expertfaktagranskare hantera mindre än 10 per dag, föreslår en artikel av Jonathan Stray från UC Berkeley Center for Human-Compatible AI och journalisten Eve Sneider. Och en studie tyder på att gemenskapsanteckningar kan leverera faktakontroller av god kvalitet: en analys av 205 anteckningar om Covid visade att 98 % var korrekta. En anteckning bifogad till en vilseledande post kan också organiskt minska sin virala spridning med mer än hälften, hävdar X, och forskning tyder på att de också ökar chansen att den ursprungliga affischen raderar tweeten med 80 %. Keith Coleman, som övervakar community-anteckningar för X, hävdar att Meta byter till ett mer kapabelt program för faktakontroll.”Community-anteckningar täcker redan ett mycket bredare innehåll än tidigare system,” berättade han för mig. Det nämns sällan. Jag ser berättelser som säg ”Meta avslutar program för faktakontroll”, sa han.” Men jag tror att den verkliga historien är, ”Meta ersätter befintliga faktakontrollprogram med ett tillvägagångssätt som kan skalas för att täcka mer innehåll, svara snabbare och är pålitligt över hela det politiska spektrumet”. ”Kontrollera faktagranskare Men självklart sa herr Zuckerberg inte bara att gemenskapsanteckningar var ett bättre system – han kritiserade aktivt faktagranskare och anklagade dem för ”bias”. Genom att göra det upprepade han en långvarig tro bland amerikanska konservativa att Big Tech censurerar deras åsikter. Andra hävdar att faktakontroll oundvikligen kommer att censurera kontroversiella åsikter. Silkie Carlo, chef för den brittiska medborgarrättsgruppen Big Brother Watch – som drev en kampanj mot påstådd censur av David Davis MP av YouTube – berättade för BBC:s anklagelser om Big Tech-bias har kommit från hela det politiska spektrumet. Centraliserad faktakontroll av plattformar riskerar ” kväver värdefull rapportering om kontroversiellt innehåll”, sa hon till BBC, och leder också till att användare felaktigt tror att alla inlägg de läser är den ”godkända sanningen”. Baybars Orsek, VD för Logically Facts, som tillhandahåller faktakontrolltjänster till Meta i Storbritannien, hävdar att professionella faktagranskare kan rikta in sig på den farligaste desinformationen och identifiera nya ”skadliga berättelser”. Enbart gemenskapsdrivna system saknar ”konsekvens, objektivitet och expertis” för att ta itu med den mest skadliga desinformationen, skrev han. Professionella faktagranskare och många experter och forskare, starkt bestrida anspråk på partiskhet. Vissa hävdar att faktagranskare helt enkelt tappade förtroendet hos många konservativa. Ett förtroende som Herr Mantzarlis hävdar undergrävdes medvetet.” Faktagranskare började bli sanningsdomare på ett betydande sätt som upprörde politiskt motiverade partisaner och makthavare och plötsligt skedde vapenangrepp. dem,” sa han. Lita på algoritmen Lösningen som X använder i ett försök att hålla gemenskapsanteckningar pålitliga över det politiska spektrumet är att ta en viktig del av processen ur mänskliga händer, istället förlita sig på en algoritm. Algoritmen används för att välja vilka anteckningar som ska visas, och även för att se till att de blir användbara av en rad användare. mycket enkla termer, enligt X väljer denna ”överbryggande” algoritm föreslagna anteckningar som bedöms vara användbara av frivilliga som normalt inte håller med varandra. Resultatet, hävdar den, är att anteckningar ses positivt över det politiska spektrumet. Detta bekräftas, enligt X, genom regelbundna interna tester. Viss oberoende forskning stöder också den uppfattningen. Meta säger att dess system för community-anteckningar kommer att kräva överenskommelse mellan personer med en rad olika perspektiv för att hjälpa till att förhindra partiska betyg, ”precis som de gör på X”. Men denna breda acceptans är en hög nivå att nå .Forskning indikerar att mer än 90 % av föreslagna anteckningar aldrig används. Det betyder att korrekta anteckningar kan förbli oanvända. Men enligt X skulle det undergräva målet att endast visa anteckningar som kommer att visa fler anteckningar. vara till hjälp av de flesta användare och detta skulle minska förtroendet för systemet.’Fler dåliga grejer’Även efter att faktagranskarna är borta kommer Meta fortfarande att anställa tusentals moderatorer som tar bort miljontals delar av innehåll varje dag, som grafiskt våld och material för sexuellt utnyttjande av barn, som bryter mot plattformens regler. Men Meta lättar på sina regler kring vissa politiskt splittrande ämnen som kön och immigration. Mark Zuckerberg medgav att ändringar, utformade för att minska risken för censur, innebar att det ”kommer att fånga mindre dåliga grejer”. Detta, menar vissa experter, var den mest oroande aspekten av Metas tillkännagivande. Medordföranden för Metas tillsynsstyrelse berättade för BBC att det fanns ”stora problem” med vad Zuckerberg hade gjort. Så vad händer härifrån? Detaljerna om Metas nya planer för att hantera desinformation är knappa. I princip tror vissa experter att gemenskapsanteckningssystem kan vara till hjälp – men många tycker också att de inte bör ersätta faktagranskare. Gemenskapsanteckningar är ett ”fundamentalt legitimt tillvägagångssätt”, skriver professor Tom Stafford vid Sheffield University, men plattformar behöver fortfarande professionell faktagranskare också, tror han.” Crowd-sourcing kan vara en användbar komponent i [an] informationsmodereringssystem, men det borde inte vara den enda komponenten.”