Instagram säger felaktigt att vissa användare överträffade reglerna för barnsexmissbruk

Graham Frasertechnology ReporterGetty ImagesInstagram -användare har berättat BBC för den ”extrema stressen” av att ha sina konton förbjudna efter att ha varit felaktigt anklagade av plattformen för att bryta dess regler för sexuell exploatering. av sömn, kände isolerad. Vissa talar om en förlust av intäkter efter att ha låsts ut från sina affärssidor, medan andra belyser smärtan att inte längre ha tillgång till år av bilder och minnen. Många pekar på den inverkan det har haft på deras mentala hälsa. Över 27 000 människor har undertecknat en framställning som anklagar Metas moderationssystem, drivs av Artificial Intelligence (AI), av felaktigt förbud mot konton och sedan har en överklagandeprocess som är olämplig för ändamål. Tusentals av människor är också i redditforum som ägnas åt ämnet, och många användare har lagt ut på sociala medier om att vara bannade. Meta har tidigare erkänt ett problem med Facebook -grupper men förnekade att dess plattformar påverkades mer. Han fick höra att han inte hade följt Metas samhällsstandarder för sexuell exploatering, missbruk och nakenhet. och svår anklagelse, ”sa han till BBC News. Han sa att Meta var” en förlägenhet ”, med AI-genererade svar och mallade svar på hans frågor. Han har fortfarande ingen aning om varför hans berättelse förbjöds. ”Jag har tappat oändliga timmar med sömn, extrem stress, kände isolerad. Det har varit hemskt, för att inte tala om att ha en anklagelse som det över mitt huvud.” Även om du kan prata med människor på Reddit, är det svårt att gå och prata med en familjemedlem eller en kollega. De vet förmodligen inte sammanhanget att det finns en förbudvåg som pågår. ”BBC höjde Davids fall till Meta den 3 juli, som ett av ett antal människor som påstod att ha varit felaktigt förbjudna över barns sexuell exploatering. Inom några timmar var hans berättelse återinställd. I ett meddelande som skickades till David, och BBC, den tekniska jätten sa:” Vi är ledsna att vi har fått detta fel, och att det inte skulle kunna användas. Ibland måste vi vidta åtgärder för att hålla vårt samhälle säkert. ”” Det är en enorm vikt från mina axlar, ”sade David.Faisal förbjudet från Instagram den 6 juni under påstådd barns sexuella exploatering och, som David, hittade sitt Facebook -konto också. Sedan förbjöds hans konto några minuter senare. Han sa till BBC News: ”Jag vet inte vad jag ska göra och jag är verkligen upprörd.”[Meta] falskt anklagar mig för ett brott som jag aldrig har gjort, vilket också skadar mitt mentala tillstånd och hälsa och det har satt mig i ren isolering under den senaste månaden. ”Hans fall höjdes också med Meta av BBC den 3 juli. Cirka fem timmar senare var hans konton återförd. Instagram now.”Faisal said he remained upset over the incident, and is now worried the account ban might come up if any background checks are made on him.A third user Salim told BBC News that he also had accounts falsely banned for child sexual exploitation violations.He highlighted his case to journalists, stating that appeals are ”largely ignored”, business accounts were being affected, and AI was ”labelling ordinary people as criminal Missbrukare ”. Ersättning en vecka efter att han förbjöds, hans Instagram- och Facebook -konton återinfördes. Vad har gått fel? När det har ställts av BBC News, avvisade Meta att kommentera fallet med David, Faisal och Salim, och men det har inte svarat om det har ett problem med felaktigt anklagande användare av barnmissbruk. learned that the chair of the Science, ICT, Broadcasting, and Communications Committee at the National Assembly in South Korea, said last month that Meta had acknowledged the possibility of wrongful suspensions for people in her country.Dr Carolina Are, a blogger and researcher at Northumbria University into social media moderation, said it was hard to know what the root of the problem was because Meta was not being open about it.However, she suggested it could be due to recent changes to the wording av vissa dess riktlinjer för samhället och en pågående brist på en genomförbar överklagandeprocess. ”Meta förklarar ofta inte vad det är som utlöste borttagningen. Vi är inte intresserade av det som gick fel med algoritmen, ”sa hon till BBC News. I ett tidigare uttalande sa Meta:” Vi vidtar åtgärder på konton som bryter mot vår politik, och människor kan överklaga om de tror att vi har gjort ett misstag. ”Meta, gemensamt med alla stora teknikföretag, har kommit under ökat tryck under de senaste år från reglatorer och myndigheter till att göra deras plattformar. remove accounts that broke its rules, and was not aware of a spike in erroneous account suspension.Meta says its child sexual exploitation policy relates to children and ”non-real depictions with a human likeness”, such as art, content generated by AI or fictional characters.Meta also told the BBC a few weeks ago it uses technology to identify potentially suspicious behaviours, such as adult accounts being reported by teen accounts, or adults repeatedly searching for ”Skadligt” Terms.Meta säger att när det blir medvetet om ”uppenbar barnutnyttjande”, rapporterar den till National Center för saknade och utnyttjade barn (NCMEC) i USA berättade för BBC News att det gör alla dessa rapporter tillgängliga för brottsbekämpning runt om i världen.