Förbud AI -appar som skapar nakna bilder av barn, säger barnkommissionär

Barnkommissionären för England uppmanar regeringen att förbjuda appar som använder artificiell intelligens (AI) för att skapa sexuellt uttryckliga bilder av barn. Said Rachel de Souza sa att ett totalt förbud behövdes på appar som tillåter ”nudificering” – där riktiga foton är redigerade av AI för att få dem att se nakna. Nämnda barns sexuella övergreppsmaterial var olagligt och att det fanns planer för ytterligare brott för att skapa, inneha eller distribuera AI -verktyg som är utformade för att skapa sådant innehåll. DEEPFAKS är videor, bilder eller ljudklipp gjorda med AI för att titta eller låta verkliga. engaging online to reduce the risk of being targeted, according to the report, ”in the same way that girls follow other rules to keep themselves safe in the offline world – like not walking home alone at night”.Children feared ”a stranger, a classmate, or even a friend” could target them using technologies which could be found on popular search and social media platforms.Dame Rachel said: ”The evolution of these tools is happening at such scale and speed that it can be overwhelming to try and Ta tag i den fara de presenterar. ”Vi kan inte luta oss tillbaka och låta dessa skräddarsydda AI -appar ha ett så farligt grepp över barns liv.” Det är olagligt enligt online -säkerhetsakten för att dela eller hota att dela uttryckliga DeepFake -bilder. Sade att detta inte går tillräckligt långt, med hennes talesman som berättar BBC: ”Det borde inte finnas några nudifierande appar, inte bara inga appar som klassificeras som barnsexuella övergreppsgeneratorer.” I februari Internet Watch Foundation (iwf) – en brittisk välgörenhet delvis finansierad av techföretag – hade bekräftat 245 rapporter av AI -Genered Child Sexual Aguse i 202 jämförelse med 51 i 2003, hade vi en 31 -tal. apps are being abused in schools, and that imagery quickly gets out of control,” IWF Interim Chief Executive Derek Ray-Hill said on Monday.A government spokesperson said creating, possessing or distributing child sexual abuse material, including AI-generated images, is ”abhorrent and illegal”.”Under the Online Safety Act platforms of all sizes now have to remove this kind of content, or they could face significant fines,” they added.”The UK is the first country in the world to introduce further AI child sexual abuse offences – making it illegal to possess, create or distribute AI tools designed to generate heinous child sex abuse material.”Dame Rachel also called for the government to:impose legal obligations on developers of generative AI tools to identify and address the risks their products pose to children and take action in mitigating those risksset up a systemic process to remove sexually explicit deepfake images of children from the internetrecognise deepfake sexual abuse as a form of violence against women and girlsPaul Whiteman, general secretary of school leaders’ union NAHT, said members shared the commissioner’s concerns.He said: ”This is an area that urgently needs to be reviewed as the technology risks outpacing the law and education around it.”Media regulator Ofcom published the final version of its Children’s Code on Friday, which puts legal requirements on platforms hosting pornography and content Uppmuntra självskada, självmord eller ätstörningar, att vidta mer åtgärder för att förhindra tillgång av barn. Webbplatser måste introducera nötkakor i ålderskontroller eller möta stora böter, sade tillsynsmyndigheten. Rachel har kritiserat koden som säger att det prioriteras ”teknikföretagens affärsintressen framför barns säkerhet”.