Apple uppmanade att ta bort AI-funktionen efter att den skapat falsk rubrik

Getty ImagesLuigi Mangione, som åtalas för mord av första graden, var föremål för en falsk rubrik som tillskrivits BBC News förra veckan. Ett stort journalistiskt organ har uppmanat Apple att skrota sin nya generativa AI-funktion efter att den skapat en missvisande rubrik om en högprofilerad mord i USA. BBC gjorde ett klagomål till den amerikanska teknikjätten efter Apple Intelligence, som använder artificiell intelligens (AI) för att sammanfatta och gruppera meddelanden, skapade felaktigt en rubrik om den mordmisstänkte Luigi Mangione. Den AI-drivna sammanfattningen fick det felaktigt att se ut som att BBC News hade publicerat en artikel som hävdade Mangione, mannen som anklagades för mordet på sjukvårdsförsäkringens vd Brian Thompson i New York , hade skjutit sig själv. Det har han inte. Nu har gruppen Reportrar utan gränser uppmanat Apple att ta bort tekniken. Apple har inte lämnat några kommentarer. BBC NewsA zoomade in iPhone-skärmdump av den missvisande BBC-anmälan Apple Intelligence lanserades i Storbritannien förra veckan. Reportrar utan gränser, även känd som RSF, sa att de var ”mycket oroade över riskerna för media” av AI-verktyg. Gruppen sa att BBC-incidenten bevisar att ”generativa AI-tjänster fortfarande är för omogna för att producera tillförlitlig information för allmänheten ”. Vincent Berthier, chefen för RSF:s teknik- och journalistdesk, tillade: ”AI: er är sannolikhetsmaskiner, och fakta kan inte avgöras med ett tärningskast. ”RSF uppmanar Apple att agera ansvarsfullt genom att ta bort den här funktionen. Den automatiserade produktionen av falsk information som tillskrivs ett medieställe är ett slag mot kanalens trovärdighet och en fara för allmänhetens rätt till tillförlitlig information om aktuella förhållanden.” Apple har inte lämnat några kommentarer sedan historien bröts förra veckan. När den grupperade anmälan som involverade BBC News framkom, sade en talesman från BBC att företaget hade kontaktat Apple ”för att ta upp denna oro och åtgärda problemet. Underrättelsen som gjorde ett falskt påstående om”. Mangione var annars korrekt i sina sammanfattningar om störtandet av Bashar al-Assads regim i Syrien och en uppdatering om Sydkoreas president Yoon Suk Yeol. BBC har ännu inte bekräftat om Apple har svarat på deras klagomål. Mangione har nu åtalats för första gången -gradigt mord i dödandet av Mr Thompson. Ken Schwencke En skärmdump av en gruppanmälan från New York Times sades också vara missvisande. BBC verkar inte vara den enda nyhetsutgivaren som har fått rubriker som felaktigt framställts av Apples nya AI-teknik. Den 21 november grupperades tre artiklar från New York Times i en anmälan – där den ena delen läste ”Netanyahu arresterad”, med hänvisning till den israeliska premiärministern. Den sammanfattade en felaktig rapport om Internationella brottmålsdomstolen som utfärdade en arresteringsorder för Netanyahu, snarare än någon rapportering om att han blivit arresterad. Misstaget lyftes fram på Bluesky av journalisten Ken Schwencke med den amerikanska undersökande journalistikwebbplatsen ProPublica. Herr Schwencke berättade för BBC News att han tog skärmdumpen och bekräftade att den var verklig. New York Times har avböjt att kommentera.Vad är Apple Intelligence-aviseringssammanfattningen?Som en del av lanseringen av Apple Intelligence tillåter Apple användare att gruppera aviseringar.Apple sa att kunderna kanske skulle gilla detta för att minska avbrotten som orsakas av pågående meddelanden. Den är endast tillgänglig på vissa iPhones – de som använder iOS 18.1-systemversionen eller senare på nyare enheter (alla iPhone 16-telefoner, 15 Pro och 15 Pro Max). Det är också tillgängligt på vissa iPads och Macs. De grupperade aviseringarna är markerade med en specifik ikon, och användare kan rapportera eventuella problem de har i en meddelandesammanfattning. Apple har inte beskrivit hur många rapporter de har fått. Apple Intelligence sammanfattar inte bara förlagens artiklar, och det har rapporterats att sammanfattningarna av e-postmeddelanden och textmeddelanden ibland inte riktigt har träffat målet.