Apple AI -verktyget transkriberade ordet ”rasist” som ”Trump”

Apple säger att det arbetar för att fixa sitt tal-till-text-verktyg efter att vissa användare på sociala medier fann att när de talade ordet ”rasist” i sina iPhones skrev det ut det som ”Trump.” Teknikagiganten har föreslagit frågan med dess Diktationstjänsten har orsakats av ett problem som den har skilja mellan ord med en ”r” i dem. ”Vi är medvetna om ett problem med taligenkänningsmodellen som driver diktat och vi rullar ut en fix idag”, en Apple talesman sa. Men en expert på taligenkänning berättade för BBC att denna förklaring var ”bara inte trolig.” Peter Bell, professor i talteknologi vid University of Edinburgh, sa att det var mer troligt att någon hade förändrat den underliggande programvaran som verktyget använde. Videos delade online visar människor som talar ordet ”rasist” i diktationsverktyget. Korrekt – men vid andra tillfällen förvandlas det till ”Trump”, innan det snabbt återställs till rätt ord. BBC har inte kunnat replikera misstaget, vilket tyder på att Apples fix redan tar Effect.Prof Bell sa att Apples förklaring av fonetisk överlappning inte var meningsfull eftersom de två orden inte var tillräckligt lika för att förvirra ett konstgjord intelligens (AI) -system. Modeller för spech-to-text-igenkänning tränas genom att mata in klipp av riktiga människor som talar tillsammans med en konstgjord intelligens exakt utskrift av vad de säger. De lärs också att förstå ord i sammanhang – till exempel kan de skilja ordet ”kopp” från ”klippa” om det var inom frasen ”en kopp av Te ”.Prof Bell säger att situationen med Apple troligtvis inte är ett verkligt misstag med sina uppgifter eftersom dess engelskspråkiga modell skulle tränas på hundratusentals timmars tal, vilket borde ge det en hög nivå av noggrannhet. För ”mindre väl resurade språk” sa han att det kan vara en AI-utbildningsfråga. Men han sa i det här fallet: ”Det pekar förmodligen på någon som har tillgång till processen.” En tidigare Apple-anställd som arbetade på sin AI-assistent Siri Berättade New York Times: ”Detta luktar som en allvarlig prank.” Apple var tvungen att ro tillbaka en annan AI-driven funktion förra månaden efter klagomål från BBC och andra nyhetsorganisationer. Den avbröt sina AI -sammanfattningar av nyhetsrubriker efter att det visade falska meddelanden om berättelser – inklusive en där den sa att tennisspelaren Rafael Nadal hade kommit ut som gay. Företaget meddelade igår att det skulle investera $ 500 miljarder (£ 395 miljarder) i USA över USA Nästa fyra år, inklusive på ett stort datacenter i Texas för att driva Apple Intelligence. Företagets verkställande direktör Tim Cook sa också att det kan behöva ändra sin policy för mångfald, Equity and Inclusion (DEI) efter att president Donald Trump har begärt ett slut på DEI -program.