Vad är ”AI-tvätt” och varför är det ett problem?

För 7 minuter sedanAv Emma Woollacott, TeknikreporterGetty ImagesAmazon var tvungen att försvara användningen av AI-teknik i sina fysiska livsmedelsbutiker Amazon fick kritiska rubriker i år när rapporter ifrågasatte ”Just Walk Out”-tekniken installerad i många av dess fysiska livsmedelsbutiker. Den AI-drivna systemet gör det möjligt för kunder i sina Amazon Fresh- och Amazon Go-butiker att helt enkelt välja sina varor och sedan lämna. AI:n är öppen för personer som har registrerat sig via en app och använder ansiktsigenkänningsteknik och massor av sensorer och kameror för att räkna ut vad du har valt. Du blir då automatiskt fakturerad. Men redan i april rapporterades det allmänt att i stället för att enbart använda AI, behövde Just Walk Out cirka 1 000 arbetare i Indien för att manuellt kontrollera nästan tre fjärdedelar av transaktionerna. Amazon var snabbt med att hävda att rapporterna var ”felaktigt”, och att personalen i Indien inte granskade videofilmer från alla butiker. Istället stod det att de indiska arbetarna helt enkelt granskade systemet. Amazon tillade att ”det här är inte annorlunda än något annat AI-system som sätter ett högt värde på noggrannhet, där mänskliga granskare är vanliga”. Amazon bekräftade dock också att det skulle minska antalet butiker som använde Just Walk Out-systemet. Oavsett de exakta detaljerna i Amazon-fallet, är det ett högprofilerat exempel på en ny och växande fråga – huruvida företag gör överdrivna påståenden om sin användning av AI. Det är ett fenomen som har kallats ”AI-tvätt” med hänvisning till den miljömässiga ”gröna tvätten”. Men först en påminnelse om vad exakt AI betyder. Även om det inte finns någon exakt definition, tillåter AI datorer att lära sig och lösa problem. AI kan göra detta efter att först ha tränats på enorma mängder information. Den specifika typ av AI som har skapat alla rubriker under de senaste åren är så kallad ”generativ AI”. Det här är AI som är specialiserad på att skapa nytt innehåll, oavsett om det är att ha textkonversationer eller producera musik eller bilder. Chatbots som ChatGPT, Googles Gemini och Microsofts Copilot är populära exempel på generativ AI. När det kommer till AI-tvätt finns det flera typer . Vissa företag hävdar att de använder AI när de faktiskt använder mindre sofistikerade datorer, medan andra överskattar effektiviteten av deras AI jämfört med befintliga tekniker, eller föreslår att deras AI-lösningar är fullt funktionsdugliga när de inte är det. Samtidigt slår andra företag helt enkelt fast en AI-chatbot på sin befintliga icke-AI-operativprogramvara. Även om endast 10 % av nystartade tekniska företag nämnde att de använde AI i sina pitches 2022, steg detta till mer än en fjärdedel 2023, enligt OpenOcean, ett Storbritannien och Finland-baserat investeringsfond för nya teknikföretag. Den förväntar sig att den siffran kommer att bli mer än en tredjedel i år. Och, säger OpenOcean-teammedlemmen Sri Ayangar, konkurrensen om finansiering och viljan att vara i framkant har drivit vissa sådana företag att överdriva sin AI-kapacitet.” Vissa grundare verkar tror att om de inte nämner AI i sin pitch, kan detta sätta dem i underläge, oavsett vilken roll det spelar i deras lösning”, säger Ayangar.” Och från vår analys finns det en betydande skillnad mellan företag som hävdar AI förmågor, och de som visar påtagliga AI-drivna resultat.” Sri AyangarSri Ayangar säger att vissa nystartade chefer känner att de bara måste nämna AIIt är ett problem som tyst har funnits i ett antal år, enligt data från ett annat tekniskt investeringsföretag , MMC Ventures. I en studie från 2019 visade det sig att 40 % av nya teknikföretag som beskrev sig själva som ”AI-start-ups” faktiskt använde praktiskt taget ingen AI alls.” Problemet är detsamma idag, plus ett annat problem”, säger Simon Menahy, general partner på MMC Ventures. Han förklarar att ”moderna AI-kapaciteter” nu är tillgängliga för alla företag att köpa till priset av standardprogramvara. Men istället för att bygga ett helt AI-system säger han att många företag helt enkelt lägger ett chatbot-gränssnitt ovanpå en icke-AI-produkt.Dougal Dick, brittisk chef för framväxande teknologirisk på redovisningsjätten KPMG, säger att problemet med AI-tvätt är inte hjälpt av det faktum att det inte finns en enda överenskommen definition av AI.” Om jag frågade ett rum med människor vad deras definition av AI är, skulle de alla ge ett annat svar”, säger han. ”Termen används väldigt brett och löst. , utan någon tydlig referenspunkt. Det är denna tvetydighet som gör att AI-tvätt kan komma fram.” ”Under tiden kan det för investerare göra det svårare att identifiera verkligt innovativa företag. Och, säger Ayangar: ”Om konsumenter har ouppfyllda förväntningar på produkter som säger sig erbjuda avancerade AI-drivna lösningar, kan detta urholka förtroendet för nystartade företag som gör ett genuint banbrytande arbete.” Tillsynsmyndigheter, åtminstone i USA, börjar lägga märke till det. Tidigare i år sa US Securities and Exchange Commission (SEC) att de anklagade två investeringsrådgivningsföretag för att ha gjort falska och vilseledande uttalanden om omfattningen av deras användning av AI.” det handlar om AI-tvätt, vilket indikerar att vi åtminstone i USA kan förvänta oss fler böter och sanktioner för dem som bryter mot bestämmelserna, säger Nick White, partner på den internationella advokatbyrån Charles Russell Speechlys. Nick WhiteNick White säger att det är bra att se amerikanska tillsynsmyndigheter slå ner på problemet.I Storbritannien finns regler och lagar som täcker AI-tvätt redan på plats, inklusive Advertising Standards Authoritys (ASAs) uppförandekod, som säger att marknadskommunikation inte får vilseledande på ett väsentligt sätt, eller kommer sannolikt att göra det.Michael Cordeaux, assistent i tillsynsteamet vid den brittiska företagsadvokatfirman Walker Morris, säger att AI-påståenden har blivit ett allt vanligare inslag i annonser som är föremål för ASA-utredning. Exempel inkluderar ett betalt Instagram-inlägg om en app rubriken ”Förbättra dina foton med AI”, som av ASA ansågs överdriva appens prestanda och därför var missvisande.” ”, säger Cordeaux. ”Enligt min mening är vi på toppen av AI-hypecykeln”, säger Sandra Wachter, professor i teknik och reglering vid Oxford University och en ledande global expert på AI. ”Men jag känner att vi har glömt att fråga om det alltid är vettigt att använda AI för alla typer av uppgifter. Jag minns att jag såg reklam i London Tube för elektriska tandborstar som drivs av AI. Vem är detta till för? Vem får hjälp av det här?”. Miljöpåverkan från AI förslöjas också ofta, säger hon. ”AI växer inte på träd… tekniken bidrar redan mer till klimatförändringen än flyget. Vi måste gå bort från denna – överhypad diskussion och verkligen tänka på specifika uppgifter och sektorer som AI kan vara till nytta för, och inte bara blint implementera det i allting. Men på längre sikt, säger Advika Jalan, forskningschef på MMC Ventures, problemet med AI tvätten kan avta av sig själv.”AI blir så allestädes närvarande – även om de bara är ChatGPT-omslag – att ”AI-drivet” som ett varumärkesverktyg kommer sannolikt att upphöra att vara en skillnad efter en tid,” säger hon kommer att vara lite som att säga ”vi är på internet”.