FTC säger att AI-skannern ”lurade” användare efter BBC-avslöjanden

Det amerikanska vapenskanningsföretaget Evolv Technology kommer att förbjudas att göra påståenden som inte stöds om sina produkter i en föreslagen uppgörelse med den amerikanska regeringen. Företaget hade hävdat att dess AI-skanner, som används i entréerna till tusentals amerikanska skolor, sjukhus och arenor, kunde upptäcka alla Men BBC-undersökningar visade att dessa påståenden var falska. Evolv sa att de nu har nått en överenskommelse med Federal Trade Commission (FTC), men har inte erkände brott. FTC sa att åtgärden borde vara en varning för andra AI-företag. ”FTC har varit tydlig med att påståenden om teknik – inklusive artificiell intelligens – måste backas upp”, säger Samuel Levine, direktör för Bureau of Consumer Protection .Evolv Technologys uppdrag är att ersätta metalldetektorer med AI-vapenskannrar. Den påstår sig göra detta med artificiell intelligens, som aktivt kan upptäcka dolda vapen som bomber, knivar och vapen. FTC:s klagomål hävdar att företaget bedrägligt annonserade att dess skannrar skulle upptäcka ”alla vapen”. År 2022 beskrev BBC några av de imponerande påståenden som Evolvs dåvarande VD hade gjort om tekniken.” Metallisk sammansättning, form, fragmentering – vi har tiotusentals av dessa signaturer, för alla vapen som finns där ute,” vd Peter George sade 2021. ”Alla vapen, alla bomber och alla stora taktiska knivar.” En BBC-rapport 2022 visade dock att tester som hade funnit att Evolvs system inte på ett tillförlitligt sätt kunde upptäcka vapen eller bomber – efter en begäran om informationsfrihet från säkerheten- analysföretaget IPVM. En annan BBC-rapport 2023 avslöjade detaljer om ett knivhugg i en skola i New York där Evolvs vapen skannrar användes. ”Den hittar verkligen inte knivar” sa den dåvarande superintendenten för Utica Schools till BBC. Och tidigare i år rapporterade BBC att Evolvs påståenden att den brittiska regeringen hade testat och godkänt dess teknologi också var falska. USA:s konsumentvakthunds föreslagna uppgörelse kommer Evolv att förbjudas att göra påståenden som inte stöds om sina produkters förmåga att upptäcka vapen och ge vissa skolkunder möjlighet att avbryta sina kontrakt. Det kommer nu att gå till en domare för godkännande. En talesperson för Evolv sa att den hade arbetat ”samarbete” med byrån. ”FTC ifrågasatte inte den grundläggande effektiviteten hos vår teknik och att resolutionen inte inkluderar någon monetär lättnad”, sade Mike Ellenbogen, tillförordnad vd och VD för Evolv. ”För att vara tydlig, handlade den här förfrågan om tidigare marknadsföringsspråk och inte vårt systems förmåga att tillföra värde till säkerhetsoperationer”, sa han. Det finns en oro bland tjänstemän i USA och Storbritannien om företag som överskattar artificiell intelligenss förmåga att förbättra produkter. I vissa fall är det oklart om artificiell intelligens används överhuvudtaget. FTC har nyligen lanserat ”Operation AI Comply” som riktar sig till företag som gör vilseledande påståenden om AI.