Macrons DeepFakes väcker frågor över AI -användning

Den franska presidenten Emmanuel Macron har använt AI-genererade DeepFake-videor för att publicera början av AI-åtgärdsmötet som äger rum i Paris. I en video som publicerades på sina sociala mediekonton reagerar Macron på en montage av djupfakade videor av sig själv i populära filmer och TV -serier genom att säga ”snyggt gjort”. Videos av Macron infogas i populära medier, med AI, har cirkulerat på franska sociala Media de senaste månaderna. I oktober berättade han för Variety att Deepfakes ”kan vara en form av trakasserier” för vissa människor. Några experter har ifrågasatt användningen av Deepfakes och säger att normalisering av dem gör det svårare att upptäcka falska nyheter. Montagen av Deepfakes, som har sett Miljontals gånger över presidentens Instagram, X- och Tiktok -konton, visar honom in i en 1980 -tals Euro Disco -hit, en influencers hårstudie och Action Hero TV -show MacGyver. Videor som dessa har varit populära för franska sociala medier ett tag, så detta är att Macron erkänner att han har blivit ett meme bland vissa sociala mediekretsar. Då säger den riktiga Macron: ”Det är ganska bra gjort, det fick mig att skratta.” ”Men mer allvarligt, med konstgjord intelligens, kan vi göra några mycket stora saker: förändra hälso- och sjukvård, energi, liv i vårt samhälle,” 47-åriga -Old President sa. Han tillägger: ”Frankrike och Europa måste vara kärnan i denna revolution för att utnyttja varje möjlighet och även för att främja våra egna principer.” Videon publicerades före ett två-dagars globalt AI-toppmöte som börjar i Paris på måndag. Syftet med Toppmötet är att förena världsledare, tekniska chefer och akademiker för att undersöka AI: s påverkan på samhället, styrningen och miljön. ”President Macrons Deepfake kan verka som ofarligt roligt att främja AI -toppmötet i Paris, men det är inte i allmänhet en Bra, ”säger Paul McKay, huvudanalytiker på teknikkonsultföretaget Forrester. ”Att normalisera djupfakningar på detta sätt bör inte uppmuntras eftersom det fortsätter svårigheten med att berätta vad som är verkligt och vad som inte är och i slutändan hjälper till att fastställa vad som är faktum från fiktion.” Dr Richard Little från Salford Business School varnar också för Risken för att ”normalisera” DeepFakes -videor ”, både på sociala medier och av bedragare”. Han tillägger: ”Det är fantastiskt att uppmärksamma detta hot, men att göra det på ett sätt som visar hur lätt det är att skapa DeepFakes riskerar deras bredare antagande.” Prof Philip Howard, president för den internationella panelen om informationsmiljön, säger AI används alltmer ”på innovativa, ibland lekfulla sätt, vilket visas av president Macrons senaste video.” Men han tillägger: ”Dessa typer av videor släpps ofta när riktlinjerna för offentlig kommunikation inte är tydliga.” Det har varit en viss debatt i de franska medierna om huruvida Macron borde trivialisera DeepFake -videor när de kan användas för skada. Genom att påföra de människor som sprider detta innehåll för att moderera det ”. EU: s nyligen genomförda AI-lag, som reglerar användningen av konstgjord intelligens, har mött kritik vid toppmötet för kvävande innovation. Blocken har också avslöjat planer för ett Europa-hela , öppen källkod AI -modell med en budget på 37,4 miljoner euro (31,1 miljoner pund). En global deklaration om delade AI -mål och etiska ansvar kommer att avslöjas i slutet av toppmötet imorgon. Så långt USA och Storbritannien har både båda vägrade att säga om de kommer att underteckna det.