”En teknikfirma stal våra röster

BBCPaul Skye Lehrman och Linnea Sage har lämnat in en grupptalan mot Lovo. Uppfattningen att artificiell intelligens en dag skulle kunna ta våra jobb är ett budskap som många av oss kommer att ha hört under de senaste åren. Men för Paul Skye Lehrman har den varningen varit särskilt personlig , skrämmande och oväntat: han hörde sin egen röst leverera den. I juni 2023 körde Paul och hans partner Linnea Sage nära sitt hem i New York City och lyssnade på en podcast om de pågående strejkerna i Hollywood och hur artificiell intelligens (AI) kan påverka branschen. Avsnittet var av intresse eftersom paret är voice-over-artist och – liksom många andra kreativa – är rädda för att mänskligt klingande röstgeneratorer snart kan användas för att ersätta dem. Denna speciella podcast hade en unik hook – de intervjuade en AI-driven chatbot, utrustad med text-till-tal-mjukvara, för att fråga hur den trodde att användningen av AI skulle påverka jobben i Hollywood. Men när den talade lät det precis som herr Lehrman.” bil över”, sa han.”Ironin att AI kommer för underhållningsindustrin, och här är min röst som talar om den potentiella förstörelsen av branschen, var verkligen ganska chockerande.” Den natten spenderade de timmar online och sökte efter ledtrådar tills de kom över platsen för text-till-tal-plattformen Lovo. Väl där sa Sage att hon också hittade en kopia av sin röst. ”Jag blev chockad”, sa hon. ”Jag kunde inte tro det.” ”Ett teknikföretag stal våra röster, gjorde AI-kloner av dem och sålde dem möjligen hundratusentals gånger.” De har nu lämnat in en stämningsansökan mot Lovo. Företaget har ännu inte svarat på det eller BBC:s begäran om kommentarer. Klonkrig Men hur kunde Lovo återskapa deras röster? Paret hävdar att det gjordes under falska förespeglingar. Lovos grundare Tom Lee har tidigare sagt att dess programvara för röstkloning bara behöver en användare att läsa cirka 50 meningar för att skapa en trogen klon.” Vi kan fånga tonen, karaktären, stil, fonem, och även om du har en accent kan vi fånga det också”, sa han till Future Visionaries-podden 2021. I sin rättegång redogjorde paret för hur de säger att Lovo fick just en sådan inspelning från dem. De hävdar att anonyma Lovo-anställda kontaktade dem för att spela in ljudtillgångar på Fiverr, den populära frilansande talangwebbplatsen, där de sålde sina tjänster för att tillhandahålla ljud för tv, radio, videospel och andra medier. Först, 2019, säger Sage en användaren nådde ut och bad henne att spela in dussintals generiska testradiomanus. Testinspelningar används ofta i film och tv för fokusgrupper, interna möten eller som platshållare för pågående arbeten. Eftersom de inte kommer att delas brett kostar dessa inspelningar mycket mindre än ljud som är avsett för sändning. Sage säger att hon slutförde jobbet, levererade filerna och fick 400 $ (303 pund). Ungefär sex månader senare säger Lehrman att han fick en liknande förfrågan om att spela in dussintals generiska radioannonser. I meddelanden som paret har delat med BBC, den anonyma Fiverr-användaren säger att ljudet kommer att användas för forskning om ”talsyntes”. Efter att ha bett användaren att garantera att skripten inte kommer att användas utanför deras specifika forskningsprojekt, frågar Lehrman vad målet med projektet är . ”Skripten kommer inte att användas till något annat”, säger användaren, ”och jag kan ännu inte berätta vad målet är, eftersom det är ett konfidentiellt arbete som pågår, tyvärr haha”. Herr Lehrman frågade om de färdiga filerna skulle återanvändas eller används i en annan ordning. Användaren säger att filerna endast kommer att användas för forskningsändamål. Herr Lehrman säger att han levererade filerna och fick 1 200 USD i betalt. Länken mellan den anonyma användaren och Lovo kom, säger de, från Lovo själv. De delade bevisen de hade hittat på att deras röster klonats med Lovo – som svarade att de inte hade gjort något fel, pekar på kommunikationen mellan dem den anonyma användaren som bevis på att de engagerade sig lagligt med paret. ”Under våra karriärer har vi levererat över 100 000 ljudtillgångar,” sa Lehrman om deras arbete med Fiverr under mer än ett decennium. ”Vi kunde hitta den här nålen i en höstack – de gav oss den här nålen i en höstack.” I båda fallen säger både Lehrman och Sage att de inte hade något skriftligt kontrakt, bara dessa samtal. BBC har inte kunnat verifiera hela deras konversationer. Paret säger att användaren de pratade med också verkar ha raderat några meddelanden. BBC kontaktade Lovo vid flera tillfällen för att begära en intervju med Mr Lee och för att få svar på parets påståenden. De svarade inte på något av våra meddelanden. Vad säger lagen? Stämningen som paret lämnade in i maj hävdar att Lovo använde inspelningar av sina röster för att skapa kopior som olagligt konkurrerar med Sage och Mr Lehrmans verkliga röster. Paret säger att företaget gjorde det utan tillstånd eller vederbörlig kompensation. Det är en grupptalan – vilket betyder att de hoppas att andra käranden kommer att ansluta sig till den, även om ingen hittills har gjort det. Professor Kristelia Garcia, expert på immaterialrätt vid Georgetown University i Washington DC, säger att Fallet kommer sannolikt att fokusera på ett område av amerikansk lag som kallas publicitetsrättigheter. Ibland kallas personlighetsrättigheter, kränkningar av ens publicitet kommer ofta från missbruk eller felaktig framställning av någons bild eller röst. Hon säger också att det sannolikt kan vara ett avtalsbrott angående de licenser som Ms Sage och Mr Lehrman beviljade användaren som beställde inspelningarna.” Licenser är tillstånd för en mycket specifik och snäv användning. Jag kanske ger dig en licens att använda min pool en eftermiddag, men det betyder inte att du kan kom när du vill och ha en fest i min pool,” sa hon till BBC. ”Det skulle överskrida villkoren för licensen.” författare, illustratörer och musiker som inte vill tappa kontrollen över sitt arbete och försörjning. Och de är sannolikt bara toppen av isberget. Den här veckan sa finansföretaget Klarna att de planerar att använda AI för att halvera sin personalstyrka. Vissa experter förutspår att 40 % av alla jobb så småningom kommer att påverkas av AI. För herr Lehrman och Ms Sage, även om den oroande framtiden utspelar sig nu.” kändes så overkligt,” sa Sage.”När vi tänkte på artificiell intelligens tänkte vi på att AI skulle vika vår tvätt och laga middag till oss, inte att fullfölja människans kreativa ansträngningar.” Du kan höra mer om den här historien på Tech Life, på BBC låter.