Oron ökar över AI inom vuxenunderhållning

6 juni 2024Av Nicola K Smith, TeknikreporterCybrotellDolls utrustas med artificiell intelligens Senare denna månad kommer människor i Berlin att kunna boka en timme med en AI-sexdocka när världens första cyberbordell lanserar tjänsten efter en testfas. kunna interagera verbalt med AI-dockorna såväl som fysiskt. ”Många människor känner sig mer bekväma att dela privata angelägenheter med en maskin eftersom den inte dömer”, säger Philipp Fussenegger, grundare och ägare av Cybrothel. ”Tidigare var det betydande intresse för en docka med en röstskådespelerska, där användarna bara kunde höra rösten och interagera med dockan. Nu finns det en ännu större efterfrågan på att interagera med artificiell intelligens.” Det är bara ett av många sätt som generativ AI används av vuxenunderhållningsbranschen. Analys av SplitMetrics visade att AI-kompanjonsappar nådde 225 miljoner nedladdningar i Google Play Butik ”Jag förväntar mig att fler apputvecklare noterar denna trend och tittar på hur den här kategorin kan bli ytterligare innovativa och tjäna pengar på”, säger SplitMetrics general manager Thomas Kriebernegg. AI-kompanjoner kan vara lukrativa, säger Misha Rykov, sekretessforskare med Mozilla’s Privacy Ej inkluderad guide. ”Med tanke på att de flesta chatbots tar ut avgifter, och kärntekniken har utvecklats på annat håll [such as Open AI], det ser ut som en verksamhet med hög marginal. Dessa appar samlar också in personuppgifter och delar dem ofta med tredje parter som annonsörer – en beprövad affärsmodell.” Jason Sheldon/Junction 10 PhotographyKerry McInerney säger att vi behöver veta om datamängderna som sexchattbotar tränas på. Men sammanslagningen av AI och vuxenunderhållningsbranschen har ringt varningsklockorna. Ett problem ligger i den fördom som är inneboende i generativ AI, som producerar nytt innehåll baserat på den data som den har tränats på. Det finns en risk att retrograda könsstereotyper om sex och njutning kodas in i sexchatbotar, säger Dr Kerry McInerney, senior forskare vid Leverhulme Center for the Future of Intelligence, vid University of Cambridge. ”Det är avgörande att vi förstår vilka typer av datamängder som används för att träna sexchattbotar, annars vi riskerar att replikera idéer om sex som förnedrar kvinnligt nöje och ignorerar sex som existerar utanför heterosexuella samlag.” Det finns också risk för missbruk, säger Rykov, som säger att AI-chatbotar riktar sig till ensamma människor, särskilt män. ”De flesta av AI-chatbotarna vi granskade har hög beroendeframkallande potential och flera potentiella skador, särskilt för användare med psykiska hälsoproblem.” Mozilla har lagt till innehållsvarningar till flera AI-chatbotar ”eftersom vi hittade teman om övergrepp, våld och minderåriga relationer”, säger Rykov.More Technology Han tog också upp frågan om integritet. Partnerskapschattbotar är utformade för att samla in ”en aldrig tidigare skådad mängd personlig data”. Rykov tillägger att 90 % av apparna som granskas av Mozilla ”kan dela eller sälja personlig data”, medan mer än hälften av apparna inte låter användare radera personliga data data.Andra varnar för den möjliga faran som sådan AI kan ha för verkliga relationer. Tamara Hoyton, senior konsult vid rådgivningstjänsten Relate, påpekar: ”Vissa svårigheter kan uppstå om verkliga möten är djupt nedslående eftersom de inte gör det. stämmer överens med de strikt definierade kraven som användarna upplever i AI-porr.” Hoyton tillägger att AI-porr i vissa fall kan ta användare till farliga områden. ”Det är inget fel med lite fantasi, och många människor blir upphetsade av tankar som de absolut inte har för avsikt att agera på; AI-porr kan ses så här. ”Om det korsas över till ett antagande om samtycke, till exempel en känsla av berättigande, eller att alla kommer att vara det som tänder dig, baserat på användarens upplevelse av AI-objektets efterlevnad, då det är ett problem.” Getty Images Vissa hävdar att AI skulle kunna ersätta mänskliga sexarbetare.Företag som använder AI inom vuxenunderhållningsindustrin erkänner att det finns ett behov av försiktighet, men hävdar att AI har en viktig roll att spela.Philipp Hamburger, chef för AI på Lovehoney , säger att företaget siktar på ”att förbättra den sexuella upplevelsen för sina kunder, snarare än att ersätta den, vilket är en viktig linje att dra”. Andra tror att AI kommer att ha en positiv effekt på sektorn. Ruben Cruz är medgrundare av Barcelona-baserade The Clueless Agency, som skapade en av de första AI-influensrarna, Aitana Lopez. Han påpekar att sexindustrin alltid kommer att finnas, och AI kan hjälpa till att mildra etiska problem genom att se till att innehållet inte skapas med riktiga människor.” Denna förändring syftar till att säkerställa att ingen person, man eller kvinna, måste explicit sexualiseras i framtiden.”