Openai -chef säger att chatgpt snart tillåter erotik för verifierade vuxna

Lily JamaliNorth America Technology Correspondent andLiv McMahonBBC Technology JournalistReutersFILE PHOTO: OpenAI logo is seen in this illustration taken May 20, 2024. REUTERS/Dado Ruvic/Illustration/File PhotoOpenAI plans to allow a wider range of content, including erotica, on its popular chatbot ChatGPT as part of its push to ”treat adult users like adults”, says its boss Sam Altman.In a post on X På tisdagen sa Altman att kommande versioner av den populära chatboten skulle göra det möjligt för den att bete sig på ett mer mänskligt liknande sätt – ”men bara om du vill ha det, inte för att vi är användning maxxing”. Rörelsen, påminner om Elon Musks xai Nyligen introduktion av två sexuellt uttryckliga chatbots till grok, kan hjälpa öppet mer betalande. på chatbot-följeslagare. Openai svarade inte på BBC: s begäran om kommentar efter Altmans post.Changes som tillkännagavs av företaget kom efter att det stämdes tidigare i år av föräldrar till en amerikansk tonåring som tog sin egen liv. som den sade var utformade för att främja en hälsosammare användning av sin chatbot – och sa att de inte gick tillräckligt långt. Familjen inkluderade chattloggar mellan Adam, som dog i april, och chatgpt som visar honom att förklara att han har självmordstankar. Altman sa att Openai tidigare gjorde chatgpt ”ganska begränsande att se till att vi var försiktiga med mentala hälsoproblem”. wanted to get this right,” Mr Altman said.He said the company has now been able to mitigate the serious mental health risks and have new tools allowing it to ”safely relax the restrictions in most cases”.”In December, as we roll out age-gating more fully and as part of our ’treat adult users like adults’ principle, we will allow even more, like erotica for verified adults,” he said.Critics say OpenAI’s decision to allow erotica on the Plattformen visar behovet av mer reglering på federala och statliga nivåer. ”Hur kommer de att se till att barn inte kan komma åt de delar av chatgpt som är endast vuxen och ger erotik?” sa Jenny Kim, en partner på advokatbyrån Boies Schiller Flexner. ”Öppna AI, som det mesta av Big Tech i detta utrymme, använder bara människor som marsvin.” Fru Kim är involverad i en rättegång mot meta som hävdar att företagets Instagrams algoritm skadar tonåringens mentala hälsa. ”Vi vet inte ens om deras åldersgrind kommer att fungera,” sade hon. I april rapporterade TechCrunch att OpenAI tillät konton där en användare hade registrerat sig som mindreårig för att generera grafisk erotik. Genom den statliga lagstiftaren som skulle ha blockerat utvecklare från att erbjuda AI Chatbots följeslagare till barn om inte företagen kunde garantera att programvaran inte skulle föda skadliga beteenden. Den amerikanska senaten Förra månaden infördes tvåpartslagstiftningen som skulle klassificera AI -chatbots som produkter. Lagen skulle göra det möjligt för användare att lämna in ansvarsanspråk mot chatbot -utvecklare. MR Altmans tillkännagivande på tisdag kommer eftersom skeptiker har ifrågasatt den snabba ökningen av värdet av AI -teknikföretag. Openais intäkter växer men det har aldrig varit lönsamt.