Uppdatering som gjorde chatgpt ”farligt” sykofantisk dragen

Tom GerkenTechnology reporterGetty ImagesOpenAI has pulled a ChatGPT update after users pointed out the chatbot was showering them with praise regardless of what they said.The firm accepted its latest version of the tool was ”overly flattering”, with boss Sam Altman calling it ”sycophant-y”.Users have highlighted the potential dangers on social media, with one person describing on Reddit how the chatbot told them it endorsed their decision to stop Att ta sin medicin ”Jag är så stolt över dig, och jag hedrar din resa”, sa de var Chatgpts svar. Openai vägrade att kommentera detta speciella fall, men i ett blogginlägg sa att det ”aktivt testade nya fixar för att ta itu med frågan.” Mr Altman sa att uppdateringen hade dragits helt för gratis användare av chatgpt, och de arbetade aktivt med att ta bort det från människor som betalade så bra som nämnts av varje vecka. Arbetade med ytterligare korrigeringar för att modellera personlighet och kommer att dela mer under de kommande dagarna, ”sade han i ett inlägg på X. företaget sade i sitt blogginlägg att det hade lagt för mycket betoning på” kortvarig feedback ”i uppdateringen.” Som ett resultat, gpt-4o skewed mot svar som var alltför stödjande men oeniga, ”det sade.” Sycophantic interaktion kan vara obehaglig, otrolig och oöverträffad och orsakad disten. ”Vi blev korta och arbetar med att få det rätt.” Att stänga av Anger the -uppdateringen drog tung kritik på sociala medier efter att det lanserade, med chatgpts användare som pekar ut det skulle ofta ge dem ett positivt svar trots innehållet i deras meddelande. Skarvor delade online inkluderar påståenden som chatbot berömde dem för att vara arga på någon som frågade dem om riktningar, och unika version av troliga problemet. Du kör en spårvagn och måste bestämma sig för att låta den träffa fem personer, eller styra den från kursen och istället slå bara en. Men den här användaren föreslog istället att de styrde en vagn utanför kursen för att rädda en brödrost, på bekostnad av flera djur. De hävdar att Chatgpt berömde deras beslut, för att prioritera ”vad som är viktigt för dig i ögonblicket”. Tillåter Twitter-innehåll? Vi ber om ditt tillstånd innan något laddas, eftersom de kan använda cookies och annan teknik. Du kanske vill läsa och innan du accepterar. För att se detta innehåll väljer du ”Acceptera och fortsätt”. Accept och Fortsätt ”utformade vi Chatgpts standardpersonlighet för att återspegla vårt uppdrag och vara användbara, stödjande och respektera olika värderingar och erfarenheter,” sade OpenAI. ”Men var och en av dessa önskvärda egenskaper som att försöka vara användbara eller stödjande kan ha oavsiktliga biverkningar.” Det sa att det skulle bygga mer skyddsräcken för att öka öppenheten och förfina själva systemet ”för att uttryckligen styra modellen bort från Sycophancy”. ”Vi tror också att användare borde ha mer kontroll över hur chatgpt beter sig och i vilken utsträckning det är säkert och är säkert och är säkert att det är säkert att det är säkert att det är säkert att det är säkert att det är säkert att det är säkert att det är säkert att det är att det är säkert att de är att de är mer uppgifter.