Är AI svaret för fler bättre statliga tjänster?

För 10 minuter sedanAv Pedro Garcia, Technology ReporterGetty Images Regeringar undersöker om AI kan ge tillförlitliga råd Långt innan ChatGPT kom var regeringar angelägna om att använda chatbotar för att automatisera sina tjänster och råd. Dessa tidiga chatbotar ”tendede att vara enklare, med begränsade konversationsförmåga”, säger Colin van Noordt, en forskare om användningen av AI i regeringen och baserad i Nederländerna. Men framväxten av generativ AI under de senaste två åren har återupplivat en vision om effektivare offentlig service, där människoliknande rådgivare kan arbeta alla timmar, svarar på frågor om förmåner, skatter och andra områden där regeringen interagerar med allmänheten. Generativ AI är sofistikerad nog att ge mänskliga svar, och om den tränas på tillräckligt med kvalitetsdata, skulle den i teorin kunna hantera alla möjliga frågor om statliga tjänster.Men generativ AI har blivit välkänd för att göra misstag eller till och med meningslösa svar – så kallade hallucinationer.I Storbritannien har Government Digital Service (GDS) genomfört tester på en ChatGPT-baserad chatbot som heter GOV.UK Chat, som skulle svara på medborgarnas frågor om en rad frågor som rör statliga tjänster. I ett blogginlägg om deras tidiga upptäckter noterade myndigheten att nästan 70 % av de inblandade i rättegången tyckte att svaren var användbara. Det fanns dock problem med ”några” fall av att systemet genererar felaktig information och presenterar den som fakta. Bloggen väckte också oro för att det kan finnas ett felplacerat förtroende för ett system som ibland kan vara fel. ”Sammantaget nådde svaren inte den högsta nivån av noggrannhet som krävs för en webbplats som GOV.UK, där faktaprecision är avgörande. Vi upprepar snabbt det här experimentet för att ta itu med frågorna om noggrannhet och tillförlitlighet.” Getty ImagesPortugal testar en AI-driven chatbotAndra länder experimenterar också med system baserade på generativ AI. Portugal släppte 2023 Justice Practical Guide, en chatbot utformad för att svara på grundläggande frågor om enkla ämnen som äktenskap och skilsmässa Chatboten har utvecklats med medel från Europeiska unionens återhämtnings- och motståndskraftsfacilitet (RRF). Projektet på 1,3 miljoner euro (1,4 miljoner pund; 1,1 miljoner pund) är baserat på OpenAI:s GPT 4.0. Utöver äktenskap och skilsmässa ger den också information om att starta ett företag. Enligt uppgifter från det portugisiska justitieministeriet ställdes 28 608 frågor genom guiden under projektets första 14 månader. den grundläggande frågan: ”Hur kan jag starta ett företag,” det fungerade bra. Men när jag frågade något knepigare: ”Kan jag starta ett företag om jag är yngre än 18, men gift?”, bad den om ursäkt för att jag inte hade information för att besvara den frågan. En källa från ministeriet medger att de fortfarande är bristfälliga när det gäller tillförlitlighet, även om felaktiga svar är sällsynta. ”Vi hoppas att dessa begränsningar kommer att övervinnas med en avgörande ökning av svarens förtroendenivå”, källan säger till mig. Colin van NoordtChatbots bör inte ersätta tjänstemän säger Colin van Noordt. Sådana brister innebär att många experter råder till försiktighet – inklusive Colin van Noordt. ”Det blir fel när chatboten distribueras som ett sätt att ersätta människor och minska kostnaderna.” Det skulle vara ett mer förnuftigt tillvägagångssätt, tillägger han, om de ses som ”en extra tjänst, ett snabbt sätt att hitta information”. Sven Nyholm, professor i etik för artificiell intelligens vid Ludwig Maximilians-universitetet i München, lyfter fram problemet med ansvarighet. ”En chatbot är inte utbytbar med en tjänsteman”, säger han. ”En människa kan vara ansvarig och moraliskt ansvarig för sina handlingar. ”AI-chatbotar kan inte stå till svars för vad de gör. Offentlig förvaltning kräver ansvarighet, och därför kräver den människor.” Nyholm lyfter också fram problemet med tillförlitlighet.” Nyare typer av chatbots skapar illusionen av att vara intelligent och kreativ i en sätt som äldre typer av chatbots inte brukade göra.” Då och då gör dessa nya och mer imponerande former av chatbotar fåniga och dumma misstag – det här kan ibland vara humoristiskt, men det kan potentiellt också vara farligt om folk litar på deras rekommendationer.” Getty ImagesEstonias regering leder vägen när det gäller att använda chatbots Om ChatGPT och andra stora språkmodeller (LLMs) inte är redo att ge viktiga råd, kanske vi skulle kunna titta på Estland för ett alternativ. När det gäller digitalisering av offentliga tjänster , Estland har varit en av ledarna. Sedan början av 1990-talet har man byggt digitala tjänster och 2002 introducerades ett digitalt ID-kort som gör det möjligt för medborgarna att få tillgång till statliga tjänster. Så det är inte förvånande att Estland ligger i framkant när det gäller att introducera chatbots. Nationen håller för närvarande på att utveckla en svit av chatbots. för statliga tjänster under namnet Bürokratt. Estlands chatbotar är dock inte baserade på stora språkmodeller (LLM) som ChatGPT eller Googles Gemini. De använder istället Natural Language Processing (NLP), en teknik som föregick den senaste vågen av AI.Estonias NLP-algoritmer delar upp en förfrågan i små segment, identifierar nyckelord och drar slutledning av det vad användaren vill ha. På Bürokratt använder avdelningarna sin data för att träna chatbotar och kontrollera deras svar. ”Om Bürokratt inte vet svaret kommer chatten att bli överlämnas till kundsupportagent, som tar över chatten och svarar manuellt”, säger Kai Kallas, chef för avdelningen för personliga tjänster vid Estonias Information System Authority. Det är ett system med mer begränsad potential än ett baserat på ChatGPT, som NLP-modeller är begränsade i sin förmåga att imitera mänskligt tal och att upptäcka nyanser i språket. Det är dock osannolikt att de ger felaktiga eller vilseledande svar.” Vissa tidiga chatbots tvingade medborgarna att välja alternativ för frågor. Samtidigt möjliggjorde det större kontroll och insyn i hur chatboten fungerar och svarar”, förklarar Colin van Noordt.” LLM-baserade chatbotar har ofta mycket mer konversationskvalitet och kan ge mer nyanserade svar.” en kostnad av mindre kontroll över systemet, och det kan också ge olika svar på samma fråga,” tillägger han. More Technology of Business