”Folk är helt enkelt inte oroliga för att bli lurade”

22 maj 2024Av Jane Wakefield, Teknikreporter Clark HoefnagelsClark Hoefnagels skapade ett AI-drivet verktyg som upptäcker bluffmejl När Clark Hoefnagels mormor blev lurad på 27 000 $ (21 000 pund) förra året kände han sig tvungen att göra något åt ​​det.” familjen var sårbar, och jag behövde göra något för att skydda dem”, säger han. ”Det fanns en känsla av ansvar att ta itu med allt det tekniska för min familj.” Som en del av hans ansträngningar, Mr Hoefnagels, som bor i Ontario, Kanada, körde bedrägeri- eller ”nätfiske”-e-postmeddelanden som hans mormor hade fått genom den populära AI-chatboten ChatGPT. Han var nyfiken på om det skulle känna igen dem som bedrägliga, och det gjorde det omedelbart. Ur detta föddes en idé, som sedan har vuxit till en verksamhet som heter Catch. Det är ett AI-system som har tränats för att upptäcka bedrägerimeddelanden. För närvarande kompatibel med Googles Gmail, Catch skannar inkommande e-postmeddelanden och lyfter fram alla som anses vara bedrägliga, eller potentiellt så.AI-verktyg som ChatGPT, Google Gemini, Claude och Microsoft Copilot är också kända som generativ AI. Detta beror på att de kan generera nytt innehåll. Från början var detta ett textsvar som svar på en fråga, förfrågan eller att du startade en konversation med dem. Men generativa AI-appar kan nu i allt högre grad skapa foton och målningar, rösta innehåll, komponera musik eller skapa dokument. Människor från alla samhällsskikt och branscher använder i allt högre grad sådan AI för att förbättra sitt arbete. Tyvärr så är det också bedragare. Faktum är att det finns en produkt som säljs på den mörka webben som heter FraudGPT, som gör det möjligt för brottslingar att skapa innehåll för att underlätta en rad bedrägerier, inklusive att skapa bankrelaterade nätfiske-e-postmeddelanden eller för att skräddarsy bluffwebbsidor designade att stjäla personlig information. Mer oroande är användningen av röstkloning, som kan användas för att övertyga en släkting om att en närstående är i behov av ekonomisk hjälp, eller till och med i vissa fall för att övertyga dem om att individen har blivit kidnappad och behöver en lösensumma betalt. Det finns ganska alarmerande statistik där ute om omfattningen av det växande problemet med AI-bedrägerier. Rapporter om AI-verktyg som används för att försöka lura bankernas system ökade med 84 % 2022, vilket motsvarar de senaste siffrorna från anti- bedrägeriorganisationen Cifas. Det är en liknande situation i USA, där en rapport denna månad sa att AI ”har lett till en betydande ökning av sofistikeringen av cyberbrottslighet”. Getty Images Studier visar att bedragare i allt högre grad använder sig av AIG med tanke på detta ökade globala hot. , skulle du kunna tänka dig att Mr Hoefnagels Catch-produkt skulle vara populär bland allmänheten. Tyvärr har det inte varit fallet. ”Folk vill inte ha det”, säger han. ”Vi fick reda på att folk inte är oroliga för bedrägerier, även efter att de blivit lurade.” Vi pratade med en kille som förlorade 15 000 dollar och sa till honom att vi skulle ha fångat mejlet, och han var inte intresserad. Folk är inte intresserade av någon skyddsnivå.” Herr Hoefnagels tillägger att just den här mannen helt enkelt inte trodde att det skulle hända honom igen. Gruppen som är orolig för att bli lurad, säger han, är äldre människor. Men i stället för att köpa skydd säger han att deras rädsla oftare dämpas av en mycket lågteknologisk taktik – deras barn säger helt enkelt till dem att de inte ska svara eller svara på någonting. Herr Hoefnagels säger att han har full förståelse för detta tillvägagångssätt. ”Efter det som hände min mormor sa vi i princip ”svar inte i telefonen om det inte finns i dina kontakter, och gå inte på e-post längre”. Som ett resultat av den apati som Catch har mött säger Hoefnagel att hans Alternativen är att hitta en lämplig partner med befintliga finansiella produkter, eller avveckla verksamheten. Även om individer kan vara blaserade om bedrägerier och bedragare i allt högre grad använder AI specifikt, har bankerna inte råd att vara det. Två tredjedelar av finansföretagen ser nu AI-drivna bedrägerier som ”ett växande hot”, enligt en global undersökning från januari. Samtidigt sa en separat brittisk studie från december förra året att ”det bara var en tidsfråga innan bedragare använder AI för bedrägerier och bedrägerier i stor skala”. Tack och lov är banker använder nu alltmer AI för att slå tillbaka.AI-driven mjukvara tillverkad av norska startupen Strise har hjälpt europeiska banker att upptäcka bedrägliga transaktioner och penningtvätt sedan 2019. Den trålar automatiskt och snabbt igenom miljontals datapunkter per dag och avslöjar dolda risker. ”Det finns många pusselbitar du måste hålla ihop, och AI-mjukvara gör att kontroller kan automatiseras”, säger Strise medgrundare Marit Rødevand. ”Det är en mycket komplicerad verksamhet, och efterlevnadsteam har utökats drastiskt i de senaste åren, men AI kan hjälpa till att sammanfoga den här informationen väldigt snabbt.” Rødevand tillägger att det handlar om att ligga steget före brottslingarna. ”Brottslingen behöver inte bry sig om lagstiftning eller efterlevnad. Och de är också bra på att dela data, medan banker inte kan dela på grund av reglering, så brottslingar kan hoppa på ny teknik snabbare.” Marit RødevandMarit Rødevand säger att kampen för företag som hennes är att ligga före cyberbrottslingarna. ett annat teknikföretag som tillverkar AI-mjukvara för att hjälpa banker att bekämpa bedrägerier, säger att de upptäcker saker som är utöver det vanliga. ”Vi spårar inte bedragarens beteende, istället spårar vi beteendet hos den äkta kunden”, säger Martina King, det angloamerikanska företagets vd. ”Vi bygger en statistisk profil kring hur bra normal ser ut. Vi kan se, baserat på de uppgifter banken har, om något är normalt beteende, eller anomalistiskt och avvikande.” Företaget säger att det nu arbetar med banker som HSBC, NatWest och TSB och har kontrakt i 27 olika länder Tillbaka i Ontario säger Mr Hoefnagels att även om han till en början var frustrerad över att fler medlemmar av allmänheten inte förstår den ökande risken för bedrägerier, förstår han nu att folk helt enkelt inte tror att det kommer att hända dem. ”Det har lett mig att vara mer sympatisk mot individer, och [instead] att försöka pressa företag och regeringar mer.”