I maj fick VD:n för ett utländskt dotterbolag till ett japanskt företag ett e-postmeddelande som löd: "Vi behöver din hjälp, eftersom vi befinner oss i slutskedet av genomförandet av ett köp." Avsändaren påstod sig vara ordföranden för det japanska företaget.

E-postmeddelandet följdes upp av ett telefonsamtal från en ”senior chef” som sa: ”Vi följer upp ärendet vi har kontaktat dig om”. Den påstådda chefen lade på när VD:n, som blev misstänksam, noterade att personen i andra änden av tråden kanske inte var den han påstod sig vara.

VD:n meddelade sedan en oberoende administrativ myndighet som ägnar sig åt IT-säkerhet i Japan, som drog slutsatsen att det var ett försök till bedrägeri. Den påstådda chefens röst lät liknande den person den påstod sig vara, men den var syntetiserad av artificiell intelligens, som även skapade e-postmeddelandet.

Bedrägerier ökar

Generativ AI missbrukas alltmer, med antalet företagsrelaterade bedrägerifall under första halvåret 2023 dubblerade jämfört med året innan, och åtgärder för att bekämpa den negativa sidan av tekniken blir alltmer angelägna.

Enligt Abnormal Security, en amerikansk tjänst för e-postsäkerhet, ökade antalet företagsrelaterade bedrägeriförsök via e-post globalt med 89% under första halvåret 2023 jämfört med samma period året innan. Med i genomsnitt 2,5 bedrägeriförsök per 1 000 e-postbrevlådor per vecka var tillväxttakten mycket snabbare än de 46% som rapporterades under samma period 2022.

I Japan gjordes det 2 322 obehöriga penningöverföringar via internetbank under de första sex månaderna av 2023, en kraftig ökning på 16 gånger jämfört med året innan, enligt National Police Agency. De uppgick till 3 miljarder yen (21 miljoner dollar) när olagliga överföringar satte nya rekord både när det gäller antal och värde.

AI används för att skapa falska webbplatser för phishing-bedrägerier som stjäl lösenord och kreditkortsinformation, vilket leder till obehöriga överföringar. Det är svårt för myndigheterna att identifiera brottslingarna och gripa dem.