Dieven hebben meer dan $240,000 gestolen door stemimitatie software te gebruiken om een werknemer van een bedrijf om de tuin te leiden. De dieven gebruikten een deepfake AI-stem van een belangrijke persoon binnen het bedrijf om de werknemer het bedrag over te laten schrijven naar een ander account. Volgens onderzoekers is dit de eerste, openbare AI-overval.

AI-technologie, zoals deepfakes, kunnen zeer nauwkeurig de klank van iemand zijn stem imiteren of zelfs kopiëren. Dit gebeurde bij een manager van het bedrijf wanneer hij een telefoontje kreeg van iemand waarvan hij dacht dat het zijn baas was. De ‘baas’ vertelde hem dat hij het geld naar een Hongaarse rekening moest sturen om ‘bekeuringen wegens te laat betalen’ te voorkomen.

Volgens de verzekeraar van het bedrijf, Euler Hermes, die de details van de overval aan The Washington Post vertelde, was de AI erg overtuigend. “De AI wist de stem, en meer dan de stem, ook de intonatie, interpunctie en het Duitse accent perfect na te doen”, van de baas van het bedrijf. Het nieuws van de overval werd door The Wall Street Journal bericht.

De werknemer die met de AI sprak zei dat de vraag “nogal gek” was, maar de stem was zo geloofwaardig dat hij besloot om te doen wat hem werd verteld.

AI stemimitatie software is momenteel één van de projecten die wordt gepusht door verschillende AI startups. Google werkt aan de technologie samen met andere kleine bedrijven zoals Lyrebird. Deze bedrijven zeggen dat AI-gegenereerde stem-software kan helpen bij mensen die stom zijn en maken geautomatiseerde telefoontjes realistischer.

Sceptici geloven dat AI-technologie die stemmen van echte mensen kunnen imiteren tot meer criminaliteit kan leiden, zoals deze overval. Sociale mediabedrijven werken er al aan om AI deepfakes ervan te weerhouden om gebruikers in de val te lokken en hen valse informatie te laten geloven.

Deze misdaden hebben startups zoals Lyrebird er niet van weerhouden om verder te gaan met het werk. In een statement staat te lezen dat het bedrijf de technologie op een verantwoordelijke manier gaat ontwikkelen. Anderen zijn blij met deepfakes om ludieke YouTube videos te maken, óf honderdduizenden dollars te stelen van bedrijven.

Bron: IGN