Voice cloning

Wat is voice cloning?

Stel je voor dat je een telefoontje beantwoordt van een bekende collega of familielid die dringend om persoonlijke informatie vraagt of aandringt op een financiële transactie. Alles lijkt echt omdat de stem onmiskenbaar van hen is. Maar wat als dat niet het geval is? Wat als de persoon aan de andere kant van de lijn een volslagen vreemde is die je probeert te misleiden? Dit is stemkloning – het geavanceerde proces waarbij een digitale replica van iemands stem wordt gecreëerd met behulp van kunstmatige intelligentie.

En met de nieuwste ontwikkelingen in AI is stemkloning een krachtig hulpmiddel geworden dat zowel voor innovatieve als kwaadaardige doeleinden wordt gebruikt. Verantwoord gebruikt biedt het ons toegang tot creatieve en toegankelijke oplossingen zoals gepersonaliseerde digitale assistenten, voice-overs in verschillende talen en het herstellen van spraak voor mensen met medische aandoeningen. Echter, wanneer er misbruikt van wordt gemaakt, kan het een middel worden voor fraude en misinformatie. Deze mogelijkheid om snel en effectief realistische stemmen te creëren, opent de weg naar een tijdperk waarin hackers meer dan ooit gebruik maken van social engineering tactieken.

Een recente studie door McAfee laat zien dat één op de vier mensen te maken heeft gehad met een aanval van stemkloning of iemand kent die dit heeft meegemaakt, waarbij 77% geld verloor als gevolg. Maar de aanvallers gebruiken stemkloning niet alleen voor het voor ontfutselen van kleine bedragen. Ze zijn zelfs zo ver gegaan om de stem van een jong meisje te gebruiken voor een nepontvoering, waarbij haar moeder werd aangespoord om $ 1 miljoen losgeld te betalen. Hoewel de moeder snel haar dochter kon bellen en bevestigen dat het een nepstem was die haar belde, lieten de angstaanjagende vier minuten die ze beleefde blijvende sporen na.

Hoe cybercriminelen generatieve AI gebruiken voor oplichting door stemkloning

De technologie van deepfakes is niet nieuw, maar de wijdverspreide – en effectieve – toepassing ervan op stemkloning is de afgelopen jaren enorm geëvolueerd. Het vormt inmiddels een belangrijk onderdeel van het uitgebreide arsenaal van cybercriminelen. AI-gestuurde deep learning modellen hebben stemklonen realistischer gemaakt dan ooit tevoren. Nieuwe neurale netwerktools zoals Google’s Tacotron, WaveNet en Lyrebird stellen gebruikers in staat om elke stem te repliceren en te gebruiken om tekstinput ‘voor te lezen’. Deze modellen imiteren niet alleen, maar repliceren ook de subtiliteiten, intonaties en kenmerkende eigenschappen van iemands stem met verbluffende nauwkeurigheid. Vaak doen ze dat op basis van slechts een kort audiofragment – hoewel hoe langer het fragment, hoe nauwkeuriger de stemkloning.

Deze technologie is niet onopgemerkt gebleven door hackers, die het zien als een krachtig hulpmiddel in hun bedrieglijke tactieken. Stemkloning stelt hen in staat om hun aanvallen overtuigender te maken door deze technologie te combineren met andere tactieken in een en dezelfde aanval – wat ‘multichannelaanvallen’ wordt genoemd. Zo kunnen ze bijvoorbeeld slachtoffers bellen om hen voor te bereiden op een e-mail, zodat deze minder verdacht is wanneer de betreffende phishing e-mail binnenkomt. Door eerst te werken aan het opbouwen van vertrouwen bij hun slachtoffers, wordt het succespercentage van criminelen hoger.

Het potentieel van stemkloningstechnologie voor cyberaanvallen werd duidelijk toen in 2023 een journaliste met succes haar bankrekening kon openen met behulp van een opname van haar eigen gekloonde stem. Hoewel het experiment van de journaliste geen persoonlijk risico met zich meebracht, diende het als voorbeeld van de mogelijke gevolgen van het misbruik van deze technologie.

Stemkloning is niet langer alleen een potentiële dreiging, maar een zeer reële. Cybercriminelen maken actief gebruik van deze technologie om menselijke emoties en vertrouwen uit te buiten, zoals in het eerder genoemde voorbeeld van de nepontvoering. Het is zo gebruikelijk dat politieafdelingen waarschuwen voor de snelle toename van deze bedreigingen. Maar dit soort aanvallen gaat verder dan de persoonlijke sfeer en heeft inmiddels invloed op bedrijven wereldwijd. In een geavanceerde zwendel in Hongkong werd een financiële medewerker van een multinational misleid om $ 25 miljoen over te maken naar hackers. Deze fraudeurs maakten gebruik van deepfake-technologie om de CFO van het bedrijf en andere medewerkers tijdens een nepvideoconferentie te imiteren. Zelfs al was de werknemer argwanend geweest over hun e-mail, zouden zijn initiële twijfels zijn weggenomen na de video-oproep omdat de deelnemers er precies uitzagen en klonken als de collega’s die hij herkende.

Stemkloning is ook een krachtig instrument voor sociale manipulatie en desinformatie. In januari 2024 zou een spraakbericht naar verluidt afkomstig van president Joe Biden kiezers hebben aangespoord om niet te stemmen bij de presidentiële voorverkiezingen in New Hampshire. De daders vertrouwden op AI om dit bericht te genereren, en hoewel het snel werd gemeld, had het zomaar een instrument voor sociale manipulatie kunnen worden met het potentieel om de verkiezingsresultaten te veranderen. In een jaar waarin er in 77 landen verkiezingen worden gehouden, die ongeveer de helft van de wereldbevolking en bijna 60% van het mondiale bruto binnenlands product vertegenwoordigen, is het cruciaal om het potentieel van stemkloningstechnologie als een ernstige bedreiging voor de integriteit van mondiale democratische processen te erkennen. En om manieren te vinden om dit probleem op te lossen – voordat het te laat is.

Stemkloning als dienst: een nieuwe cybercrime service

Zoals we al hebben gezien, heeft de beschikbaarheid van stemkloningstechnologie – inclusief open-source apps – nieuwe mogelijkheden gecreëerd voor cybercriminelen die altijd op zoek zijn naar nieuwe manieren om te profiteren van innovatieve methoden voor het behalen van financieel gewin. Ze gebruiken nu platforms zoals ElevenLabs om hun cybercrime tactieken te verbeteren, maar dit is nog maar het begin.

Ze hebben ook de kans gezien om een zeer efficiënt en geavanceerd bedrijfsmodel te creëren dat bekend staat als stemkloning als een dienst (VCaaS). Dit model bestaat uit cybercriminelen die op abonnementsbasis of tegen betaling stemkloningdiensten aanbieden op het dark web aan elke gebruiker die een aanval wil uitvoeren die is gebaseerd op het imiteren van een bestaand persoon. Het stelt iedereen die geïnteresseerd is in impersonatie aanvallen in staat om dit te doen zonder technische vaardigheden, waardoor de drempel om cybercrimineel te worden aanzienlijk wordt verlaagd.

Deze synergie tussen AI-ontwikkelingen en de professionalisering van cybercrime dwingt beveiligingsexperts om hun beveiligingsstrategieën opnieuw te definiëren en aan te passen om opkomende dreigingen voor te blijven. Wil je meer weten over hoe hackers zich professionaliseren en nieuwe manieren vinden om cyberdreigingen om te zetten in winstgevende bedrijfsmodellen? Je leest het in ons Cybercrime Trends Report 2024.

Cybercrime
Trends
2024

Lees de report

Ontdek de 8 belangrijkste cybercrime trends van 2024 en doe je voordeel met deskundige inzichten in het huidige bedreigingslandschap en best-practices voor je beveiliging.

Kan stemkloning worden gedetecteerd?

Met de opkomst van stemkloning en de zorg die dit wekt over het misbruik ervan door cybercriminelen, rijst een cruciale vraag: kan stemkloning worden gedetecteerd? Hoewel het een uitdaging kan zijn, zijn er verschillende methoden en technieken die dit mogelijk maken:

• Spectraalanalyse: Door zorgvuldig de spectrale eigenschappen van audio te analyseren, kunnen experts onregelmatigheden identificeren die doorgaans niet aanwezig zijn in authentieke menselijke spraak. Deze analytische benadering onderzoekt de unieke patronen binnen het frequentiespectrum om mogelijke afwijkingen in het stemgeluidsbestand aan het licht te brengen.
• Machine learning modellen: Geavanceerde machine learning algoritmen zijn getraind om onderscheid te maken tussen echte menselijke stemmen en synthetische of gekloonde stemmen op basis van een scala aan akoestische kenmerken.
• Analyse van temporale kenmerken: Een diepgaande analyse van temporale aspecten, zoals spraaktiming, ritme en intonatie, biedt inzicht in subtiele inconsistenties die lastig zijn voor stemkloonalgoritmes om nauwkeurig te repliceren. Deze methode vertrouwt op de nuances van de tijdsverloop binnen gesproken taal.
• Detectie van artefacten: Stemkloning laat vaak digitale artefacten of onvolkomenheden achter in het audiosignaal. Het detecteren van deze afwijkingen dient als een effectief middel om kunstmatige stemgeneratie te identificeren, wat de betrouwbaarheid van authenticatie verbetert.
• Biometrische stemherkenning: Biometrische stemherkenningssystemen versterken het vermogen om specifieke kenmerken te identificeren die uniek zijn voor iemands stem. Deze systemen kunnen wijzigingen of synthetische modificaties van stemopnames achterhalen.
• Menselijke auditieve perceptie: Getrainde luisteraars hebben een verhoogde gevoeligheid voor subtiele nuances. Hierdoor kunnen ze de verschillen opmerken tussen gekloonde en authentieke stemmen, met name wanneer ze vertrouwd zijn met de originele stem.
• Vergelijkende analyse: Door een vermoedelijk gekloonde stem te vergelijken met een bekende authentieke opname van dezelfde persoon, kunnen analisten verschillen opmerken in stemkwaliteiten. Deze methode berust op de beoordeling van specifieke kenmerken binnen stempatronen.

Het is belangrijk op te merken dat hoe praktisch deze methoden ook kunnen zijn, niet iedereen de tijd of middelen heeft om ze toe te passen wanneer dat nodig is. Stel je voor dat een dierbare belt en je er vrij zeker van bent dat het hun stem is die je om hulp vraagt. Zou je wachten tot een professional een diepgaande analyse van de authenticiteit van de stem uitvoert? Zou je wachten op een bevestiging dat het echt je dierbare is? De meeste mensen zullen “nee” antwoorden, wat verklaart waarom aanvallen met stemkloning zo succesvol zijn. Ze spelen in op de emoties van mensen en dringen aan op snelle actie.

Bedrijven zijn ook niet immuun voor de dreigingen van stemkloning. Het nabootsen van executives of medewerkers met gekloonde stemmen brengt ernstige risico’s met zich mee. Denk aan  ongeautoriseerde transacties of de openbaarmaking van gevoelige informatie. Aangezien deze aanvallen zich richten op menselijke emoties en aandringen op snelle actie, moeten organisaties proactief passende tegenmaatregelen nemen. Investeren in sterke authenticatiemethoden, het opleiden van werknemers en het investeren in technologische oplossingen is van cruciaal belang om de risico’s verbonden aan stemkloning in het zakelijke landschap te beperken.

Hoe kun je je tegen stemkloning beschermen

Naarmate de mogelijkheden van technologie toenemen, is het essentieel om waakzaam te zijn en op de hoogte te blijven van de laatste dreigingstrends. Individuen en organisaties moeten een strategische aanpak volgen om zichzelf te beschermen tegen stemkloning, waarbij ze de volgende tactieken toepassen:

• Implementeer multifactorauthenticatie (MFA): Geef prioriteit aan MFA voor een extra beveiligingslaag. Steminstructies moeten worden bevestigd met een andere vorm van verificatie, bij voorkeur vingerafdrukken. Dit is een van de moeilijkste biometrische gegevens om te repliceren en wordt veel gebruikt op alledaagse apparaten. Deze aanpak verhoogt de drempel voor oplichters die proberen toegang te krijgen tot gevoelige informatie aanzienlijk.
• Bewustzijn en training: Voer regelmatig trainingen uit voor medewerkers om jezelf en je team op de hoogte te houden van de nieuwste cyberdreigingen. Geïnformeerd blijven is een proactieve verdediging.
• Stel protocollen op: Bedrijven moeten duidelijke protocollen definiëren voor financiële transacties en het delen van gevoelige gegevens. Geen enkele instructie, zelfs niet van een vertrouwde stem, mag deze protocollen omzeilen.
• Onafhankelijke verificatie: Bij een verdacht verzoek via de telefoon, zelfs van een vertrouwde stem, hang op en neem rechtstreeks contact op met de persoon die naar verluidt heeft gebeld. Sommige experts suggereren het maken van een codewoord en dit te delen met je dierbaren. Op deze manier kunnen zij, als ze ooit een verdacht telefoontje ontvangen dat vermoedelijk van jou afkomstig is, de beller om het codewoord vragen en bepalen of het om een poging tot impersonatie gaat of dat het daadwerkelijk om jou gaat.
• Versleutel gegevens: Gegevensversleuteling beschermt je niet direct tegen fraude met stemkloning. Het hebben van een extra beveiligingslaag door sterke versleutelingsprotocollen toe te passen voor zowel gegevens in transit als opgeslagen gegevens is echter altijd een goed idee. Ook wanneer jij of je medewerkers het slachtoffer worden van een oplichting zoals stemkloning.
• Beperk de informatie die je deelt: Beperk risico’s door de publieke toegang tot informatie die stemkloning zou kunnen vergemakkelijken, te beperken. Publiceer geen telefoonnummers en e-mailadressen online om de kans te verkleinen dat oplichters stemklonen maken op basis van openbaar beschikbare gegevens.
• Blijf up-to-date: Net zo goed als AI stemmen kan klonen, kan het ook afwijkingen detecteren. Bedrijven ontwikkelen actief AI-systemen om gekloonde stemmen te detecteren, dus houd nieuwe technologieën in de gaten die stemkloning kunnen opsporen.

Hoe SoSafe je kan helpen beschermen tegen stemkloning

Kunstmatige intelligentie ontwikkelt zich snel en hackers gaan minstens zo snel. Stemkloning is een belangrijk voorbeeld van hoe cybercriminelen de nieuwste technologie kunnen misbruiken om overtuigendere aanvallen te creëren en de efficiëntie ervan te verhogen.

In deze context is het cruciaal om te weten welke strategieën  cybercriminelen gebruiken om onze emoties te manipuleren en je team te trainen om deze aanvallen te detecteren. Het navigeren door zo’n complex dreigingslandschap vereist niet alleen training, maar ook een holistische benadering van menselijk risicobeheer.

SoSafe’s oplossing voor menselijk risicobeheer verhoogt het bewustzijn verder dan dat je nodig hebt voor naleving van wet- en regelgeving. Het biedt actuele dynamische trainingsmodules met waardevolle inzichten en detectietips om cyberdreigingen te voorkomen. Daarnaast stelt het je in staat om het algehele menselijke risico in je organisatie te kwantificeren en te minimaliseren. Met een holistische benadering streven we ernaar een veilige werkomgeving te cultiveren waarin jij en je medewerkers veilige gedrag integreren in je dagelijkse routines.