Hangklónozás, pénzügyi segítséget kérő szeretteink megszemélyesítése, valódi videók manipulálása – néhány elem a rosszindulatú deepfake kelléktárból, amelyet mesterséges intelligencia (MI) segítségével hoztak létre megtévesztés céljából. Az ilyen és ehhez hasonló, mesterséges intelligencia által generált deepfake csalások jelentős kockázatot jelentenek a pénz és személyes adatok ellopásától kezdve a zaklatáson át a közszereplők, politikusok lejáratásáig. 

A McAfee 2023. decemberi felmérése szerint a megkérdezett amerikaiak 84 százaléka aggódik a deepfakes csalások miatt. Ami még riasztóbb, hogy a válaszolók egyharmada szemtanúja volt deepfake átverésnek, ami főként a fiatalabb demográfiai csoportokat érintette. Az egyre kifinomultabb és hozzáférhetőbb generatív MI-eszközök megkönnyítették a kiberbűnözők számára, hogy rendkívül meggyőző csalásokat hozzanak létre, például hangklónozással egy bajba jutott családtagnak adják ki magukat, és pénzt kérjenek tőle. Más, gyakran "olcsó hamisítványoknak" nevezett csalások során hiteles videókat, például hírműsorokat vagy hírességekkel készített interjúkat manipulálnak úgy, hogy hamis hangot illesztenek be, hogy megváltoztassák a valakinek a szájából elhangzó szavakat. Így úgy tűnik, hogy egy megbízható vagy ismert személyiség mást mondott, mint amit eredetileg mondott.

A McAfee erre válaszul előrukkolt egy saját technológiával, amelynek a Deepfake Audio Detection nevet adták. Erre alapozva kifejlesztettek egy terméket, amely fejlett mesterséges intelligencia modelleket alkalmazva kontextuális, viselkedési és kategorikus jeleket elemez a mesterséges intelligencia által generált hangok azonosítása érdekében. A Project Mockingbird-öt a CES 2024 kiállításon mutatták be, és hamarosan kapható lesz kereskedelmi forgalomban is. A szoftver több MI-modell egyidejű felhasználásával vizsgálja a fenyegetéseket, megerősítve ezzel a felhasználó digitális védelmét.

Forrás: Interesting Engineering

A borítókép illusztráció, forrás: Adobe Stock