Elenco delle truffe Deepfake più popolari.
Cominciamo con questo discorso “speciale” di “POTUS” Joe Biden:
Questo assomiglia vagamente a come può apparire una profonda truffa (vocale) falsa. In realtà, questo era gratuito Strumento di clonazione vocale AIe ho trascorso poco più di cinque minuti a scrivere (con ChatGPT) e incollare il testo per convertirlo nel discorso (di Biden).
Tuttavia, le truffe false profonde sono più sofisticate di così. Tutto ciò di cui hai bisogno sono alcune fotografie, video o audio di alta qualità del soggetto (vittima) e una potente scheda grafica per iniziare.
Ma non siamo qui per discutere di come creare video deepfake. Non si tratta nemmeno di individuare i deepfake.
Invece, questo articolo condivide una breve introduzione sui deepfake e menziona alcune di queste truffe a cui dovresti prestare attenzione.
Sommario:
Cosa sono i Deepfake?
Deepfake unisce due termini: Deep (da deep learning, che serve per crearli) e fake (che indica la natura dell’output).
In breve, vengono utilizzati algoritmi di deep learning per creare immagini, contenuti audio o video convincenti da contenuti originali ad alta risoluzione.
Questo è un classico esempio di deepfake e in una certa misura sembra efficace. Tuttavia, sono passati cinque anni e questa tecnologia sta avanzando rapidamente.
E questo non è sempre fatto per divertimento o per mostrare le capacità di intelligenza artificiale di qualcuno. Un caso così grave è quando “Mr. “Volodymyr Zelenskyj” viene invitato dalle sue forze ad arrendersi in corso Guerra Russia-Ucraina.
Sfortunatamente, questo non è uno di questi casi. Secondo il Rapporto Regula Forensics 2023il 37% delle organizzazioni globali ha subito frodi vocali tramite Deepfake, il 29% ha subito truffe video sintetiche e il 46% ha subito tentativi di furto di identità.
Di conseguenza, non si tratta solo di intrattenimento, e il deepfake è ampiamente utilizzato per diffondere disinformazione e viene utilizzato in modo improprio in molti altri modi, che possono essere pericolosi e angoscianti per le vittime.
Inoltre, combattere i contenuti deepfake non è facile. Sono gli effetti collaterali di progressi significativi nella tecnologia dell’intelligenza artificiale e del fatto che tali strumenti sono ora ampiamente disponibili per l’uso pubblico.
Pertanto, la difesa più grande e più comune che abbiamo è la consapevolezza.
Quindi, lavoriamo su questi aspetti e diamo un’occhiata ai tipi di truffe deepfake.
Tipi di truffe Deepfake
In base al contenuto e al target, le truffe deepfake possono essere suddivise in alcune forme, come:
- Rappresentazione video
- Interviste false
- Notizie false
- Frode vocale
- Intrappolamento del miele
- Servizio Clienti
- Testimonianze
Le sezioni successive ne parlano in dettaglio e alcune delle loro modifiche.
Rappresentazione video
Si tratta di una nota truffa deepfake in cui vediamo un video inventato che generalmente somiglia a un obiettivo di alto profilo. Una vittima tipica può essere il presidente di un paese (come il deepfake di Obama), una famosa star di Hollywood o l’amministratore delegato di una nota azienda.
Ciò che li rende facili bersagli è la disponibilità pubblica delle loro immagini, discorsi, ecc., perché gli strumenti che creano video deepfake funzionano bene con input dissimili, raffigurando diverse gamme di emozioni, angoli del viso, condizioni di illuminazione, sfondi e altro ancora.
L’intento di tale imitazione può essere puro divertimento, un tentativo di ricatto, motivazione politica, diffamazione o qualsiasi altra cosa.
In rari casi, si potrebbero vedere video deepfake di familiari che chiedono denaro o accesso ad oggetti di valore.
Interviste false
Inutile dire che i colloqui falsi che utilizzano la tecnologia deepfake mirano a posizioni di lavoro completamente remote e da casa. Queste truffe provano video deepfake in tempo reale su programmi di conferenza come Zoom.
Oltre a ottenere un candidato scadente, la società target rischia di esporre i propri beni a una persona fraudolenta. E, a giudicare dalle attività dell’azienda, ciò non solo può danneggiare le loro stesse risorse, ma può anche mettere a repentaglio gli interessi del loro Paese.
Un obiettivo più semplice delle interviste deepfake può essere quello di essere pagati in valute ad alto valore.
D’altro canto, i truffatori possono addebitare ai candidati innocenti un compenso per il colloquio per metterli di fronte ai “magnati dell’industria” per quel pezzo grosso nel lavoro dei loro sogni.
Notizie false
La truffa deepfake più comune sono le fake news. Tali campagne di disinformazione online comportano rischi che possono rivelarsi fatali in situazioni difficili come rivolte o guerre.
Non solo, può diffamare personaggi pubblici quando la loro replica deepfake fa commenti che non hanno mai fatto nella realtà.
Ciò che aiuta la propaganda sono i social media e le piattaforme di streaming come YouTube, che aiutano queste notizie false a diffondersi a macchia d’olio. Infine, crea un’atmosfera in cui gli utenti normali si confondono sull’autenticità di tutto ciò che vedono.
Frode vocale
Simile ai video e alle immagini deepfake, la voce sintetica è un altro che si aggiunge all’elenco di questi trucchi basati sulla tecnologia.
In uno di questi casi, Jennifer DeStefano, residente in Arizona, ha sentito la figlia quindicenne singhiozzare al telefono mentre una voce maschile chiedeva 1 milione di dollari per il rilascio. La madre era convinta che suo figlio fosse in pericolo. Prima che potesse riflettere sul pagamento, la loro amica chiamò suo marito, confermando che sua figlia era al sicuro.
La signora DeStefano in seguito ha raccontato il calvario, dicendo che credeva totalmente alla voce, non solo per il suo suono, ma per la resa tonale generale, che corrispondeva esattamente al modo in cui parla di solito sua figlia.
Questa è la clonazione della voce e viene eseguita con l’aiuto dei campioni audio grezzi dalla sorgente.
Trappole di miele
Secondo la definizione tradizionale di honeytrap, è il momento in cui il soggetto viene costretto a instaurare una relazione per estorcere informazioni sensibili. Gli honeytrap di solito mirano a entità di alto profilo, come qualcuno che lavora nelle forze armate, alti funzionari governativi, politici al servizio, ecc.
Con la tecnologia deepfake, questi honeytrapes sono per lo più online e possono essere eseguiti da chiunque su larga scala. Ciò significa che la vittima potrebbe ricevere richieste di relazione da partner attraenti tramite i social media, che diventano rapidamente vicine all’obiettivo finale dell’estorsione finanziaria o informativa.
Tali truffe deepfake sono generalmente operazioni ambite, che fanno il loro corso prima di tendere la trappola finale.
Servizio Clienti
Le truffe del supporto tecnico sono molto comuni. Potresti aver sentito parlare di truffe in cui alcuni ragazzi di “Microsoft” ti chiedono di pagare per risolvere i problemi “seri” del tuo computer.
Prima del deepfake, i loro accenti o i loro modi di parlare insoliti rivelavano i tentativi dannosi. Ma ora questi truffatori hanno superpoteri di intelligenza artificiale che possono facilmente ingannare utenti innocenti facendogli credere che, in realtà, stanno parlando con qualche legittimo rappresentante dell’azienda.
Testimonianze
Molti di noi leggono le recensioni dei clienti prima di acquistare qualsiasi prodotto. Allo stesso modo, controllare le testimonianze video è un’altra abitudine di acquisto che si è rivelata utile fino ad ora.
Questo tipo di truffa deepfake porterà più persone a garantire un prodotto scadente, influenzando le decisioni di acquisto e facendo sprecare tempo e denaro ai clienti.
Ce ne sono molti altri!
Cosa vedi su Internet oltre al testo?
Direi video, immagini e audio. Tutto ciò può essere manipolato con questa tecnologia di intelligenza artificiale, rendendo Internet un terreno fertile per le frodi in un futuro non così lontano. Inoltre, la creazione di deepfake sta diventando facile mentre ne parliamo, rendendo difficile per un utente medio di Internet rimanere “correttamente” informato.
In una situazione del genere, in cui non c’è quasi nulla che possa fermare il diffuso uso improprio della tecnologia, dovremmo almeno cercare di rimanere informati.
PS: arrivando alle sue applicazioni divertenti, hai queste app deepfake per creare alcuni dei migliori meme per prendere d’assalto i social media.