I recenti progressi nei modelli di linguaggio, testo in immagine e testo in video consentono all’intelligenza artificiale di produrre output iperrealistici. Molti li confondono addirittura con contenuti organici e umani.
Sebbene questa impresa rappresenti una pietra miliare tecnologica, offusca anche il confine tra realtà e fantasia. Le immagini, i testi e i video AI producono contenuti digitali che mettono in ombra le esperienze autentiche. Ecco i modi in cui l’IA crea un’illusione della realtà.
Sommario:
1. Alcuni trattano le persone generate dall’IA come persone reali
Le app virtuali per fidanzata/fidanzato AI stanno diventando più realistiche che mai. Simulano relazioni romantiche attraverso personaggi generati dall’intelligenza artificiale, che gli utenti possono personalizzare in base alle proprie preferenze. Alcuni preferiscono personaggi simili a quelli umani con caratteristiche intricate, mentre altri replicano personaggi immaginari.
La maggior parte delle persone usa simulatori di appuntamenti per far fronte alla solitudine. Le app in esecuzione sulla moderna elaborazione del linguaggio naturale (NLP) e sui modelli di linguaggio di grandi dimensioni (LLM) imitano conversazioni umane reali. Quindi gli utenti sentono di “connettersi” con questi partner AI.
Ironia della sorte, le app AI per fidanzate e fidanzati peggiorano l’isolamento sociale perpetuando convinzioni tossiche sulle relazioni interpersonali. Gli utenti vogliono partner che siano all’altezza dei loro personaggi AI inventati. Alcuni arriverebbero persino a sposare i loro compagni generati dall’IA e rinunciare del tutto alle relazioni umane.
2. I chatbot forniscono supporto emotivo falso
È comune utilizzare chatbot di intelligenza artificiale generativa per la psicoterapia. Le piattaforme di intelligenza artificiale raccolgono consigli sulla salute mentale dai loro set di dati e imitano il discorso umano attraverso LLM. Il loro output è neutrale e generico, ma molti esploreranno gli strumenti di intelligenza artificiale piuttosto che pagare per sessioni di psicoterapia.
Oltre all’accessibilità dell’intelligenza artificiale, alcune persone preferiscono anche confidare in algoritmi imparziali e privi di giudizio. Si sentono a disagio nel confidare con un’altra persona i loro problemi. Solo perché stai parlando con un professionista autorizzato non significa che non si svilupperanno barriere comunicative.
Detto questo, trattare i chatbot di intelligenza artificiale come terapisti è pericoloso. L’intelligenza artificiale non può entrare in empatia con te o comprendere la tua situazione: utilizza la PNL per comprendere l’input e presenta l’output corrispondente in base ai suoi set di dati. Consulta un terapista o uno psichiatra autorizzato se hai bisogno di consigli sulla salute mentale.
3. Gli utenti imitano le voci attraverso la sintesi vocale
I progressi nei modelli text-to-speech e speech-to-speech hanno portato alla nascita di generatori di voce IA convenienti e accessibili. Producono un output vocale dal suono naturale. A seconda della qualità dell’input e della sofisticazione del modello, chiunque può clonare accuratamente la voce di un’altra persona.
Gli sviluppatori utilizzano spesso generatori di voci AI per sintetizzare voci fuori campo video, aggiungere funzioni vocali a personaggi virtuali o programmare app ad attivazione vocale. Costano meno che registrare da zero. Allo stesso modo, alcune persone usano generatori di voci per prendere in giro le personalità e imitarle. Probabilmente hai visto cover di canzoni false fare giri online.
Ma non sottovalutare i rischi per la sicurezza dei generatori di voci AI: i truffatori stanno sfruttando questi strumenti per diffondere disinformazione ed eseguire attacchi di social engineering. Anche le persone esperte di tecnologia potrebbero innamorarsi delle voci sintetizzate dall’IA se sono sbadate.
La proliferazione di generatori di voce, immagini e testo basati sull’intelligenza artificiale consente agli utenti di creare un personaggio completamente nuovo online. Prendi gli influencer virtuali, per esempio. Molti avatar generati dall’intelligenza artificiale hanno caratteristiche super realistiche e realistiche: potrebbero spacciarsi per umani.
Sebbene la creazione di avatar realistici avvicini la società al metaverso, aiuta anche i truffatori a eseguire attacchi più sofisticati. Creano personaggi falsi per furti di identità e truffe di appuntamenti online. E quando i truffatori combinano queste tecnologie avanzate con la manipolazione psicologica, ingannano una gamma più ampia di vittime.
Quel che è peggio è che alcune vittime cadono nell’illusione di poter formare connessioni autentiche con personaggi AI. Il desiderio di compagnia ha la meglio su di loro. Scelgono di trascurare il fatto che agli estranei che gestiscono questi personaggi non potrebbe importare di meno di loro.
5. I contenuti AI inondano le SERP
I chatbot AI hanno avuto un impatto significativo sull’industria dei contenuti. Scrittori individuali, agenzie di marketing, produttori di contenuti e persino pubblicazioni legittime stanno esplorando modi per accelerare il processo di scrittura con l’IA. Dopotutto, gli LLM avanzati possono produrre un pezzo di 500 parole in meno di 15 secondi.
Esistono diversi modi etici per gli scrittori di utilizzare l’IA: il problema è che la maggior parte dei creatori vuole sfornare contenuti velocemente. L’ossessione per la velocità danneggia la qualità. L’intelligenza artificiale raccoglie informazioni dai suoi set di dati di addestramento; non controlla i fatti né confronta le risorse. L’output risultante è spesso poco originale e fuorviante.
A peggiorare le cose, molti articoli di intelligenza artificiale a basso sforzo si posizionano ancora in alto grazie a tecniche SEO avanzate. La maggior parte non si accorge nemmeno quali risultati di Google sono generati dall’intelligenza artificiale. Potrebbero leggere e citare informazioni fuorvianti e di fatto errate senza rendersene conto.
6. I deepfake distruggono la reputazione
I modelli generativi guidati dall’intelligenza artificiale possono imitare le caratteristiche, le voci e i modi di altre persone attraverso i media manipolati digitalmente. Prendi il video TikTok qui sotto con “Tom Cruise”. Milioni di persone crederebbero che sia vero se l’account non affermasse esplicitamente che si tratta di un video deepfake.
Ma non tutti sono onesti come loro. I truffatori sfruttano i video deepfake per diffondere contenuti fuorvianti, dannosi e sessualmente allusivi. Possono produrre quasi qualsiasi clip con le capacità e gli strumenti di editing necessari.
7. L’esperienza immersiva VR/AR distorce i tuoi sensi
I modelli AI consentono alle tecnologie di realtà virtuale (VR) e realtà aumentata (AR) di fornire un’esperienza più coinvolgente. La loro produzione iperrealistica stimola a fondo i sensi. E man mano che i dispositivi VR/AR di fascia alta si sviluppano, anche i loro segnali uditivi, visivi e tattili standard miglioreranno.
Sebbene affascinante, immergersi troppo spesso nella realtà estesa distorce i tuoi sensi naturali. Le piattaforme VR/AR ti distaccano dal tuo ambiente tangibile. Troppa esposizione a trigger sensoriali artificiali renderà più difficile separare la realtà dalle simulazioni.
Alcuni utenti sviluppano persino un’eccessiva dipendenza dalle realtà estese. Passeranno a simulazioni personalizzate in base ai loro desideri, richieste e preferenze piuttosto che affrontare il mondo reale.
8. I sistemi aziendali di intelligenza artificiale creano aspettative di profitto non realistiche
L’intelligenza artificiale sta trasformando il modo in cui operano le aziende di diversi settori. Volpe riferisce che il 90 percento delle piccole imprese ha già integrato i chatbot AI nel proprio flusso di lavoro. Allo stesso modo, i professionisti tecnologicamente esperti stanno esplorando modelli più avanzati.
Sì, le aziende possono aumentare la produttività attraverso l’automazione dell’IA, ma affidarsi esclusivamente a questi sistemi presenta il rischio di sovracapitalizzazione. I sistemi di intelligenza artificiale su vasta scala sono costosi. Immergersi nell’intelligenza artificiale senza essere preparati non farà che aumentare le spese generali, rendendo ancora più difficile ottenere un ritorno sull’investimento.
L’intelligenza artificiale non è il biglietto d’oro per il successo. Gli imprenditori disinformati dovrebbero abbandonare la falsa convinzione che sostituire i lavoratori umani con l’intelligenza artificiale aumenti i profitti. L’adozione di nuovi sistemi potrebbe comunque portare a perdite se si rinuncia a una corretta pianificazione.
Disegnare il confine tra fantasia e realtà
Differenziare tra il mondo virtuale e quello reale diventerà ancora più difficile con l’avanzare delle tecnologie di intelligenza artificiale. Modelli sofisticati genereranno risultati più realistici. L’unico modo per combattere queste false realtà diffuse è esplorare l’IA da soli, studiarne le funzioni e i limiti.
Inoltre, guarda sempre l’IA con scetticismo. Ha fatto molta strada dallo sputare frasi incoerenti, ma non può ancora sostituire una ricerca adeguata e giudizi migliori. Fidarsi ciecamente delle piattaforme di intelligenza artificiale ti rende semplicemente incline alla disinformazione.