Attraverso algoritmi di deep learning, un software chiamato FakeApp adatta automaticamente, frame by frame, le immagini ai video. Una possibilità che comporta implicazioni preoccupanti.
di
Saverio Alloggio
Un software che, basandosi sul machine learning, è in grado di adattare realisticamente le immagini ai video, frame by frame.Questo è FakeApp, un tool desktop che ha generato una vera e propria discussione ad-hoc su Reddit, a causa soprattutto dei vari ambiti di utilizzo. Tra questi infatti c’è anche il mondo della pornografia, con una serie di filmati a luci rosse che vedono come protagoniste attrici a cui è stato applicato il volto di alcune celebrità.
Questo fenomeno è stato denominato Deepfake, dal nickname dell’utente Reddit (deepfakeapp) che ha dato origine alle varie discussioni sul forum, mettendo a disposizione FakeApp. Da quel momento diversi utenti si sono cimentati nella creazione di video attraverso il software in questione, con risultati che, in alcuni casi, sono certamente impressionanti.
Il volto di Daisy Ridley “incollato” sul corpo di un’attrice pornografica
L’immagine poco sopra mostra il volto di Daisy Ridley, attrice britannica nota soprattutto per aver interpretato Rey nella trilogia sequel di Star Wars, incollato attraverso FakeApp sul corpo di un’attrice pornografica. Il risultato ottenuto è certamente di alta qualità da un punto di vista tecnico, tanto da poter trarre in inganno circa la veridicità.Non ci sono particolari informazioni tecniche su FakeApp. Si tratta di un software basato su algoritmi di deep learning, il cui funzionamento sembra non essere alla portata di tutti. Peraltro, per l’elaborazione di una breve clip, sono necessarie dalle 8 alle 12 ore. L’obiettivo però è quello di renderlo user-friendly, così come dichiarato dall’utente deepfakeapp al noto portale Motherboard:
“Penso che l’attuale versione dell’app sia un buon inizio, ma spero di ottimizzarla ancora di più nei prossimi giorni e settimane. Voglio migliorarla a tal punto che i potenziali utenti possano semplicemente selezionare un video sul proprio computer, scaricare le informazioni correlate a un certo volto da una libreria pubblica e finalizzare il filmato con una faccia diversa semplicemente premendo un pulsante.”
Nel corso di questi mesi sono stati pubblicati video che hanno visto come protagonisti inconsapevoli diversi personaggi famosi. Oltre alla già citata Daisy Ridley, troviamo anche Sophie Turner di Games of Thrones ed Emma Watson di Harry Potter, con quest’ultima che sembra essere una delle più colpite da questo fenomeno.
L’attuale complessità nell’utilizzo di FakeApp di certo non ne limita la potenziale pericolosità. La possibilità di realizzare video fake con un qualsiasi volto, peraltro con un risultato in grado di poter ingannare la massa, può portare a conseguenze serie. Uno scenario che si aggraverebbe ulteriormente nel momento in cui, con successivi aggiornamenti, il software dovesse diventare user-friendly.
Una situazione che rilancia inevitabilmente la questione dei rischi legati allo sviluppo dell’intelligenza artificiale e del machine learning. Si tratta di un tema su cui sarà necessaria un’attenta analisi, soprattutto in vista di quella che sarà l’evoluzione tecnologica che ci attende nei prossimi anni.
