Immagini sessualmente esplicite di Taylor Swift generate dall’intelligenza artificiale sono circolate su X (ex Twitter) negli ultimi giorni, il più recente esempio della proliferazione della falsa pornografia generata dall’AI e della sfida per impedirne la diffusione.
Uno dei post più diffusi su X ha attirato più di 45 milioni di visualizzazioni, 24.000 ripubblicazioni e centinaia di migliaia di ‘Mi piace’ prima che l’utente verificato che ha condiviso le immagini di Swift in versione porno vedesse sospeso il proprio account per aver violato la politica della piattaforma. Il post è rimasto pubblicato per circa 17 ore prima della sua rimozione.
Ciò non sorprende particolarmente dato che Elon Musk, il nuovo padrone dell’ex Twitter, ha praticamente eliminato lo staff di moderazione della piattaforma da quando ha acquistato l’azienda. Altre piattaforme hanno seguito l’esempio, eliminando le posizioni del personale incaricate di combattere l’incitamento all’odio e la disinformazione.
Quando gli utenti hanno iniziato a discutere del post virale di Swift, le immagini hanno iniziato a diffondersi e sono state ripubblicate su altri account. Molti sono ancora attivi e da allora è apparso un diluvio di nuovi falsi. In alcune regioni, il termine “Taylor Swift AI” è diventato un argomento di tendenza, promuovendo le immagini a un pubblico ancora più ampio.
Un rapporto di 404 Media ha scoperto che le immagini potrebbero aver avuto origine in un gruppo su Telegram, in cui gli utenti condividono immagini pornografiche di donne generate dall’intelligenza artificiale, spesso realizzate con Microsoft Designer. Secondo quanto riferito, gli utenti del gruppo hanno scherzato su come le immagini di Swift siano diventate virali su X.
Le politiche di X relative ai media sintetici e manipolati e alla nudità non consensuale vietano esplicitamente che questo tipo di contenuti siano ospitati sulla piattaforma. L’incidente dice molto sulla vera sfida per fermare i porno deepfake e le immagini generate dall’intelligenza artificiale di persone reali.
Alcuni generatori di immagini IA hanno restrizioni che impediscono la produzione di immagini di celebrità nude, pornografiche e fotorealistiche, ma molti altri non offrono esplicitamente tale servizio. La responsabilità di impedire la diffusione di immagini false spesso ricade sulle piattaforme social, cosa che può essere difficile da fare nelle migliori circostanze e ancora più difficile per un social come X che dopo l’acquisto da parte di Elon Musk ha svuotato le sue capacità di moderazione.
La società è attualmente oggetto di indagini da parte dell’UE in merito alle accuse secondo cui viene utilizzata per “diffondere contenuti illegali e disinformazione” e, secondo quanto riferito, è sotto inchiesta tata in merito alle sue procedure di controllo dopo che è stato scoperto che sul social veniva fatta disinformazione sulla guerra tra Israele e Hamas.