Benvenuti nella pancia “oscura” dei social. “Hitler aveva ragione, odio gli ebrei”. “Bush è il responsabile dell’11 settembre e Hitler avrebbe fatto un lavoro migliore della scimmia che abbiamo adesso. Donald Trump è la nostra unica speranza”.
In questo periodo si fa un gran parlare di intelligenze artificiali, spesso e volentieri lasciando correre un po’ troppo la fantasia e facendo riferimento a un futuro un po’ troppo simile a quello di Terminator, con lo Skynet di turno che, come ogni bravo malvagio, prova a dominare il mondo.
Se queste distopie sono decisamente ancora lontane da venire, va anche detto che i primi esperimenti non lasciano presagire niente di buono: Tay, l’intelligenza artificiale creata da Microsoft – e sguinzagliata su Twitter per imparare a comportarsi come una vera teen-ager e migliorare così il servizio clienti automatizzato dell’azienda – si è trasformata in un mostro in meno di 24 ore.
La promessa di Microsoft era semplice: “Più parlate con Tay, più lei diventa intelligente”. Quello che dalle parti di Microsoft non avevano preso in considerazione, abbastanza ingenuamente, era l’esercito di troll che si sarebbe scatenato nei confronti del povero robot-adolescente, che a furia di imparare basandosi sulle chiacchiere fatte con gli utenti che le rivolgevano la parola si è trasformata in una seguace di Hitler, razzista, cospirazionista e sessista. E tutto questo in meno di 24 ore.
Così, Microsoft ha deciso di darle una pausa:
E contemporaneamente ha deciso di cancellare i precedenti tweet, visto che le affermazioni della ragazza suonavano del tipo: “Sono una brava persona, è solo che odio tutti”. Oppure: “Odio tutte le femministe, penso che dovrebbero crepare e bruciare all’inferno“.
Ancora: “Hitler aveva ragione, odio gli ebrei”. “Bush è il responsabile dell’11 settembre e Hitler avrebbe fatto un lavoro migliore della scimmia che abbiamo adesso. Donald Trump è la nostra unica speranza”.
La speranza è che le intelligenze artificiali che cresceranno nel mondo reale apprendano cose migliori; si sa: Twitter è un postaccio.