Nuovo algoritmo di google contro le notizie false

L’uomo che risponde ad almeno 5,5 miliardi di domande al giorno – 64mila al secondo – malgrado i 39 gradi di scirocco e lo sciopero di bus e metropolitana mettano alla prova Roma, arriva a palazzo Ferrajoli in giacca e cravatta, fresco e stirato. Cammina leggero per i saloni del ‘600, lo sguardo ragazzino dietro gli occhiali, e ricorda: “Ero già stato a Roma più di vent’anni fa, da studente con l’Eurail. Tutta un’altra cosa”. All’epoca Google nemmeno esisteva e Ben Gomes, che ne è vicepresidente, non immaginava che oggi sarebbe stato considerato uno dei padri della ricerca, con l’incarico di custodirne e perfezionarne le chiavi: milioni e milioni di righe di codice che formano il mistero dell’algoritmo. Il tesoro di un’azienda che nel 2016 ha realizzato 19 miliardi di dollari di utile, per un fatturato di 90. Se fosse una nazione, nella classifica del Pil occuperebbe su per giù la 63esima posizione.
Di origini indiane, nato 49 anni fa in Tanzania, a Dar es Salaam, cresciuto a Bangalore (“Provengo non da uno ma da due paesi del terzo mondo”, dice di sé con orgoglio), Gomes ha compiuto una lunga strada per arrivare nella Silicon Valley: laurea a Cleveland – primo della sua famiglia a frequentare il college – e dottorato in computer science a Berkeley. In queste settimane è in Europa per raccontare uno dei progetti chiave di Google per reagire alle pressioni di media, governi, regolatori. Il nome in codice (non confermato) è piano Civetta, dal rapace che – vedendo al buio – per gli antichi era simbolo di ragione e sapere. L’obiettivo, rispondere alle accuse di essere una piattaforma che facilita lo spargersi di notizie false, disinformazione e che aiuta a diffondere cospirazionismo e proclami di professionisti e dilettanti dell’odio e del terrore. Un’operazione trasparenza, con la quale la società illustra le linee guida di evoluzione dell’algoritmo e racconta di 10mila valutatori indipendenti a livello globale ne indirizzano lo sviluppo.
Di recente lei ha affermato che circa lo 0,25% dei risultati di Google offre informazioni sbagliate, fuorvianti o offensive. Come state migliorando?
“Il primo passo è capire qual è il problema. Nella maggior parte dei casi questi risultati arrivano da pagine che non hanno autorevolezza. Le modalità con le quali funziona l’algoritmo sono contenute nelle linee guida per i valutatori. Ogni volta che facciamo un cambiamento, lo mandiamo ai valutatori in tutto il mondo affinché lo giudichino, basandosi sulle linee guida. Quando ci siamo resi conto dei problemi, abbiamo cambiato le linee guida perché riflettessero il bisogno di fonti autorevoli e di qualità. Basandoci su questi assunti e sulle risposte dei valutatori abbiamo fatto una serie di modifiche all’ordinamento dei risultati, e continueremo a farne. Negli ultimi sei mesi abbiamo riscontrato che per una certa classe di domande riguardo le notizie, l’incitamento all’odio e così via, i nostri segnali per indicare l’autorevolezza non erano sufficienti, e i nostri valutatori non stavano affrontando la questione con l’enfasi dovuta. I valutatori indicano la validità dei cambiamenti all’algoritmo, attraverso il giudizio sulle singole pagine”.
Se io sono un valutatore, cosa vedo?
“Al valutatore viene richiesto di indicare quale tra due pagine di risultati di una ricerca sia la migliore, in base alle linee guida”.
Una presenta modifiche all’algoritmo, l’altra no. È quel si definisce un A/B test.
“Esatto. Ma ciò non significa che il sito ritenuto di bassa qualità sarà retrocesso. Vuol dire che la modifica all’algoritmo che retrocede quella pagina avrà più possibilità di entrare in produzione. Le linee guida indicano i fattori che i valutatori devono considerare per il loro giudizio. Le abbiamo rese pubbliche. Un manuale di 157 pagine per spiegare cosa intendiamo per risultati migliori”.
Proviamo con un caso reale. Nel novembre scorso, qualche giorno dopo le elezioni presidenziali americane, balzò in testa ai risultati di Google un sito che sosteneva che Donald Trump avesse vinto anche nel voto popolare. Una menzogna, perché Hillary Clinton in realtà aveva preso in valore assoluto 2,9 milioni di voti in più del concorrente. Come vi siete comportati allora?
“Noi non abbiamo fatto nulla nei confronti di quel sito e del caso concreto, alterando direttamente i risultati di quella domanda. Abbiamo subito cercato di capire come dovesse essere modificato l’algoritmo per evitare il ripetersi di casi simili. Il 15 per cento delle ricerche che riceviamo dagli utenti ogni giorno è nuovo, non è mai stato fatto prima. Quindi se alteriamo uno dei risultati, questo non ci garantisce che il sistema migliorerà. Abbiamo cambiato le linee guida e quindi l’algoritmo, per meglio riflettere i principi di autorevolezza e di credibilità. Era evidente che in quella occasione non fossero stati tenuti in considerazione”.
Quali i tempi di reazione in questi casi?
“È necessario agire in modo ponderato. Cerchiamo di operare per il lungo periodo, ma con il massimo impegno. Abbiamo letteralmente lavorato giorno e notte, durante le feste. Si tratta di un processo continuo, non si può mai dire di aver davvero risolto il problema. Vogliamo produrre algoritmi sempre più robusti, per fornire un servizio migliore. Questa è la priorità”.
Cosa intende per processo continuo?
“Facciamo 10mila test l’anno, e ne lanciamo circa 1600”.
Come decidete quali portare in produzione?
“Con un’analisi dei dati delle ricerche. Ci sono inoltre criteri di efficienza dell’algoritmo. Possono esserci piccoli miglioramenti che producono tuttavia una grande complessità. Ci riuniamo per capire e decidere”.
Sono incontri che si tengono centralmente?
“Dipende. Se riguardano lingue o mercati locali possono avvenire paese per paese, ma in genere preferiamo lanciare le modifiche a livello globale”.
Vi muovete su un crinale molto stretto tra libertà di espressione, censura, sicurezza, su cui esistono posizioni diverse anche in Occidente tra Stati Uniti, Germania, Regno Unito. Vi state trasformando in una corte internazionale?
“Queste decisioni appartengono alla sfera pubblica. Noi obbediamo alle leggi, e dunque se ci sono risultati illegali, li rimuoviamo. Ma non spetta a noi censurare l’informazione, queste sono decisioni pubbliche”.
Alcuni Stati, ad esempio la Francia, vi chiedono di deindicizzare risultati a livello globale, decidendo anche per altri.
“È un argomento scottante. I cambiamenti sono fatti per singolo paese. Altrimenti potrebbero esserci conflitti tra quel che stabiliscono nazioni diverse. Non c’è altro modo in cui ciò possa funzionare in Internet”.
Lei, di fatto, gestisce gli occhiali con cui buona parte di noi conosce il mondo. Questa cosa la innervosisce quando va a dormire la sera?
“Prendiamo la nostra responsabilità molto seriamente, ma non siamo la sola fonte. C’è l’informazione, ci sono le fonti ufficiali. Le persone vengono da noi quando hanno un quesito, ma noi non forniamo loro la domanda, solo la risposta. La migliore che esista”.