La nuova era di account fasulli e bot automatici, in attesa dell’intelligenza artificiale. L’industria del profilo taroccato è più viva che mai. E rischia di farsi ancora più insidiosa.
Ai fake Matteo Renzi aveva già dedicato un intervento verso la fine di giugno, quando aveva dialogato con Alec Ross – ex consulente di Hillary Clinton e autore del best-seller “Il nostro futuro” – al Piccolo Eliseo di Roma: “I social network non sono attendibili come unico riferimento, in politica sono spesso infestati da fake, troll che sono parte di strategie politiche – aveva spiegato – c’è una strategia di creare finti profili, che rilanciano messaggi o siti civetta e che lasciano pensare che quella informazione siccome è virale diventi vera. Non è così. Non è detto che ciò che è virale sia anche vero”. Un argomento che al premier sta particolarmente a cuore. In un incontro con l’amministrazione Obama, il presidente del Consiglio è tornato sull’industria del falso, che ha definito “impressionante”, parlando di “generatori di odio automatici” sulle piattaforme sociali e confidando l’enorme entità delle spese dell’ufficio stampa della Casa Bianca per organizzare una controffensiva digitale.
La mutazione del fenomeno.
Eppure il fenomeno dei falsi profili, su Facebook e Twitter così come su altre piattaforme, non è cosa nuova. Già nel 2013 acquistare un pacchetto da mille follower o “amici” taroccati costava meno di 10 euro. Basta fare qualche ricerca su Google con richieste quali “buy twitter followers” o “buy facebook friends” o “likes” per rendersi conto che poco è cambiato. Società specializzate di social media marketing – in realtà vere e proprie “bot farm” come la misteriosa Rantic che sforna fino a 50mila fake al giorno, anche se la maggior parte ha sede in India, Bangladesh e Filippine – utilizzando numerosissimi intermediari fanno da anni ricchi affari, abbeverandosi a un comparto che solo nel 2014 ha mosso su Facebook 200 milioni di dollari. A essere cambiati sono semmai gli scopi per i quali queste sterminate guarnigioni di false utenze vengono fabbricate. Se prima si parlava di mero “social doping”, cioè di un aumento dei follower e del seguito su Facebook & co. anche in ottica commerciale o di popolarità, magari per scalare nel ranking dei motori di ricerca, oggi si spazia su diversi fronti: dal dating al business delle recensioni finte, dalla propaganda interna alla criminalità organizzata passando per la lotta politica. L’intossicazione è estesissima anche sul lato degli affari: basti considerare che, stando ai numeri del Ponemon Institute, il 10% dei database delle aziende interpellate è costituito da falsi profili potenzialmente dannosi per la sicurezza delle informazioni. Fatti come la petizione per il referendum sulla Brexit, gonfiato a dismisura da utenze false prodotte in serie da bot i cui codici sono stati diffusi sul forum per smanettoni 4chan, ci raccontano infine che il peggio deve ancora arrivare.
Cos’è un fake.
Si tratta di un’utenza falsa, fasulla, prodotta in serie da software dedicati oppure creata a mano. Se nel secondo caso a quell’utenza può corrispondere un utente in carne e ossa (e dunque mettere in atto azioni precise spesso con obiettivi chiari, dalla diffamazione allo stalking fino all’insulto e alla denigrazione generica o al “trolling” politico di cui parlava Renzi, ma anche per promuovere prodotti o indirizzare le discussioni), nel primo si tratta fondamentalmente di “bot”, cioè di profili automatizzati creati per un certo scopo (rituittare solo alcuni tipi di contenuti, come nel caso dell’Isis, o adescare incauti utenti per ricattarli sessualmente) che finiscono per vivere di vita propria senza più alcun intervento umano. Più in generale, si tratta di qualsiasi account in cui qualcuno si spacci per qualcun altro – magari rubandogli l’identità – o di qualcosa che produca online attività assimilabili a quelle di un essere umano. Sempre più simili a quelle di un utente autentico.
La situazione.
Le principali piattaforme sono infestate dal virus, in ogni sua declinazione. Anche se tentano delle bonifiche periodiche. Secondo alcune fonti su Facebook i profili falsi sarebbero circa 81 milioni, per altre oltre 130 ma la cifra più consolidata è 170. Su Twitter sarebbero circa 20 milioni, anche se del pacchetto fanno parte tante utenze silenti e in generale gli strumenti che permettono questi check-up, come Twitter Audit, non funzionano a poi così bene. Così come le stime interne. Lo sanno alla perfezione i candidati alla Casa Bianca, ripetutamente protagonisti negli ultimi mesi di scandali sul tema. Il 64% dei follower dell’account ufficiale di Donald Trump sarebbe per esempio composto da diversi tipi di profili falsi. O meglio: secondo Washington Free Beacon ad aprile non erano attivi da oltre sei mesi. I fake veri e propri erano oltre mezzo milione riducendo così il seguito reale a circa 2,2 milioni di persone. Non andava meglio alla Clinton, con il 7% di fake fra i suoi follower. Una situazione tale da aver generato un’autentica guerra dei bot, con utenze automatizzate legate al giro di The Donald destinate solo a rilanciare le dichiarazioni del magnate e un milione di dollari spesi dalla candidata democratica per fare pulizia sulle proprie bacheche delle varie propaggini digitali. Instagram non sta messa meglio: nonostante la maxipurga di fine 2014, la scorsa estate l’8% degli account risultava ancora finto e il 30% inattivo, stando almeno a una ricerca italiana. Nel complesso sarebbero circa 25 milioni i profili taroccati. Non è ovviamente facile raccogliere informazioni certe: le società californiane non hanno alcun interesse a diffondere numeri sul tema anche perché spesso, come nel caso di Facebook, non ne hanno contezza per una contraddizione dei loro stessi meccanismi. Sulla piattaforma di Mark Zuckerberg, per esempio, vige la cosiddetta “real neame policy”: si invitano cioè gli utenti a registrarsi con il loro vero nome. Ma nessuna verifica viene effettuata e basta fare una scelta banalissima per evitare ogni segnalazione.
Perché si usano profili fake e bot.
Praticamente per ogni fine. Se le piattaforme per il dating come Tinder e Ashley Madison li sfruttano per arricchire il proprio parco d’utenza femminile (l’ultima conferma è arrivata pochi giorni fa, a un anno dal clamoroso leak del sito canadese, che ha ammesso di usare i fembot, utenze automatizzate programmate per adescare gli utenti maschi) i privati ne acquistano per falsificare le recensioni e i giudizi su piattaforme come Amazon o TripAdvisor. Due mesi fa il colosso guidato da Jeff Bezos ha fatto causa a cinque siti impegnati in pratiche commerciali fraudolente e a un migliaio di individui che postavano commenti passando da profili fasulli. I governi, dal canto loro, ne sfornano a migliaia per ragioni di propaganda interna. Uno dei casi più evidenti è quello del “50 Cent Party” cinese, il cyberesercito di distrazione di massa della Repubblica popolare che un recente studio dell’università di Harvard ha stimato in grado di produrre qualcosa come 448 milioni di commenti falsi in un anno. Sono interventi orientati politicamente e stabiliti, grazie a due milioni di persone che operano ogni giorno sui social network drogando i dibattiti digitali con commenti e opinioni, quasi sempre sotto mentite spoglie, per guidare le discussioni verso temi più graditi agli alti papaveri di Pechino. Ciascuno di questi “soldatini dei social” riceve 5 jiao, cioè 0,08 centesimi di dollaro, a intervento. Si tratta del caso estremo, in cui il fake è organico al regime, corrisponde a una persona in carne ed ossa e segue istruzioni precise. Anche la Russia ha utilizzato sistemi del genere, soprattutto durante l’invasione dell’Ucraina orientale. Dagli attacchi DDoS gli hacker al servizio del Cremlino hanno preferito muoversi verso un battaglione di troll in grado di inquinare il dibattito, produrre contenuti sofisticati, prima sui social russi, poi su quelli europei e infine nelle sezioni dei commenti dei grandi quotidiani internazionali.
Lo raccontano molto bene Irina Borogan e Andrey Soldatov nel loro libro “The Red Web”, uscito lo scorso anno. L’uso degli account fake da parte del sedicente Stato Islamico meriterebbe invece un capitolo a parte: secondo il dipartimento di Sicurezza degli Stati Uniti la presenza sul social dell’uccellino di account simpatizzanti, o bot programmati per spingere la propaganda, sarebbe tuttavia scesa del 45% rispetto a 12 mesi fa. Lo scorso febbraio la piattaforma guidata da Jack Dorsey diceva di aver bannato 125mila profili e a marzo altri 26mila. Stesso discorso per la Cia, la Central Intelligence Agency statunitense, che da anni sfrutta utenze false sotto il cappello dell’operazione Mockingbird, per giunta da poco rinforzata, per controllare e orientare i dibattiti su forum e piattaforme sociali. A questi grandi ambiti vanno aggiunti ovviamente fenomeni di fake e trolling più limitati, personalizzati, legati ad azioni specifiche come insultare un personaggio politico o dello spettacolo, perseguitare un ex partner, bullizzare un compagno di classe o un collega. Dalla diffamazione allo stalking, tutti reati dai quali si cerca di coprirsi nella convinzione di un falso anonimato. Oppure, come nel caso statunitense, per le battaglie di politica interna alle quali il premier faceva evidentemente riferimento: “I fake, per non parlare dei bot, rovinano ovviamente l’ambiente – racconta Claudia Vago, social media manager esperta di campagne elettorali e ong – la causa principale è che i politici pretendono di applicare la logica televisiva alla rete. I social, come dico sempre, sembrano la continuazione della tv con altri mezzi. Intendo dire che finché i parametri di valutazione del proprio successo comunicativo online saranno di tipo quantitativo, profili e utenze false, siti civetta e account automatizzati rimarranno un armamentario fondamentale per chi si muove nel settore. Se si guarda solo ai risultati in termini di quantità, di like, di condivisioni, di reach del proprio Live, gli account falsi rimarranno gateway della discussione. Solo se la politica usasse i social network in modo bidirezionale, genuino, con uno scambio vero, anche gli inquinatori di professione finirebbero per marginalizzarsi da soli. Per ora l’unica arma è l’educazione all’esperienza online”.
Il peggio deve ancora venire.
Alcuni Paesi, come la Gran Bretagna, pensano di trasformare il ricorso al profilo fake, almeno per certi fini, in un reato. In Italia lo è dal 2014 grazie a una sentenza della Cassazione, la n. 9391 di quell’anno, e a molte altre simili negli anni precedenti e seguenti. Il passaggio successivo – come il caso Brexit ha dimostrato, anche se non vi rientra a pieno – è tuttavia la sofisticazione che questi account falsi potranno raggiungere grazie all’intelligenza artificiale. Le reti neurali stanno cambiando internet. Disegnate ispirandosi ai collegamenti cerebrali, questi modelli matematici vengono nutriti di enormi quantità di dati e producono reazioni e risposte agli input sempre più precise e pertinenti. Basti pensare a Watson di Ibm o alle assistenti virtuali dei nostri smartphone. Gli account falsi, specialmente se programmati come spambot automatici, saranno dunque in grado di mimetizzarsi sempre meglio nel mare magnum dell’utenza che popola le piattaforme. Vale a dire, in altre parole, che il futuro dei fake – almeno di quelli prodotti in serie – è mimetizzarsi con maggiore raffinatezza (anni luce dagli attuali tentativi delle avvenenti signorine su Facebook, con le quali imbastire una conversazione ha spesso dell’esilarante) e, a loro volta, dare vita a sempre più account falsi per gli obiettivi più diversi, dalla propaganda al trolling
dalle frodi ai ricatti. Ribaltando lo scenario, è esattamente il fronte verso il quale Zuckerberg ma anche Satya Nadella, grande capo di Microsoft, spingono per fini ovviamente pacifici, come assistenza, informazione, commercio, marketing. Ma la piattaforma di ricerca è la medesima .
Lascia un commento