Graziano Salini
Uno dei trend più importanti che abbiamo potuto osservare nel corso del 2018 riguarda una certa sfiducia nei confronti del mondo di internet e nei confronti delle enormi aziende che lo compongono; durante quest’ultimo anno abbiamo potuto vedere l’evoluzione del braccio di ferro in materia di Copyright tra giganti del web e l’Unione Europea o abbiamo potuto osservare la progressiva disfatta di Facebook dopo una serie vertiginosa di scandali.
Quasi a voler continuare su questo trend dolorosissimo ed orribile abbiamo una serie di studi e di articoli che sembrano puntare un po’ tutti nel corso della stessa direzione: l’internet di oggi è un luogo falso, pieno di gente che non esiste realmente, pieno di prodotti che non sono ciò che le foto mostrano, pieno di figure che sono solo complesse macchinazioni create a tavolino.
Inquietante, vero?
La parte ancora più interessante è che non è tutto: all’atto pratico possiamo affermare che circa metà del traffico generale che avviene su internet nel corso di un singolo anno è generato da esseri umani in carne ed ossa, come chi scrive o come molti di voi lettori. Tutto il resto è un’internet destinato ai bot, destinato alle fake personas, destinato ai malware che imitano il comportamento umano in modo da apparire limpidi nei confronti degli advertisements, nei confronti del profitto.
Internet è popolato da più bot che umani
Internet nel corso della sua vita è sempre stato terreno di conquista anche per chi preferisce metodi illeciti, imbrogli e inganni rispetto al resto delle azioni possibili.
Durante il Novembre da poco passato il dipartimento di giustizia americano ha finalmente dato riscontro ad una serie di accuse contro un gruppo di otto persone, le quali sono riuscite a realizzare una lunga serie di truffe per trentasei milioni di dollari utilizzando complesse frodi legate al mondo della pubblicità sulla rete.
Due sono i principali schemi fraudolenti portati avanti.
I ricercatori legati al mondo della sicurezza informatica sono riusciti a calcolare che circa 1.7 milioni di computer attraverso dei malware venivano quotidianamente reindirizzati su siti illeciti, visti da Google e dalle concessionarie di pubblicità come domini affidabili di tutto punto. Nella realtà dei fatti questi siti erano semplicemente specchietti per le allodole, luoghi dove le concessionarie pagavano ma in realtà frutto di falsificazioni e ricostruzioni digitali. In sostanza i malintenzionati, attraverso la creazione di siti internet specifici, riuscivano a far credere alle concessionarie di pubblicità che un grande traffico fatto di bot stesse guardando le più costose pubblicità possibili, ricavandoci un bel gruzzolo.
Due dei malware in questione, chiamati Methbot e 3Ve, avevano la capacità di simulare le azioni tipiche di un essere umano all’interno della rete.
Cosa significa tale capacità?
Riuscire a fingersi umano per un bot significa superare i vari sistemi di riconoscimento che, ad esempio, permettono a chi fa le statistiche di comprendere quali sono le attività umane e quali non lo sono. Questi malware avevano la capacità di ottenere i pattern di movimento all’interno dei siti internet degli utenti infettati, avevano la capacità di comprendere i movimenti del mouse ed i clicks; il livello di astrazione e complessità a cui sono arrivati questi malware è tale che sono stati trovati casi di bot con cronologie perfettamente assimilabili a quelle di un utente completamente umano, con tanto di cookies traccianti ottenuti visitando altri siti internet in modo da aumentare la verosimiglianza.
Torniamo ora al punto di apertura:
quanto dell’internet che viviamo oggi finto?
che significa che circa metà del traffico di internet è eseguito da utenti che non sono esseri umani?
Chiariamo prima un fatto molto importante: la crescita di bot come utenti di internet è tutto fuorché una novità.
L’argomento già numerose volte è stato oggetto di dibattiti e analisi ed abbiamo nella cultura internettiana già casi abbastanza eclatanti; nel 2013, il nostro caro amico Youtube finì al centro di un’ inchiesta del Times riguardante la natura del traffico del sito.
L’inchiesta del Times sottolineava come metà del traffico del noto sito di video-sharing fosse composto da bot mascherati da persone; tale numero risultava talmente da poter diventare catalizzare per un pericolosissimo evento teorico nel mondo degli algoritmi online: l’inversione.
Secondo gli studi un così alto numero di utenti falsi avrebbe potuto far ipoteticamente iniziare la cosiddetta inversione: l’inversione di definisce come l’evento in cui i sistemi di riconoscimento che distinguono il traffico umano da quello non umano iniziano a sbagliare e scambiano i due valori, smettendo di riconoscere i bot come tali e confondendoli per esseri umani.
Numericamente parlando l’inversione potrebbe avvenire entro lassi di tempo non particolarmente estesi.
Tecnicamente parlando i bot non sono ancora abbastanza intelligenti da fingersi umani contro ogni tipo di contromisura studiata per conoscerli; la loro evoluzione è bilanciata da un’evoluzione costante per quanto riguarda i sistemi di controllo, una specie di stramba diatriba che potrebbe ricordare vagamente quelli che sono gli antefatti del cult cinematografico Blade Runner.
Essere falsi non è mai stato così facile.
Uno dei problemi principali che orbita intorno alla questione fake/reale riguarda l’enorme espansione di tutte quelle proposte, quei contenuti, quegli utenti che sembrano veri ma non lo sono; poiché esistono poche regolamentazioni sull’argomento molto spesso le grandi aziende impiegano una cospicua quantità di tempo per correggere determinati errori o non puntano abbastanza risorse sulla creazione di sistemi privi di errori.
Volete un esempio?
Nel corso dell’ultimo anno Facebook si è reso protagonista dell’ennesima causa per aver sovrastimato, a causa di un errore, il valore del tempo che i suoi utenti passa davanti ai video presenti all’interno della piattaforma (la difesa dell’azienda dice di aver sovrastimato tra il 60/80% il valore scritto negli accordi, l’accusa dice che l’azienda ha sovrastimato di qualcosa tra il 150/900% tale valore). Questo è solo uno degli ultimi in una pletora di errori compiuti dalla piattaforma e raccolti comodamente dal sito MarketingLand; c’è praticamente qualsiasi tipo di errore all’interno di questa lista, dalla reach dei post in caduta libera per errori di programmazione a metodologie di conteggio tempo errate per quanto riguarda gli instant articles di Facebook.
Questo problema riguardante le misurazioni sul web si potrebbe esemplificare attraverso un singolo caso: un minuto di video.
Secondo le statistiche ufficiose della piattaforma i 75 milioni di utenti registrati su Facebook guarderebbero in media un minuto di contenuto audiovisivo al giorno; gente molto più competente di chi scrive ha poi scoperto che, in realtà, tale dichiarazione è una versione distorta della realtà poiché secondo le metriche utilizzate da Facebook per stilare le sue infografiche questo famoso minuto di contenuto poteva essere tranquillamente composto da una serie di sessanta video diversi guardati per un singolo secondo. Facebook aveva tutto, aveva gli utenti, aveva i video ma ha falsificato le metriche su cui gli investitori potevano basarsi per calcolare i ricavi.
Youtube, per fare un parallelo, ha avuto un problema con gli utenti falsi ed i famosi account falsi; questi possono essere il risultato di diverse meccaniche, alcune prettamente umane come la creazione di un account solo per il flame altre meno innocenti come l’acquisto di visualizzazioni. Sotto quest’ultimo punto di vista non c’è bisogno di fare gli ignavi: il fenomeno dell’acquisto di visualizzazioni (o di followers per social network come Instagram) è qualcosa di ormai tristemente radicato nell’ambiente e sempre più creator denunciano alcune delle problematiche legate alla questione.
Fattoria di click.
Alcuni luoghi come la Cina stanno creando dei piccoli business con l’attività di click farming, ovvero con l’impersonare nel modo più efficiente e remunerativo possibile una serie di differenti utenti che hanno lo scopo di visualizzare video, effettuare click, generare interazioni. Wikipedia da una descrizione delle click farm davvero poco sorridente: luoghi dove operai sottopagati si ritrovano per cliccare sui messaggi pubblicitari, per iscriversi alla newsletter, per generare interazioni che alla fine risulteranno tutto fuorché reali.
Tale tipologia di traffico, alla fine, è estremamente difficoltoso da arginare poiché proveniente da una tipologia realmente esistente di utente con comportamenti che potrebbero essere realmente umani. Facebook si sta già muovendo da un po’ nel tentativo di creare un algoritmo che riesca a comprendere quali like provengono da tali luoghi e quali no.
I never tire of looking at videos of Chinese click farms. It's just so surreal to see hundreds of phones playing the same video for the purposes of fake engagment. pic.twitter.com/bHAGLqRqVb
— Matthew Brennan (@mbrennanchina) December 10, 2018
Tutto ciò lascia comunque da parte un ragionamento abbastanza importante: quando è che un click ha la giusta valenza?
Le visualizzazioni che gli account troll o shitpost (sic) lasciano sui messaggi pubblicitari andrebbero contate?
Quelle degli account legati agli utenti privi di potere d’acquisto, come i bambini, come andrebbero considerate all’interno dell’ecosistema?
Gli algoritmi di controllo, oltre a dover litigare con tutti i sistemi informatizzati che si fingono computer, da un po’ di tempo devono anche combattere con gli esseri umani che si fingono sistemi informatizzati: moltissime aziende stanno, in assenza di intelligenze artificiali degne di quel nome, utilizzando personale umano per simulare il lavoro di supporto di cui offrono servizio. Bloomberg ha realizzato, al riguardo, un complesso articolo che mostra alcune delle ombre che si nascondono dietro la questione
Fake Personas
https://www.instagram.com/p/BqTBfQQnOAA/
Uno degli ultimi ritrovati della finzione nel mondo dell’internet è rappresentato dalle influencer digitali dove digitale sta ad indicare semplicemente la completa immaterialità della figura in questione. Un perfetto esempio di ciò potrebbe essere rappresentato da Lil Miquela, un’ influencer di Instagram in crescita creato attraverso computer grafica da una startup losangelina.
Lil Miquela è un corpo umano realmente esistente con una faccia realizzata attraverso la modellazione tridimensionale, qualcosa deciso a tavolino da un team di esperti di marketing e di moda in grado di comprendere cosa sarebbe potuto piacere al pubblico. Il risultato è un profilo instagram essenzialmente falso con una vera influenza sul mercato, qualcosa in grado di spostare masse di persone grazie al milione e mezzo di persone che la seguono.
Lil Miquela, a metà tra una complicatissima animoji e una persona normale è, per ora, un esperimento e risulta essere un caso quasi unico nel mondo di Instagram.
Un trend che invece sta prendendo lentamente piede nel mondo degli influencer è lo sponsorizzare materiale fake, ovvero dei complessi mock-up di materiale inesistente che sta li a provare le tecniche di marketing ed la presa sui follower dei vari influencer. Questo viene fatto per cercare di piacere ad un qualche brand già affermato, con prodotti reali e qualche soldo per poter ottenere uno stipendio.
Anche il mondo degli affari su internet è, molto spesso, poco realistico e per niente chiaro utilizzando anche aziende come Amazon a mo’ di vettore per truffare degli utenti malcapitati.
Un esempio incredibile è dato dal reportage che la giornalista e scrittrice Jenny Odell ha fatto su di network di rivenditore presenti su Amazon affiliati ad un culto religioso americano di stampo evangelista. Chi scrive vi consiglia di immergervi nella lettura di questo reportage a causa della precisione con cui moltissimi fatti vengono descritti e della follia generale che circonda la vicenda.
Se proviamo a prendere in esame la storia descritta da Odell ci ritroviamo davanti ad un incredibile gioco di specchi che finirà per essere semplicemente un metodo utilizzato da persone poco raccomandabili per riciclare denaro (come descritto nelle fasi conclusive del reportage); una lunghissima lista di proprietà, di prodotti sovraprezzati e di indirizzi che si rimandano vicendevolmente e che non vendono niente se non il minimo indispensabile per comparire sul web.
A metà tra un sogno lynchiano ed un incubo reale, la storia di Odell è solo una delle tantissime possibile descrizioni per come il mondo dell’e-commerce possa prendere una piega estremamente vaga e fumosa, anche questa assolutamente falsa.
Il contenuto creato sul niente.
Uno dei meme più famosi dell’ultimo anno è senza dubbio quello che vede un video di youtube con un infante ed un padre scambiarsi una filastrocca conosciuta dal pubblico del web come “Johnny Johnny Yes Papa“; tale meme è stato veicolato all’interno di una delle piaghe del moderno Youtube, ovvero i canali con contenuti per bambini.
Chiunque abbia figli piccoli o abbia mai subito una ribellione da parte dell’algoritmo del sito di video sharing sa bene che tra un video musicale ed un video walkthrough si nascondono decine se non centinaia di video per infanti realizzati con le tecniche più svariate rappresentati scenette comiche/di vita quotidiana dai misteriosi valori pedagogici.
Un caso quasi eclatante può essere tranquillamente quello di Billion Surprise Toys (autori del più famoso meme intorno a Johnny Johnny Yes Papa), canale youtube dedito alla creazione di tali video che all’interno del proprio shop vende i video stessi beffandosi di Youtube e licenze annesse e connesse.
Questa specie di fantasia contraffatta, che ricorda quasi da vicino tutti i giocattoli falsi che chi è nato dagli anni settanta in poi ricorda benissimo, è solo un frammento di tutto quello che è possibile definire come contenuto vuoto all’interno del mondo di Youtube.
Possiamo, ad esempio, prendere in esame tutta quella serie di contenuti basati sulla tecnologia conosciuta come Deepfake; una delle iterazioni più recenti di tale tecnologia permette di creare nuovi volti utilizzando frammenti presi da una serie di foto ed una scheda grafica Nvidia creando, essenzialmente, materiale per persone che non esistono realmente.
Ancora una volta possiamo pensare all’inversione sopra descritta e ridere ancora meno perché ci stiamo pericolosamente avvicinando al momento in cui sarà chiaro a tutti che noi esseri umani siamo diventati soltanto lo scarto delle azioni che i bot non riescono a fare.
Le grandi aziende, come Google o Amazon, attraverso sistemi come L’Amazon Mechanical Turk delegano ad una moltitudine di esseri umani i compiti che le intelligenze artificiali non riescono a risolvere: riconoscere lettere, situazioni, paradigmi ed esempi.
Al momento non sappiamo se questo sia soltanto un lunghissimo prologo per il futuro descritto nel brand Terminator, possiamo soltanto dire di vivere all’interno di una massa informe di cose false e di vuoto pneumatico: ogni tanto, osservando il mare di bot e di specchi che internet è diventato capita di scorgere un essere umano come noi, forse ignaro della situazione che si trova o forse semplicemente impotente.
Per fuggire da questa distopia alcuni stanno costruendo reti internet decentralizzate, altri stanno più semplicemente tagliando i ponti, altri accettano la situazione.
Tutto ciò si può riassumere in una grande domanda finale: impareremo mai a riconoscere il vero dal falso sulla rete o affogheremo all’interno delle sue meccaniche?