La Rete anti-social

Come definito dalle Nazioni Unite, il cosiddetto hate speech comprende “qualsiasi forma di espressione verbale, scritta o comportamentale, che attacca o utilizza un linguaggio dispregiativo o discriminatorio in riferimento a una persona o a un gruppo di persone sulla base di alcune caratteristiche”, tra cui la loro religione, etnia, nazionalità, razza, genere, sessualità o qualsiasi altro fattore identitario.²

L’hate speech su Internet ha effetti sulla vita reale, il che lo rende una questione fondamentale in materia di diritti umani. In Germania, è stata individuata una correlazione tra i post anti-rifugiati su Facebook da parte del partito di estrema destra Alternative für Deutschland e gli attacchi fisici ai rifugiati.³

Gli autori delle sparatorie di massa razziste negli Stati Uniti e altrove hanno reso pubblici i loro atti ai sostenitori sui principali siti dei social media e hanno persino utilizzato le piattaforme per trasmettere video dei loro crimini. Il cecchino che ha ucciso 51 persone in due moschee a Christchurch, in Nuova Zelanda, nel marzo 2019 ha trasmesso in streaming un video degli attacchi tramite Facebook Live e le clip dei filmati si sono diffuse rapidamente su Facebook e YouTube.⁴

Sebbene questo tipo di attività tenda ad essere oscurata in modo relativamente rapido, Facebook ha bloccato solo i contenuti nazionalisti bianchi per una questione di mancato rispetto della sua politica subito dopo gli attacchi di Christchurch.⁵ YouTube e Twitter hanno permesso a David Duke, leader del Ku Klux Klan, di pubblicare i suoi post per anni sulle loro reti prima di cancellarne finalmente l’account nel 2020.⁶

Le società dei social media hanno una portata globale e l’hate speech è un problema globale. Secondo un’indagine delle Nazioni Unite, in Myanmar, il personale militare ha utilizzato Facebook per diffondere una propaganda di demonizzazione contro i musulmani Rohingya prima di avviare una campagna di pulizia etnica. In India, le folle di linciatori hanno utilizzato il servizio di messaggistica WhatsApp di proprietà di Facebook per coordinare gli attacchi.⁷

Alcuni esperti accusano i modelli di business dei social media. I social network incoraggiano gli individui affini a riunirsi, per indirizzare la pubblicità verso di loro in modo più mirato ed efficace. Tuttavia, sebbene gli algoritmi spingano gli utenti verso contenuti che si allineano con le loro opinioni preesistenti, possono formarsi delle camere di risonanza. Senza l’intervento correttivo offerto dalle opinioni opposte o dalle voci moderanti, la retorica può rapidamente precipitare negli estremismi.

Ogni piattaforma di social media ha le proprie regole, più o meno severe, riguardo a ciò che è ammissibile. Le linee guida di Facebook sono relativamente dettagliate, mentre YouTube e Twitter hanno anche linee guida chiare su ciò che dovrebbe essere rimosso, ad es. è vietato qualsiasi incitamento alla violenza, e su ciò che sarebbe consentito tenere con avvertenze sul contenuto allegate (questo include alcune forme di hate speech).

Tuttavia, l’applicazione di queste regole è disomogenea. In diversa misura, le società dei social media si affidano a tre metodi di controllo dei contenuti: intelligenza artificiale, moderatori umani e segnalazioni degli utenti. Gli algoritmi utilizzati per rilevare ed eliminare contenuti che violano le regole sono poco trasparenti. I moderatori umani, nel frattempo, possono venire rapidamente sopraffatti dal compito ingrato di setacciare attraverso le valanghe di contenuti inquietanti, il che lascia il segno sulla loro salute mentale. 

In quanto società globali le cui attività si svolgono in paesi con leggi molto diverse sulla libertà di espressione, le società dei social media devono trovare un sottile equilibrio quando decidono quali contenuti vietare o segnalare come dannosi.

L’account del presidente Donald Trump è stato bloccato sia su Twitter che su Facebook dopo la contestazione della vittoria delle elezioni presidenziali da parte di Joe Biden e l’istigazione alla rivolta dei suoi sostenitori al Campidoglio a Washington DC nel gennaio 2021. Twitter ha affermato che i tweet di Trump in questo periodo “presentavano un’elevata probabilità di incoraggiare e ispirare le persone a replicare gli atti criminali perpetrati al Campidoglio”.⁸

In alcuni casi, le società dei social media hanno attirato critiche per il ritardo con cui hanno bloccato Trump, in altri, sono state criticate per aver censurato la libertà di parola. Mark Zuckerberg, CEO di Facebook, ha chiesto ai governi di elaborare una serie coerente di norme per le società Internet, comprese le linee guida su come gestire i contenuti lesivi. La società ha anche istituito una commissione di sorveglianza indipendente, denominata Corte suprema di Facebook, per rivedere le decisioni sulla gestione dei contenuti e potenzialmente revocarle.⁹ A maggio 2021 la commissione ha confermato la sospensione di Trump, ma ha indicato che la natura indefinita del divieto era insolita e ha invitato Facebook ad essere più trasparente nel suo processo decisionale.¹⁰

Dal punto di vista delle società tecnologiche, lo scenario peggiore sarebbe un emendamento alla Sezione 230 del Communications Decency Act statunitense, secondo cui le società tecnologiche non sono attualmente perseguibili penalmente a causa di contenuti lesivi o diffamatori pubblicati da terzi sulle loro piattaforme. Da parte sua, la Commissione europea sta preparando un disegno di legge che costringerà i colossi tecnologici a rimuovere i contenuti illegali o a far fronte alla minaccia di sanzioni ai sensi di una legge globale sui servizi digitali che sarà presentata alla fine del 2021.

Anche se riuscissero a evitare costose sanzioni normative, è probabile che le grandi aziende tecnologiche dovranno investire in modo molto più massiccio in iniziative di gestione dei contenuti in futuro, dal miglioramento dei sistemi automatizzati a nuovi eserciti di moderatori umani.

Anche i boicottaggi degli inserzionisti potrebbero avere un impatto crescente nel tempo, dato che le vendite pubblicitarie costituiscono la stragrande maggioranza delle entrate delle società dei social media (cfr. Figura 1), anche se l’impatto finora è stato modesto. I ricavi pubblicitari di Facebook sono in realtà aumentati durante il boicottaggio di luglio 2020, in parte perché i suoi clienti sono per lo più aziende locali “a conduzione familiare” che non hanno partecipato allo sciopero. 

Figura 1: Fonte di reddito principale delle società tecnologiche (in percentuale)

Fonte: Facebook, Twitter, Alphabet, Apple, Amazon, Microsoft, marzo 2020

Tuttavia, questo non vuol dire che il boicottaggio non funzionerà per forzare i cambiamenti in merito alla gestione dell’hate speech da parte di Facebook. YouTube ha risposto a un boicottaggio pubblicitario nel 2017 modificando i suoi algoritmi per limitare i contenuti estremi.

Questo esempio mostra che le società tecnologiche risponderanno quando verrà applicata una pressione esterna sufficiente, a indicazione del fatto che il coinvolgimento degli investitori potrebbe produrre dei risultati. Inoltre, il destino delle società tecnologiche è sicuramente una questione di crescente importanza per gli investitori, per motivi finanziari ed etici. Al 1° maggio 2021, le cinque maggiori società tecnologiche (Alphabet, Amazon, Apple, Facebook e Microsoft) rappresentavano circa il 22% della capitalizzazione totale di mercato dell’indice S&P 500.¹¹

A fronte dei rischi morali e finanziari in gioco, aumenta il numero di investitori che stanno iniziando a mettere in discussione le società dei social media in merito ai contenuti. Louise Piffaut e Charles Devereux, analisti ESG di Aviva Investors, hanno definito un quadro di riferimento per l’interazione con queste società nelle aree chiave. Raccomandano agli investitori di assicurarsi che le società dei social media stiano valutando in modo adeguato l’influsso delle loro attività sui diritti umani, sviluppando politiche più solide sui contenuti alla luce di questi principi e dimostrando in che modo sono applicati.

Gli investitori dovrebbero inoltre collaborare con le società dei social media per l’applicazione corretta delle proprie regole, il miglioramento della responsabilità interna e l’offerta di una maggiore trasparenza sulle loro azioni in materia di hate speech. Gli analisti sostengono che investire in algoritmi di rilevamento più sofisticati ridurrebbe l’onere dei moderatori umani.

Le società dei social media occidentali affrontano le critiche legate al loro lassismo riguardo al blocco dei contenuti offensivi sulle loro piattaforme, ma le società tecnologiche di altri paesi, come la Cina o la Russia, potrebbero ricorrere troppo rapidamente alla limitazione del confronto per volere di governi autoritari. In questi casi, è compito degli investitori esercitare pressioni sulle società affinché difendano le libertà individuali e tutelino il loro accesso alle informazioni laddove possibile.

Trovare il giusto equilibrio quando si interagisce a livello globale con le società dei social media sulla gestione dei contenuti può essere complicato, ma gli investitori devono essere disposti a farlo se vogliono investire secondo il proprio codice morale e difendere il valore di tali investimenti. Dopotutto, se si consente la diffusione dell’incitazione all’odio, cresceranno le richieste volte a tenere a freno le società dei social media con una regolamentazione più severa e forse anche di spezzarle.

Durante la campagna elettorale del 2020, il Presidente Biden ha indicato che avrebbe adottato una linea dura su Facebook. A giugno, ha scritto una lettera aperta alla società in cui criticava le sue politiche di gestione dei contenuti e le ha ordinato di “muoversi velocemente e di risolvere la questione”, riferendosi ai problemi relativi all’hate speech e alla disinformazione. Il Presidente e i suoi sostenitori hanno diffuso questo slogan sulla rete.¹²

Indipendentemente dal fatto che le autorità di regolamentazione decidano o meno di spezzare le grandi società tecnologiche, esiste la possibilità che gli utenti possano sentirsi frustrati dall’atmosfera sempre più tossica delle piattaforme dei social media. Questo potrebbe creare un ciclo di feedback negativo, per cui un calo del coinvolgimento degli utenti rimuove l’incentivo per le società a pagare per gli annunci pubblicitari nel lungo periodo.

Vi sono già dei segnali della scarsa stima degli utenti riguardo a Facebook in termini monetari. Prendiamo ad esempio un recente studio di Erik Brynjolfsson, Direttore dell’Iniziativa sull’economia digitale del Massachusetts Institute of Technology. Ha chiesto alla gente quanto avrebbero accettato per rinunciare ai motori di ricerca per un anno, gli intervistati hanno indicato una cifra media di 17.500 dollari. Gli stessi intervistati erano disposti a rinunciare all’accesso a Facebook per meno di 600 dollari.¹³

Per comprendere il rischio di un esodo degli utenti, basta chiedere allo stesso Mark Zuckerberg, o almeno il suo alter ego fittizio nel film biografico del 2010, The Social Network. In una scena chiave, Zuckerberg si preoccupa della velocità con la quale potrebbero cambiare le sorti della sua società: “Gli utenti sono volubili”, afferma. “Anche l’abbandono di poche persone si ripercuoterebbe su tutto il parco utenti. Gli utenti sono interconnessi. È questo il punto. Gli universitari sono online perché lo sono i loro amici. E se si rovescia una tessera del domino, si rovescia anche l’altra. Lo capisci?”

Poiché l’hate speech minaccia di innescare un effetto domino tra gli utenti, gli inserzionisti e gli investitori di Facebook, il vero Zuckerberg farebbe bene a dare ascolto all’avvertimento.