AIQ: The Tech Edition

La Rete anti-social

Le società dei social media alla resa dei conti sull’hate speech

Facebook, Twitter e altre piattaforme stanno attirando critiche a causa della loro incapacità di affrontare i contenuti che incitano all’odio. Ma il colpo alla loro reputazione avrà qualche ripercussione negativa duratura a livello commerciale? 

Ad aprile 2021, il calcio inglese ha annunciato un boicottaggio dei social media. Giocatori, allenatori e opinionisti di tutto questo sport hanno evitato Twitter, Facebook e Instagram per quattro giorni per protesta contro il razzismo su queste piattaforme. Al boicottaggio hanno partecipato anche sponsor societari, tra cui Adidas e Barclays.

Questo è stato solo l’ultimo episodio di una reazione più ampia contro le società dei social media per la loro incapacità di affrontare l’incitazione all’odio, il cosiddetto hate speech. A luglio del 2020, più di 1.000 importanti inserzionisti hanno lanciato un boicottaggio di un mese su Facebook nell’ambito della campagna #StopHateForProfit, spingendo la società a intervenire in misura maggiore per eliminare i contenuti razzisti sulla scia dell’uccisione di George Floyd e delle proteste del movimento Black Lives Matter.1

Nonostante queste polemiche, le società dei social media continuano a godere della fiducia del mercato. I prezzi delle azioni sono cresciuti in linea con il settore tecnologico in generale, nel contesto della crescente domanda di strumenti online, mentre l’economia dei negozi convenzionali è penalizzata a causa delle restrizioni legate al COVID-19. Tuttavia, a fronte del ritiro degli inserzionisti, dell’abbandono degli utenti e della stretta degli enti di vigilanza, alcuni investitori segnalano che la persistenza dell’hate speech sui social media potrebbe comunque rappresentare una grave minaccia per il futuro dei giganti tecnologici.

“L’hate speech sta screditando il marchio Facebook”, afferma David Cumming, Chief Investment Officer for Equities di Aviva Investors. “La società deve prendere sul serio i propri obblighi sociali. Se da un lato il prezzo delle azioni non ha ancora reagito, dall’altro, col tempo, questa situazione potrebbe avere delle ripercussioni negative. L’eventuale perdita della fiducia dei suoi utenti potrebbe danneggiare Facebook.”

Effetti sulla vita reale

Come definito dalle Nazioni Unite, il cosiddetto hate speech comprende “qualsiasi forma di espressione verbale, scritta o comportamentale, che attacca o utilizza un linguaggio dispregiativo o discriminatorio in riferimento a una persona o a un gruppo di persone sulla base di alcune caratteristiche”, tra cui la loro religione, etnia, nazionalità, razza, genere, sessualità o qualsiasi altro fattore identitario.2

Le società dei social media hanno attirato critiche per il ritardo con cui hanno bloccato Trump

L’hate speech su Internet ha effetti sulla vita reale, il che lo rende una questione fondamentale in materia di diritti umani. In Germania, è stata individuata una correlazione tra i post anti-rifugiati su Facebook da parte del partito di estrema destra Alternative für Deutschland e gli attacchi fisici ai rifugiati.3

Gli autori delle sparatorie di massa razziste negli Stati Uniti e altrove hanno reso pubblici i loro atti ai sostenitori sui principali siti dei social media e hanno persino utilizzato le piattaforme per trasmettere video dei loro crimini. Il cecchino che ha ucciso 51 persone in due moschee a Christchurch, in Nuova Zelanda, nel marzo 2019 ha trasmesso in streaming un video degli attacchi tramite Facebook Live e le clip dei filmati si sono diffuse rapidamente su Facebook e YouTube.4

Sebbene questo tipo di attività tenda ad essere oscurata in modo relativamente rapido, Facebook ha bloccato solo i contenuti nazionalisti bianchi per una questione di mancato rispetto della sua politica subito dopo gli attacchi di Christchurch.5 YouTube e Twitter hanno permesso a David Duke, leader del Ku Klux Klan, di pubblicare i suoi post per anni sulle loro reti prima di cancellarne finalmente l’account nel 2020.6

Le società dei social media hanno una portata globale e l’hate speech è un problema globale. Secondo un’indagine delle Nazioni Unite, in Myanmar, il personale militare ha utilizzato Facebook per diffondere una propaganda di demonizzazione contro i musulmani Rohingya prima di avviare una campagna di pulizia etnica. In India, le folle di linciatori hanno utilizzato il servizio di messaggistica WhatsApp di proprietà di Facebook per coordinare gli attacchi.7

Camere di risonanza

Alcuni esperti accusano i modelli di business dei social media. I social network incoraggiano gli individui affini a riunirsi, per indirizzare la pubblicità verso di loro in modo più mirato ed efficace. Tuttavia, sebbene gli algoritmi spingano gli utenti verso contenuti che si allineano con le loro opinioni preesistenti, possono formarsi delle camere di risonanza. Senza l’intervento correttivo offerto dalle opinioni opposte o dalle voci moderanti, la retorica può rapidamente precipitare negli estremismi.

Ogni piattaforma di social media ha le proprie regole, più o meno severe, riguardo a ciò che è ammissibile.

Ogni piattaforma di social media ha le proprie regole, più o meno severe, riguardo a ciò che è ammissibile. Le linee guida di Facebook sono relativamente dettagliate, mentre YouTube e Twitter hanno anche linee guida chiare su ciò che dovrebbe essere rimosso, ad es. è vietato qualsiasi incitamento alla violenza, e su ciò che sarebbe consentito tenere con avvertenze sul contenuto allegate (questo include alcune forme di hate speech).

Tuttavia, l’applicazione di queste regole è disomogenea. In diversa misura, le società dei social media si affidano a tre metodi di controllo dei contenuti: intelligenza artificiale, moderatori umani e segnalazioni degli utenti. Gli algoritmi utilizzati per rilevare ed eliminare contenuti che violano le regole sono poco trasparenti. I moderatori umani, nel frattempo, possono venire rapidamente sopraffatti dal compito ingrato di setacciare attraverso le valanghe di contenuti inquietanti, il che lascia il segno sulla loro salute mentale. 

Normativa più severa

In quanto società globali le cui attività si svolgono in paesi con leggi molto diverse sulla libertà di espressione, le società dei social media devono trovare un sottile equilibrio quando decidono quali contenuti vietare o segnalare come dannosi.

L’account del presidente Donald Trump è stato bloccato sia su Twitter che su Facebook dopo la contestazione della vittoria delle elezioni presidenziali da parte di Joe Biden e l’istigazione alla rivolta dei suoi sostenitori al Campidoglio a Washington DC nel gennaio 2021. Twitter ha affermato che i tweet di Trump in questo periodo “presentavano un’elevata probabilità di incoraggiare e ispirare le persone a replicare gli atti criminali perpetrati al Campidoglio”.8

Le società di social media hanno ricevuto critiche per il loro ritardo nel bandire Trump e per la censura della libertà di parola  

In alcuni casi, le società dei social media hanno attirato critiche per il ritardo con cui hanno bloccato Trump, in altri, sono state criticate per aver censurato la libertà di parola. Mark Zuckerberg, CEO di Facebook, ha chiesto ai governi di elaborare una serie coerente di norme per le società Internet, comprese le linee guida su come gestire i contenuti lesivi. La società ha anche istituito una commissione di sorveglianza indipendente, denominata Corte suprema di Facebook, per rivedere le decisioni sulla gestione dei contenuti e potenzialmente revocarle.9 A maggio 2021 la commissione ha confermato la sospensione di Trump, ma ha indicato che la natura indefinita del divieto era insolita e ha invitato Facebook ad essere più trasparente nel suo processo decisionale.10

Dal punto di vista delle società tecnologiche, lo scenario peggiore sarebbe un emendamento alla Sezione 230 del Communications Decency Act statunitense, secondo cui le società tecnologiche non sono attualmente perseguibili penalmente a causa di contenuti lesivi o diffamatori pubblicati da terzi sulle loro piattaforme. Da parte sua, la Commissione europea sta preparando un disegno di legge che costringerà i colossi tecnologici a rimuovere i contenuti illegali o a far fronte alla minaccia di sanzioni ai sensi di una legge globale sui servizi digitali che sarà presentata alla fine del 2021.

Impatto commerciale

Anche se riuscissero a evitare costose sanzioni normative, è probabile che le grandi aziende tecnologiche dovranno investire in modo molto più massiccio in iniziative di gestione dei contenuti in futuro, dal miglioramento dei sistemi automatizzati a nuovi eserciti di moderatori umani.

Anche i boicottaggi degli inserzionisti potrebbero avere un impatto crescente nel tempo, dato che le vendite pubblicitarie costituiscono la stragrande maggioranza delle entrate delle società dei social media (cfr. Figura 1), anche se l’impatto finora è stato modesto. I ricavi pubblicitari di Facebook sono in realtà aumentati durante il boicottaggio di luglio 2020, in parte perché i suoi clienti sono per lo più aziende locali “a conduzione familiare” che non hanno partecipato allo sciopero. 

Figura 1: Fonte di reddito principale delle società tecnologiche (in percentuale)
Twitter’s algorithm favours the most emotive and negative tweets
Fonte: Facebook, Twitter, Alphabet, Apple, Amazon, Microsoft, marzo 2020

Tuttavia, questo non vuol dire che il boicottaggio non funzionerà per forzare i cambiamenti in merito alla gestione dell’hate speech da parte di Facebook. YouTube ha risposto a un boicottaggio pubblicitario nel 2017 modificando i suoi algoritmi per limitare i contenuti estremi.

Questo esempio mostra che le società tecnologiche risponderanno quando verrà applicata una pressione esterna sufficiente, a indicazione del fatto che il coinvolgimento degli investitori potrebbe produrre dei risultati. Inoltre, il destino delle società tecnologiche è sicuramente una questione di crescente importanza per gli investitori, per motivi finanziari ed etici. Al 1° maggio 2021, le cinque maggiori società tecnologiche (Alphabet, Amazon, Apple, Facebook e Microsoft) rappresentavano circa il 22% della capitalizzazione totale di mercato dell’indice S&P 500.11

A fronte dei rischi morali e finanziari in gioco, aumenta il numero di investitori che stanno iniziando a mettere in discussione le società dei social media in merito ai contenuti. Louise Piffaut e Charles Devereux, analisti ESG di Aviva Investors, hanno definito un quadro di riferimento per l’interazione con queste società nelle aree chiave. Raccomandano agli investitori di assicurarsi che le società dei social media stiano valutando in modo adeguato l’influsso delle loro attività sui diritti umani, sviluppando politiche più solide sui contenuti alla luce di questi principi e dimostrando in che modo sono applicati.

Sempre più investitori stanno iniziando a mettere in discussione le società di social media sui contenuti

Gli investitori dovrebbero inoltre collaborare con le società dei social media per l’applicazione corretta delle proprie regole, il miglioramento della responsabilità interna e l’offerta di una maggiore trasparenza sulle loro azioni in materia di hate speech. Gli analisti sostengono che investire in algoritmi di rilevamento più sofisticati ridurrebbe l’onere dei moderatori umani.

Le società dei social media occidentali affrontano le critiche legate al loro lassismo riguardo al blocco dei contenuti offensivi sulle loro piattaforme, ma le società tecnologiche di altri paesi, come la Cina o la Russia, potrebbero ricorrere troppo rapidamente alla limitazione del confronto per volere di governi autoritari. In questi casi, è compito degli investitori esercitare pressioni sulle società affinché difendano le libertà individuali e tutelino il loro accesso alle informazioni laddove possibile.

Effetto domino

Trovare il giusto equilibrio quando si interagisce a livello globale con le società dei social media sulla gestione dei contenuti può essere complicato, ma gli investitori devono essere disposti a farlo se vogliono investire secondo il proprio codice morale e difendere il valore di tali investimenti. Dopotutto, se si consente la diffusione dell’incitazione all’odio, cresceranno le richieste volte a tenere a freno le società dei social media con una regolamentazione più severa e forse anche di spezzarle.

Durante la campagna elettorale del 2020, il Presidente Biden ha indicato che avrebbe adottato una linea dura su Facebook. A giugno, ha scritto una lettera aperta alla società in cui criticava le sue politiche di gestione dei contenuti e le ha ordinato di “muoversi velocemente e di risolvere la questione”, riferendosi ai problemi relativi all’hate speech e alla disinformazione. Il Presidente e i suoi sostenitori hanno diffuso questo slogan sulla rete.12

Biden ha criticato le politiche di gestione dei contenuti di Facebook e gli ha ordinato di "muoversi e risolverlo"

Indipendentemente dal fatto che le autorità di regolamentazione decidano o meno di spezzare le grandi società tecnologiche, esiste la possibilità che gli utenti possano sentirsi frustrati dall’atmosfera sempre più tossica delle piattaforme dei social media. Questo potrebbe creare un ciclo di feedback negativo, per cui un calo del coinvolgimento degli utenti rimuove l’incentivo per le società a pagare per gli annunci pubblicitari nel lungo periodo.

Vi sono già dei segnali della scarsa stima degli utenti riguardo a Facebook in termini monetari. Prendiamo ad esempio un recente studio di Erik Brynjolfsson, Direttore dell’Iniziativa sull’economia digitale del Massachusetts Institute of Technology. Ha chiesto alla gente quanto avrebbero accettato per rinunciare ai motori di ricerca per un anno, gli intervistati hanno indicato una cifra media di 17.500 dollari. Gli stessi intervistati erano disposti a rinunciare all’accesso a Facebook per meno di 600 dollari.13

Per comprendere il rischio di un esodo degli utenti, basta chiedere allo stesso Mark Zuckerberg, o almeno il suo alter ego fittizio nel film biografico del 2010, The Social Network. In una scena chiave, Zuckerberg si preoccupa della velocità con la quale potrebbero cambiare le sorti della sua società: “Gli utenti sono volubili”, afferma. “Anche l’abbandono di poche persone si ripercuoterebbe su tutto il parco utenti. Gli utenti sono interconnessi. È questo il punto. Gli universitari sono online perché lo sono i loro amici. E se si rovescia una tessera del domino, si rovescia anche l’altra. Lo capisci?”

L'incitamento all'odio minaccia di innescare un effetto domino tra gli utenti, gli inserzionisti e gli investitori di Facebook

Poiché l’hate speech minaccia di innescare un effetto domino tra gli utenti, gli inserzionisti e gli investitori di Facebook, il vero Zuckerberg farebbe bene a dare ascolto all’avvertimento.

Desideri leggere più contenuti di questo tipo?

Iscriviti per ricevere i nostri contenuti di AIQ Thought Leadership.

Grazie per aver richiesto una copia del nostro ultimo AIQ. Te lo invieremo a breve.

Per tenerti aggiornato con i nostri ultimi approfondimenti, visita la nostra pagina Opinioni.

Abilita JavaScript nel tuo browser per vedere questo contenuto.

Seleziona il formato che desideri ricevere.

Se desideri ricevere una copia stampata di AIQ, inserisci di seguito il tuo indirizzo postale completo

Dichiaro di essere qualificato come un cliente professionale o investitore istituzionale/qualificato. Inviando questi dettagli, confermo che desidero ricevere una copia digitale e / o stampata dell'ultimo AIQ e ricevere aggiornamenti e-mail di thought leadership da Aviva Investors, oltre a qualsiasi altra sottoscrizione e-mail che potrei avere con Aviva Investors. Puoi annullare l'iscrizione o personalizzare le tue preferenze email in qualsiasi momento.

Per ulteriori informazioni, visita la nostra Informativa sulla Privacy.

Informazioni importanti

Salvo diversamente indicato, la fonte delle informazioni riportate è Aviva Investors Global Services Limited (AIGSL). Salvo diversa precisazione, tutte le opinioni e i pareri appartengono ad Aviva Investors. Le suddette opinioni e pareri non vanno considerati come garanzia dei rendimenti generati dagli investimenti gestiti da Aviva Investors, né come una consulenza di qualsiasi tipo. Le informazioni qui riportate provengono da fonti ritenute affidabili ma non sono state oggetto di verifica da parte di Aviva Investors, che non ne garantisce l'esattezza. La performance passata non è indicativa dei risultati futuri. Il valore degli investimenti e dei rendimenti da essi generati può aumentare come diminuire e gli investitori potrebbero non recuperare l’intero importo investito. Nulla di quanto qui riportato, compresi eventuali riferimenti a specifici titoli, classi di attivi e mercati finanziari, costituisce o va inteso come una consulenza o una raccomandazione di qualsiasi natura. Il presente materiale non è una raccomandazione all'acquisto o alla vendita di investimenti.

In Europa questo documento è pubblicato da Aviva Investors Luxembourg S.A. Sede legale: 2 rue du Fort Bourbon, 1st Floor, 1249 Lussemburgo. Sotto la supervisione della Commission de Surveillance du Secteur Financier. Una società Aviva. Nel Regno Unito è pubblicato da Aviva Investors Global Services Limited. N. d'iscrizione in Inghilterra 1151805. Sede legale: St Helens, 1 Undershaft, Londra EC3P 3DQ. Autorizzata e disciplinata dalla Financial Conduct Authority. N. di riferimento impresa 119178. In Francia, Aviva Investors France è una società di gestione di portafogli approvata dall'autorità francese, "Autorité des Marchés Financiers", con il n. GP 97-114, come società a responsabilità limitata dotata di un Consiglio di amministrazione e un Consiglio di vigilanza, capitale sociale di 17.793.700 euro, sede legale al 14 rue Roquépine, 75008 Parigi e iscritta al Registro delle imprese di Parigi con il n. 335 133 229. In Svizzera, il presente documento è pubblicato da Aviva Investors Schweiz GmbH.

A Singapore, questo materiale è diffuso tramite un accordo con Aviva Investors Asia Pte. Limited (AIAPL) ed è esclusivamente rivolto agli investitori istituzionali. Si ricorda che AIAPL non effettua ricerca o analisi indipendenti in materia o per la preparazione del presente materiale. I destinatari del presente sono invitati a contattare AIAPL per qualsiasi questione derivante o legata al presente materiale. AIAPL, società di diritto di Singapore con n. di iscrizione 200813519W, è titolare di una Licenza per servizi sui mercati dei capitali valida per svolgere attività di gestione di fondi ai sensi del Securities and Futures Act (Singapore Statute Cap. 289) ed è un Consulente finanziario asiatico esente ai sensi del Financial Advisers Act (Singapore Statute Cap.110). Sede legale: 1 Raffles Quay, #27-13 South Tower, Singapore 048583. In Australia, questo materiale è diffuso tramite un accordo con Aviva Investors Pacific Pty Ltd (AIPPL) ed è esclusivamente rivolto agli investitori istituzionali. Si ricorda che AIPPL non effettua ricerca o analisi indipendenti in materia o per la preparazione del presente materiale. I destinatari del presente sono invitati a contattare AIPPL per qualsiasi questione derivante o legata al presente materiale. AIPPL, società di diritto australiano con Australian Business No. 87 153 200 278 e Australian Company No. 153 200 278, è titolare di una Licenza per servizi finanziari in Australia (AFSL 411458) rilasciata dall'Australian Securities and Investments Commission. Sede operativa: Level 30, Collins Place, 35 Collins Street, Melbourne, Vic 3000, Australia.

Il nome “Aviva Investors” nel presente materiale si riferisce nel complesso all'organizzazione di imprese di gestione patrimoniale che opera sotto il nome di Aviva Investors. Ogni consociata di Aviva Investors è una controllata di Aviva plc, società finanziaria multinazionale quotata con sede nel Regno Unito. Aviva Investors Canada, Inc. (“AIC”) ha sede a Toronto ed è registrata presso la Ontario Securities Commission (“OSC”) come Gestore di portafogli, Intermediario di mercato esente e Gestore di trading su materie prime. Aviva Investors Americas LLC è accreditata a livello federale come consulente per gli investimenti presso la U.S. Securities and Exchange Commission. Aviva Investors Americas è anche consulente di trading su materie prime (“CTA”) registrato presso la Commodity Futures Trading Commission (“CFTC”) ed è membro della National Futures Association (“NFA”). Il Modulo ADV Parte 2A di AIA, con informazioni generali sull'azienda e sulle sue politiche, può essere richiesto a: Compliance Department, 225 West Wacker Drive, Suite 2250, Chicago, IL 60606.

Opinioni correlate