Perché i contenuti polemici dominano i feed? Viaggio tra emozioni, logiche di piattaforma e impatto dell’odio sui social sul dibattito pubblico.
Ogni giorno milioni di persone scorrono post, video e commenti selezionati da sistemi automatici che decidono quali contenuti mostrare per primi. Gli algoritmi non distinguono tra una discussione costruttiva e una polemica: osservano soprattutto le reazioni. E poiché la rabbia e l’indignazione spingono le persone a reagire più velocemente, a vincere la gara della visibilità sono spesso i contenuti più divisivi. È qui che entra in gioco quello che viene definito “algoritmo dell’odio” che evidenzia come i meccanismi di raccomandazione finiscano per premiare il conflitto.
Parlare del perché l’odio vinca sui social non significa sostenere che esista un unico software programmato per diffondere aggressività. Il meccanismo è molto più sottile e nasce dall’interazione tra le nostre reazioni e i sistemi automatici. La rabbia spinge all’azione immediata, mentre le discussioni accese alimentano interazioni senza fine. In questo articolo vedremo come funziona questo circuito e perché le ricompense ricevute online finiscano per incoraggiare, giorno dopo giorno, un livello di indignazione sempre più alto.
Indice
- Che cos’è l’algoritmo dell’odio
- Perché la rabbia genera engagement
- Ruolo dei meccanismi di raccomandazione
- Chi alimenta l’odio sui social
- Gli effetti dell’odio sulla società
- Hate speech e democrazia
- Come disinnescare il meccanismo
- Utilizzare i social per stare bene?
Che cos’è l’algoritmo dell’odio?
L’espressione algoritmo dell’odio non identifica un singolo algoritmo utilizzato dalle piattaforme social. È piuttosto un modo per descrivere un meccanismo nel quale i sistemi di raccomandazione possono favorire la circolazione di contenuti capaci di suscitare reazioni molto intense. Rabbia, paura, indignazione e conflitto attirano facilmente l’attenzione. Quando queste emozioni producono molti commenti, condivisioni o visualizzazioni, il contenuto può acquisire ulteriore visibilità. Il risultato è un possibile circuito nel quale emozione, interazione e distribuzione si rafforzano reciprocamente.
Per capire questo fenomeno bisogna quindi distinguere l’hate speech dalla semplice opinione aggressiva o dalla critica. L’incitamento all’odio può avere caratteristiche specifiche e, in determinati casi, rientrare nella categoria dei contenuti illegali. Un commento polemico, invece, non è automaticamente hate speech. Il problema nasce quando sistemi progettati per massimizzare l’attenzione incontrano contenuti che sfruttano pregiudizi, ostilità verso determinati gruppi o contrapposizioni estremamente polarizzate. La tecnologia può amplificare il fenomeno, ma non ne rappresenta necessariamente l’origine.
L’idea di un algoritmo che “sceglie l’odio” è quindi una semplificazione. I sistemi di raccomandazione lavorano generalmente con moltissime variabili: interessi dichiarati, comportamenti precedenti, interazioni, tempo trascorso sui contenuti e probabilità di una nuova azione. Il problema è che l’ottimizzazione di queste metriche può produrre conseguenze indesiderate. Se una provocazione ottiene più reazioni di un contenuto equilibrato, il sistema può considerarla più interessante dal punto di vista della previsione del comportamento, senza possedere una valutazione morale della discussione.
Questo spiega perché il fenomeno non riguarda soltanto chi pubblica messaggi apertamente offensivi. Anche una persona che risponde indignata può contribuire involontariamente alla diffusione del contenuto che contesta. Il commento negativo, la condivisione accompagnata da una critica e la lunga discussione sotto un post possono aumentare le interazioni complessive. Questo circuito dell’odio funziona quindi soprattutto come una dinamica circolare: qualcuno provoca, altri reagiscono, la piattaforma registra l’attività e il contenuto può continuare a ricevere attenzione.
Perché la rabbia genera engagement
La rabbia possiede una caratteristica particolarmente importante nell’ambiente digitale: spinge all’azione. Un contenuto neutro o gentile può essere osservato e dimenticato rapidamente, mentre una provocazione può indurre l’utente a rispondere immediatamente. Scrivere un commento, correggere qualcuno, condividere un post per criticarlo o coinvolgere altri utenti aumenta il numero di interazioni. L’engagement sui social diventa così una misura indiretta dell’intensità emotiva. Non significa che ogni contenuto molto coinvolgente sia negativo, ma spiega perché sui social la conflittualità possa risultare particolarmente competitiva.
La ricerca scientifica ha trovato elementi interessanti proprio su questo punto. Uno studio pubblicato su Science Advances e condotto analizzando milioni di interazioni su Twitter ha rilevato che le espressioni di indignazione morale ricevevano ricompense sociali e che gli utenti potevano imparare a esprimere maggiore indignazione nel tempo. La ricerca suggerisce quindi un meccanismo di apprendimento: se una determinata modalità comunicativa produce più reazioni, l’utente può essere incentivato a ripeterla.
La questione riguarda anche i cosiddetti bias cognitivi, in particolare il bias di negatività, cioè la tendenza umana a prestare particolare attenzione a informazioni percepite come minacciose, problematiche o emotivamente rilevanti. È però importante non trasformare questo concetto in una spiegazione neurologica semplicistica. Non esiste una formula secondo cui ogni contenuto arrabbiato attiverebbe automaticamente una specifica area cerebrale e farebbe aumentare le interazioni. Il comportamento online nasce dall’incontro tra predisposizioni psicologiche, contesto sociale, caratteristiche del contenuto e progettazione della piattaforma.
L’economia dell’attenzione completa il quadro. Le piattaforme competono per il tempo degli utenti e cercano di prevedere quali contenuti possano mantenerli coinvolti. In questo sistema, una discussione accesa può diventare molto preziosa perché genera una sequenza di azioni. Più persone rispondono, più il contenuto rimane vivo e più opportunità esistono per ulteriori interazioni. Il problema non è dunque soltanto l’esistenza dell’odio, ma il fatto che alcune dinamiche comunicative negative possano essere perfettamente compatibili con gli obiettivi quantitativi dell’engagement.
Ruolo dei meccanismi di raccomandazione
I social network più usati non mostrano i contenuti nell’ordine in cui vengono pubblicati. I sistemi di raccomandazione cercano di stabilire quali post, video o discussioni possano essere più rilevanti per ciascun utente. Per farlo utilizzano segnali differenti, che possono comprendere precedenti interazioni, interessi, relazioni con altri account e probabilità di coinvolgimento. Questa personalizzazione rende l’esperienza più dinamica, ma può anche creare ambienti nei quali determinate opinioni o tematiche diventano progressivamente più presenti.
Quando un utente interagisce con contenuti polemici ripetutamente , il sistema può interpretare quelle azioni come un interesse. Non necessariamente “capisce” che l’utente sta guardando quei contenuti perché li considera offensivi o assurdi. Vede soprattutto un comportamento osservabile. Se continuiamo a commentare ogni provocazione, possiamo quindi inviare alla piattaforma un segnale diverso da quello che intendiamo comunicare. L’utente pensa “voglio contestare questo contenuto”, mentre il sistema può registrare “questo contenuto genera interesse”.
Da qui nasce uno dei paradossi dei social. Cercare di combattere una provocazione attraverso una reazione pubblica può contribuire a renderla più visibile. Naturalmente non accade sempre e non esiste una regola universale secondo cui ogni commento aumenterebbe automaticamente la distribuzione. Le piattaforme utilizzano sistemi diversi e modificano continuamente i propri modelli. Tuttavia, il principio generale rimane: ciò che produce segnali di coinvolgimento può avere maggiori possibilità di essere considerato rilevante.
La ricerca di Yale citata dalla Commissione europea è significativa proprio perché sposta l’attenzione dal solo algoritmo all’interazione tra algoritmo e comportamento umano. Gli autori hanno osservato che le ricompense ricevute online possono modificare progressivamente il modo in cui le persone esprimono indignazione. Non è quindi sufficiente chiedersi se “l’algoritmo favorisca l’odio”: bisogna capire come utenti e piattaforme si influenzino reciprocamente.
Chi alimenta l’odio sui social
Non esiste un unico profilo dell’utente che produce contenuti aggressivi. L’aggressività moderna ha varie forme. Alcune persone utilizzano deliberatamente la provocazione per ottenere attenzione, mentre altre entrano in discussioni conflittuali senza rendersi conto di contribuire alla loro diffusione. Esistono poi comunità nelle quali l’aggressività diventa una forma di appartenenza. Attaccare un gruppo avversario può rafforzare il senso di identità del proprio gruppo, trasformando la discussione in una competizione tra “noi” e “loro”. La polarizzazione diventa così anche uno strumento sociale.
La ricerca sul comportamento online mostra inoltre che indignazione e aggressività non appartengono esclusivamente agli estremi politici. Le dinamiche di ricompensa possono coinvolgere utenti differenti, soprattutto quando una discussione diventa altamente identitaria. Una persona moderata può partecipare a una campagna di indignazione e, dopo aver ricevuto consenso, essere incentivata a utilizzare nuovamente quel linguaggio. Per questo è riduttivo attribuire l’odio sui social soltanto a minoranze estremiste o a utenti anonimi: il fenomeno può coinvolgere comunità molto più ampie.
I giovani rappresentano un elemento importante. L’UCLA Initiative to Study Hate ha rilevato, in un’indagine pilota condotta tra studenti universitari, che l’80% dei partecipanti aveva osservato hate speech sui social nell’ultimo mese. I bersagli più frequentemente indicati riguardavano razza ed etnia, genere e orientamento sessuale. La ricerca ha inoltre evidenziato la presenza di esperienze multiple di odio online tra molti partecipanti.
Non tutti gli utenti che producono o amplificano contenuti aggressivi hanno lo stesso peso. Ricerche sulle reti sociali online mostrano che gli utenti abitualmente più propensi all’hate speech (i cosiddetti “hatemongers”) tendono a occupare posizioni più centrali e ben connesse. Questi account dominano spesso le echo chamber e riescono a generare interazioni elevate anche quando pubblicano contenuti non direttamente offensivi. In altre parole, non è solo il singolo messaggio d’odio a contare, ma anche la posizione e la reputazione di chi lo diffonde all’interno della rete.
La presenza costante di contenuti aggressivi può inoltre normalizzare determinati linguaggi. Quando un insulto compare continuamente nei meme, nei video o nelle discussioni più popolari, può smettere di apparire eccezionale. L’ironia rende il fenomeno ancora più complesso, perché un messaggio offensivo può essere difeso come semplice scherzo. Il confine tra satira, provocazione e hate speech non può essere stabilito soltanto dal tono percepito: contesto, bersaglio, intenzione ed effetti possono modificare profondamente il significato di una comunicazione.
Gli effetti sulla società
Uno dei rischi più importanti dell’odio sui social riguarda il cosiddetto chilling effect, cioè la tendenza di alcune persone a evitare di esprimere opinioni per paura delle conseguenze. Una discussione nella quale ogni intervento viene seguito da attacchi personali può diventare rapidamente poco accessibile. Le persone meno interessate al conflitto possono scegliere di non partecipare, lasciando maggiore spazio agli utenti più aggressivi. Il risultato non è necessariamente una rappresentazione più fedele dell’opinione pubblica, ma una conversazione dominata da chi accetta maggiormente lo scontro.
Questo meccanismo può influenzare anche la qualità del dibattito politico. Quando le discussioni vengono organizzate attorno all’identità e alla contrapposizione, le argomentazioni complesse lasciano spazio a slogan facilmente condivisibili. Il politico, il giornalista o il semplice utente diventano spesso bersagli simbolici. Una frase viene estratta dal contesto, trasformata in provocazione e discussa per ore. La velocità della comunicazione digitale favorisce così la risposta immediata rispetto alla riflessione, mentre l’indignazione può diventare più visibile della spiegazione.
Gli effetti non sono soltanto a livello di propaganda politica. Un ambiente digitale caratterizzato da attacchi continui può compromettere la qualità delle relazioni sociali, soprattutto quando l’utente percepisce il web come uno spazio permanentemente ostile. L’esposizione all’aggressività non significa automaticamente sviluppare un disturbo psicologico, ma può contribuire a stress, preoccupazione e isolamento in determinate persone e situazioni. È quindi più corretto parlare di un possibile fattore di rischio all’interno di un insieme molto più ampio di condizioni.
Alcuni studi di neuroimaging (fMRI) hanno inoltre osservato che anche una breve esposizione a contenuti di hate speech può ridurre l’attivazione di aree cerebrali coinvolte nei processi di empatia e di comprensione della prospettiva altrui, in particolare la right temporoparietal junction (rTPJ). Non si tratta di un danno permanente o di un “cervello che si rompe”, ma di un effetto misurabile e temporaneo sulla risposta empatica. Questo dato contribuisce a spiegare perché un’esposizione ripetuta a linguaggi d’odio possa rendere più difficile mantenere una disponibilità all’ascolto e alla comprensione reciproca.
Anche le aziende sono coinvolte. Il problema del brand safety nasce quando la pubblicità di un marchio viene visualizzata accanto a contenuti che l’azienda considera incompatibili con la propria reputazione. Una piattaforma nella quale i contenuti più estremi generano molta attenzione può quindi creare un conflitto tra massimizzazione dell’engagement e tutela degli inserzionisti. Per questo la moderazione dei contenuti non riguarda soltanto la responsabilità sociale delle piattaforme, ma anche il funzionamento economico dell’intero ecosistema pubblicitario digitale.
Hate speech e democrazia
L’hate speech rappresenta un problema particolarmente delicato per la democrazia perché coinvolge contemporaneamente libertà di espressione, tutela delle persone e funzionamento del dibattito pubblico. Non tutto ciò che è offensivo è automaticamente illegale e non ogni opinione controversa deve essere censurata. La difficoltà consiste nel costruire regole capaci di contrastare l’incitamento all’odio e altre forme di contenuto illegale senza trasformare la moderazione in uno strumento arbitrario contro il dissenso.
In Europa, il Digital Services Act ha introdotto un sistema più strutturato di responsabilità per le piattaforme digitali. Le piattaforme devono offrire strumenti per segnalare contenuti illegali e, per i servizi di dimensioni maggiori, esistono obblighi specifici di valutazione e mitigazione dei rischi sistemici. Le piattaforme molto grandi, con almeno 45 milioni di utenti mensili nell’Unione europea, sono soggette a obblighi aggiuntivi.
Il quadro europeo è diventato ancora più specifico sul tema dell’hate speech. Nel gennaio 2025 il Codice di condotta contro l’incitamento illegale all’odio online è stato integrato nel quadro del Digital Services Act. La misura rafforza gli strumenti di contrasto e introduce un riferimento più preciso alle modalità con cui le piattaforme possono affrontare la diffusione di contenuti considerati illegali secondo il diritto europeo e nazionale.
La regolamentazione non può risolvere da sola il problema dell’’odio sui social. Le norme intervengono soprattutto sulla responsabilità delle piattaforme, sulla trasparenza, sulla gestione dei rischi e sui contenuti illegali. Rimane una questione più ampia: come progettare sistemi che non trasformino automaticamente l’attenzione in valore, indipendentemente dalla qualità della conversazione? È una domanda economica e tecnologica prima ancora che giuridica, perché riguarda il modello stesso con cui vengono costruiti i servizi digitali.
Come disinnescare il meccanismo
Una prima soluzione consiste nel ripensare il modo in cui viene misurato il successo di un contenuto. Se il numero di commenti rappresenta uno dei principali segnali di interesse, una discussione estremamente aggressiva può apparire molto performante. Un sistema più sofisticato potrebbe considerare anche segnali di qualità della conversazione, come la durata effettiva della lettura, la presenza di interazioni costruttive o la soddisfazione dichiarata dagli utenti. Non sarebbe una soluzione definitiva, ma cambierebbe gli incentivi incorporati nell’architettura della piattaforma.
La seconda strada riguarda la trasparenza. Sapere quali fattori influenzano una raccomandazione aiuta ricercatori, autorità e utenti a comprendere meglio la circolazione dei contenuti. Il Digital Services Act prevede per le piattaforme molto grandi obblighi di valutazione dei rischi, misure di mitigazione e maggiore accesso ai dati per ricercatori qualificati. Le regole europee puntano quindi non soltanto sulla rimozione dei contenuti illegali, ma anche sulla comprensione dei meccanismi sistemici che possono amplificarli.
Anche gli utenti possono interrompere il circuito. Una delle strategie più semplici consiste nel non trasformare ogni provocazione in una nuova occasione di visibilità. Condividere un contenuto offensivo per criticarlo può comunque contribuire alla sua diffusione. Segnalare quando esiste una violazione, bloccare gli account responsabili e scegliere consapevolmente quali discussioni alimentare sono comportamenti più efficaci. La responsabilità individuale non sostituisce quella delle piattaforme, ma può ridurre alcuni dei segnali che alimentano la viralità artificiale.
Un altro strumento utile è il counterspeech basato sulla prospettiva dell’altro. Studi randomizzati hanno mostrato che rispondere a messaggi xenofobi o discriminatori invitando a mettersi nei panni del gruppo preso di mira riduce sia la probabilità che l’autore continui a pubblicare contenuti d’odio, sia il numero di like che quei post ricevono. A differenza della semplice polemica o dell’insulto di ritorno, questo approccio sembra più efficace nel raffreddare la dinamica di escalation.
Infine serve maggiore alfabetizzazione digitale. Comprendere che il feed non è una finestra neutrale sul mondo aiuta a interpretare diversamente ciò che vediamo. Un utente dovrebbe sapere che la frequenza con cui incontra una determinata opinione non dimostra necessariamente che quella posizione sia maggioritaria. Allo stesso modo, una discussione molto rumorosa non coincide automaticamente con una discussione importante. Imparare a riconoscere queste dinamiche significa sviluppare una forma di consapevolezza digitale indispensabile nell’epoca degli algoritmi.
Utilizzare i social per stare bene?
In conclusione, il fenomeno dell’odio sui social non è dovuto a un programma segreto che decide di diffondere contenuti aggressivi. È soprattutto la conseguenza possibile dell’incontro tra psicologia umana, polarizzazione, economia dell’attenzione e sistemi automatici progettati per prevedere ciò che può generare engagement sui social. La rabbia è particolarmente efficace nel produrre reazioni, e le reazioni forniscono dati ai sistemi di raccomandazione. Da qui può nascere un circuito difficile da interrompere.
Il problema più importante, quindi, non è soltanto chiedersi perché esista tanto hate speech online. Bisogna comprendere perché determinati contenuti riescano a conquistare visibilità e perché gli utenti continuino a premiarli con la propria attenzione. La ricerca mostra che le ricompense sociali possono influenzare il comportamento e che le piattaforme hanno un ruolo nell’amplificazione dell’indignazione.
La soluzione passa da più livelli: regolamentazione, trasparenza degli algoritmi, progettazione responsabile delle piattaforme, moderazione efficace e maggiore educazione digitale. Il Digital Services Act rappresenta già un importante passo europeo in questa direzione, introducendo responsabilità e strumenti di controllo più articolati. Ma non basta.
