Staipa’s Blog

Il Blog di Stefano Giolo

Come funziona la censura sui Social Network?

Censura Tempo di lettura 5 minuti

Ho parlato di censura (e di come evitarla) in Esiste la censura su Internet? (https://short.staipa.it/23xml) e in altri articoli, ma non ho ancora affrontato nello specifico la cosa che sembra terrorizzare (o spingere) di più il complottista medio. Come funziona la censura su Facebook e sugli altri social network? Esiste? Quali sono le logiche? Davvero alcuni argomenti vengono censurati?

La censura sui social network esiste, ma la gran parte dei contenuti censurati non sono quelli che usano lo spauracchio della censura per convincere gli utenti a condividere più velocemente possibile le cose.

Quelle generalmente rientrano nell’ampia tematica delle Fake News di cui ho parlato qui, o quantomeno rientrano in quel modus operandi tipico. (https://short.staipa.it/fake3).

Il bisogno di una censura sui social network è nato principalmente nelle fasi dopo l’11 settembre e la minaccia terroristica che ne è seguita, l’obbiettivo era quello di cercare di evitare che i social venissero usati per radicalizzare e reclutare persone che avrebbero potuto finire per far parte di gruppi terroristici. Il problema era ovviamente quello di diminuire questo rischio senza però creare una discriminazione religiosa o un blocco totale delle discussioni di carattere religioso. Non tutto l’Islam è terrorismo, e non tutti i discorsi sulla fede afferiscono all’odio religioso.

In seguito, anche con le elezioni presidenziali del 2006 negli stati uniti e quanto successo con lo scandalo di Cambridge Analytica (https://short.staipa.it/ikbei) si è riproposto il problema di come limitare la pubblicazione sui social, in quel caso non tanto per questioni di terrorismo quanto per il proliferare di Fake News.

Entrambe le situazioni (come poi anni dopo il fenomeno di QAnon e dell’assalto al Campidoglio degli Stati Uniti nel 2020) hanno in comune l’uso massivo dei social per fini propagandistici, ne ho parlato anche in Quando siamo estremamente divisivi è probabile siamo vittime di Fake News (https://short.staipa.it/9f1em).

A causa di tutte queste cose è divenuto sempre più necessaria un’opera di filtraggio di quanto viene pubblicato sui social, e una serie di linee guida e di strumenti che possano rendere questo filtraggio sufficientemente flessibile e non troppo restrittivo da disturbare la fruizione del prodotto da parte dell’utente medio e senza ledere la libertà di espressione.

Bisogna ricordare che i Social Network non sono organizzazioni governative, né onlus, ma aziende vere e proprie e giustamente con il loro scopo di lucro. Questo implica che, come qualsiasi prodotto, le regole sono decise internamente secondo le proprie logiche commerciali e di sensibilità. Anche se uno di questi decidesse di bloccare tutte le persone che usano la parola sternocleidomastoideo, questo non rappresenterebbe una reale censura o una violazione del diritto di parola ma semplicemente una scelta. Le persone resterebbero comunque libere di usare la parola sternocleidomastoideo altrove, su un altro social, su un blog, in tv, sui giornali, a casa, al bar. Da qui a urlare al totalitarismo, dunque, ne passa parecchia di acqua sotto i ponti. Se poi uno come canale di comunicazione conosce solo il social network in questione, allora il c’è un grosso problema, ed è tutto suo.

Generalmente la censura sui social network viene applicata a esternazioni che possano integrare ipotesi di reato o facciano rischiare una richiesta di risarcimento da terze parti. A titolo puramente esemplificativo incitazione alla violenza, organizzazione terroristica, violazione della proprietà intellettuale, diffamazione, pedofilia, violenza di genere, discriminazione raziale. A questo vanno aggiunte le scelte tematiche specifiche della piattaforma spesso dettate dal target a cui si rivolgono, da qui il blocco di pornografia o di eventuali altre tematiche controverse.

Come funziona la censura sui Social Network

Il sistema di controllo su Facebook

Non ci sono moltissime informazioni pubbliche su come Facebook agisca, ma il sistema si fonda in parte su filtri basati sull’intelligenza artificiale e in parte da controlli umani che agiscono a posteriori dopo il filtro automatico o dopo le segnalazioni da parte degli utenti. Nel periodo della pandemia, tuttavia, i controlli umani sono molto diminuiti e rallentati.

Quello che succede è che un’Intelligenza artificiale molto complessa è in grado entro certi limiti di valutare se un testo o un’immagine possano violare le regole imposte, se le viola il post viene temporaneamente bloccato e verificato (teoricamente) da un gruppo di esseri umani. Lo stesso avviene se un post viene segnalato numerose volte. Ovviamente però i controlli umani sono lenti e prenderanno in considerazione prima i post con priorità alta segnalati dall’intelligenza artificiale o quelli con moltissime segnalazioni. Come discusso nella chiacchierata sull’Intelligenza Artificiale con @LaSignoraConiglio (https://short.staipa.it/qgp4q) e in L’intelligenza artificiale può essere razzista? (https://short.staipa.it/uljf5) non esiste un’Intelligenza Artificiale perfetta, può essere erroneamente bloccata la copertina di un album prog anni 70 perché scambiata per pedofilia a causa della foto di un bambino nudo, può essere bloccata una recensione di un libro contro il fascismo perché contiene frasi fasciste (a me è successo), il problema è che poi non sempre il controllo umano a posteriori è accurato.

Recentemente su Facebook è stato aumentato il controllo sui profili falsi e la possibilità di segnalarli allo scopo di bloccare account che sistematicamente pubblichino contenuti che violano le regole o pubblicano notizie false. Anche in questo caso però capita che qualche account finisca nella rete anche avendo fatto poco o nulla.

Il sistema di controllo su Instagram

Instagram, sempre di proprietà di Meta e quindi sorella di Facebook, è più semplice. I controlli vengono fatti sulle immagini per evitare che contengano violazioni delle regole (non sempre intelligenti, si veda il caso dei capezzoli https://short.staipa.it/ia0il), e separatamente un filtro per i commenti offensivi e uno per i commenti di spam. Si basano su meccanismi di machine learning, quindi almeno teoricamente in grado di imparare da soli. La segnalazione arriva comunque a operatori umani che poi prendono la decisione finale secondo le regole dettate dall’azienda

Il sistema di controllo su Twitter

Anche Twitter utilizza un sistema basato su Intelligenza Artificiale, e in genere riesce ad eliminare i commenti e i tweet prima delle segnalazioni. Questo avviene anche perché il social è più semplice degli altri e con meno utenti. Se la segnalazione arriva da un utente gli operatori di Twitter possono contattare direttamente la vittima e valutare con questa prima di decidere il da farsi.

Il sistema di controllo su YouTube

YouTube è probabilmente il social network in cui per realizzare un’Intelligenza Artificiale efficace ci sono le maggiori difficoltà, in quanto devono essere analizzati interi video, le immagini contenute e gli audio. Ha un sistema improntato alle scelte dell’utente il quale può scegliere di non vedere determinati tipo di contenuto. Il sistema riesce comunque nella maggior parte dei casi a riconoscere audio e video protetti da diritti di autore e in genere, a seconda delle richieste dell’autore, il video verrà bloccato, demonetizzato (l’autore del video “fraudolento” non percepirà guadagni dalle visualizzazioni”), mostrato meno agli utenti, o silenziato. Per quanto riguarda i contenuti offensivi o che contengano materiale che non violi i diritti d’autore ma che possano integrare altre ipotesi di reato il controllo è molto più difficile e la precisione più bassa. Lascia comunque la possibilità agli utenti di segnalare.

Problematiche legate alla censura

Ci sono diversi casi in cui i filtri automatizzati hanno bloccato erroneamente contenuti, account bloccati inutilmente o altro. Questo non è dovuto in genere a mala fede ma semplicemente ad una Intelligenza Artificiale. Poi ci sono casi di politici o personaggi famosi e non rispetto ad altri. Ne ho parlato approfonditamente nell’articolo Rimuovere un account social è ledere la libertà di parola? (https://short.staipa.it/0m1nl), in particolare per quanto accaduto agli account di Donald Trump.

Voi fare una domanda per uno dei prossimi articoli? Falla qui!





    Qui puoi trovare tutte le domande semplici: https://short.staipa.it/ledomandesemplici


    Conferenze

    Sono disponibile per l'organizzazione di conferenze su Uso consapevole delle tecnologie, e su Come riconoscere le Fake News, o altri temi analoghi. Potete contattarmi attraverso i miei contatti su questo sito. Le conferenze possono essere declinate per formazione per adolescenti, formazione per genitori o formazione per insegnanti. Potete visitare l'apposita pagina Conferenze e Corsi per maggiori informazioni.

    Lascia un commento

    Il tuo indirizzo email non sarà pubblicato.