Sessió 9. L'odi al segle XXI: la radicalització algorítmica

Pas 03 ⏱ 17 min

📖 Llegeix

📋 Dinàmica ✕ Tanca

Dinàmica Lectura individual i silenciosa (10 min). Després, 3 min per preguntar «Quina dada us ha cridat més l'atenció?» i tancar els conceptes clau a la pissarra (4 min).

Vam obrir aquesta càpsula amb un cas del nostre segle: un atac d’odi preparat en línia i la piràmide de l’odi, el model que mostra com el rebuig puja graó a graó, des dels prejudicis i els insults fins a la discriminació, la violència i, a dalt de tot, l’exterminació. Després hem viatjat cent anys enrere per veure com funcionava la maquinària: la fabricació d’un traïdor a l’afer Dreyfus, la propaganda que va convertir tot un poble en enemic, la llei que el va excloure, l’Holocaust com a sistema, les altres víctimes, els genocidis que van seguir i els judicis que van intentar posar-hi justícia i memòria. Ara tanquem el cercle i tornem al punt de partida amb una pregunta que ja no és sobre el passat: què ens ensenya tot això per reconèixer l’odi organitzat quan el tenim al davant, avui, i quan el que el distribueix ja no és un ministeri sinó una màquina que no odia ningú?

La mecànica digital: l’algoritme, la càmera, la conversió

La primera lliçó és incòmoda: la piràmide no es va quedar al segle XX. Els seus graons de baix, els estereotips, la deshumanització, la recerca d’un culpable únic, segueixen actius, i ara tenen un altaveu que abans no existia. Un algoritme de recomanacióalgoritme de recomanacióAlgoritme de recomanació: programa que decideix quin contingut mostra una plataforma a cada usuari, ordenant-lo segons la probabilitat que hi passi temps o hi reaccioni. No té opinions: optimitza l'atenció. Com que la indignació i la por reten més que la calma, tendeix a amplificar el contingut extrem, i a portar de mica en mica cap a versions més dures del que ja agrada. no té ideologia: mesura què et fa quedar més estona i te’n dona més. I el que fa quedar més estona és la indignació. El resultat és un mecanisme que cap ministeri de propaganda no havia tingut: la repetició de Goebbels feta a mida de cada persona, a cada pantalla, sense que ningú l’hagi ordenat. A sobre, la càmera d’ecocàmera d’ecoCàmera d'eco: espai digital on una persona només troba opinions que confirmen les seves, perquè l'algoritme li mostra el que ja li agrada i els grups fan fora qui discrepa. L'efecte és doble: les idees extremes semblen majoritàries, i cada nou pas cap a l'extrem sembla petit perquè tothom al voltant ja hi és. fa que una minoria sembli un món i que cada pas cap a l’extrem sembli petit. La radicalitzacióradicalitzacióRadicalització en línia: procés pel qual una persona adopta idees extremes, fins a acceptar o cometre violència, a través de continguts i comunitats digitals, sovint en mesos i sense contacte físic amb cap organització. Els estudis dels tres atacs de la sessió 1 descriuen el mateix recorregut: fòrums, mems, un relat conspiratiu i una comunitat que aplaudeix. ja no necessita cap partit ni cap míting: passa en silenci, davant d’una pantalla, en fòrums on l’odi es disfressa d’humor, i on el pas de l’acudit a la creença i de la creença al manifest es fa acompanyat d’aplaudiments. La propaganda del segle XX necessitava un Estat; la del XXI necessita només un mecanisme que premiï el que fa mal.

La «gran substitució»: el vell mite amb vocabulari nou

En aquest ecosistema, el supremacisme blancsupremacisme blancSupremacisme blanc en línia: xarxa difusa de fòrums, canals i comptes que difonen la idea que la «raça blanca» està amenaçada i ha de defensar-se, amb estètica de mem i acudit per esquivar la moderació i captar joves. És l'entorn on es van radicalitzar els autors dels atacs de Christchurch, Halle i Buffalo, que van publicar-hi els seus textos abans de disparar. ha trobat el seu relat: la teoria coneguda com la gran substituciógran substitució«Gran substitució» (o «gran reemplaçament»): teoria conspirativa formulada per l'escriptor francès Renaud Camus el 2011, segons la qual unes elits substitueixen deliberadament la població europea per immigrants no europeus. Cap prova: la demografia canvia per causes documentades i sense director. Citada als manifestos de Christchurch (que en portava el títol), Buffalo i altres atacs.. Agafa un fet real i complex, els canvis en la població d’un país per efecte de les migracions i de la natalitat, i el reescriu com si fos un pla secret, dirigit per poders ocults, per «reemplaçar» una població per una altra. No hi ha cap prova d’aquest pla, perquè no existeix. I no és nova: repeteix exactament l’estructura del vell mite antisemita dels Protocols que vas veure a la sessió 2, la idea d’un enemic interior que conspira en l’ombra, i sovint hi posa el mateix enemic, els jueus, com a «directors» de la substitució. És el mateix moviment que va condemnar un capità innocent i que la propaganda nazi va convertir en política d’Estat: primer s’assenyala un grup, després se l’acusa d’un pla amagat contra tots els altres i, al capdavall, se’l presenta com una amenaça que cal aturar «abans que sigui tard». La diferència és que aquesta ficció ha sortit dels llibres i ha arribat a la boca de polítics amb càrrec, i que tres dels atacs de la sessió 1 en portaven el nom escrit. Quan una teoria conspirativa apareix en un manifest terrorista, ha deixat de ser una opinió estranya: és el graó de la legitimació.

Els odis d’avui, llegits amb les eines de sempre

Els discursos d’odi actuals no són nous: són els de tota la càpsula amb vocabulari nou. L’antisemitisme, que semblava impensable després d’Auschwitz, ha tornat als carrers i sobretot a les pantalles, amb els Protocols reciclats en teories sobre qui «controla» els bancs, els mitjans o les migracions, i s’ha disparat amb cada crisi a l’Orient Mitjà, contra jueus que no hi tenen res a veure. La islamofòbiaislamofòbiaIslamofòbia: hostilitat i discriminació contra les persones musulmanes pel fet de ser-ho, presentant-les com a estrangeres, perilloses o incompatibles amb Europa. L'Agència de Drets Fonamentals de la UE (2024) va trobar que gairebé un de cada dos musulmans europeus havia patit discriminació els cinc anys anteriors. Va ser el motor de l'atac de Christchurch. presenta un miler de milions de persones com a amenaça única, i va ser el motor de Christchurch. El racisme contra les persones negres, que va guiar el tirador de Buffalo, i la xenofòbia contra l’immigrant, que és la porta d’entrada de la «gran substitució», completen el quadre. En tots quatre casos, la mecànica és la de les sessions 1 i 3: estigmatització (un grup marcat), deshumanització («invasió», «plaga», «onada») i legitimació («defensa pròpia»). I en tots quatre, el pensament crític consisteix en el mateix exercici: separar el fet (hi ha migracions, hi ha conflictes, hi ha delictes) de la ficció (hi ha un pla, hi ha un culpable únic, ells són una sola cosa).

Les eines, i la part que ens toca

La càpsula també ens ha donat les eines per respondre. La història no només ens ha mostrat com creix l’odi; ens ha ensenyat com se’l combat: una paraula per anomenar el crim, una llei per perseguir-lo, els judicis de Nuremberg, el deure de memòria que mantenen viu les pedres com la de la fotografia. I una intuïció estratègica: si l’odi puja per una piràmide, el lloc més fàcil per aturar-lo és a baix. És el que defensa l’ONU quan diu, a la primera font de L’Arxiu, que combatre el discurs d’odi no és retallar la llibertat d’expressió sinó impedir que escali; i és el que la Unió Europea va convertir en llei el 2022, a la segona font: les grans plataformes han d’avaluar els «riscos sistèmics» del seu propi dissenydissenyLlei de Serveis Digitals (Digital Services Act, Reglament 2022/2065 de la UE): en vigor per a les grans plataformes des de l'agost de 2023. Les obliga a avaluar cada any els «riscos sistèmics» del seu disseny (els sistemes de recomanació inclosos), a oferir una versió del contingut no basada en el perfil, a retirar ràpidament el contingut il·legal i a obrir les dades als investigadors, amb multes de fins al 6% de la facturació mundial., algoritme inclòs, i respondre’n. Després de Christchurch, disset governs i les grans empreses van signar a París un compromís per treure de la xarxa el contingut terrorista; el debat sobre si n’hi ha prou és legítim i està obert.

Aquí apareix la part que ens toca a cadascú. No cal ser jutge ni legislador: la base de la piràmide està feta de gestos quotidians. Quan un missatge culpa tot un col·lectiu dels mals d’un país, quan deshumanitza algú o quan repeteix una teoria conspirativa, ja hi som, al primer graó. Reconèixer-ho és el primer pas. El segon és no amplificar-ho, perquè l’algoritme compta cada reacció, també la indignada, i cada cop que es comparteix una mentida se l’ajuda a créixer. El tercer és respondre amb fets i acompanyar qui és atacat. L’odi organitzat necessita que molta gent corrent hi col·labori sense adonar-se’n, com els funcionaris de la sessió 4; negar-li aquesta col·laboració, avui, és un gest tan petit com no reenviar. Vam començar amb un cas que semblava un horror aïllat i hem descobert que era el cim d’una estructura amb història i amb mètode. Conèixer aquest mètode no és una curiositat històrica: és una defensa. El «mai més» no depèn només de les lleis i els tribunals, sinó de milions de decisions petites preses a la base de la piràmide, per gent corrent, avui. Aquesta és la responsabilitat que la càpsula deixa a les teves mans.

✍️ Abans de les activitats: torna a les tres preguntes del Pas 01 i escriu a la llibreta, en una línia cada una, què contestaries ara.

Pas 04 ⏱ 18 min

✍️ Activitats

📋 Dinàmica ✕ Tanca

Dinàmica El docent assigna el nivell. Fes les tres activitats del teu pack a la llibreta.

🎏 Sessió 9 · Nivell Aprenent Per començar 3 activitats ▶

9.1 ✍️ Explicar · esquema 1-3-1 📖 La lectura 📊 La fitxa de dades ✏️ Individual

La mecànica digital en un esquema 1-3-1

Fes a la llibreta un esquema 1-3-1 amb aquesta idea central: «L'odi puja avui per una màquina que no odia ningú». Al mig, els tres mecanismes de la primera entrada de la Fitxa, cada un amb una frase que digui què fa. A baix, una frase que digui quina és la diferència més gran entre el 1933 i avui.

L'esquema amb la idea central, els tres mecanismes explicats i la frase de baix.

Com es fa · Esquema 1-3-1

1. A dalt, la idea central en una frase que es pugui discutir. No un tema: una afirmació.
2. Tres proves de la sessió que la sostinguin, cada una d'un lloc diferent (la lectura, la Fitxa, L'Arxiu, la imatge).
3. A baix, una conclusió que digui què se'n desprèn, no que repeteixi la idea.
4. Mira si alguna prova podria servir per a la idea contrària. Si és així, canvia-la.

Està bé si les tres proves són fets, no opinions · la conclusió afegeix alguna cosa que la idea central no deia.

💡 Pista: Pots arrencar la primera frase amb «L'algoritme de recomanació fa que…». La diferència de baix és a la quarta entrada de la Fitxa: qui emet i qui tria.

9.2 🔍 Investigar · Lectura de font 📜 L'Arxiu ✏️ Individual

«Escalar»: l'ONU amb lupa (lectura de font)

Llegeix les paraules de Guterres a L'Arxiu i respon a la llibreta en tres passos, amb una resposta per pas. FET: segons el context, a quina objecció responia Guterres amb aquesta frase? PARER: copia entre cometes la frase on diu què no vol dir combatre el discurs d'odi. SENYAL: Guterres vol evitar que el discurs d'odi «escali»; amb quin model de la sessió 1 lliga aquest verb? Entre 60 i 90 paraules.

Els tres passos, amb la frase de Guterres copiada entre cometes al segon (60-90 paraules).

💡 Pista: Per al SENYAL, pots arrencar amb «Escalar vol dir pujar, com a…». El model de la sessió 1 és a la quarta entrada de la Fitxa.

9.3 🔍 Investigar · enigma 📖 La lectura 📊 La fitxa de dades ✏️ Individual

Enigma: quin odi és?

Resol a la llibreta aquests tres enigmes amb la tercera entrada de la Fitxa. Per a cada un, digues de quin odi es tracta i quina pista te l'ha donat: (1) «Semblava impensable després d'Auschwitz, i gairebé tots els qui en són víctimes a la UE diuen que m'han trobat l'últim any». (2) «Presento milions de persones d'una religió com una sola amenaça, i vaig moure el tirador de Christchurch». (3) «Vaig guiar el tirador de Buffalo».

Les tres respostes, cada una amb la pista que la justifica.

Com es fa · Enigma

1. Copia les pistes numerades.
2. Al costat de cada una, escriu què descarta i què encara deixa obert.
3. Dona la resposta i digues quina pista ha estat la decisiva.
4. Digues quina altra resposta hauria estat possible si aquesta pista no hi fos.

Està bé si es veu com cada pista tanca possibilitats · la resposta s'aguanta encara que algú no la comparteixi, perquè està ben fonamentada.

💡 Pista: Pots arrencar amb «(1) és…, perquè la pista diu…». Els quatre odis d'avui són a la tercera entrada de la Fitxa: n'hi ha un que no surt als enigmes.

🎠 Sessió 9 · Nivell Intermedi Vols pujar de nivell 3 activitats ▶

9.4 ✍️ Explicar · reescriptura 📜 L'Arxiu 📊 La fitxa de dades ✏️ Individual

L'article 34, explicat a un alumne de 2n d'ESO (reescriptura)

Reescriu a la llibreta l'article 34 de L'Arxiu per a un alumne de 2n d'ESO que fa servir tres xarxes cada dia: a qui obliga, què han d'avaluar i quins dos factors anomena el punt 2, sense cap paraula tècnica del text original. Afegeix-hi un exemple de «risc sistèmic» tret de la lectura.

La reescriptura, en un màxim de sis frases, amb l'exemple.

Com es fa · Reescriptura

1. Llegeix el fragment i tanca el llibre o la pantalla.
2. Escriu-ho amb les teves paraules, com si ho expliquessis a algú d'un curs més baix.
3. Torna al text i comprova que no t'has deixat cap idea i que no has copiat cap frase sencera.
4. Si l'enunciat prohibeix paraules, comprova que no hi surten.

Està bé si algú que no ha llegit el text ho entén · no hi ha cap frase idèntica a l'original.

💡 Pista: Connectors: «això vol dir que les plataformes més grans…», «per exemple…». La dificultat és dir «algoritme» sense dir «algoritme».

9.5 🌍 Participar · desmentit 📖 La lectura 📜 L'Arxiu ✏️ Individual

Desmentit: «l'algoritme és neutral»

Algú diu: «L'algoritme només mostra el que la gent vol veure; si hi ha odi és culpa dels usuaris, no de la plataforma». Desmenteix-ho a la llibreta: digues què té de cert (què optimitza de debò l'algoritme, segons la lectura), què amaga, i quin factor obliga a avaluar la llei europea de L'Arxiu. Fes servir el terme «algoritme de recomanació». Entre 90 i 125 paraules.

El desmentit amb el que té de cert, el que amaga i el factor de la llei (90-125 paraules).

Com es fa · Desmentit

1. Copia l'afirmació falsa tal com és.
2. Busca què hi ha de cert (gairebé sempre alguna cosa) i escriu-ho primer, perquè el desmentit sigui honest.
3. Dues dades i una font de la càpsula que la desmunten.
4. Reescriu l'afirmació com hauria de dir per ser certa.

Està bé si cada dada porta d'on surt · el que hi ha de cert està dit abans del que és fals.

💡 Pista: Un bon desmentit reconeix la part de veritat abans de desmuntar-la: l'algoritme no odia, i per això la llei parla de disseny i no de contingut.

9.6 ✍️ Explicar · Desmuntant tòpics ⚠️ Desmuntant un tòpic 📊 La fitxa de dades ✏️ Individual

Per què la «gran substitució» no és una teoria (desmuntant el tòpic)

Torna al bloc «Desmuntant un tòpic». Explica per què la «gran substitució» no és «un fet» ni «una teoria a debatre»: separa el canvi real que aprofita del complot que hi afegeix, i digues amb quin mite de la sessió 2 comparteix l'estructura. Fes servir el terme «teoria conspirativa». Entre 90 i 125 paraules.

L'explicació amb el canvi real i el complot separats, i el mite de la sessió 2 (90-125 paraules).

💡 Pista: Connectors: «el fet real és…, però el complot hi afegeix…», «és la mateixa estructura que…». La segona entrada de la Fitxa té l'autor, l'any i els manifestos.

🎢 Sessió 9 · Nivell Avançat Et vols arriscar 3 activitats ▶

9.7 🌍 Participar · Resposta amb cinc termes 🖼️ La imatge 📚 Tota la càpsula ✏️ Individual

Carta a algú que ha començat a compartir

Un amic o amiga teu ha començat a compartir mems sobre «la substitució» i s'ofèn si li dius que són d'odi. Escriu-li una carta que no l'insulti ni el deixi per impossible: explica-li per què li arriben cada vegada més, d'on ve el relat que comparteix (sessió 2) i què va passar quan aquest relat va arribar dalt de tot de la piràmide (sessió 1, sense detalls). Tanca explicant-li què diu la pedra d'Erich Kohnert de la lectura. Encasta-hi aquests cinc termes de la Fitxa, tots ben usats: «algoritme de recomanació», «càmera d'eco», «radicalització en línia», «gran substitució» i «no amplificar». Mínim 125 paraules.

La carta amb els cinc termes encastats i la pedra de Kohnert explicada al final (mínim 125 paraules).

Com es fa · Carta des d'un rol

1. Escriu al marge qui ets, on, quin any és, què saps i què encara no pots saber.
2. Tria a qui escrius i què vols aconseguir.
3. Escriu la carta amb les paraules que aquella persona faria servir i amb els fets que tindria a l'abast.
4. Rellegeix i esborra tot el que només se sap després.

Està bé si no hi ha cap dada posterior a la data de la carta · es nota què li convé a qui escriu sense que ho digui.

💡 Pista: La carta funciona si qui la rep la pot llegir fins al final: comença pel que compartiu, no pel que et separa.

9.8 🌍 Participar · Exposició transversal 📚 Tota la càpsula 🧠 El que ja saps ✏️ Individual

Com es passa de l'odi al genocidi (rellevància històrica)

És l'última sessió: respon la pregunta de la càpsula, «com es passa de l'odi al genocidi?», amb els tres fets o mecanismes de la càpsula que més expliquen l'odi que veus avui. Fes-ho en tres parts marcades. DESCRIPCIÓ: exposa els tres, amb data, presos de tres sessions diferents. RAONAMENT: explica quin mecanisme els relliga i per què els ordenes de més a menys rellevant per entendre el present. CONCLUSIÓ: digues quin fet has descartat i què no explica la teva tria. Fes servir el terme «legitimació». Mínim 125 paraules.

L'exposició amb les tres parts marcades (descripció, raonament i conclusió) i fets de tres sessions diferents (mínim 125 paraules).

Com es fa · Rellevància històrica

1. Fes la llista de tots els fets candidats.
2. Per a cada un, tres preguntes: a quanta gent va afectar, durant quant de temps, i què va canviar que encara duri.
3. Tria els que demana l'enunciat i escriu, per a cada un, la raó amb les tres preguntes.
4. Digues quin has descartat que t'ha sabut més greu, i per què no hi entra.

Està bé si les raons són les tres preguntes, no «perquè és important» · dius per què els altres no hi entren.

💡 Pista: Digues el criteri de l'ordre abans de triar i no el canviïs pel camí. El fet més rellevant no és el més gran, és el que més et serveix per reconèixer el que passa avui.

9.9 🌍 Participar · Ahir i avui 📖 La lectura 🧠 El que ja saps ✏️ Individual

Ahir i avui: la base de la piràmide, a la teva pantalla

Completa i argumenta a la llibreta: «Avui veig pujar el primer graó de la piràmide en [un espai digital que faig servir, descrit sense noms de persones]. El que ha canviat des del 1933 és [qui emet i qui tria]. La cosa que faig a la base, a partir d'avui, és [una acció de la sisena entrada de la Fitxa, adaptada al meu cas].» Fes servir el terme «estigmatització». Entre 50 i 70 paraules.

El text complet amb les tres parts raonades (50-70 paraules).

💡 Pista: La càpsula acaba dient que el «mai més» depèn de milions de decisions petites: si la teva acció no la pots fer demà, no compta.

Pas 05 ⏱ 2 min

🎯 Tancament

📋 Dinàmica ✕ Tanca

Dinàmica Quiz formatiu de 3 preguntes clau. Projecta'l a la pantalla de l'aula i resol-lo conjuntament amb el grup sencer per avaluar l'assoliment del dia.

📌 Per emportar-se

La càpsula va començar amb un atac retransmès en directe i acaba on el va preparar: a la pantalla. L'algoritme de recomanació no odia ningú, però premia la indignació i fa a mida de cada persona la repetició que el 1933 feia un ministeri; la càmera d'eco converteix una minoria en un món; i el supremacisme blanc en línia ven la «gran substitució», el vell mite dels Protocols amb vocabulari nou, que tres atacs de la sessió 1 portaven escrit. Els odis d'avui (antisemitisme, islamofòbia, racisme antinegre, xenofòbia) tenen la mateixa mecànica que tota la càpsula: estigmatització, deshumanització, legitimació. Les eines existeixen (l'ONU: evitar que escali; la llei europea de 2022: el disseny de l'algoritme com a risc), i la part que ens toca és a la base de la piràmide: reconèixer, no amplificar, respondre amb fets. El «mai més» depèn de milions de decisions petites, avui.

🎯 Tres preguntes per verificar

Tria una resposta. No es guarda res — només per a tu.

1. 1. Segons la frase de Guterres a L'Arxiu (2019), què vol dir combatre el discurs d'odi?

   A. Prohibir-lo, perquè el Pacte de Drets Civils i Polítics de 1966 ja el considera un delicte B. Obligar les grans plataformes a retirar-lo en poques hores, amb multes si no ho fan C. Evitar que escali cap a la incitació a la discriminació, l'hostilitat i la violència D. Limitar la llibertat d'expressió quan una opinió ofèn un grup, encara que no inciti a res

2. 2. Segons la lectura, què fa de la «gran substitució» una teoria conspirativa i no una descripció de la demografia?

   A. Que converteix un canvi documentat, per migracions i natalitat, en un pla dirigit per algú B. Que nega que la població europea hagi canviat per efecte de les migracions i la natalitat C. Que la van inventar els autors dels atacs de Christchurch i Buffalo per justificar-los D. Que es basa en xifres de població exagerades, que no surten de cap organisme oficial

3. 3. Per què, segons la lectura, no compartir un missatge d'odi, ni tan sols per criticar-lo, ja és actuar a la base de la piràmide?

   A. Perquè la Llei de Serveis Digitals multa els usuaris que reenvien contingut il·legal a la UE B. Perquè l'algoritme només premia les reaccions de suport i deixa de banda les crítiques C. Perquè a la càmera d'eco només hi arriben els que ja pensen igual, i la crítica no hi entra D. Perquè l'algoritme compta cada reacció, també la indignada, i compartir-lo l'ajuda a créixer

✍️ Abans de tancar la llibreta Si hi ha temps

Quina de les tres activitats t'ha costat més? Escriu en una línia què faries diferent la propera vegada.

💭 Per pensar fins demà Si hi ha temps

Després de tota la càpsula, quin és el primer senyal d'odi organitzat que et sents més capaç de reconèixer i de no deixar passar en el teu dia a dia?