portada Actualitat Fitxa CineTIC : El dilema de les xarxes socials
ActualitatDivulgaFitxes CineTIC

Fitxa CineTIC : El dilema de les xarxes socials

de Fundació Bit

A la secció Fitxes Cinetic (fitxes de pel·lícules/ sèries on hi apareixen tecnologies que són tendència) avui hem escollit “El dilema de les Xarxes Socials”, un documental emès per Netflix molt d’actualitat que ben segur ens farà reflexionar.

FITXA TÈCNICA:

Sinopsi: Els mestres de la tecnologia han ideat una nova forma de capitalisme, i la humanitat és ara la matèria primera de la qual s’alimenten les màquines. Oculta, la poderosa intel·ligència artificial que té com a tasca captar la nostra atenció està destruint les normes socials imposades, posant en risc la veritat i la democràcia, i posant la civilització en un camí programat que va directe a la nostra pròpia destrucció.

Les referències tecnològiques:

Ambientat a les entranyes de Silicon Valley, és una fusió de documental d’investigació amb drama narratiu (docudrama). Tracta conceptes com l’addicció a la tecnologia, l’enginyeria social i el capitalisme de vigilància: com afirma Jeff Seibert, antic executiu de Twitter “vull que la gent sàpiga que tot el que fan online està sent vist i seguit (…). Cada petita acció que fas està curosament sent monitoritzada i guardada. Exactament quina imatge t’atures a mirar i per quant de temps la mires”.

Està basat en els testimonis d’ex-empleats de Google, Facebook, Twitter, Instagram i Pinterest que expliquen com van participar del desenvolupament de tecnologies que van servir per polaritzar opinions, viralitzar teories conspiratives i consumir tot allò que dicten les pantalles. Però també hi participen psicòlegs i altres experts, a més de la dramatització d’una família que mostra les conseqüències que pot generar mirar i viure la vida a través de les xarxes. De fet, la salut mental és una preocupació enorme, ja que hi ha nombroses dades que apunten a un augment de l’ansietat, la depressió i els suïcidis que coincideixen amb l’augment de l’ús de xarxes socials i telèfons mòbils, especialment entre els adolescents i els estudiants de secundària.

Més que de tecnologies en sí, aquest documental planteja diverses qüestions lligades als abusos de les grans companyies tecnològiques (Big Tech) arran de l’addicció que generen les xarxes socials i alerta de les seves conseqüències. I és que amb l’avanç de la tecnologia i de la intel·ligència artificial, s’ha creat una forma (xarxes socials) perquè els humans siguin la matèria primera de les màquines. L’objectiu és captar l’atenció de les persones destruint les normes socials imposades, la democràcia i també la veritat:

La dita “si el servei és gratuït, és que el producte ets tu” no és tota la història pel que fa als serveis que ofereixen les plataformes tecnològiques. Els motors de cerca, les xarxes, la informació instantània i similars són només eines per atraure’ns. Una vegada que estem enganxats i en volem més, la veritable mercaderia que venen és la seva destresa per influir i manipular-nos.

Tal com afirma la professora de la Universitat de Harvard Shoshana Zuboff: “Les xarxes socials són un mercat que cotitza exclusivament en futurs humans a gran escala, (…) i aquests mercats han produït els bilions de dòlars que han convertit les empreses tecnològiques en les empreses més riques de la història de la humanitat”.

El documental subratlla que ens hem subvertit a tota una vida de servitud voluntària en línia, ja que, sobretot ara, és el nostre principal mitjà de connexió.

Si bé el documental no ens mostra res que no sabéssim respecte de l’ús comercial de les nostres dades, sí que deixa clar que aquests nocius efectes mai no van ser accidentals. L’addicció, la inseguretat, els rumors o la polarització que generen les xarxes no són errors d’aquests dissenys. Són objectius predefinits dels mateixos, fites d’un full de ruta per aconseguir la finalitat última amb la qual totes aquestes plataformes van ser creades: “aconseguir arrabassar tot el temps possible de les nostres vides“, com afirma Tim Kendall, ex-directiu de Pinterest.

Jaron Lanier, (ex-informàtic d’Atari i autor de Contra el rebaño digital ), va encara més enllà:  “el que aquestes plataformes ofereixen a les grans empreses és la capacitat per canviar a poc a poc els nostres comportaments, les nostres creences i fins i tot allò que som. Dir que nosaltres som el producte, és una visió massa simplista, el producte és el canvi progressiu, lleu i imperceptible del teu comportament i la teva percepció”, sentencia Lanier.

Al documental també es parla del paper d’aquestes plataformes en la creixent difusió de la desinformació, les Fake News, la polarització política i d’opinions i en la radicalització d’extremismes a l’Orient Mitjà i els supremacistes blancs als Estats Units, per exemple.

A la cinta s’arriba a afirmar que la AI ja domina el món. Bailey Richardson (de les primeres contractades per Instagram), “els algoritmes tenen ment pròpia, encara que construeixis tu la màquina, la màquina va canviant“. “Com a humans, gairebé hem perdut el control d’aquest sistema; els algoritmes són cada vegada més intel·ligents”, es va repetint en diferents moments del documental.  Roger McNamee, inversor inicial de Ventura Capitalist, “Si vols controlar la població del teu país, mai no hi ha hagut una eina tan eficient com Facebook. És la millor eina de persuasió”. Cathy O’neil (científica de dades i autora de Weapons of Math Destruction): “La AI no solucionarà els problemes creats, Google no solucionarà el problema de les Fake News perquè desconeix la veritat, només sap el què és un clic“.

En resum, com assenyala Harris, el “dilema” és que les xarxes socials i les aplicacions relacionades ofereixen simultàniament utopia i distòpia. El problema és la capacitat de la tecnologia de treure el pitjor de la societat i lo pitjor de la societat és l’amenaça existencial“.

El debat i la visibilització com a motor de canvi

El 2019, Harris va declarar davant el Senat dels Estats Units que correspon a les empreses assumir la responsabilitat; tenint en compte els seus antecedents, però, segons la pel·lícula, l’autoregulació no és una opció creïble. Alguns dels temes suggereixen mesures reguladores més estrictes per protegir els consumidors. Altres proposen que només els incentius financers, com ara gravar el processament de recollida de dades de les empreses, ho aturaran. Passi el que passi, diu Harris, requerirà la voluntat col·lectiva d’encoratjar el canvi necessari. Per generar canvis primer cal visibilitzar tots aquests aspectes negatius que ens mostren per tal de conscienciar a la població per tal d’aconseguir generar tecnologia positiva, que no es basi en captar el 100% de l’atenció de l’usuari i que doni espai per a que les persones puguin ser lliures i tornin a mirar-se als ulls, a usar la seva veu, a moure’s en el món analògic.

Relacionat amb la perspectiva de gènere trobam:

En “El dilema de les xarxes socials”, es poden identificar algunes qüestions relacionades amb la perspectiva de gènere:
  1. Biaixos de gènere en els algoritmes: El documental posa de manifest com els algoritmes utilitzats per personalitzar el contingut en les xarxes socials poden perpetuar biaixos de gènere. Aquests algoritmes tenen la capacitat de mostrar continguts específics basats en els interessos i interaccions dels usuaris, però això també pot conduir a una major segregació de continguts i a la reforçament d’estereotips de gènere.
  2. Pressió estètica i imatge corporal: El documental aborda com les xarxes socials poden amplificar la pressió estètica i l’obsessió per l’aparença física, especialment entre les dones. Les plataformes socials poden influir en la manera en què les dones perceben la seva pròpia imatge i potenciar expectatives irrealistes de bellesa.
  3. Intimidació i assetjament en línia: Les xarxes socials són un terreny on l’assetjament i la intimidació en línia són freqüents. Les dones són particularment vulnerables a aquesta problemàtica, ja que sovint s’enfronten a abusos, insultes i amenaçes de gènere. El documental reflexiona sobre els efectes d’aquest comportament perjudicial en la salut mental i el benestar de les dones.
Si bé la majoria dels experts i professionals entrevistats són homes, hi ha diverses dones que també apareixen en el documental i tenen un paper rellevant. Algunes de les dones que apareixen en el documental són: Sandy Parakilas, una exempleada de Facebook que va treballar com a gerent de producte i que aporta una visió crítica sobre les pràctiques de privacitat i seguretat de les xarxes socials i com aquestes afecten les persones, Bailey Richardson, una de les fundadores d’Instagram que comparteix la seva experiència en el desenvolupament de la plataforma i com ha impactat en la vida de les persones, i Cathy O’Neil, una matemàtica i autora que examina els algoritmes utilitzats en les xarxes socials i els possibles biaixos de gènere i discriminació que poden generar.

Algunes reflexions per debatre en grup després de veure el documental:

  • Éreu conscients del que mostra el documental?
  • Estau d’acord amb l’afirmació: “el canvi gradual del teu comportament i percepció és el producte”?
  • Quina relació teniu amb les xarxes socials?
  • Quan considerau que es pot començar a considerar addictiu el seu ús?
  • Com els pares poden ajudar els seus fills a fer-ne un bon ús? O també els fills poden ajudar els pares i padrins?
  • Pensau que és possible actualment viure sense participar en cap xarxa social?
  • Després de veure aquest documental, canviaríeu l’ús que feis de les xarxes socials?
  • Creieu que es parla molt dels efectes nocius de les xarxes socials i pocs dels efectes beneficiosos? Hi ha, o no, afectes beneficiosos de les xarxes socials? Quins serien?
  • Si ets un influencer, aquest documental t’ha fet reflexionar sobre les teves expectatives dels teus seguidors? Et sents manipulat per les xarxes socials? O per contra, ets tu qui les utilitza per aconseguir clients? A vegades et poses a la pell dels teus seguidors?
  • Les nostres dades personals, haurien de ser considerades com drets fonamentals?
  • Fins a quin punt som nosaltres mateixos els responsables de l’ús que fan les empreses tecnològiques de les nostres dades, si en compartir informació o utilitzar xarxes socials, acceptem la seva política de protecció de dades?
  • Tenim el dret o capacitat de saber tota la informació que manegen sobre nosaltres diferents organismes i empreses?
  • Respecte les Fake News: arribarà un moment en el que ja no ens creurem ni tals sols allò que vegem?
  • Som conscients que tenim una identitat digital?
  • Pensau que regulacions més estrictes per les empreses de tecnologies pel que fa a l’ús de les dades poden ser una solució?
  • Com a ciutadans, què proposaríeu per actuar individualment? I col·lectivament?

Fonts consultades: