Título: Enxarxats
Año de publicación: 2017
Género: Ciencia ficción
Páginas: 423
Sobre la autora: Carme Torras
Carme Torras Genís (Barcelona, 1956) es licenciada en matemáticas, doctora en informática y profesora de investigación del Instituto de Robótica (CSIC-UPC). Compagina la investigación científica con la escritura. Es miembro de la Asociación de Escritores en Lengua Catalana y de la Sociedad Catalana de Ciencia ficción y Fantasía (SCCFF). En el ámbito científico, ha publicado libros y artículos sobre modelos neuronales, visión por computador, inteligencia artificial y robótica. Ha sido galardonada con el premio Divulga del Museo de la Ciencia de Barcelona, el premio Rafael Campalans del Instituto de Estudios Catalanes y la medalla Narciso Monturiol de la Generalitat de Cataluña.
En la vertiente literaria hay que destacar su novela «La mutación sentimental» (Pagès Editors, 2008)- premio Manuel de Pedrolo 2007 y Ictineu 2009- la cual se ha traducido al castellano (Milenio, 2012) y al inglés con el título The Vestigial Heart (MIT Press, 2018).
Análisis:
La última novela de Carme Torras, Enxarxats, nos transporta a un presente, el nuestro, adobado con cierto regusto tecnofuturista. El lector tiene aquella extraña sensación de correr sin moverse, identificándose con el tiempo en el cual transcurre el relato, pero al mismo tiempo, sintiéndolo cómo lejano. Cómo algo que no va con él. Al fin y al cabo, son los pequeños detalles los que configuran la idiosincrasia de una época, las pequeñas cosas. La red que dibujan sus miembros y el apoyo técnico que lo sustenta. Las grandes preguntas, los dilemas éticos inmarcesibles, siguen allí, mirándonos a los ojos, sin que nadie consiga aguantarles la mirada. Ya lo dijo Benedetti, cuando creíamos conocer todas las respuestas nos cambiaron todas las preguntas.
Carme Torras sabe de robótica y de burocracia universitaria, se nota cuando uno lee esta maravillosa novela. Continuamente se describe, con una prosa llana pero precisa, la que estilan los científicos, todo el entramado de egos yuxtapuestos en los departamentos de la academia. Incluso las dinámicas de los grupos de investigación, la metodología hipotética-deductiva moderna y las trabas entre teoría y práctica científica. Pero aquí no acaba la historia, el que despierta la curiosidad, ya de buen principio, es esta compleja telaraña digital que interpela a los protagonistas del libro, haciéndoles cuestionar hasta qué punto sus acciones son libres o dependen de un proceso causal determinado por agentes externos. Qué lío.
Júlia Pagès, la protagonista, es una profesora universitaria de robótica que ha vuelto de los Estados Unidos a Barcelona para ocupar la plaza de una compañera, a la que apenas conoce, Ariadna Mestres. El nombre de Ariadna no es gratuito, clara referencia a la princesa cretense de la mitología griega. En el mito de Teseo y el minotauro, la joven princesa griega Ariadna conmina a Teseo a entrar al laberinto donde habita su hermano, el minotauro, para así darle muerte. La recompensa por tal proeza era su amor. Sin más ayuda que un ovillo de hilo para poder encontrar la salida, el ateniense dio muerte al monstruo con sus propias manos. Ariadna Mestres, obsesionada con preservar su legado, apelando incluso a la suplantación de identidad, parece introducirnos, como su homónima griega, dentro de un laberinto digital difícil de sortear. El laberinto tiene nombre propio, SPiDeR (la araña), y consiste en un programa informático construido por una red internacional de programadores expertos, que tratan de modificar la conducta de la gente en pro del bien común.
El estilo de redacción también evoca aires laberínticos. La autora articula la historia a través de analepsias y prolepsis, hasta el punto que, en según que pasajes, uno no sabe si la que habla es Júlia, Ariadna o la propia Carme Torras. Este juego literario, dificulta la entrada al universo Enxarxats, pero una vez dentro, todo empieza a cobrar sentido y la trama se sigue con facilidad.
A modo de resumen, el argumento de la obra se podría sintetizar de la siguiente manera. Júlia Pagès, apenas toma posesión de su nuevo despacho, descubre una serie de ficheros con información inquietante que parecen pertenecer a su predecesora y un icono al escritorio, con forma de araña, que le hace llegar mensajes desconcertantes. A partir de este momento, le parece que todo lo que pasa a su alrededor está mediado por un entramado digital que trata de manipularla. La relación con su familia y amistades, el veredicto del tribunal (del cual ella forma parte) de un concurso de oposición para acceder a una plaza de docente universitario, incluso acciones de lo más rutinarias. Todo parece producirse por una concatenación de relaciones, que a pesar del que Júlia piensa, no tienen nada de causales. Pero la sensación que nuestra protagonista tiene es que todo está controlado, conectado y diseñado.
Es inevitable inferir cierto homenaje a la psicohistòria de Asimov y su sistema de predicción de acontecimientos a gran escala a muchísimos años vista; porque “les persones som molt influenciables. A parer meu, el que fa impredictibles als humans no són les emocions i els humors, com se sol pensar, sinó la capacitat tecnològica” (Torras, 2017: 69). Por lo tanto, el dilema principal que nos plantea esta joya de la editorial Malas Hierbas es si ante la multiplicidad de escenarios que nos ofrece la red, tenemos que dejar que nos guíe el azar o, en cambio, tenemos que permitir que organismos especializados dirijan nuestra toma de decisiones hacia la excelencia, a pesar de que esto juegue en contra de nuestro libre albedrío. La solución no aparece a ninguno de los dos apéndices, la generosidad de Carme Torras consiste al hacer que esta respuesta corra a cargo del lector
Tecnologías que aparecen:
El proyecto de investigación estrella de Júlia se denomina “Robots en el aula”, unas máquinas que velan y acompañan la tarea docente para facilitar la vida de los alumnos con más dificultades. En el libro, se detalla el proceso de colaboración entre un grupo de investigación y organismos públicos (escuelas en este caso) para implementar nuevas tecnologías. La introducción de los aparatos, el seguimiento, los momentos de involución o desesperanza, los intereses entrecruzados, etc. También queda patente la familiaridad que la autora tiene con los robots asistenciales. Hay que recordar que Carme Torras lidera un grupo de investigación en robótica consolidado desde 1997, encaminado a permitir que las personas con alguna discapacidad puedan ser autónomas. Pero volviendo a Enxarxats, los robots de la novela, a partir de datos físicos de los alumnos (incluyendo fotografías), así como rendimiento escolar y rasgos psicológicos, escogen entre los modelos de actuación que tienen predeterminados para conseguir, primero ganar la confianza del escolar y, posteriormente, mejorar su rendimiento o ayudarlo a superar situaciones de acoso y exclusión:
“El robot és al costat d’una nena grassoneta que manté els ulls clavats al pupitre i, després d’una breu xiuxiueig amb ella, aixeca el petit braç mecànic i en rebre autorització de la mestra intervé en veu alta: “L’Aina sí que sap què vol dir la paraula malnom, i no té per què ser un nom dolent com suposa en Jan; si voleu us en pot posar exemples”. […] la nena diu: “Un malnom és com una etiqueta. Oi que tots sabeu qui és en Bototes?”. Un instant de dubte i alguns esclafeixen a riure.
-És un exemple genial –salta, impetuosa, la Júlia.- No sols de l’aprenentatge del robot, sinó també de com pot actuar de mediador i afavorir la cohesió a l’aula.” (Torras, 2017: 87-88)
Hay que remarcar que ya existen ejemplos de esta clase de robots asistenciales en el sistema educativo fuera de la ficción. Tega, creado por el MIT (Massachusets Instituto of Technology) en 2016, es capaz de interpretar la respuesta emocional del estudiante con quien trabaja a partir de tecnologías biométricas y de reconocimiento facial. De este modo, conmina al estudiante a seguir en la misma dirección cuando lo ve animado y, si detecta que ha perdido el interés, inmediatamente le propone una actividad alternativa que lo pueda motivar más. Las primeras pruebas con Tega se realizaron en una escuela de Boston, con niñas y niños de entre 3 y 5 años. En esta prueba, donde el bot trataba de enseñar español a niñas y niños anglófonos, el éxito fue absoluto; llegó a ganarse la confianza de todo el mundo como si se tratara de un humano más. Por otro lado, Pepper y Nao, desarrollados por SoftBank Robotics, son también buenos ejemplos de cómo la inteligencia emocional es utilizada por robots humanoides dirigidos a ayudar en tareas de aprendizaje.
Este tipo de proyectos, animan a la ciudadanía a cuestionarse cuál tiene que ser el papel de los maestros del futuro (no muy lejano), y también a analizar cuáles son las habilidades que merece la pena transmitir a los alumnos. ¿Es más importante enseñar como emitir juicios y tomar decisiones o la capacidad memorística? ¿Tiene más valor la creatividad o la capacidad de aplicar métodos mecánicos? Y, sobre todo, ¿se trata de un juego de suma cero o realmente hay que combinarlas para convertir la educación en algo transversal?
La segunda tecnología que aparece en la novela, de la cual quería hacer mención en esta reseña, es Futuros a la carta. A través de esta aplicación de realidad virtual capaz de manejar conjuntos de big data ingentes, la protagonista es capaz de visionar cómo será su vida a años vista. Se trata de un mecanismo capaz de predecir contextos y situaciones complejas donde intervienen factores muy diversos: ““no n’hi ha prou d’extrapolar a partir del present, cal anticipar els canvis dràstics que la tecnologia i els moviments col·lectius comportaran” (Torras, 2017: 348).
Hacia el final de la novela, se detalla cómo es el escenario que Júlia observa cuando utiliza esta tecnología. En este caso, la simulación se sitúa en la Barcelona de 2027.
“Barcelona, un dia laborable del 2027, les vuit del matí. A la cuina de casa la Júlia, un Roger amb barba i els cabells embullats agafa de la nevera un parell de taronges, una porció de formatge i un iogurt, i quan la tanca, al plafó frontal s’actualitzen les llistes del que conté i el que cal reposar, alhora que s’indica el nombre de calories sostretes. […] Encara no ho ha deixat tot sobre la taula, que l’espremedora de taronges ja s’ha posat en funcionament i, darrera d’una comporta que s’obre, apareix el pa, una torradora i setrills, així com una safata amb un servei de plat, got, coberts i tovalló. […]Va al vàter i, quan intenta activar la cisterna, un rètol sobreimprès l’avisa que no ho faci si només ha orinat, ja que el clavegueram va molt ple aquest matí i hi ha risc que sobreïxi” (Torras, 2017: 352).
Esta es la cara amable pues también se narra una versión un poco menos entrañable.
“Barcelona, un dia laborable del 2027, les vuit del matí. […] mentre esmorzem, fem un repàs a les informacions del dia. La nostra zona està afectada per tres incidències: una caldera antiga sense manteniment ha produït un curtcircuit que ha deixat a les fosques tres illes de cases; un infovandàlic ha corromput l’assignació de canals de la TDT omplint la franja infantil de jocs violents i racistes, la juvenil de porno, i l’adulta de propaganda del partit que propugna eradicar aquestes xacres socials; i, a l’últim, un graciós ha canviat les coordenades GPS de diversos carrers i ha provocat un caos monumental dels serveis logístics.” [Torras, 2017: 362].
Es decir, como decía al principio de la reseña, las pequeñas cosas son las que marcan diferencias. La sociedad es compleja y volátil, consiguientemente, toda predicción futura tiene varias caras posibles. Algunas más pulidas que otros. No obstante, este juicio no deja de ser una percepción subjetiva. No podemos etiquetar un escenario como más deseable que otro, en términos absolutos, a pesar de que sí podemos afirmar que hay algunos que benefician más al bien común. Aquí es donde cobra sentido la tecnología Futuros a la Carta, permite elegir qué futuro se atiene mejor a nosotros, a pesar de que es posible que el día de mañana no sea calcado a la simulación. Por este motivo, una de las cosas que destaca el libro es que Júlia fue seleccionada por el proyecto, precisamente, por su habilidad resolviendo dilemas morales. Esta es una faceta determinado, más incluso que sus habilidades en robótica. Pero, ¿en que se basa el criterio de Júlia? Con el objetivo de dar respuesta a esta cuestión, considero pertinente exponer sintéticamente la teoría del desarrollo moral de Lawrence Kholberg.
¿Cómo afrontamos los dilemas de mañana?
Lawrence Kholberg (1927-1987) fue un psicólogo y filósofo norteamericano que elaboró una teoría sobre el desarrollo moral de los individuos. Según su planteamiento encontramos tres niveles de desarrollo moral: preconvencional, convencional y postconvencional. En el nivel preconvencional no existe una concepción clara del concepto bien o mal. La capacidad de abstracción de estos individuos es paupérrima. Por eso, consideran bueno todo aquello que los beneficia o lleva asociado un premio y malo todo aquello por lo que son castigados. Es el comportamiento que, para encontrarse en fase de formación intelectual, siguen la mayoría de niños pequeños. Aunque algunos adultos no llegan nunca a superarlo.
En segundo lugar, en el nivel convencional, ya existe una concepción de bien y mal, pero estrechamente relacionada con el concepto de grupo. Se trata de un comportamiento espejo, endogámico, aquello bueno es lo que el grupo considera como correcto. A pesar de suponer un avance, echamos de menos el espíritu crítico. Este estadio moral es el más común entre la población adulta.
¿Cómo combinamos libertad de pensamiento e investigación del bien común? Hay que llegar al tercer y último nivel, el postconvecional. Según Kholberg, este nivel de desarrollo moral se adquiere cuando somos capaces de reflexionar sobre los conceptos bien y mal desde una perspectiva propia, pero al mismo tiempo, anteponiendo el bien común al interés particular. Esta idea tiene sentido si queremos dar explicación a los cambios de moralidad que han ido sucediéndose históricamente. En el Estado español, la homosexualidad fue considerada delito hasta los años setenta y todavía costó más (de hecho, la homofobia sigue presente) asimilarlo dentro de nuestro sistema de valores. ¿Cómo se producen estos cambios de perspectiva si no es desde la asunción de que, a pesar de no ser algo que me beneficia directamente, aporta un valor añadido al conjunto social? ¿Cómo pueden resurgir de la exclusión los colectivos minoritarios desfavorecidos si no adoptamos una perspectiva postconvencional? Si nos mantuviéramos anclados en “esto se ha hecho siempre así” y no nos abriéramos a la empatía y la crítica del presente de nuestro grupo, hoy en día todavía viviríamos bajo un sistema esclavista o recogidos al feudo de un señor autárquico.
Para analizar con propiedad, para realizar una reflexión ética de verdad, hay que asumir el nivel postconvencional del desarrollo moral. Es precisamente este nivel el que Júlia despliega cuando se enfrenta a los dilemas morales que se lo plantean
Conclusiones:
Enxarxats es una novela de ficción con mucha ciencia. Representa un referente en lengua catalana en temas de divulgación tecnológica a través de literatura no-técnica. Directo y al alcance de todo el mundo, este libro nos propone repensarnos y anticiparnos a los retos del futuro próximo. Además de las tecnologías que aparecen y su verosimilitud, lo más interesante de la novela es el peso central que da la autora a la vertiente ética. Los científicos no son burócratas del conocimiento, son personas. En consecuencia, sus investigaciones no solo encuentran trabas técnicas sino también morales. Como crítica negativa, solo se me ocurre la excesiva atención que se da a las “guerras de despacho”. Al fin y al cabo, a pesar de dar consistencia y hacer la obra más creíble, resultan redundantes y de poco interés. Aun así, no creo que sea un factor determinante a la hora de decidirse a comenzar esta novela escrita por una de las mujeres más influyentes en temas de robótica e inteligencia artificial a nivel nacional.
Dudas abiertas:
- Si tuvieras la oportunidad de ver cómo será a tu futuro a 10 años vista, ¿Qué te gustaría saber?
- ¿Querrías ver tu futuro o crees que este hecho ya implicaría una modificación en tus conductas futuras?
- ¿Crees en el destino y el determinismo o consideras que construimos diariamente nuestro futuro?
- En la novela, «Los robots en el aula» facilitan la tarea a los docentes, pero también modifican sus funciones puesto que se ahorran tener que hacer ciertas cosas. ¿Qué habilidades tienen que tener los docentes del futuro
- ¿Crees que un grupo de expertos debería tener la capacidad de decidir qué es el bien común?
- ¿Es posible definir el bien común en términos universal o siempre hay sectores sociales más beneficiados que otros?
- La red ya no es una un entramado digital de ordenadores. Los dispositivos móviles permiten que nosotros mismos acontezcamos nódulos de conexión de la red. ¿Qué opinas de este tema? ¿Has tenido nunca la sensación de estar vigilado a través de tu teléfono móvil?
- En la novela aparecen las dificultades burocráticas para poner en marcha proyectos de investigación. ¿Si tuvieras la oportunidad de posar un proyecto en marcha qué seria? ¿Por qué?
- Júlia y Ariadna, a pesar de ciertas similitudes, representan caracteres muy diferenciados. Con cuál te sientes más identificado/da? ¿Por qué?
- ¿Cómo crees que serán los robots del futuro? ¿Cuál sería el que te gustaría que aparezca pronto?