1.     Introducción

Las nuevas tecnologías han propiciado un cambio radical en la dirección de la historia de la humanidad. La principal motivación del proyecto es poder observar con perspectiva los cambios que las nuevas tecnologías han provocado en el rumbo de la historia humana.

Para ello, se pretende analizar a diferentes niveles (científico, social, político, ideológico, ético…) la capacidad de transformación de estas tecnologías, valorar las limitaciones de su desarrollo, evaluar la dirección en la que está tornando la realidad humana y exponer los posibles escenarios que nos podemos encontrar (y ya nos estamos encontrando) en el futuro, valorando los retos que esto conlleva.

Este trabajo se ha realizado a partir de archivos que muestran la experiencia y opinión de expertos en diferentes temas, así como a partir de tres entrevistas realizadas a jóvenes especialistas en diferentes campos relacionados con el tema que nos concierne: desde la antropología (Elena Pérez-Cíes), la sociología y las ciencias políticas hasta la biotecnología (Carlota Magdaleno), la ingeniería de telecomunicaciones y las matemáticas aplicadas (Daniel Galera).

2.     Nuevas tecnologías

Se define la tecnología como el “conjunto de teorías y de técnicas que permiten el aprovechamiento práctico del conocimiento científico” (RAE, s.f.). Gracias a ella, hemos diseñado y creado bienes o servicios que facilitan la adaptación al medio ambiente, satisfecho necesidades esenciales, y engrandecido las aspiraciones de la humanidad.

Tras la Segunda Guerra Mundial, se han desarrollado las llamadas “nuevas tecnologías”, caracterizadas por una fuerte aceleración y unas consecuencias de gran envergadura y trascendencia. Entre ellas, destacan la biotecnología y la tecnología de la información.

Biotecnología

La biotecnología ha supuesto un cambio en la teoría de la evolución de Darwin: de la selección natural al diseño inteligente.Actualmente, este diseño inteligente tiene tres principales expresiones: ingeniería cyborg (ser compuesto por materia orgánica y dispositivos tecnológicos que mejoran las capacidades de la parte orgánica), ingeniería biológica y en último término, ingeniería de vida inorgánica.

Gracias a esta nueva tecnología no solo se diseñan habilidades individuales sino también sus estructuras sociales. (Harari, 2014).

Tecnologías de la información

El desarrollo de estas nuevas tecnologías está generando un desacoplamiento entre la inteligencia y la conciencia. Las tecnologías de la información (TI), igualan los organismos a los algoritmos y la vida al procesamiento de datos. Dentro de poco, algoritmos altamente inteligentes nos conocerán mejor que nosotros mismos y los sistemas algorítmicos de aprendizaje llegarán donde ningún humano ha ido antes y donde ninguno puede llegar.

Una parte importante de las tecnologías de la información son las redes sociales. En este sector, se ha desarrollado un nuevo mercado que algunos llaman “Capitalismo de Vigilancia”, en donde los beneficios de las grandes empresas tecnológicas se basan en garantizar que los anunciantes tengan éxito. Para ello se necesita tener buenas predicciones, lo que implica recolectar muchos datos, construyendo modelos que nos predicen. Por tanto, en este mercado, el producto es el cambio gradual e imperceptible de nuestro comportamiento y percepción, cambiando poco a poco lo que hacemos, cómo pensamos y en definitiva: quienes somos. (John Naughton, 2019)

3.     Limitaciones

Hay todo tipo de limitaciones en el desarrollo de las nuevas tecnologías, destacando además de las meramente técnicas, las legales y éticas.

Comenzando por las limitaciones técnicas, Galera toma como ejemplo el desarrollo de cultivos genéticamente modificados, los cuales pueden alterar drásticamente los biomas y secar o matar los suelos. En cuanto a las TI, afirma: “las limitaciones de la IA son amplias y numerosas. En primer lugar, los algoritmos obtienen resultados, pero no sabemos cómo obtienen esos resultados. Ésta es la principal limitación. La sociedad no está acostumbrada a depender de decisiones importantes en cosas que no se entienden, ni siquiera por un pequeño grupo de expertos.”

A.Carlota Magdaleno, por su lado, nos habla de las limitaciones legales: “Son dificultosos los acuerdos legales y lo que no es legal en un país se puede hacer en otro. Asimismo, la ley no puede regular todo tipo de comportamiento individual, aunque lo intente”, con ejemplos tan explícitos como la eugenesia, la gestación subrogada, la prostitución o el movimiento de biohacking que pretende dar accesibilidad universal a la biotecnología.

Estas limitaciones legales, están íntimamente relacionadas a la concepción cultural, social y a la ética actual. Tanto Pérez-Cíes como Magdaleno, están de acuerdo en que no solo no es necesario que las legislaciones se construyan en torno a las posibilidades de las nuevas tecnologías si no que al contrario, y de hecho es lo que ocurre, porque si no, ninguna de estas tecnologías se hubiera desarrollado.

“Si se tiene en cuenta que las tecnologías responden en última instancia a objetivos humanos, podría ser adecuado tomar responsabilidad acerca de esto y definir las estructuras (o interpretarlas) en base al uso humano que se le da, en cada tiempo y espacio.”- Elena Pérez-Cíes

4.     Implicaciones sociales

La industria tecnológica aspira a hacernos la vida más cómoda, creando mejores herramientas útiles para simplificar el ahorro de tiempo y esfuerzo de trabajo.  Carlota nos pone algunos ejemplos de este aspecto tan mágico de las nuevas tecnologías: permiten el intercambio científico, cosechas más rentables y con mejores propiedades, etc. Sin embargo, también nos muestra la otra cara de la moneda:

“El problema surge cuando estas tecnologías siempre necesitan financiación. Es decir, hay una base económica que ha permitido dicho desarrollo tecnológico y por tanto, las nuevas tecnologías tienen que retroalimentar a la tecnología. El capitalismo es un sistema económico que facilita ese desarrollo tecnológico gracias a la feroz competitividad, pero eso causa problemas de estrés a nivel laboral y personal además que convierte la tecnología en un producto para comprar y vender. Hoy en día, aunque las redes sociales consigan reunir a personas que de otra forma no habría manera, somos las personas que las usamos el producto.”

En el campo de TI especialmente, se hacen muy notorias las consecuencias del sistema económico que mueve el mundo.  Según Tendayi Achiume, experta independiente de la ONU: “Las empresas como Facebook tienen modelos económicos y comerciales que significan que se benefician activamente de la información errónea, la discriminación y la intolerancia. Además, muchos gobiernos han adoptado algoritmos que discriminan estructuralmente a los grupos marginados”

Esto se puede ver en diferentes ámbitos, como los algoritmos de reconocimiento facial que tienen una probabilidad de fallo de identificar un rostro afrodescendiente o de Asia oriental entre 10 y 100 veces mayor o la permisividad ante la financiación de la ideología supremacista. (Human Rights Council, 2020)

Otro ejemplo claro fue el gran impacto de las redes en el conflicto entre los budistas birmanos y los rohinyás, un grupo étnico musulmán del norte de la región. Facebook dio a los militares y a otros interesados una nueva forma de cambiar la opinión pública y de incitar la violencia contra los musulmanes rohinyás, provocando asesinatos en masa, destrucción de aldeas, violaciones en masa y otros crímenes contra la humanidad, llegando a la huída de 700000 rohinyás del país. (ACNUR, 2018)

“Hemos creado un mundo en el que la conexión en línea es primordial, especialmente para los más jóvenes, y sin embargo, en ese mundo, cada vez que dos personas se conectan, la única forma de financiarlo es a través de un tercero que paga para manipularlas. Por tanto, hemos creado una generación global de personas que crecen en un contexto donde el significado de la comunicación y el objetivo de la cultura es la manipulación. El engaño está en el centro de todo lo que hacemos”- Jaron Lanier.

Esto está ya suponiendo un problema, debido a que cada persona conoce una realidad muy diferente, retroalimentándose cada vez más en una dirección, limitando el entendimiento entre individuos y generando un estado de desconcierto en el que resulta muy complicado saber con certeza cuál es la realidad. (Lanier, 2019)

Por último, hay que tener en cuenta que el desarrollo tecnológico es exponencial. Hasta ahora, las miradas estaban puestas en cuándo este desarrollo superaría la fortaleza humana. Lo que no nos habíamos cuestionado antes, es qué pasaría cuando este desarrollo superase las debilidades humanas. Este punto está llegando en diferentes ámbitos, y lo que genera es un caos masivo, indignación, incivismo, desconfianza, soledad, alienación, polarización, populismo, distracción e incapacidad para centrarse en los problemas reales.  Estas nuevas tecnologías tienen la capacidad de “sacar” lo “peor” de la sociedad, suponiendo una amenaza existencial.

5.     Implicaciones políticas

Se ha visto que el diseño y el uso de diferentes tecnologías digitales se pueden emplear para generar estructuras racialmente discriminatorias (intencionadamente o no). Ejemplo de ello es el uso de identificación biométrica y la vigilancia en China, inquiriendo y coartando a grupos minoritarios como el grupo étnico uigur.

Achiume afirma: “Las obligaciones de los Estados de prevenir y eliminar la discriminación racial en el diseño y uso de estas tecnologías requieren la inclusión de las minorías raciales y étnicas en el proceso de toma de decisiones de la industria de una manera no simbólica. Sus obligaciones también les obligan a ordenar evaluaciones de impacto en los derechos humanos que incluyen énfasis en la igualdad y la no discriminación” (Noticias ONU, 2020)

Las fuerzas económicas y de mercado ejercen una poderosa influencia en el diseño y el uso de tecnologías, que a su vez tienen un efecto transformador en los mercados, e incluso en el modelo económico.

“Mientras la economía funcione así y las corporaciones no se regulen, somos más rentables para una empresa si pasamos el tiempo mirando una pantalla que si aprovechamos ese tiempo. Vemos empresas que usan una IA poderosa para engañarnos, ver como captan nuestra atención, para que veamos lo que quieren, en vez de lo que encaja con nuestras metas, valores y vidas”-Justin Rosenstein.​

Cobra especial importancia la manipulación política de las redes sociales, llegando a amenazar las elecciones. El proyecto de propaganda computacional de la Universidad de Oxford lanzó en 2017 su informe “Troops, trolls and troublemakers: A global inventory of organized social media manipulation” en donde investiga a 28 países, concluye que “cada régimen autoritario tiene campañas en las redes”, con potencial suficiente para derribar gobiernos, alterar el tejido de la sociedad o corromper la democracia mediante la manipulación y la desinformación. (Samantha Bradshaw, 2017)

Conclusiones

Daniel Filmus muestra una de las claves: “Una educación que forme ciudadanos participativos y solidarios, que utilicen críticamente las nuevas tecnologías, ayudará a la construcción de una sociedad más justa, humana y sin exclusiones”

Como bien indica Elena Pérez-Cíes:

“Se trata de una oportunidad para preguntarnos qué tipo de sociedad constituimos y hasta qué punto queremos que esta sea nuestra realidad cotidiana y compartida.

De esta forma, la toma de conciencia acerca del impacto del uso que podemos escoger dar a la innovación tecnológica puede transformarnos de una sociedad que vive para la tecnología en una sociedad que sabe usar conscientemente la tecnología.”

Con todo ello, podemos resumir las conclusiones de este proyecto en tres esenciales:

-La tecnología es conocimiento aplicado socialmente y los valores y las creencias de esa sociedad son los que influyen en los efectos de esa tecnología.

-Nos encontramos ante un poder tecnológico capaz de modificar el presente y futuro de manera incontrolable, por lo que es necesario abandonar la ética del interés inmediato y mirar más allá.

-Está en nuestras manos motivar la regulación de estas tecnologías y tomar conciencia para hacer frente a los diferentes impactos de su desarrollo y evolución.

Bibliografía

ACNUR. (2018). Crisis rohingya, conflicto en Myanmar y acogida en Bangladesh.

Glick, T. F. (s.f.). Intelligent design. Obtenido de https://www.britannica.com/.

Harari, Y. N. (2014). Sapiens: A Brief History of Humankind.

Human Rights Council. (2020). Racial Discrimination and emerging digital technologies: a human rights analysis.

John Naughton. (20 de Enero de 2019). The goal is to automate us: welcome to the age of surveillance capitalism. The Guardian.

Lanier, J. (2019). Diez razones para borrar tus redes sociales de inmediato.

Noticias ONU. (2020). Las compañías tecnológicas y de redes sociales se lucran a costa de información errónea y discriminación, afirma experta. Obtenido de https://news.un.org/

RAE. (s.f.). https://www.rae.es/.

Samantha Bradshaw, P. N. (2017). Troops, Trolls and Troublemakers: A Global Inventory of Organized Social Media Manipulation. University of Oxford.