LAS EMOCIONES DE LOS ALGORITMOS

1 0 0
                                    

En apenas 5 meses, hubo dos accidentes graves de dos Boeing 737 Max, lo que llevó a paralizar temporalmente el modelo. Analizadas las causas del accidente, se vio que en ambos había fallado la medición de altura y el avión se había colocado automáticamente en una posición que le llevó al desastre. Simplificando mucho, los pilotos, pese a darse cuenta del error, no habían podido corregir las decisiones de la inteligencia artificial del aparato.

Sin duda este es uno de los primeros casos en que una máquina decide de forma dramática (y equivocada) sobre la vida de las personas. No será la última porque el hombre y la tecnología han iniciado una relación que será cada vez más intensa, y es obvio que debemos ir definiendo los límites éticos de esta relación y las implicaciones que conlleva.

Dentro de poco los coches tendrán una conducción autónoma. Dejando de lado los posibles fallos (previsiblemente menos habituales que los humanos), la tecnología decidirá sobre nuestras vidas. ¿Aceptaremos fácilmente que un algoritmo dictamine en un microsegundo cuál es el coche que debe recibir el impacto más letal? ¿Que calcule quién debe tener más posibilidades de sobrevivir? ¿En función de qué preferencias? ¿Número de personas del vehículo? ¿Edad de los conductores? ¿Personas que lamentarán su muerte? ¿Enfermedades graves que ya padece uno de ellos, y que por tanto limitan su esperanza de vida al margen del accidente? ¿Relevancia social de los viajeros? La suma de datos que la inteligencia artificial podrá procesar en tiempo real será ilimitada. Las consecuencias éticas de todo ello, también.

El confinamiento, como todas las crisis, ha acelerado la transformación tecnológica. Y como en todas las revoluciones, los primeros pasos han tenido una gran radicalidad. De pronto nos hemos visto metidos en los comedores y las cocinas de nuestros compañeros y nuestros clientes. La frontera física entre lo privado y lo profesional ha desaparecido; y a la vez -y de forma rotunda, pero menos evidente- también la frontera temporal. Sin limitaciones de espacio ni de tiempo, trabajar conectados nos ha metido en una espiral absorbente.

Casi sin discusión, la tecnología ha invadido nuevas zonas de nuestra intimidad. ¿Quién iba a cuestionarla si era lo único que podía salvar puestos de trabajo?

Las nuevas generaciones de comunicadores harán bien capacitándose para usar todas las herramientas digitales porque ya no van a retirarse de los territorios que han conquistado. Es más, carecer de esta capacitación los invalidará como profesionales de nivel. Pero es importante que, paralelamente, aprendan a analizar sus consecuencias, porque la avalancha ha socavado nuestra capacidad de gestión y control.

Supeditarlo todo al entorno digital se ha traducido en una desaparición del "yo" como elemento decisor y una disolución del "nosotros". En la sucesión encadenada de encuentros virtuales en salas independientes se hace muy difícil la visión de conjunto. Una oficina tiene limitaciones arquitectónicas y horarias que permiten observar, priorizar y limitar; en cambio la red es infinita, y en ella se activan una serie de automatismos que nos aprisionan de forma sutil. La suma de las reuniones por videoconferencia solo queda archivada en nuestro historial de navegación.

Los que estáis empezando ahora deberéis tener muy presente que el entorno tecnológico actúa como un caballo de Troya, un arma de doble filo que nos empodera y nos limita casi al mismo tiempo. La inteligencia artificial ha desarrollado mecanismos de anticipación: se adelanta a nuestras necesidades, a nuestros gustos, a nuestros momentos... Puede saber, casi antes que yo mismo, que voy a salir de casa a tal hora y está lloviendo, que me encuentro en medio de un atasco, que estoy planeando un viaje a Indonesia y que acabo de romper o iniciar una relación. Como consumidores eso hará cuestionarnos si aceptamos esa intromisión en la intimidad. A partir de un punto, la segmentación y la personalización de los mensajes no serán percibidos con complicidad, sino como un fisgoneo intolerable que generará rechazo. Desde el punto de vista profesional, hemos de empezar a plantearnos si deseamos profundizar en esa invasión. Tal vez no sea ético, tal vez solo consiga alejarnos del consumidor; y tal vez, además, automatice nuestro trabajo y le haga perder creatividad y relevancia. La inteligencia artificial puede ser la antesala de la estupidez artificial.

Las plataformas, las redes sociales y las aplicaciones están concebidas como ganchos para atrapar nuestra atención y nuestro tiempo. Se han diseñado estudiando muy bien nuestras preferencias en usabilidad y experiencia. Son potentes armas psicológicas que tocan directamente las emociones y por eso se hacen adictivas. Lógicamente, tienen la misión de devolvernos mensajes positivos que ratifican nuestros valores y creencias. Si entramos y accedemos a contenidos de una ideología determinada, los motores de búsqueda se ponen en marcha para ratificar nuestras ideas e inmediatamente nos proponen contenidos similares o más radicales. De esta forma acabamos convencidos de que la mayoría piensa de forma muy parecida, de que el universo nos da la razón, cuando lo único que está sucediendo es que nos encapsulamos más y más en un entorno limitado y limitante.

No es nada nuevo decir que los media tienen un efecto manipulador. La intensidad con la que ahora se produce sí es distinta; y resulta todavía más peligrosa porque puede dar la sensación de que somos más libres que nunca a la hora de escoger las perspectivas y los contenidos. La supuesta democratización de las tecnologías no nos permite bajar la guardia: necesitamos que la interactuación sea real, que haya un diálogo bidireccional entre las personas y las estructuras de poder. El nuevo usuario debe aprender a cuestionar y a actuar desde una perspectiva crítica. La pandemia nos ha metido en unos protocolos que hemos incorporado sin pensar, podemos dejarlos ahí sin más o empezar a utilizarlos de otra forma. ¿Serán solo instrumentos de control de los gobiernos sobre sus ciudadanos o servirán también para que los ciudadanos puedan controlar a sus gobiernos?

Se están desplegando poderosas herramientas que pueden servir para espiar veladamente o para escuchar con total transparencia. Son instrumentos de manipulación o de diálogo. Cada marca deberá decidir cómo usarlas y será juzgada en consecuencia; y los profesionales también debemos tomar partido en esta elección. Es algo trascendente, pues, en función de lo que hagamos, no solo marcaremos los límites éticos de la comunicación, sino que además definiremos los valores de las marcas y el tipo de relación que esperan tener con la sociedad.

El Covid19 ha adelantado en varios años la implantación de ciertos avances y la urgencia evita cuestionarlos; Si una pulsera ayuda a controlar el virus, la aceptamos. Si tenemos que elegir entre intimidad y salud, preferimos salud. Pero no podemos convertir en normalidad ciertas excepciones, ni dejar que las ventajas de la innovación dependan de la dimensión de las empresas.

Las grandes corporaciones de e-commerce y distribución han sido las grandes protagonistas y las primeras en beneficiarse. Sin embargo, la masificación de la tecnología, la cotidianidad y sencillez de su uso abren algunas perspectivas que debemos saber rentabilizar, pensando en empresas más pequeñas y en los negocios de proximidad. La empresa familiar, el pequeño negocio, la tienda de barrio han sufrido y sufrirán el impacto (primero de la transformación y después de la crisis), pero es interesante ver cómo muchos de ellos han aprovechado el momento para su propia evolución: han empezado a recoger encargos por teléfono o WhatsApp y han activado el reparto a domicilio. Son pequeños cambios que pueden suponer una oportunidad para ellos. En este sentido, la creatividad de las agencias debe servir de puente entre las posibilidades de la tecnología y las necesidades de pequeñas marcas que deberán competir con los grandes monstruos. La digitalización permite afianzar cualquier conexión, también con nuestro entorno inmediato; debe funcionar como un arma que potencie la proximidad y no como su enemigo. Si nos ha acercado a empresas y servicios que están en la otra punta del mundo, ¿cómo no va a facilitarnos interactuar a la vuelta de la esquina?

VIAJE A MARTE. Como las marcas conectan con las nuevas audienciasDonde viven las historias. Descúbrelo ahora