La automatización y el uso de algoritmos en la toma de decisiones están transformando nuestras vidas, prometiendo soluciones a problemas cotidianos y personalización en diversas áreas. Sin embargo, la investigadora Andrea Rosales del grupo CNSC advierte sobre los riesgos asociados a esta digitalización forzada, que puede excluir a colectivos vulnerables y presentar sesgos. En su análisis de la novela "QualityLand", se revela una cara oscura de las tecnologías que, aunque parecen resolver problemas, no siempre están preparadas para hacerlo.
En la actualidad, el discurso en torno a la inteligencia artificial se ha intensificado, presentándola como una solución casi mágica para numerosos problemas cotidianos. Se asegura que la medicina será más personalizada, que los trámites administrativos se volverán más ágiles y que las decisiones sobre qué película o canción disfrutar serán infalibles, ajustándose perfectamente a nuestros gustos personales. Sin embargo, esta visión optimista es cuestionada por expertos en el campo.
Andrea Rosales, investigadora del grupo Communication Networks and Social Change (CNSC) del Internet Interdisciplinary Institute (IN3) de la Universitat Oberta de Catalunya (UOC), señala que nuestras sociedades parecen centrarse únicamente en las ventajas de la digitalización.
No obstante, un análisis reciente de la novela QualityLand, escrita por Marc-Uwe Kling, revela una perspectiva diferente. Esta obra de ficción presenta un mundo donde todo está regulado por algoritmos. En este contexto, Rosales y su colega Sara Suárez destacan en su estudio publicado en The De Gruyter Handbook of Automated Futures: Imaginaries, Interactions and Impact, que existe una dimensión oscura y poco conocida relacionada con las nuevas tecnologías y su implementación.
Según sus hallazgos, la digitalización forzada está dejando fuera a los grupos más vulnerables de la sociedad. Esto se debe a que los sistemas algorítmicos presentan sesgos, lo cual puede resultar perjudicial para aquellos que no cuentan con acceso o habilidades necesarias para interactuar con estas tecnologías. Además, las tecnologías emergentes parecen estar diseñadas para abordar problemas para los cuales no están realmente preparadas.
Según la noticia, se menciona que la inteligencia artificial podrá solucionar casi todos nuestros problemas, como la personalización de la medicina, la agilización de trámites en las administraciones y mejorar nuestras elecciones de entretenimiento basadas en nuestros gustos.
Una de las preocupaciones es que la digitalización forzada está excluyendo a los colectivos más vulnerables, ya que los sistemas algorítmicos pueden tener sesgos y no están preparados para resolver ciertos problemas.
Se analiza la novela QualityLand, de Marc-Uwe Kling, que presenta un mundo donde todo está regulado por algoritmos.
Las investigadoras mencionadas son Andrea Rosales y Sara Suárez, del grupo Communication Networks and Social Change (CNSC) de la Universitat Oberta de Catalunya (UOC).