Decisiones automatizadas y discriminación algorítmica en la relación laboral¿hacia un Derecho del Trabajo de dos velocidades?

  1. Iván Antonio Rodríguez Cardo
Revista:
Revista española de derecho del trabajo

ISSN: 2444-3476

Año de publicación: 2022

Número: 253

Páginas: 135-188

Tipo: Artículo

Otras publicaciones en: Revista española de derecho del trabajo

Resumen

La utilización de algoritmos en el ámbito de la relación laboral influye en aspectos nucleares como la selección de trabajadores, la asignación de tareas, la valoración del rendimiento o las decisiones sobre extinción contractual. Los criterios en los que se basa el algoritmo no siempre son conocidos, y por ello las normas han comenzado a exigir transparencia en el diseño para evitar resultados no deseados y consecuencias intolerables, como la discriminación. El presente estudio tiene por objeto, en primer lugar, identificar el contenido y alcance de esos remedios y analizar su efectividad como herramientas para combatir la discriminación. En segundo lugar, analizar si la introducción de cautelas reforzadas frente a la discriminación algorítmica está justificada por un mayor riesgo de discriminación, o una menor posibilidad de detección, en comparación con la discriminación que deriva de la gestión laboral humana. Y, en tercer lugar, determinar el impacto de estas nuevas garantías sobre el poder de dirección empresarial y las facultades de participación de los trabajadores en la empresa.

Referencias bibliográficas

  • ADAMS-PRASSL, J., “What if your boss was an algorithm? The rise of artificial intelligence at work”, Comparative Labor Law & Policy Journal, n.º 1, 2019.
  • AIBAR BERNAD, J., “El Big Data y el análisis de datos aplicados por la Tesorería General de la Seguridad Social como medio de lucha contra el fraude en la Seguridad Social”, Trabajo y Derecho, n.º extra 11, 2020 (smarteca).
  • ALCOLEA AZCÁRRAGA, C., “La responsabilidad patrimonial de la Administración y el uso de algoritmos”, Revista General de Derecho Administrativo (iustel), n.º 59, 2022.
  • ALOISI, A., y GRAMANO, E., “Artificial intelligence is watching you at work: Digital surveillance, employee monitoring, and regulatory issues in the EU context”, Comparative Labor Law & Policy Journal, Vol. 41 (1), 2019.
  • ÁLVAREZ ALONSO, D., Derechos fundamentales de la persona y obligaciones contractuales del trabajador, Tesis Doctoral.
  • ÁLVAREZ CUESTA, H., El impacto de la inteligencia artificial en el trabajo: desafíos y propuestas, Aranzadi, Pamplona, 2020 (proview).
  • AMESTI MENDIZÁBAL, C., y ZARDOYA JIMÉNEZ, N., “El buen gobierno de los robots para su correcto impacto en la sociedad: ¿qué herramientas existen?”, Arbor, Vol. 197, n.º 802, 2021.
  • ARELLANO TOLEDO, W., “El derecho a la transparencia algorítmica en Big Data e inteligencia artificial”, Revista General de Derecho Administrativo (iustel), n.º 50, 2019.
  • BAZ RODRÍGUEZ, J., “El Acuerdo Marco europeo sobre digitalización: un instrumento esencial para el desarrollo de los derechos digitales laborales en Europa”, en BAZ RODRÍGUEZ, J. (Dir.), Los nuevos derechos digitales laborales de las personas trabajadoras en España, Wolters Kluwer, Valencia, 2021.
  • BAZ TEJEDOR, J. A., “Inteligencia artificial y privacidad del trabajador predictible”, Trabajo y Derecho, n.º extra 11, 2020 (smarteca).
  • BERNAL SANTAMARÍA, F., “Big data: gestión de recursos humanos y el derecho de información de los representantes de los trabajadores”, Cuadernos de Derecho Transnacional, n.º 2, 2020.
  • BOYD, D., y CRAWFORD, K., Six provocations for Big Data, A Decade in Internet Time: Symposium on the Dynamics of the Internet and Society, 2011.
  • BUCHHOLTZ, S., BUKOWSKI, M., y SNIEGOCKI, A., Big and open data in Europe. A growth engine or a missed opportunity?, DemosEuropa, 2014.
  • CASTELLANOS CLARAMUNT, J., y MONTERO CARO, M.D., “Perspectiva constitucional de las garantías de aplicación de la inteligencia artificial: la ineludible protección de los derechos fundamentales”, Ius et scientia, n.º 2, 2020.
  • COTINO HUESO, L., “Big data e inteligencia artificial. Una aproximación a su tratamiento jurídico desde los derechos fundamentales”, Dilemata, n.º 24, 2017.
  • COTINO HUESO, L., “Riesgos e impactos del Big Data, la inteligencia artificial y la robótica. enfoques, modelos y principios de la respuesta del derecho”, Revista General de Derecho Administrativo (iustel), n.º 50, 2019.
  • CRUZ VILLALÓN, J., “El impacto de la digitalización sobre los derechos fundamentales laborales. Una visión desde el ordenamiento europeo y español”, en SEVERÍN CONCHA, J.P. (Ed.), Derechos fundamentales de la persona del trabajador, Tirant lo Blanch, Valencia, 2021.
  • DE STEFANO, V., “Negotiating the Algorithm: automation, artificial intelligence, and labor protection”, Comparative Labor Law & Policy Journal, Vol. 41 (1), 2019.
  • DURÁN, J. I., y FERNÁNDEZ-DOLS, J. M., “Do emotions result in their predicted facial expressions? A meta-analysis of studies on the co-occurrence of expression and emotion”, Emotion, n.º 7, 2021.
  • EDWARDS, L., y VEALE, M., “Slave to the algorithm? Why a 'Right to an explanation' is probably not the remedy you are looking for”, Duke Law and Technology Review, n.º 1, 2017.
  • EGUÍLUZ CASTAÑEIRA, J. A., “Desafíos y retos que plantean las decisiones automatizadas y los perfilados para los derechos fundamentales”, Estudios de Deusto, n.º 2, 2020.
  • EMERICK ABAURRE, H., MACEDO DE BRITTO PEREIRA, R. J., y JANNOTTI DA ROCHA, C., “La algoritmización del trabajo en la Cuarta Revolución Industrial”, Revista Chilena de Derecho del Trabajo y de la Seguridad Social, n.º 24, 2021.
  • FERNÁNDEZ, C. B., “Legalidad de los algoritmos”, Diario La Ley ciberderecho, n.º 37, marzo 2020.
  • FERNÁNDEZ, C. B., “China presenta su proyecto de Reglamento sobre algoritmos de recomendación en Internet”, Diario La Ley ciberderecho, n.º 53, septiembre 2021.
  • FERNÁNDEZ DOMÍNGUEZ, J. J., “Automatización y empleo: la ‘Paradoja de Polanyi’ revisitada”, Revista crítica de Relaciones de Trabajo, n.º 1, 2021.
  • FERNÁNDEZ GARCÍA, A., “Trabajo, algoritmos y discriminación”, en RODRÍGUEZ-PIÑERO ROYO, M., y TODOLÍ SIGNES, A., Vigilancia y control en el Derecho del Trabajo digital, Aranzadi, Pamplona, 2020.
  • FERNÁNDEZ SÁNCHEZ, S., “Frank, el algoritmo consciente de Deliveroo”, RTSS (CEF), n.º 457, 2021.
  • FERNÁNDEZ VILLAZÓN, L. A., “Tratamiento automatizado de datos personales en los procesos de selección de trabajadores”, RL, n.º 11, 1994.
  • FREY, C.B., y OSBORNE, M., The Future of Employment: How susceptible are jobs to computerisation?, Universidad de Oxford, 2013.
  • GARCÍA MURCIA, J., “Cambio tecnológico, futuro del trabajo y adaptación del marco regulatorio”, en MONREAL BRINGSVAERD, E., THIBAULT ARANDA, X., y JURADO SEGOVIA, Á., Derecho del Trabajo y Nuevas Tecnologías, Tirant lo Blanch, Valencia, 2020.
  • GARRIGA DOMÍNGUEZ, A., “La elaboración de perfiles y su impacto en los derechos fundamentales. Una primera aproximación a su regulación en el Reglamento General de Protección de Datos de la Unión Europea”, Derechos y Libertades: revista de filosofía del derecho y derechos humanos, n.º 38, 2018.
  • GAUDIO, G., “Algorithmic bosses can’t lie! How to foster transparency and limit abuses of the new algorithmic managers”, de próxima publicación en Comparative Labor Law & Policy Journal.
  • GINÈS I FABRELLAS, A., “El tiempo de trabajo en plataformas: ausencia de jornada mínima, gamificación e inseguridad algorítmica”, LABOS Revista de Derecho del Trabajo y Protección Social, n.º 1, 2021.
  • GOERLICH PESET, J. M., “Decisiones administrativas automatizadas en materia social: algoritmos en la gestión de la Seguridad Social y en el procedimiento sancionador”, LABOS Revista de Derecho del Trabajo y Protección Social, n.º 2, 2021.
  • GÓMEZ GORDILLO, R., “Algoritmos y derecho de información de la representación de las personas trabajadoras”, Temas laborales, n.º 158, 2021.
  • GÓMEZ SALADO, M. A., La cuarta revolución industrial y su impacto sobra la productividad, el empleo y las relaciones jurídico-laborales: desafíos tecnológicos del siglo XXI, Aranzadi, Pamplona, 2021.
  • HENDRICKX, F., “Privacy 4.0 at work: regulating employment, technology, and automation”, Comparative Labor Law & Policy Journal, Vol. 41 (1), 2019.
  • HUERGO LORA, A., “Una aproximación a los algoritmos desde el Derecho Administrativo”, en HUERGO LORA, A. (Dir.), La regulación de los algoritmos, Aranzadi, pamplona, 2020.
  • JIMÉNEZ SCHLEGL, P., “El aprendizaje en sistemas autónomos e inteligentes: visión general y sesgos de fuentes de datos”, Arbor, Vol. 197, n.º 802, 2021.
  • LÓPEZ DEL MORAL, I., QUESADA LÓPEZ, P. M., y ANTÓN SANCHO, M., “Inteligencia artificial y responsabilidad civil: ¿es realmente necesario un cambio del ordenamiento jurídico?”, Diario La Ley ciberderecho, n.º 47, febrero 2021.
  • LÓPEZ ONETO, M., Fundamentos para un Derecho de la inteligencia artificial, Tirant lo Blanch, Valencia, 2020.
  • LOSADA CARREÑO, J., “Inteligencia artificial e información algorítmica en el ámbito laboral. Especial referencia al artículo 64.4.d) del Estatuto de los Trabajadores”, RGDTSS, n.º 61, 2022.
  • MERCADER UGUINA, J. R., El futuro del trabajo en la era de la digitalización y la robótica, Tirant lo Blanch, Valencia, 2017.
  • MERCADER UGUINA, J. R., “Nuevos escenarios para el Estatuto de los Trabajadores del siglo XXI: digitalización y cambio tecnológico”, Trabajo y Derecho, n.º 63, 2020 (smarteca).
  • MERCADER UGUINA, J. R., “Algoritmos y trabajo”, Diario La Ley ciberderecho, n.º 48, marzo 2021.
  • MERCADER UGUINA, J. R., “Reflexiones sobre los efectos de la simultánea creación, destrucción y transformación del empleo en la era digital”, en MOLINA NAVARRETE, C., y. VALLECILLO GÁMEZ, M. R (Dir.), De la economía digital a la sociedad del E-Work decente: condiciones sociolaborales para una industria 4.0 justa e inclusiva, Aranzadi, Pamplona, 2021.
  • MERINO SEGOVIA, A., “Tecnologías y tratamiento de datos en los procesos de selección y contratación laboral”, Trabajo y Derecho, n.º 87, 2022 (smarteca).
  • MOLINA NAVARRETE, C., “’Duelo al sol’ (digital). ¿Un algoritmo controla mi trabajo? Sí; a tu empresa también”, RTSS (CEF), n.º 457, 2021.
  • MONASTERIO ASTOBIZA, A., “Ética algorítmica: Implicaciones éticas de una sociedad cada vez más gobernada por algoritmos”, Dilemata, n.º 24, 2017.
  • MOORE, P. V., “The mirror for (artificial) intelligence: in whose reflection?”, Comparative Labor Law & Policy Journal, Vol. 41 (1), 2019.
  • MUÑOZ RUIZ, A. B., ¿Conoces a Macarena? Los chatbots: los nuevos empleados digitales, disponible en https://www.elforodelabos.es/conoces-a-macarena-los-chatbots-los-nuevos-empleados- digitales/.
  • MUÑOZ RUIZ, A. B., ¿Damos suficiente cabida a la emoción en el modelo laboral digital?, disponible en https://www.elforodelabos.es/damos-suficiente-cabida-a-la-emocion-en-el-modelo-laboraldigital/.
  • OLARTE ENCABO, S., “La aplicación de inteligencia artificial a los procesos de selección de personal y ofertas de empleo: impacto sobre el derecho a la no discriminación”, Documentación laboral, n.º 119, 2020.
  • O’NEIL, C., Weapons of math destruction: how big data increases inequality and threatens democracy, Crown Publishers, Nueva York, 2016.
  • ORTIZ GONZÁLEZ-CONDE, F. M., “La protección social en la era digital”, en RODRÍGUEZ FERNÁNDEZ, M. L., Tecnología y trabajo: el impacto de la revolución digital en los derechos laborales y la protección social, Aranzadi, Pamplona, 2021.
  • PASQUALE, F., The black box society. Secret algorithms that control money and information, Harvard University Press, Cambridge (Massachussetts), 2015.
  • PEYRONNET, M., “El uso de los algoritmos y la inteligencia artificial en la selección de personal: ¿una ocasión para eliminar la discriminación”, en MOLINA NAVARRETE, C., y VALLECILLO GÁMEZ, M. R. (Dir.), De la economía digital a la sociedad del E-Work decente: condiciones sociolaborales para una industria 4.0 justa e inclusiva, Aranzadi, Pamplona, 2021.
  • PRECIADO DOMÈNECH, C. H., “Algoritmos y discriminación en la relación laboral”, Jurisdicción Social, n.º 223, 2021.
  • REDONDO RINCÓN, M. G., “Las nuevas tecnologías en el control de la incapacidad temporal: la aplicación de la analítica predictiva”, Trabajo y Derecho, n.º extra 11, 2020 (smarteca).
  • RIVAS VALLEJO, P., La aplicación de la inteligencia artificial al trabajo y su impacto discriminatorio, Aranzadi, Pamplona, 2020.
  • RIVAS VALLEJO, P., “La gestión analítica de personas en la era digital: su impacto sobre los derechos fundamentales”, en MOLINA NAVARRETE, C., y VALLECILLO GÁMEZ, M.R. (Dir.), De la economía digital a la sociedad del E-Work decente: condiciones sociolaborales para una industria 4.0 justa e inclusiva, Aranzadi, Pamplona, 2021.
  • RODRÍGUEZ CARDO, I. A., “Utilización de sistemas de geolocalización en el ámbito laboral”, RMTES, n.º 148, 2021.
  • ROIG I BATALLA, A., Las garantías frene a las decisiones automatizadas, Bosch, Barcelona, 2020.
  • SÁNCHEZ-URÁN AZAÑA, Y., “Robótica Inclusiva: rendimiento económico y empleo”, Arbor, Vol. 197, n.º 802, 2021.
  • SANDVIG, C., HAMILTON, K., KARAHALIOS, K., y LANGBORT, C., “When the algorithm itself is a racist: Diagnosing ethical harm in the basic components of software”, International Journal of Communication, n.º 10, 2016.
  • SASTRE DOMÍNGUEZ, P., y GORDO LÓPEZ, A.J., “El activismo de datos frente al control algorítmico. Nuevos modelos de gobernanza, viejas asimetrías”, IC: Revista Científica de Información y Comunicación, n.º 16.
  • SHACKELFORD, S. J., y DOCKERY, R., “Governing AI”, Cornell Journal of Law and Policy, Vol. 30, n.º 2, 2020.
  • SCHERTEL MENDES, L., y MATTIUZZO, M., “Discriminação algorítmica: conceito, fundamento legal e tipología”, Direito Público, n.º 90, 2019.
  • SILBERG, J., y MANYIKA, J., Tackling bias in artificial intelligence (and in humans), MCKINSEY GLOBAL INSTITUTE, 2019.
  • SORIANO ARNANZ, A., “Decisiones automatizadas: problemas y soluciones jurídicas. Más allá de la protección de datos”, Revista de Derecho Público: Teoría y Método, Vol. 3, 2021.
  • TODOLÍ SIGNES, A., “La gobernanza colectiva de la protección de datos en las relaciones laborales: big data, creación de perfiles, decisiones empresariales automatizadas y los derechos colectivos”, Revista de Derecho Social, n.º 84, 2018.
  • TODOLÍ SIGNES, A., “Cambios normativos en la digitalización del trabajo: comentario a la ‘Ley Rider’ y los derechos de información sobre los algoritmos”, Iuslabor, n.º 2, 2021.
  • TODOLÍ SIGNES, A., “Prevención de riesgos laborales ante la inteligencia artificial y la reputación digital de las personas trabajadoras”, en MOLINA NAVARRETE, C., y VALLECILLO GÁMEZ, M.R. (Dir.), De la economía digital a la sociedad del E-Work decente: condiciones sociolaborales para una industria 4.0 justa e inclusiva, Aranzadi, Pamplona, 2021.
  • TODOLÍ SIGNES, A., “Discriminación algorítmica y derecho granular: nuevos retos para la igualdad en la era del big data”, LABOS Revista de Derecho del Trabajo y Protección Social, n.º 2, 2021.
  • TOYAMA MIYAGUSUKU, J., y RODRÍGUEZ LEÓN, A., “Algoritmos laborales: big data e inteligencia artificial”, Themis, n.º 75, 2019.
  • VELA DÍAZ, R., “Digitalización y nuevos trámites automatizados: las decisiones algorítmicas impregnan la actuación de la Administración Laboral y de Seguridad Social”, Trabajo y Derecho, n.º 83, 2021 (smarteca).