España ultima su observatorio para analizar el impacto social de los algoritmos y se postula como país piloto para probar el futuro reglamento europeo de la inteligencia artificial

Un observatorio de algoritmos

El Observatorio Nacional del Impacto Social de los Algoritmos era algo que ya planteaba la Estrategia Nacional de Inteligencia Artificial (ENIA), que el Gobierno presentó hace unos meses y convirtió en uno de los componentes del Plan Nacional de Recuperación, Transformación y Resiliencia que canalizará los fondos europeos de recuperación que ya están llegando al país.

Estes nuevo organismo se suma a los recientemente anunciadas por la propia SEDIA, como el Observatorio Nacional de Ciberseguridad, con el propósito de dotar al ecosistema innovador de nuevos mecanismos para evitar que la digitalización suponga una profundización de la brecha tecnológica en la que España no salió bien parada, según el sondeo europeo de competencias digitales que se publicó el año pasado.

Business Insider España ha publicado en diversas ocasiones informaciones en las que se esbozaba en qué escenarios un algoritmo o un sistema de IA podían vulnerabilizar colectivos o generar situaciones injustas. Por ejemplo, al solicitar un crédito hipotecario, un sistema de IA no lo suficientemente auditado podía acabar denegando préstamos a mujeres por el hecho de que están menos bancarizadas que los hombres y el algoritmo no es capaz de discernir que eso no quiere decir que sean peores pagadoras.

Cómo nacen los sesgos tecnológicos que combate Eticas, la consultora que audita algoritmos a empresas e instituciones para evitar que sean discriminatorios

Así lo han explicado en múltiples ocasiones especialistas comoGemma Galdon, fundadora de Eticas, una consultora y fundación que precisamente analiza el impacto social de estos algoritmos, oIdoia Salazar, de un observatorio privado con un propósito similar llamado OdiseIA. Ambas compartieron su visión cuando se desvelaron los pormenores de la Estrategia Nacional de IA en el Plan de Recuperación, Transformación y Resiliencia.

El papel de los sindicatos en la ‘Ley Rider’

Junto a este nuevo observatorio que la SEDIA presentará en los próximos días, la Secretaría de Estado también planteará la comisión interministerial con el Ministerio de Trabajo fruto de la recientemente aprobada Ley Rider, que en su articulado plantea dar acceso a los representantes de los trabajadores  —comités de empresa, sindicatos— a aquellos algoritmos que puedan participar en la toma de decisiones laborales por parte de los empleadores.

De hecho, los sindicatos nacionales y europeos celebraron la nueva norma impulsada por Trabajo, mientras a nivel comunitario se plantean regulaciones similares.

Empresas que espían las conversaciones de sus empleados y algoritmos que penalizan hasta por enfermedad: Europa quiere regular la IA en el trabajo antes de que acabe el año

«La Estrategia Nacional de IA ya contemplaba el Observatorio del Impacto Social de los Algoritmos que lanzaremos esta semana y con la consecuente capacidad de auditar esos algoritmos. Primero, de manera voluntaria». Artigas, en una entrevista con Business Insider España, confirmó que el Gobierno postulará al país como región piloto para probar el nuevo Reglamento europeo sobre la IA. Este extremo también lo han avanzado medios como elDiario.es.

Este borrador legislativo que ya ha presentado la Comisión no plantea ningún escenario exento de riesgos en los que se implementen sistemas de IA e incluso prohíbe sistemas de reconocimiento facial o biométrico —huellas dactilares, sistemas de reconocimiento facial mediante videocámaras— en la vía pública, salvo excepciones.

España, escenario de pruebas para el Reglamento sobre la IA

El horizonte legislativo europeo está repleto de futuras regulaciones a las grandes plataformas tecnológicas. La Ley de Servicios Digitales, la Ley de Mercado Digital y ahora el recientemente presentado Reglamento sobre la IA servirán para ver «cómo ponemos estas normas en juego», avanza Artigas. «España cree que la transformación tecnológica no vale a cualquier precio».

«Queremos que la transformación digital tenga a las personas en el centro y que no deje a nadie atrás. Lo avanzábamos en la Carta de Derechos Digitales y estamos impulsando este debate a nivel europeo. [Las plataformas tecnológicas] nos han comprado la idea de que en Europa las cosas van a ser distintas: y es que no hace falta que sean iguales en todas las partes del mundo».

Las tecnológicas están tomando medidas cada vez más controvertidas, y esta experta explica por qué: «La ética ya no es sostenible como discurso, hay que pasar a la acción»

«Europa es un mercado demasiado importante como para que nadie pueda renunciar a él. Y, además, Europa tiene su derecho y está muy dispuesta a marcar estas normas», insiste Artigas.

Así, la SEDIA plantea que en España el borrador del reglamento se comience a aplicar este mismo año y el que viene «para probar cómo funciona y decirle a la Comisión qué hay que cambiar. Queremos un trabajo colaborativo con la industria. Con lo práctico. A veces las reglas que se diseñan en Bruselas se intentan aplicar a nivel industrial y, aunque se tenga la voluntad, no se puede hacer».