Expertos denuncian la apuesta del Gobierno para que Deloitte supervise la regulación de la inteligencia artificial

La creación de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) no avanza a buen pie. Expertos y organizaciones en defensa de los derechos civiles han denunciado a EL PERIÓDICO la decisión del Gobierno de confiar en la consultora Deloitte y en la asociación sin ánimo de lucro OdiseIA para que supervisen la calidad de la inteligencia artificial (IA) en España.

A finales de 2021, el Ejecutivo español anunció la creación de una agencia dedicada a vigilar el despliegue de esta tecnología para minimizar sus riesgos, la primera de este tipo en la Unión Europea (UE). La semana pasada, ‘El Mundo’ avanzó que la administración ultimaba adjudicar a ambas entidades la creación del sello nacional que servirá para certificar un desarrollo seguro, ético y de calidad de la IA en el país. Su oferta asciende a 1,64 millones de euros y es la más bien vista por Madrid, según los documentos de la licitación a los que también ha podido acceder este diario.

La Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA), dependiente del Ministerio de Asuntos Económicos y Transformación Digital, ha confirmado a este diario que ha utilizado «un contrato de servicios» para externalizar en Deloitte y OdiseIA el encargo de fijar los criterios técnicos y desarrollar las herramientas para que las empresas españolas puedan obtener un sello que «avalará la calidad de los algoritmos, siempre de forma voluntaria». Además, y no es menor, ambas organizaciones asesorarán al Gobierno con recomendaciones sobre la configuración de la AESIA –que estará situada en A Coruña– y su equipo supervisor.

Zorros vigilando el gallinero

Distintas organizaciones civiles han denunciado que la administración haya confiado en dos empresas externas para desarrollar este organismo público pionero. «Se habla mucho de una IA ética, pero se termina recurriendo a las empresas que desarrollan esa tecnología para que también implementen su regulación», critica Judith Membrives i Llorens, técnica de incidencia en digitalización en Lafede.cat.

Para esos colectivos, la elección de Deloitte y OdiseIA es como poner zorros a vigilar el gallinero. La empresa de auditoría, una de las más grandes del mundo, tiene alianzas con proveedoras de servicios de IA como Google, Oracle o SAP, según indica su propia página web. «En democracia todos deberíamos poder auditar la IA y no que quede en manos de alguien que cobra de la misma empresa a la que audita. Esta forma de enfocar la gobernanza es muy peligrosa para los derechos humanos», lamenta Simona Levi, fundadora de Xnet.

Por otro lado, OdiseIA es una asociación sin ánimo de lucro que, asegura, «vela por el uso responsable» de esta tecnología. Entre sus socios, entre los que también hay miembros de la sociedad civil, figuran auditoras como PwC o la misma Deloitte, pero también grupos como el consorcio de la industria española IndesIA, formado por gigantes como Telefónica, Repsol, Navantia, Airbus o Microsoft (que ha invertido más de 11.000 millones de dólares en OpenAI para integrar el popular ChatGPT a sus servicios). Su presidenta, Idoia Salazar, remarca a EL PERIÓDICO que OdiseIA es «totalmente independiente» y que aunque sus socios realizan aportaciones económicas para garantizar el mantenimiento de la asociación «no tienen ningún tipo de repercusión ni en el comité estratégico ni en ningún otro tema».