El gobierno está preparando mecanismos para medir el impacto social de los algoritmos  Tecnología

El gobierno está preparando mecanismos para medir el impacto social de los algoritmos Tecnología

Los algoritmos afectan cada vez más áreas de nuestras vidas. Y a veces dañan a los ciudadanos. El gobierno ha decidido tomar medidas: ha puesto en marcha un conjunto de medidas destinadas a analizar el impacto social de los sistemas de inteligencia artificial (IA) antes de que entren en funcionamiento. Ante este objetivo y para acelerar el cambio a un ritmo más rápido, España se ha propuesto ser el conejillo de indias del proyecto de reglamento sobre inteligencia artificial presentado por la Comisión Europea, que se prevé que entre en vigor en 2023.

La prueba piloto sugeriría un avance en la implementación de la regulación un año, hasta el 2022. Y esto conduciría a una evaluación del riesgo que representa la aplicación de cada algoritmo (los sistemas de reconocimiento facial o puntuación, por ejemplo, se consideran de alto riesgo y por lo tanto, están prohibidas por algunas excepciones) y preparan mecanismos de auditoría para garantizar que no discriminen por motivos de raza, género o ingresos (el llamado sesgo algorítmico).

España sería el único país que avanzaría en la implementación de esta normativa europea. Con esta maniobra, el gobierno pretende poner al país a la vanguardia de esta importante regulación y acelerar “los cambios que tendrán que ocurrir tarde o temprano”, dicen fuentes de la Secretaría de Estado de Digitalización e Inteligencia Artificial (Sedia): análisis , establecimiento de normas, desarrollo de procedimientos de actuación, etc. Estas mismas fuentes confirman que el acuerdo entre el gobierno y la Comisión Europea está muy avanzado. Si no hay fallas, esto se anunciará cuando regrese de vacaciones.

La implementación temprana del proyecto de reglamento europeo no implicaría obligaciones legales adicionales para las empresas que operan los algoritmos a monitorear. De hecho, el sector acogió con satisfacción la iniciativa y se ofreció a trabajar con Sedia, de ser necesario, bajo el liderazgo del Ministerio de Economía y Transformación Digital, encabezado por la vicepresidenta primera Nadia Calvinho. La idea del gobierno es crear arenisca o un banco de pruebas en un entorno protegido similar al ya desarrollado para fintech.

Evaluación de riesgos

Tanto la Estrategia Nacional de Inteligencia Artificial, presentada a finales del año pasado, como el Reglamento Europeo de IA consideran la figura de la auditoría algorítmica como uno de los pilares del sistema de evaluación de riesgos.

El gobierno aún no tiene claro qué organismo se encargará de realizar estas auditorías en España. “No hemos llegado a esta discusión”, dijo la secretaria de Estado, encabezada por Carme Artigas. Una opción sería crear una oficina independiente, como ya ocurre con la privacidad con la Agencia Española de Protección de Datos (AEPD).

Antes de llegar a este punto y preparar el terreno, se acaba de poner en marcha el Observatorio Obisal sobre el Impacto Social de los Algoritmos. A su vez, dependiendo del Observatorio Nacional de Tecnología y Sociedad (Ontsi), esta entidad se encargará de desarrollar los benchmarks para ser utilizados en las auditorías. El Obisal se encuentra actualmente en proceso de contratación de expertos y conformación de grupos de trabajo sectoriales para el análisis de sistemas de inteligencia artificial. “Los algoritmos no son sectoriales, pero su impacto sí lo es”, dijeron desde Sedia.

Este observatorio elaborará informes que ayudarán a ver la luz de una metodología específica para auditorías algorítmicas el próximo año. A ello contribuirá también un registro de algoritmos en el sector público, impulsado por el propio Secretario de Estado. Según fuentes gubernamentales, el objetivo es que este proceso de evaluación del impacto social de los sistemas se pueda materializar en una especie de impresión de calidad de algoritmos. “Todo este trabajo está preparando el terreno para dentro de 10 o 15 años”, dijo Sedia.

Puedes seguir a EL PAÍS TECNOLOGÍA en Facebook Y. Gorjeo o regístrate aquí para conseguir el nuestro boletín semanal.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *