El Comité Español de Representantes de Personas con Discapacidad (CERMI) ha reclamado que las corporaciones locales establezcan un procedimiento obligatorio de garantía de derechos antes de utilizar inteligencia artificial para decidir o ayudar a decidir sobre personas. La propuesta incluye revisión humana efectiva, explicaciones accesibles y participación de las personas con discapacidad y sus organizaciones representativas durante todo el proceso.
La directora ejecutiva del CERMI Estatal, Pilar Villarino, ha trasladado esta petición durante su intervención en la mesa «Inteligencia Artificial: derechos, garantías y regulación», celebrada este jueves en Zamora en el marco del Foro Nacional Inteligencia Artificial y Accesibilidad Universal, dedicado a la inteligencia artificial para la inclusión y al impulso de la accesibilidad universal en los municipios.
«La corporación local debe conservar el control de la decisión y ejercerlo contando con las personas cuyos derechos están en juego», ha defendido el CERMI, que sitúa la Convención Internacional sobre los Derechos de las Personas con Discapacidad como referencia para la incorporación de estas tecnologías a los servicios públicos.
El CERMI ha subrayado que los aplazamientos en la aplicación del Reglamento europeo de inteligencia artificial no suspenden las obligaciones derivadas de la Convención, que vincula desde su ratificación, ni las que derivan del artículo 49 de la Constitución tras su reforma. Por ello, ha defendido que las garantías propuestas pueden y deben aplicarse desde ahora.
El CERMI ha subrayado que contratar una herramienta tecnológica no transfiere la responsabilidad sobre el servicio. Las administraciones deben prever quién revisará las decisiones, con qué información y con qué autoridad para modificar sus resultados y proporcionar los ajustes que cada persona necesite.
Como ejemplo, ha señalado que una propuesta automatizada de reducción de horas de ayuda a domicilio debe poder contrastarse con las necesidades, las barreras del entorno y las preferencias de la persona afectada. La tecnología debe ampliar su autonomía y sus posibilidades de decidir y participar, con los apoyos necesarios.
La plataforma ha pedido incorporar a la contratación de tecnología o de servicios que la incorporen requisitos de accesibilidad, auditoría y corrección, así como formar al personal encargado de revisar las decisiones.
Ha alertado además del riesgo de que los sistemas conviertan desigualdades históricas en criterios aparentemente objetivos, con efectos específicos sobre las mujeres con discapacidad, por lo que reclama analizar conjuntamente género y discapacidad y examinar los resultados reales de los sistemas.
El CERMI ha defendido que las personas con discapacidad y sus organizaciones intervengan desde la definición del problema hasta la supervisión del funcionamiento de la IA. Esa participación debe disponer de información accesible, tiempo y recursos, y dejar constancia de las aportaciones recibidas y de los cambios realizados.
La plataforma ha destacado la necesidad de contar expresamente con las mujeres con discapacidad y de garantizar canales seguros y accesibles frente a la violencia, especialmente cuando quien presta apoyo para utilizar un dispositivo forma parte del entorno de riesgo.
Las propuestas se apoyan en el Informe DiscapacIA, elaborado por el CERMI en su condición de Mecanismo Independiente de Seguimiento de la Convención, que examina el impacto de la inteligencia artificial de riesgo elevado desde este tratado, identifica brechas de protección en diez ámbitos y formula recomendaciones para quienes regulan, desarrollan, contratan y utilizan estos sistemas.
El CERMI ha señalado que el convenio de colaboración con la FEMP ofrece un cauce para compartir orientaciones, formación y conocimiento de las barreras de cada territorio, de la mano de la RED de CERMIS Autonómicos, con especial atención a las necesidades de apoyo de los municipios pequeños.
