La incidencia de las tecnologías emergentes en la discapacidad es, sin duda, un campo de singular relevancia. Cuando se hace alusión a esta incidencia suelen primar dos tipos de reflexiones. Por un lado, la de aquellos que presentan los avances tecnológicos como remedios que consiguen reducir los efectos de las “deficiencias” o incluso, terminar con ellos. Por otro lado, la de quienes enfatizan cómo las nuevas tecnologías pueden ser un instrumento más de discriminación hacia las personas con discapacidad en términos de accesibilidad. Pues bien, en la mayoría de los casos, estas dos reflexiones se hacen desde un enfoque de la discapacidad, centrado en la condición de la persona, esto es en la “deficiencia”, y no analizan el origen de la situación. Se trata de reflexiones que, cuando es así, no adoptan un enfoque de derechos humanos.
Como es sabido, el enfoque de derechos, considera la discapacidad como una situación fruto de barreras que son, principalmente, de índole social. Desde este enfoque lo prioritario es la lucha contra las barreras y no la lucha contra las llamadas deficiencias. Así, el enfoque de derechos va a priorizar, en la mayoría de los casos, la eliminación de barreras sobre la lucha contra las deficiencias, al igual que va a priorizar esta lucha frente a los programas de mejora.
Por eso es una buena noticia que Catalina Devandas, Relatora Especial sobre los derechos de las personas con discapacidad de Naciones Unidas, prepare un informe para la 43ª sesión del Consejo de Derechos Humanos sobre Bioética y Discapacidad.
La importancia de esta cuestión ha sido subrayada por el Comité sobre los Derechos de las Personas con Discapacidad de Naciones Unidas en su segundo informe sobre España (https://tbinternet.ohchr.org/_layouts/15/treatybodyexternal/Download.aspx?symbolno=CRPD%2fC%2fESP%2fCO%2f2-3&Lang=en), y en nuestro país, ha sido objeto de un informe muy interesante del Comité de Bioética (http://assets.comitedebioetica.es/files/documentacion/es/informe_final_CDPD.pdf). Por otro lado, constituyó el núcleo central del libro de mi querido Javier Romañach, Bioética al otro lado del espejo: la visión de las personas con diversidad funcional y el respeto a los derechos humanos (http://www.diversocracia.org/docs/Bioetica_al_otro_lado_del_espejo_v_papel.pdf).
Ahora bien, urge también llevar a cabo una reflexión sobre la incidencia de la Inteligencia Artificial en el campo de la discapacidad, y hacerlo adoptando un enfoque de derechos humanos.
Y es que el tratamiento común y mayoritario de la discapacidad, centrado todavía en un modelo médico, presenta una serie de rasgos que, si no son advertidos en la aplicación de la Inteligencia Artificial, pueden agravar la situación de discriminación de las personas con discapacidad. No hay que pasar por alto que las aplicaciones de Inteligencia Artificial trabajan en función de los datos y la información que se les proporcionan y que si no se corrigen, reproducen lógicas discriminatorias.
La consideración de la discapacidad como una enfermedad, como algo maligno que debe ser corregido, o como algo especial, fuera de lo normal, son ejemplos de esos rasgos que pueden provocar sesgos en la aplicación de la Inteligencia Artificial. También es importante tener en cuenta como todavía, en muchos ámbitos sociales, la discapacidad sigue siendo invisible lo que sin duda puede incidir en el uso de esta tecnología.
Pero tal vez, el peligro más relevante venga de la mano de la problemática relación entre Inteligencia Artificial y diversidad.
Esta problemática relación ha sido estudiada en relación con el género y la raza, subrayando sesgos presentes en aplicaciones de Inteligencia Artificial que discriminan a mujeres, personas de color, minorías sexuales…. En este ámbito destaca el informe del Instituto AI Now de la Universidad de Nueva York, Discriminating Systems. Gender, Race, and Power in AI (https://ainowinstitute.org/discriminatingsystems.pdf), de abril de 2019.
Ese mismo Instituto, convocó el 28 de marzo de 2019, junto al Centro de Estudios de Discapacidad de esa misma Universidad y Microsoft, a especialistas en discapacidad, programadores de Inteligencia Artificial e investigadores de informática para reflexionar sobre discapacidad, sesgo e Inteligencia Artificial. Como resultado de esa reunión AI Now publicó, en noviembre de 2019, otro informe, Disability, Bias, and AI (https://ainowinstitute.org/disabilitybiasai-2019.pdf), que he podido conocer gracias a Pilar Zapatero (colaboradora de DERTECNIA), en el que aparecen interesantes reflexiones y ejemplos sobre posibles sesgos del uso de la Inteligencia Artificial en relación con las personas con discapacidad.
Analizar cómo es posible hacer que esos sesgos no se produzcan resulta verdaderamente importante en la lucha contra la discriminación de las personas con discapacidad. Y para ello, la formación de todos los agentes implicados en los derechos de las personas con discapacidad y, por tanto, en el tratamiento de la discapacidad desde un enfoque de derechos humanos, parece imprescindible. Como también lo parece el establecimiento de canales de diálogo permanentes entre la ética y la tecnología. Ahora bien, en todo ello, resulta esencial la participación de las propias personas con discapacidad.
La implicación que las herramientas de Inteligencia Artificial tienen en los derechos de las personas con discapacidad debe ser objeto de análisis y en todo ello, el cumplimiento del lema “Nada sobre nosotros sin nosotros” debe ser un requisito ineludible.
Paso Cero 