En la Conferencia General de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) celebrada el pasado jueves, los Estados miembros de la organización adoptaron la primera norma mundial sobre la ética de la inteligencia artificial (IA). Este texto establece valores y principios comunes que guiarán la construcción de la infraestructura jurídica necesaria para garantizar un desarrollo saludable de la IA.
La inteligencia artificial hace posibles numerosas actividades de la vida cotidiana, apoya la toma de decisiones, está teniendo resultados positivos en diversos ámbitos y contribuye a combatir problemas globales como el cambio climático. Sin embargo, conlleva desafíos sin precedentes, como es el caso de las amenazas contra la privacidad, los peligros de la vigilancia masiva y el aumento del uso de tecnologías de IA poco fiables.
En este contexto, la Unesco lanzó en 2018 un proyecto para crear un marco ético para el uso de la inteligencia artificial. Tres años después, la movilización de cientos de expertos de todo el mundo e intensas negociaciones internacionales han concluido con la adopción de este marco ético por parte de los 193 Estados miembros de la Unesco.
La Recomendación sobre la ética de la IA de la Unesco tiene por objeto hacer realidad las ventajas de esta tecnología y reducir los riesgos que conlleva. Garantiza que la transformación digital promueva los derechos humanos y contribuya a la consecución de los Objetivos de Desarrollo Sostenible (ODS), aborda cuestiones relativas a la transparencia, la rendición de cuentas y la privacidad, y contiene capítulos orientados a la acción sobre la gobernanza de los datos, la educación, el trabajo, la atención sanitaria y la economía.
Recomendación sobre la ética de la IA
En materia de protección de datos, la Recomendación sobre la ética de la inteligencia artificial insta a las empresas tecnológicas y a los gobiernos a asegurar la transparencia, la capacidad de actuar y el control de los datos personales. También incluye acciones para mejorar el conocimiento y derecho del individuo a controlar sus propios datos, así como aumenta la capacidad de los organismos reguladores de todo el mundo para hacer cumplir la Recomendación.
Asimismo, prohíbe el uso de sistemas de inteligencia artificial para la calificación social y la vigilancia masiva. A la hora de desarrollar marcos normativos, los Estados miembros de la Unesco deben tener en cuenta que la responsabilidad última y la rendición de cuentas deben recaer siempre en las personas y no se debe otorgar personalidad jurídica a las tecnologías por sí mismas.
El documento también sienta las bases de las herramientas que ayudarán a supervisar la aplicación de la IA. La Evaluación del Impacto Ético pretende ayudar a los países y a las empresas que desarrollen y desplieguen sistemas de inteligencia artificial a evaluar su impacto en las personas, la sociedad y el medio ambiente.
Por su parte, la metodología de evaluación del grado de preparación busca apoyar a los Estados miembros para examinar su infraestructura jurídica y técnica. Esta herramienta contribuirá a mejorar la capacidad institucional de los países y a recomendar las medidas adecuadas que deben adoptarse para garantizar la aplicación de la ética en la práctica.
En la misma línea, el texto anima a los Estados miembros a considerar la posibilidad de añadir el papel de un funcionario independiente de ética de la IA o algún otro mecanismo para supervisar los esfuerzos de auditoría y seguimiento continuo.
Además, señala que los actores de la inteligencia artificial deben favorecer métodos de IA eficaces en cuanto a datos, energía y recursos que ayuden a garantizar que se convierta en una herramienta destacada en la lucha contra el cambio climático y el tratamiento de los problemas medioambientales.
En este sentido, pide a los gobiernos que evalúen el impacto ambiental directo e indirecto a lo largo del ciclo de vida del sistema de IA, lo que incluye la huella de carbono, el consumo de energía y el efecto de la extracción de materias primas para su fabricación. Del mismo modo, pretende reducir el impacto ambiental de estos sistemas y de las infraestructuras de datos incentivando a los gobiernos a invertir en tecnología verde. En el caso de impactos negativos desproporcionados, el documento instruye que no se utilicen.
En definitiva, la Recomendación sobre la ética de la inteligencia artificial adoptada por la Unesco pretende que los desarrollos de la IA respeten el estado de derecho, evitar los riesgos y garantizar que, en caso de producirse daños, los afectados cuenten con mecanismos de responsabilidad y reparación.