La Alianza Cloud Security (CSA) ha publicado el borrador del documento técnico ‘Responsabilidades organizativas de la IA de CSA: responsabilidades básicas de seguridad’. Este documento técnico ofrece elementos de responsabilidad procesables en seguridad de datos, seguridad de modelos y gestión de vulnerabilidades de la IA. El documento ya está disponible para revisión pública y abierto a comentarios.
La publicación de este documento técnico llega en un momento en que la comunidad internacional reconoce cada vez más la necesidad de una gobernanza responsable de la inteligencia artificial (IA). La Unión Europea aprobó recientemente la Ley de Inteligencia Artificial, que establece un estándar global para la regulación de la inteligencia artificial. Además, en marzo de 2024, la Asamblea General de las Naciones Unidas adoptó una resolución sobre la IA, respaldada por más de 120 Estados miembros, que enfatiza la importancia de gobernar la inteligencia artificial de manera responsable y ética.
El documento técnico es el resultado de un esfuerzo de colaboración entre líderes de la industria e investigadores en seguridad de la IA. Este documento pretende convertirse en una posible hoja de ruta para que las organizaciones adopten prácticas seguras de IA e implementen una seguridad básica en el desarrollo de la inteligencia artificial.
Consideraciones transversales del documento técnico
El documento propone seis consideraciones transversales para cada ítem: medición, estableciendo métricas cuantificables para evaluar las prácticas de seguridad de la IA; modelo RACI, clarificando roles y responsabilidades; seguimiento continuo, implementando mecanismos sólidos de seguimiento y presentación de informes; estrategia de implementación de alto nivel, integrando la seguridad de la IA en el ciclo de vida del desarrollo de software; mapeo de control de acceso, definición y aplicación de controles de acceso; y marco regulatorio de referencia, alineándose con los estándares y mejores prácticas de la industria.
Entre estas consideraciones, destaca el modelo RACI, una herramienta que ayudará a garantizar que todas las partes interesadas comprendan sus roles y responsabilidades en el proceso de desarrollo de la inteligencia artificial. Al establecer unas líneas claras de responsabilidades y fomentar la toma de decisiones informadas, las organizaciones pueden mitigar los riesgos y generar confianza en sus sistemas de inteligencia artificial.