La Ley de Inteligencia Artificial (IA) ha sido aprobada definitivamente por el Consejo Europeo. Esta ley pretende armonizar las normas sobre inteligencia artificial, y sigue un enfoque ‘basado en el riesgo’, lo que significa que cuanto mayor es el riesgo de causar daño a la sociedad, más estrictas son las normas. La ley de IA se aplica sólo a áreas dentro de la legislación de la UE y proporciona exenciones, como sistemas utilizados exclusivamente con fines militares y de defensa, así como con fines de investigación.
La nueva Ley de Inteligencia Artificial clasifica diferentes tipos de inteligencia artificial según el riesgo. Los sistemas de IA que presenten solo un riesgo limitado estarían sujetos a obligaciones de transparencia muy leves, mientras que los sistemas de IA de alto riesgo estarían autorizados, pero sujetos a un conjunto de requisitos y obligaciones para obtener acceso al mercado de la UE.
Para garantizar una aplicación adecuada, se han creado varios órganos de gobierno, como una oficina de IA dentro de la Comisión Europea, para hacer cumplir las normas comunes en toda la UE; un panel científico de expertos independientes para apoyar las actividades de aplicación de la ley; una junta de IA con representantes de los Estados miembros para asesorar y ayudar a la Comisión Europea y a los Estados miembros en la aplicación consistente y efectiva de la Ley de IA; y un foro consultivo para que las partes interesadas proporcionen conocimientos técnicos a la junta de IA y a la Comisión Europea.
Prohibiciones y penalizaciones
Los sistemas de inteligencia artificial como, por ejemplo, la manipulación cognitivo-conductual y la puntuación social, serán prohibidos en la UE porque su riesgo se considera inaceptable. La ley también prohíbe el uso de IA para vigilancia policial predictiva basada en perfiles y sistemas que utilizan datos biométricos para clasificar a las personas según categorías específicas, como raza, religión u orientación sexual.
Asimismo, la ley de IA también aborda el uso de modelos de IA de propósito general (GPAI). Los modelos GPAI que no presenten riesgos sistémicos estarán sujetos a algunos requisitos limitados, por ejemplo, con respecto a la transparencia, pero aquellos con riesgos sistémicos tendrán que cumplir con reglas más estrictas.
Respecto a las penalizaciones, la ley establece que las multas por infracción se fije como un porcentaje del volumen de negocios anual global de la empresa infractora en el ejercicio financiero anterior o una cantidad predeterminada, lo que sea mayor. Las pymes y las empresas de nueva creación están sujetas a multas administrativas proporcionales.
Protección de los derechos fundamentales de las personas
Por otro lado, la Ley de Inteligencia Artificial establece que algunas entidades que prestan servicios públicos implementen un sistema de IA de alto riesgo, será necesario evaluar el impacto sobre los derechos fundamentales.
Para una mayor transparencia con respecto al desarrollo y uso de sistemas de inteligencia artificial de alto riesgo, se establece que los sistemas de IA de alto riesgo, así como ciertos usuarios de un sistema de IA de alto riesgo que sean entidades públicas, deberán estar registrados en la base de datos de la UE para sistemas de inteligencia artificial de alto riesgo, mientras que los usuarios de un sistema de reconocimiento de emociones tendrán que informar a las personas naturales, cuando están expuestas a dicho sistema.
Además, el reglamento proporciona un marco legal favorable a la innovación y tiene como objetivo promover el aprendizaje regulatorio basado en evidencia, por lo que se prevé que los entornos limitados de pruebas regulatorios de IA, que permiten un entorno controlado para el desarrollo, prueba y validación de sistemas de IA innovadores, también deberían permitir probar sistemas de IA innovadores en condiciones del mundo real.
La nueva Ley de Inteligencia Artificial se publicará en el Diario Oficial de la UE en los próximos días y entrará en vigor veinte días después de esta publicación. El nuevo reglamento se aplicará dos años después de su entrada en vigor, con algunas excepciones para disposiciones específicas.