La guía ‘Uso responsable de la IA generativa en la investigación’, elaborada por la Comisión Europea y los países y partes interesadas del Espacio Europeo de Investigación, recopila una serie de directrices para un uso responsable de la inteligencia artificial (IA) generativa por parte de la comunidad investigadora europea. Las directrices publicadas tienen por objeto animar a la comunidad investigadora europea a utilizar la IA generativa para potenciar sus aplicaciones en beneficio de la sociedad, defender la integridad científica y preservar la confianza de la ciudadanía en la ciencia. La Comisión Europea espera que las recomendaciones se conviertan en la referencia para la investigación en la UE.
La IA generativa puede acelerar y hacer más eficiente la investigación, pero su uso exige transparencia y responsabilidad. Entre los principales desafíos que presenta, se encuentran el posible plagio, la revelación de información confidencial o los sesgos inherentes a los modelos.
En un contexto de rápida difusión de esta tecnología en todos los ámbitos, incluido el científico, las directrices abordan oportunidades y desafíos clave en base a los principios de integridad de la investigación, ofreciendo orientación a investigadores, organizaciones e inversores para un enfoque europeo conjunto.
Protección a la privacidad y confidencialidad
Entre las principales recomendaciones del documento dirigidas a los investigadores, se incluye que deben evitar la utilización de herramientas de IA generativa en actividades sensibles como revisiones o evaluaciones y, al compartir información, prestar especial atención a cuestiones relacionadas con la privacidad, la confidencialidad y los derechos de propiedad intelectual. Asimismo, deben formarse continuamente en el correcto uso de esta tecnología.
Por su parte, las organizaciones de investigación han de facilitar el uso responsable de la IA generativa y monitorizar activamente cómo se desarrolla y utiliza esta tecnología dentro de sus organizaciones. Siempre que sea posible y necesario, se recomienda también que implementen herramientas alojadas localmente o basadas en la nube que ellas mismas gestionen para garantizar la protección y confidencialidad de los datos.
En cuanto a las organizaciones de financiación, se recomienda que apoyen la utilización responsable y transparente de la inteligencia artificial generativa, también en sus procesos internos.
Dado que la IA generativa está en constante evolución, las directrices se actualizarán periódicamente con comentarios de la comunidad científica y las partes interesadas, que pueden remitir sus observaciones a través de este enlace.