Manual para una innovación responsable en materia de inteligencia artificial, dirigido a los organismos encargados de la aplicación de la ley
La situación
En los últimos años hemos asistido a los avances realizados en el ámbito de las tecnologías de inteligencia artificial, tales como la visión artificial, el tratamiento de imágenes, el aprendizaje automático, el procesamiento del lenguaje natural y el reconocimiento de voz. Nuestra sociedad ha integrado estas tecnologías, que se han desarrollado rápidamente, y ahora las utilizamos a diario.
La inteligencia artificial encierra asimismo un enorme potencial para servir a la labor de los organismos encargados de la aplicación de la ley, que, en la última década han empezado a utilizar las herramientas de inteligencia artificial. Algunos de los ámbitos en los que el uso de la inteligencia artificial ha dado buenos resultados son los sistemas de patrulla automática, la identificación de menores vulnerables y víctimas de la explotación, y los centros de llamadas de emergencia de la policía.
Pero aunque la inteligencia artificial abre un amplio abanico de posibilidades para las fuerzas del orden, también plantea cuestiones relacionadas con los derechos humanos, las libertades individuales y la ética. Los organismos encargados de la aplicación de la ley necesitan orientaciones de índole operativa y un marco jurídico sólido para garantizar el equilibrio entre la seguridad y la intimidad.
Objetivos del proyecto
INTERPOL y el UNICRI, con el apoyo financiero de la Comisión Europea, están colaborando para ofrecer la orientación y el apoyo necesarios por medio de la elaboración de un Manual para una innovación responsable en materia de inteligencia artificial, dirigido a los organismos encargados de la aplicación de la ley.
El manual contendrá una serie de directrices prácticas sobre la creación, la adquisición y la implantación de la inteligencia artificial, de modo que se pueda garantizar que se utiliza de la manera más adecuada y responsable y que se protegen los derechos individuales.
De este modo se ponen a disposición de los organismos encargados de la aplicación de la ley de todo el mundo los conocimientos y los recursos necesarios para aprovechar el potencial de la inteligencia artificial, tomar decisiones informadas y reducir los posibles riesgos asociados.
Aunque los organismos encargados de la aplicación de la ley son el principal destinatario de este proyecto, a la hora de promover un uso responsable de la inteligencia artificial en el ámbito de las fuerzas del orden intervienen muchas partes interesadas de distinta naturaleza. Así pues, los recursos creados en el marco del manual estarán también dirigidos a otros públicos, como especialistas de la industria y el mundo académico, a la ciudadanía y la sociedad en general.
Actividades del proyecto
En este proyecto se realizarán tareas relacionadas con la investigación, la elaboración y la publicación del Manual para una innovación responsable en materia de inteligencia artificial, dirigido a los organismos encargados de la aplicación de la ley.
El manual constará de varios recursos, tales como:
1) Guías:
- Introducción a la inteligencia artificial para los profesionales de las fuerzas del orden
- Principios para un uso responsable de la inteligencia artificial en el ámbito de la aplicación de la ley
- Guía para introducir y aplicar la inteligencia artificial de un modo responsable
2) Recursos interactivos:
- Evaluación sobre el nivel de preparación de la Organización para hacer un uso responsable de la inteligencia artificial
- Herramienta de inteligencia artificial destinada a una aplicación práctica responsable
- Herramienta de evaluación de riesgos de la inteligencia artificial
3) Información dirigida a cada público objetivo
El Grupo de Especialistas en IA, compuesto por expertos de las fuerzas del orden, la empresa privada, el mundo académico y otras organizaciones internacionales, ayuda a INTERPOL y el UNICRI con la elaboración del manual y se reúne periódicamente para examinar los avances de sus contenidos y ofrecer asesoramiento a este respecto.
Durante el proceso de elaboración se organizarán, además, consultas pormenorizadas con representantes de los organismos encargados de la aplicación de la ley, la empresa privada, y el mundo académico, así como con jueces, fiscales y especialistas en derechos humanos.
Al mismo tiempo, se animará a que participen en este proceso de elaboración a representantes de la ciudadanía.
La aprobación de este manual por las fuerzas del orden es un paso fundamental. Se invitará a los organismos interesados en este asunto a probar la utilidad y la exhaustividad de los recursos creados.
El manual servirá de base para elaborar el programa de un curso sobre un uso responsable de la inteligencia artificial por las fuerzas del orden, y se organizará una serie de cursos piloto dirigidos a ellas, con el fin de ayudarles a poner en práctica estas orientaciones.
Si desea más información, póngase en contacto con nosotros