184 / 210
Inteligencia artificial para el trabajo de policía
183
tajas que esta tecnología nos ofrece para ser más efectivos en la lucha
contra la delincuencia y para evitar reacciones adversas de crítica,
resistencia o incluso violencia que, en lugar de proteger, pongan en
peligro la seguridad ciudadana y los derechos y libertades de nuestra
sociedad, dificultando el cumplimiento de nuestra misión.
Para conseguir esta confianza pública es esencial, además de ga-
rantizar un uso policial ético y responsable de la inteligencia artificial,
comunicar e informar a la ciudadanía de las aplicaciones policiales de
inteligencia artificial que se implanten. Para ello, deben diseñarse es-
trategias de comunicación y campañas de información que aumenten
la concienciación social y el entendimiento de los motivos, los obje-
tivos y las consecuencias del uso de estas aplicaciones, todo ello en
relación con los principios de explicabilidad y rendición de cuentas.
En línea con lo anterior, en el caso de aplicaciones policiales de
inteligencia artificial que tengan efecto jurídico en los interesados o
les afecten de forma significativa, especialmente si estos efectos pro-
vienen de decisiones individuales automatizadas, deberá garantizarse
el derecho de los ciudadanos a recibir una explicación comprensible
acerca de los motivos por los que el sistema ha tomado esa decisión, el
derecho a obtener intervención humana y el derecho a recurrir dicha
decisión.
Por último, y no menos importante, es fundamental que se llegue
lo antes posible a un consenso ético internacional y que se aprueben
normas que establezcan de forma clara y específica los límites en el
diseño, desarrollo y uso policial de la inteligencia artificial. Pero para
que esta regulación tenga un efecto real, es necesario que estos instru-
mentos éticos y legales sean vinculantes.
Mientras este marco normativo no se apruebe, se están limitando
el progreso de la inteligencia artificial y los beneficios que esta po-
dría traer para toda la sociedad. La situación actual de incertidumbre
ética y legal dificulta la inversión y el desarrollo, pues muchas orga-
nizaciones no se atreven a trabajar en aplicaciones de inteligencia
artificial ante el miedo de que en un futuro próximo se prohíban o
puedan traerles consecuencias legales y, las que sí se atreven, po-
drían estar poniendo en riesgo los derechos y libertades de nuestras
sociedades.