177 / 210
CIENCIA
POLICIAL
176
· los combatientes o amenazas que están en condiciones de
seguir atacando y los que no lo están.
b) Congruentes, eligiendo cómo responder según los medios de
que dispongan.
c) Proporcionales, aplicando solo la fuerza mínima necesaria
para resolver el incidente.
Asimismo, para garantizar la seguridad en caso de malfuncio-
namiento, deberá limitarse la autonomía de estos sistemas de
alguna o varias de las siguientes tres formas:
- en el espacio: fijando su alcance máximo de su movimiento o
sus ataques,
- en el tiempo: capacidad determinada de su fuente de energía o
- en sus capacidades: en función de los medios de ataque que se
le incorporan.
Igualmente es necesario limitar su capacidad de decisión, es
decir, establecer qué decisiones puede tomar el sistema por sí
mismo y qué papel tiene el operador humano dentro del ciclo de
decisión. El operador humano podrá situarse:
- In the loop: dentro del ciclo de decisión, si desea estar implica-
do en el proceso y ser necesario para que este tenga lugar.
- On the loop: la máquina realiza la mayor parte del trabajo y
el operador humano simplemente verifica que el proceso está
funcionando correctamente y con la precisión adecuada y tan
sólo se participa para autorizar decisiones críticas (por ejem-
plo, dar la orden final de ataque).
- Out of the loop: el humano se sitúa fuera del ciclo de decisión
y deja a la máquina completa autonomía para tomar sus deci-
siones.
Por último, para garantizar la seguridad, deberá posibilitarse que
en cualquier momento se pueda recuperar el control humano del
SALA, y deberán disponer siempre de un «botón del pánico», es
decir, un sistema de apagado de emergencia, que además permita
su reiniciación inmediata posterior si fuera necesario.