El software italiano que ha cambiado el mundo de la policía predictiva

por Andrea Daniele Signorelli
Collaborador de Wired Italia
18t de Mayo de 2019
Un cuadrado rojo se ilumina en la pantalla con la que cuenta el coche de policía, indicando en qué área de la ciudad y en qué franja horaria es más probable que se cometa un crimen. Un pronóstico estadístico realizado al analizar miles de datos, como dónde se cometieron los crímenes más recientes, cuándo, en qué circunstancias, en qué condiciones climáticas, etc., pone en funcionamiento los algoritmos de aprendizaje automático.
PredPol, HunchLab o Palantir en EE. UU., o la alemana Precobs, entre otras, operan, en pocas palabras, de esta manera: utilizan el llamado análisis de puntos críticos para informar a la policía de las zonas con más peligro de la ciudad. Un mecanismo que ha generado varias inquietudes acerca de su utilidad real: de hecho, si se denuncian más delitos en un área, y en consecuencia se envía más policía, inevitablemente se identificarán más delitos; haciendo que esa misma área esté aún más sujeta a control.
Es probable que un círculo vicioso de policías predictivos, como señaló The Verge, sea ineficaz, al dejar completamente descubiertas otras áreas de la ciudad y ejercer más presión sobre ciertas comunidades, lo que refuerza el temor de que estos algoritmos puedan exacerbar los prejuicios ya presentes en la sociedad.

La excepción italiana: KeyCrime

Todo el software policial predictivo funciona de esta manera. Todos menos uno: el italiano KeyCrime, concebido por el antiguo subcomisario de la comisaría central de Milán, Mario Venturi, quien, después de haber trabajado durante décadas en la policía, se ha embarcado en una nueva carrera como empresario, transformando su software en una empresa de nueva creación. «Comencé a trabajar en esto en 2004. Cuatro años después comenzó la experimentación, cuando el entonces comisionado decidió usar mi sistema de análisis de delitos para combatir los robos en comercios», comenta Venturi a Wired.

2008 fue de hecho un año complicado para los comerciantes. Solo en la ciudad de Milán hubo 664 robos (son contar bancos). «Es un tipo de delito que tiene un tremendo impacto en la ciudadanía, cuyo mayor daño no es tanto el delito contra la propiedad, sino contra la persona», indica el expolicía. «Vi a propietarios cerrar sus negocios porque, después de sufrir un robo, vivían aterrorizados. Dado que este es un delito particularmente extendido y detestable, se decidió experimentar con el software en este ámbito. En el primer año de pruebas hemos identificado las responsabilidades del 47 % de los robos. »

Es una cifra que continúa creciendo con los años y ahora ha alcanzado el 60 %. «Se trata de números que no tienen parangón en el resto del mundo», explica Venturi, y que han garantizado la asociación de KeyCrime con empresas como IBM, validaciones científicas de instituciones como la Universidad de Essex o la Oficina Nacional de Investigación Económica de Boston, y que han aumentado el deseo de difundir este software, que se usa en este momento solo en la provincia de Milán, y cuya nueva versión estará lista muy pronto a nivel mundial. Además cuenta con 1,2 millones de euros de inversiones proporcionadas por la empresa de capital riesgo Oltre, el accionista inversor Sdg Group y el empresario Giorgio Gandini.

El papel de la vinculación de delitos

Pero ¿qué es lo que diferencia a KeyCrime de otros tipos de software policial predictivo? «La idea surgió del buscar, por cuestiones de trabajo, en una montaña de archivos relacionados con los distintos delitos, en los que los datos se recopilaron sumariamente, aunque aún contenían información que nos permitiría plantear la hipótesis de en qué delitos, incluso si ocurrieron en diferentes momentos y lugares, estuvo presente la misma mano ejecutora», indica el fundador de KeyCrime.

Detrás de cientos de robos, de hecho, no hay cientos de ladrones, sino unas cuantas decenas. En lugar de utilizar el análisis de puntos críticos para predecir en qué área de la ciudad podrían ocurrir los delitos (con todas las limitaciones ya expuestas), ¿no sería mejor usar un software para comprender qué delitos son cometidos por los mismos ladrones y predecir dónde, cómo y cuándo llevarán a cabo estos ladrones sus próximas acciones?

Después de identificar una serie de robos realizados en una farmacia, por ejemplo, KeyCrime puede predecir estadísticamente cuándo y en qué farmacia podría llevarse a cabo el próximo robo. «Este es el aspecto más llamativo, el que atrae la mayor atención. Pero sin el primer paso, sin el algoritmo que nos permite abstraer la serie delictiva, no podríamos desarrollar esta capacidad predictiva», continúa Venturi. Otro aspecto fundamental de la vinculación de delitos es que permite, después del trabajo de investigación de los fiscales, imputar por toda una serie de delitos (y no solo por el suceso que llevó a su arresto) a un ladrón y optimizar el trabajo de la policía; convirtiéndolo en una ventanilla única en la que hacer frente a toda una serie de delitos.

¿Cuántas predicciones de KeyCrime de un futuro delito se hacen realidad? «Ese es un dato que no proporcionamos y que personalmente considero sin importancia», indica Venturi. «Lo que importa es la reducción de los delitos, que ha alcanzado el 50 %. Un porcentaje que representa un caso único en Italia y que se ha confirmado mediante análisis independientes basados en datos de OSSIF».

KeyCrime, a diferencia de otros sistemas (que han renunciado a ello después de numerosas controversias, que han demostrado cómo el uso de estos algoritmos puede causar discriminación contra los sujetos más débiles de la sociedad), también archiva y utiliza datos relacionados con el origen étnico del ladrón. «En términos de investigación, la información sobre el origen étnico de quienes cometieron los delitos es esencial; si los desarrolladores de otros tipos de software han decidido no recopilar esos datos, tengo serias dudas sobre la efectividad de su software».

Sin embargo, el uso de la vinculación de delitos tiene otro aspecto importante: «No criminalizamos áreas, como puede suceder con el uso de puntos críticos. Centramos nuestra atención solo en el autor o los autores de los delitos que hemos identificado y en los objetivos en riesgo», explica Venturi. Un punto importante, que puede reducir en gran medida el peligro de que estos instrumentos predictivos de la Policía se transformen en un visto bueno tecnológico para someter a controles indiscriminados a quienes simplemente viven en zonas menos seguras de la ciudad o pasean por un barrio indicado por el software.

Los riesgos de la policía predictiva

Para aclarar este punto fundamental, puede resultar útil este ejemplo. Un software como PredPol podría indicar que en un distrito de Milán, en un momento determinado y en función de otros factores (incluidas las condiciones meteorológicas), es posible que haya habido casos de violencia a manos de una determinada minoría étnica. Este sistema corre el riesgo de causar una redundancia de controles y búsquedas en individuos que son únicamente culpables de tener el mismo origen étnico que el indicado por el software. Una consecuencia insoportable (que, por razones obvias, no puede ocurrir en contra de la etnia mayoritaria) que llevó a algunos programas a excluir de la base de datos la información relacionada con el origen étnico.

KeyCrime, al trabajar en el perfil de los autores de una serie delictiva y en los lugares precisos donde podrían atacar nuevamente, reduce de manera efectiva este riesgo; de este modo brinda un apoyo mucho más detallado a la policía que con una simple indicación de qué área patrullar. «Conocemos muchas características de la persona que estamos buscando», continúa Venturi. «Sabemos, por ejemplo, que conduce un escúter blanco, que mide 1,82, que tiene una complexión fuerte y también de qué etnia es. En algunos casos, también tenemos una foto del sujeto. Como resultado de ello, la policía no detiene a las personas indiscriminadamente, sino solo a quienes coinciden con el perfil. Además, los ladrones normalmente son interceptados justo antes de llevar a cabo el robo, cuando ya están con el arma en la mano o inmediatamente después».

A pesar de todas las garantías válidas sobre el funcionamiento del algoritmo de Venturi, queda una duda: ¿no sería conveniente que un algoritmo con labores de tal responsabilidad, y que maneja información tan sensible, fuera transparente y que pudiera ser analizado por la opinión pública? «No es necesario», concluye Venturi. «La prevención en nuestro caso es selectiva: el software solo ofrece la vinculación de los delitos y la predicción de los próximos objetivos. KeyCrime tampoco tiene valor científico ante los tribunales. Nuestro algoritmo es parte de un proceso que sigue al procedimiento judicial normal, en el que la policía decide si usar la información que le proporcionamos y cómo hacerlo. KeyCrime es una parte importante del proceso de investigación, pero la última palabra siempre debe tenerla el ser humano».