China creó un "fiscal" Ai que puede acusar a las personas de delitos

Justicia por aprendizaje de máquinas

En un escenario que tiene parte de "Robocop" y parte de "Minority Report", los investigadores de China han creado una IA que, según se informa, puede identificar delitos y presentar cargos contra los delincuentes. 

La IA ha sido desarrollada y probada por la Fiscalía Popular de Shanghai Pudong, la mayor fiscalía de distrito del país, según informa el South China Morning Post. Puede presentar una acusación con una precisión superior al 97% a partir de la descripción de un presunto caso criminal.

"El sistema puede reemplazar a los fiscales en el proceso de toma de decisiones hasta cierto punto", afirman los investigadores en un artículo publicado en Management Review visto por SCMP. 

Sistema 206, Esq.

El equipo construyó la máquina a partir de una herramienta de inteligencia artificial ya existente, llamada ominosamente Sistema 206. Los fiscales chinos ya utilizaban el sistema para ayudar a evaluar las pruebas y determinar si un presunto delincuente era o no peligroso para el público en general. 

Sin embargo, era bastante limitado, ya que no podía "participar en el proceso de toma de decisiones para presentar cargos y [sugerir] sentencias", según el equipo en el documento. Para ello, la IA tendría que ser capaz de identificar y eliminar la información irrelevante en un caso, y procesar el lenguaje humano en su red neuronal. 

La nueva IA desarrollada en Shanghai es capaz de evaluar los expedientes de los casos de esa manera. De hecho, la máquina puede identificar y acusar a los delincuentes de los ocho delitos más comunes del distrito: fraude con tarjetas de crédito, juego, conducción temeraria, agresión intencionada, obstrucción a un agente, robo, fraude e incluso disidencia política. 

¿Quién vigila a los vigilantes?

Por supuesto, hay mucha preocupación por un potente ordenador con capacidad para meter a la gente en la cárcel. Un fiscal anónimo dijo a SCMP que, aunque su precisión del 97% es bastante alta, "siempre habrá una posibilidad de error".

"¿Quién asumirá la responsabilidad cuando ocurra? ¿El fiscal, la máquina o el diseñador del algoritmo?", dijo el abogado al periódico. 

Por ahora, la IA está aún en pañales y no se ha generalizado. Sin embargo, si las tendencias recientes son una indicación, podemos esperar que los ordenadores hagan más el trabajo sucio de los policías en el futuro.

Fuente: Futurism.com