En un escenario que casi supera a ficciones como Robocop y Minority Report, investigadores en China dicen que han logrado una primicia mundial al desarrollar una máquina que puede acusar a las personas de delitos utilizando inteligencia artificial.
La IA fue desarrollada y probada por el la Fiscalía de Pudóng en Shanghái, en el distrito más grande del país, según informa South China Morning Post (SCMP). Y puede presentar un cargo con una precisión de más del 97 por ciento según una descripción de un caso criminal sospechoso.
«El sistema puede reemplazar a los fiscales en el proceso de toma de decisiones hasta cierto punto», aseguraron los investigadores en un artículo publicado en Management Review citado por SCMP.
Sistema 206
El equipo construyó la máquina a partir de una herramienta de inteligencia artificial existente llamada siniestramente Sistema 206. Los fiscales en China ya estaban utilizando el sistema para ayudar a evaluar las pruebas y determinar si un presunto delincuente era peligroso para el público en general.
Sin embargo, fue bastante limitado ya que no podía «participar en el proceso de toma de decisiones de presentar cargos y sugerir sentencias», explicó el equipo en el periódico. Eso requeriría que la IA pueda identificar y eliminar información irrelevante en un caso y procesar el lenguaje humano en su red neuronal.
La nueva IA desarrollada en Shanghái puede evaluar los expedientes de casos de esa manera. De hecho, la máquina puede identificar y acusar a los delincuentes de los ocho delitos más comunes del distrito: fraude con tarjetas de crédito, juegos de azar, conducción imprudente, asalto intencional, obstrucción a un oficial, robo, fraude e incluso disidencia política.
¿Quis custodiet ipsos custodes?
Por supuesto, existe mucha preocupación acerca de una computadora poderosa con la capacidad de encarcelar a las personas. Un fiscal anónimo le dijo a SCMP que, si bien su precisión del 97 por ciento es bastante alta, «siempre habrá una posibilidad de error».
«¿Quién asumirá la responsabilidad cuando suceda? ¿El fiscal, la máquina o el diseñador del algoritmo?», comentó el abogado al periódico.
Por ahora, la IA aún está en su infancia y no se ha implementado ampliamente. Sin embargo, si las tendencias recientes cuentan como un vaticinio de lo que vendrá, podemos esperar que las computadoras hagan más el trabajo sucio de la policía en el futuro.
China crea una inteligencia artificial «fiscal» para acusar a personas de crímenes