Ir al contenido principal

Justicia Artificial. El algoritmo que condena


Escribe Xavier Queralt Pons.

El empuje de las nuevas tecnologías comienza a sacudir algunos cimientos fundamentales sobre los que hemos establecido el funcionamiento de nuestras sociedades organizadas. Es esta una percepción inequívoca que en determinados ámbitos debería generar un debate todavía inexistente. Sin embargo, el cambio de paradigmas avanza a ritmo acelerado en un tiempo que podríamos calificar como de experimentación social permanente. Sucede así que un día nos despertamos y nos enteramos que los jueces de Wisconsin (EEUU) disponen de un software llamado Compas, cuyo algoritmo emite informes sugiriendo la condena que debería recibir un ciudadano acusado por algún delito determinado. 

La utilización del programa Compas salió a la luz a través de la protesta formal del abogado defensor de Eric L. Loomis, condenado a seis años de prisión por un juez que basó su sentencia en los informes recibidos de este sistema suministrado por la empresa privada Northpointe Inc. al sistema judicial estatal de Wisconsin. Durante el juicio citado, un fiscal dijo al juez de la causa que el informe Compas mostraba “un alto riesgo de violencia y un alto riesgo de reincidencia en el acusado”. El juez asintió y dirigiéndose a Loomis afirmó que: “usted está identificado a través de la evaluación Compas como un individuo de alto riesgo para la comunidad”. La defensa apeló la sentencia, ya que Loomis solo estaba acusado de fugarse de la policía en su coche, pese a que tuviera antecedentes.

El Tribunal Supremo de Wisconsin ratificó la sentencia no sin cierta incomodidad. La jueza Ann Walsh Bradley, miembro del Tribunal, quiso dejar en claro su disconformidad por escrito citando una evaluación del sistema Compas realizada por la Fundación ProPublica. El informe señala que los acusados negros en el condado de Broward (Florida) “eran mucho más propensos a ser juzgados de forma incorrecta que los acusados blancos, en relación a su tasa de reincidencia”. Es decir, que para Compas el color de la piel debería ser un parámetro a tener en cuenta en una condena. 

La jueza Bradley aclaró que la empresa Northpointe negaba esta acusación pero afirmó que “este estudio y otros plantean preocupaciones con respecto a cómo los factores de riesgo de una evaluación Compas se correlacionan con la raza”. La jueza finalmente no interfirió en la controvertida decisión de sus colegas pero advirtió que “Compas solo debería ser tomado en cuenta como una fuente de información en juicios debidamente individualizados”

La defensa de Loomis quiso conocer los parámetros del algoritmo Compas, pero el sistema judicial lo remitió a la empresa suministradora del mismo. Por supuesto, Northpointe rechazó abrir el código de Compas luego de considerarlo el secreto de su negocio. Es decir, que el sistema judicial norteamericano se vale de un programa secreto para condenar ciudadanos con algoritmos que nadie conoce más que la empresa proveedora (sic).

Comentarios

Entradas populares de este blog

Hablaos y entenderos, si us plau...

Escribe Marcelo Espiñeira.

...“independencia es una palabra hermosa que inflama el corazón de los jóvenes y que moviliza a las gentes”...
Joan Manel Serrat
En ese vértigo tan excitante que se mueve la política whatsapp han ocurrido una serie interminable de megasucesos coordinados por una mayoría que responde obediente al llamado de una pretendida cita con la historia. En tan solo un par de semanas hemos pasado de aquella escena sensiblera -propia de un culebrón latino- cuando Carme Forcadell preguntara inocentemente (sic) a Marta Rovira si la "señora diputada tiene algo que decirme" para enseguida sancionar la Ley de Transitorietat -sin debate alguno con los opositores-… y luego a los palos indiscriminados de unos especialmente motivados policías antidisturbios “justicieros” que intentaban quedarse con las papeletas, las urnas y por lo visto… también con una muestra de sangre de los votantes que hacían barreras humanas, tal vez como recuerdo personal del crucero a Barcelona qu…

MAFIA EN CATALUNYA. Se consolida la Camorra italiana en el país

El profesor de Historia Contemporánea de la Universidad de Palermo,  Giuseppe Carlo Marino, se refirió en su libro “Historia de la Mafia” (2002) a esta organización delictiva como “un poder en las sombras", no sin razón, y citó las palabras de un párroco del lugar: "El siciliano siempre ha sentido al Estado como un extraño que no interviene para hacer justicia contra la afrenta recibida". Este testimonio explica cómo se convierte il capo en la persona capaz de hacer justicia rápida y efectiva, bajo la premisa de que la familia es sagrada y el único lugar seguro. Este precepto ha favorecido una moral de la resignación, la obediencia y la complicidad. Y una única ley basada en el silencio: la omertà. 

María Arnal y Marcel Bages. 45 cerebros y un corazón

Escribe Marcelo Espiñeira.

De tanto en tanto surgen obras que nos reconcilian con la música. Sin responder a necesidad comercial alguna, en total ausencia de tácticas y estrategias de mercado, un joven dúo de voz y guitarra ha sabido apropiarse de las raíces mediterráneas con naturalidad absoluta y presentarlas con impiadosa libertad artística en una grabación memorable. Me estoy refiriendo a los músicos María Arnal y Marcel Bages en su vibrante edición de "45 cerebros y un corazón" (Fina Estampa, 2017). 

Precedido por el bocado gourmet del EP "Verbena" (2016), la expectativa por la publicación de este debut era lógica. Sus canciones despojadas de artificio, sustentadas en la inmensa voz de María, el gusto exquisito de Marcel, unas letras con espeso sustrato y una musicalidad atemporal, poseen un peso específico fuera de lo común. Luego de oírlas entendemos que las necesitábamos por alguna extraña razón que ignorábamos previamente.

Una austera guarnición electrónica a…