Los defensores de los derechos civiles llevan años quejándose de la injusticia que supone imponer medidas monetarias a cambio de la libertad: los ricos que presuntamente hayan cometido un delito podrán pagar sus fianzas y disfrutar de la luz del sol mientras esperan su juicio, mientras que los pobres se verán obligados a ser recluidos en prisión por no haber podido desembolsar el precio de su libertad. California quiere evitarlo, y se ha puesto en manos de la tecnología. Una vez más.
El gobernador, Jerry Brown, ha aprobado una ley que entrará en vigor en octubre de 2019, y que deja en manos de un algoritmo la evaluación del riesgo que supone en cada caso dejar al presunto delincuente en libertad. Se alimentará con datos de casos anteriores, el perfil de los acusados y otras variables que no han sido identificadas, principalmente porque el algoritmo en cuestión todavía no existe: deberá ser desarrollado por cada condado a lo largo de un año, ya sea de forma independiente o como encargo realizado a cualesquiera empresas privadas que a ello se presten.
Este punto, la participación de compañías en el desarrollo de un algoritmo que influirá en las decisiones de un órgano público, es uno de los motivos por el que han surgido críticas a la medida. El otro es la procedencia de los datos y su propia influencia sobre el algoritmo: se sabe que la Inteligencia Artificial no es necesariamente neutral, sino que se comporta según los datos con los que ha sido entrenada. En este sentido, lo que nace como una medida para evitar que determinados perfiles acaben con más frecuencia entre rejas que otros, podría perpetuarse precisamente porque los algoritmos serán entrenados con esa misma experiencia.
Otro de los puntos polémicos es que en la Justicia tradicional se conocen los argumentos que dan pie a una decisión, mientras que en un sistema dirigido por una máquina es poco probable que se lleguen a conocer los verdaderos motivos por los que se ha sugerido una determinada decisión. El hecho de que empresas privadas vayan a competir entre sí por desarrollar el algoritmo hace pensar que su obvia defensa de la propiedad intelectual terminará por ocultar el verdadero funcionamiento del sistema que participa en la toma de decisiones, ya que la decisión final seguirá en manos de un juez.
Los legisladores han sido conscientes de estos retos, por lo que el proyecto funcionará entre 2019 y 2023, momento en el que se revisará para observar su impacto sobre el sistema judicial. En cualquier caso, abre la puerta a una aplicación práctica de la Inteligencia Artificial en la Justicia, uno de los campos en los que presenta mayor potencial. No exento de polémica.
Es capaz de filtrar, indexar y resumir documentos sin errores y mucho más rápido que un humano.
Leer más en media-tics.com