/ 0 Comentarios / 291 Visitas

¿Puede la inteligencia artificial influir en nuestras vidas?

Feb 28 / 2019 12:00AM

Los sistemas de autoaprendizaje ya ayudan a jueces y médicos en la toma de decisiones y pueden predecir crímenes que no se hayan llegado a cometer. Pero los usuarios suelen desconocer qué criterios siguen estos sistemas durante la toma de decisiones.

 

La inteligencia artificial en el ámbito judicial

 
En los tribunales de Estados Unidos, la inteligencia artificial se utiliza en sentencias, medidas preventivas y mitigación. Tras estudiar los datos relevantes, el sistema de IA considera si un sospechoso es propenso a la reincidencia. Esta decisión puede convertir la libertad condicional en una sentencia real o dar lugar a la denegación de la fianza.

Por ejemplo, el ciudadano estadounidense Eric Loomis fue sentenciado a seis años de cárcel por conducir un coche desde el que uno de los pasajeros disparaba a un edificio. Este error se basó en el algoritmo COMPAS, que valora los peligros que puede suponer un individuo a la sociedad. COMPAS recibió toda la información sobre el perfil del acusado y de sus antecedentes y lo identificó como un “individuo de alto riesgo para la comunidad”. La defensa impugnó la decisión con el argumento de que no revelaron la operativa del algoritmo, haciendo imposible evaluar la imparcialidad de sus conclusiones, pero el tribunal rechazó este argumento.

 

La inteligencia artificial como asistente policial

 

Algunas regiones de China han ido aún más lejos, utilizando la inteligencia artificial para identificar posibles delincuentes. Las cámaras con reconocimiento facial supervisan el público e informan las fuerzas del orden si sucede algo sospechoso. Por ejemplo, alguien que compre grandes cantidades de fertilizante podría estar preparándose para un ataque terrorista. Cualquier persona culpable de actuar de manera sospechosa puede ser arrestada o enviada a un centro de reeducación.

Uno de los principales problemas que la inteligencia artificial decida el destino de la humanidad es que los algoritmos suelen ser opacos y rastrear todo el proceso en busca del error para que no se repita, no es nada fácil. Desde el punto de vista de los desarrolladores de los sistemas de autoaprendizaje, es comprensible: quien quiere compartir su experiencia con la posible competencia? Pero cuando la vida de las personas está en juego, debería darse prioridad al secreto comercial?

Leave a reply

Subscriu-te a la newsletter