Els sistemes d’autoaprenentatge ja ajuden a jutges i metges en la presa de decisions i poden predir crims que no s’hagin arribat a cometre. Però els usuaris solen desconèixer quins criteris segueixen aquests sistemes durant la presa de decisions.
La intel·ligència artificial en l’àmbit judicial
En els tribunals dels Estats Units, la intel·ligència artificial s’utilitza en sentències, mesures preventives i mitigació. Després d’estudiar les dades rellevants, el sistema d’IA considera si un sospitós és propens a la reincidència. Aquesta decisió pot convertir la llibertat condicional en una sentència real o donar lloc a la denegació de la fiança.
Per exemple, el ciutadà nord-americà Eric Loomis va ser sentenciat a sis anys de presó per conduir un cotxe des del qual un dels passatgers disparava a un edifici. Aquest error es va basar en l’algoritme COMPAS, que valora els perills que pot suposar un individu a la societat. COMPAS va rebre tota la informació sobre el perfil de l’acusat i dels seus antecedents i el va identificar com un “individu d’alt risc per a la comunitat”. La defensa va impugnar la decisió amb l’argument que no van revelar l’operativa de l’algoritme, fent impossible avaluar la imparcialitat de les seves conclusions, però el tribunal va rebutjar aquest argument.
La intel·ligència artificial com assistent policial
Algunes regions de la Xina han anat encara més lluny, utilitzant la intel·ligència artificial per identificar possibles delinqüents. Les càmeres amb reconeixement facial supervisen el públic i informen les forces de l’ordre si succeeix alguna cosa sospitosa. Per exemple, algú que compri grans quantitats de fertilitzant podria estar preparant-se per un atac terrorista. Qualsevol persona culpable d’actuar de manera sospitosa pot ser arrestada o enviada a un centre de reeducació.
Un dels principals problemes que la intel·ligència artificial decideixi el destí de la humanitat és que els algoritmes solen ser opacs i rastrejar tot el procés a la recerca de l’error perquè no es repeteixi, no és gens fàcil. Des del punt de vista dels desenvolupadors dels sistemes d’autoaprenentatge, és comprensible: qui vol compartir la seva experiència amb la possible competència? Però quan la vida de les persones està en joc, hauria de donar-se prioritat al secret comercial?
