Une étude révèle que l’IA de type rapport minoritaire utilisée par les tribunaux au cours des 20 dernières années pour prédire les récidivistes criminels n’est pas plus précise que les personnes non formées qui devinent

Un nouveau document de recherche, qui étudie l’efficacité de l’intelligence artificielle (AI) dans la détermination de la probabilité d’un crime condamné crime, montre très clairement que les solutions logicielles disponibles peuvent ne pas être si intelligent après tout. Pour être plus précis, la recherche montre que les programmes dédiés d’IA conçus pour effectuer certains calculs de risque sur les personnes condamnées peuvent être moins efficaces que les humains non formés lorsqu’il s’agit de juger de ce qu’ils appellent le risque de récidive. En conséquence, un co-auteur de l’étude dit que cela devrait remettre en question l’utilisation de tels programmes.

Selon Hany Farid, professeur d’informatique au Dartmouth College du New Hampshire et co-auteur de l’étude, il y a trop de choses à faire pour que les autorités et le public se fient à un algorithme manifestement inefficace. « Le coût de l’erreur est très élevé et à ce stade, il y a une question sérieuse quant à savoir si elle devrait avoir une part dans ces décisions », a-t-il déclaré dans un communiqué publié dans The Guardian. Il a fait des recherches avec une collègue, étudiante de premier cycle Julia Dressel.

L’algorithme auquel il est fait référence ici n’est autre que Compas, qui est utilisé par les États-Unis pour déterminer si certains accusés en attente de jugement ou de condamnation risquent trop de récidiver. être libéré sous caution.

Compas a été développé en 1998, et maintenant après presque deux décennies, il a été utilisé sur plus d’un million de défendeurs obtenir plus d’informations. Jusqu’à présent, l’efficacité de ses calculs et prédictions n’a guère été remise en question. Cependant, les preuves avancées par les chercheurs peuvent être un peu trop difficiles à ignorer.

Les chercheurs ont analysé la performance de Compas dans les circonstances suivantes: ils l’ont laissé effectuer ses procédures de routine, ce qui implique de combiner un total de 137 mesures différentes pour chaque individu évalué. Ils ont ensuite enregistré tous les scores qu’il a attribués à plus de 7 000 accusés en attente de procès dont les dossiers ont été tirés d’une base de données du comté de Broward, en Floride. Ces scores ont ensuite été comparés à ceux d’un nombre indéterminé de travailleurs non formés, qui ont tous été contractés sur le marché du crowdsourcing en ligne Mechanical Turk par Amazon. Contrairement à Compas, les travailleurs non formés n’ont reçu que sept variables au lieu de 137.

Ce que les chercheurs ont trouvé était plutôt choquant. Au premier passage, ils ont trouvé que les humains étaient plus précis dans 67% des cas évalués, comparé au Compas qui n’était précis que dans 65% des cas évalués. Pendant ce temps, une deuxième analyse a montré que l’exactitude de Compas lorsqu’il s’agit de prédire la récidive pourrait être compensée simplement en utilisant un simple calcul qui ne demandait que l’âge d’un délinquant et le nombre de condamnations antérieures.

Pour faire une histoire courte, les humains sont sans aucun doute beaucoup mieux que le robot conçu pour faire ce travail particulier, et il ne semble pas que le robot va s’améliorer de sitôt. Mais le simple fait que son efficacité ait été remise en question devrait permettre de remédier à la situation.

«Quand on résume ce que fait le logiciel», dit Farid, «cela se résume à deux choses: votre âge et le nombre de vos condamnations antérieures.» Il n’est donc pas surprenant que des travailleurs non formés aient pu égaler et même surmonter si vite. Cependant, il dit aussi: «Alors que nous nous débarrassons du rideau sur ces algorithmes propriétaires, dont les détails sont étroitement surveillés, cela ne semble pas si impressionnant. Cela ne signifie pas que nous ne devrions pas l’utiliser, mais les juges, les tribunaux et les procureurs devraient comprendre ce qui se cache derrière tout cela. « 

Et peut-être avec cela, ceux qui sont responsables de la fabrication de ces algorithmes peuvent faire un meilleur travail et rendre le travail de la police beaucoup plus facile.

En savoir plus sur l’utilisation des algorithmes dans la vie quotidienne grâce à Computing.news.