15 organisations de la société civile attaquent l'algorithme de notation de la CNAF devant le Conseil d'État

En cette veille de journée mondiale du refus de la misère, 15 organisations de la société civile attaquent l’algorithme de notation des allocataires des CAF en justice, devant le Conseil d’État, au nom du droit de la protection des données personnelles et du principe de non-discrimination. Ce recours en justice contre un algorithme de ciblage d’un organisme ayant mission de service public est une première. 

Cet algorithme attribue à chaque allocataire un score de suspicion dont la valeur est utilisée pour sélectionner celles et ceux faisant l’objet d’un contrôle. Plus il est élevé, plus la probabilité d’être contrôlé est grande. Chaque mois, l’algorithme analyse les données personnelles des plus de 32 millions de personnes vivant dans un foyer recevant une prestation CAF et calcule plus de 13 millions de scores. Parmi les facteurs venant augmenter un score de risque, on trouve notamment le fait d’avoir de faibles revenus, d’être au chômage, de bénéficier du Revenu de solidarité active (RSA) ou de l’Allocation adulte handicapé (AAH). En retour, les personnes en difficulté se retrouvent surcontrôlées par rapport au reste de la population.

Ce recours devant le Conseil d’État porte tant sur l’étendue de la surveillance à l’œuvre que sur la discrimination opérée par cet algorithme envers des allocataires déjà fragilisés dans leurs parcours de vie. En assimilant précarité et soupçon de fraude, cet algorithme participe d’une politique de stigmatisation et de maltraitance institutionnelle des plus défavorisés. Les contrôles sont des moments particulièrement difficiles à vivre, générateurs d’une forte charge administrative et d’une grande anxiété. Ils s’accompagnent régulièrement de suspensions du versement des prestations, précédant des demandes de remboursements d’indus non motivés. Dans les situations les plus graves, des allocataires se retrouvent totalement privés de ressources, et ce en toute illégalité. Quant aux voies de recours, elles ne sont pas toujours compréhensibles ni accessibles.

Alors que l’utilisation de tels algorithmes de notation se généralise au sein des organismes sociaux, notre coalition, regroupant des organisations aux horizons divers, vise à construire un front collectif afin de faire interdire ce type de pratiques et d’alerter sur la violence dont sont porteuses les politiques dites de « lutte contre la fraude sociale ».

« Cet algorithme est la traduction d’une politique d’acharnement contre les plus pauvres. Parce que vous êtes précaire, vous serez suspect·e aux yeux de l’algorithme, et donc contrôlé·e. C’est une double peine », déclare Bastien Le Querrec, juriste à La Quadrature du Net.

Associations requérantes :

La Quadrature du Net (LQDN)
Association d’Accès aux Droits des Jeunes et d’Accompagnement vers la Majorité (AADJAM)
Aequitaz
Amnesty International France
Association nationale des assistant·e·s de service social (ANAS)
APF France handicap
Collectif Changer de Cap
Fondation Abbé Pierre
Groupe d’information et de soutien des immigré·es (Gisti)
Le Mouton numérique
La Ligue des droits de l’Homme (LDH)
Mouvement national des chômeurs et précaires (MNCP)
Mouvement Français pour un Revenu de base (MFRB)
CNDH Romeurope
Syndicat des avocats de France (SAF)