Discrimination, opacité : des associations attaquent en justice l’algorithme de la Caf

Extraits de l'article de  Rachel Knaebel pour Basta !

En tant qu’allocataire du RSA, vous avez plus de chances d’essuyer un contrôle de la Caf si vous avez moins de 34 ans ou si vous avez un enfant à charge de plus de 12 ans. C’est le principe des « scores de risque » établis par la Caf de manière automatisée. En 2022, la Caisse nationale des allocations familiales (Cnaf), qui regroupe les Caf, annonçait qu’elle avait effectué 28,3 millions de contrôles « automatisés » sur l’année. Pour cela, elle utilise depuis les années 2010 un algorithme afin de repérer automatiquement les cas possibles d’indus ou de fraude, et engager ainsi des contrôles des allocataires du RSA, de l’aide au logement ou de l’allocation aux adultes handicapés (AAH).

Un algorithme pour contrôler

En moulinant des millions de données, cet algorithme attribue un score de risque aux allocataires. Ce score note la probabilité que la personne ait touché un indu ou commis une fraude. Cette notation déclenche ensuite des contrôles de l’organisme. En 2023, l’association La Quadrature du Net avait obtenu le code source d’anciennes versions de l’algorithme utilisé par la Cnaf. La Cnaf a refusé la communication de la dernière version.

Le décryptage des anciennes versions du code source, utilisées jusqu’en 2018, réalisé par La Quadrature du Net, avait toutefois mis au jour certains critères qui augmentaient le score de risque. Le Monde l’expliquait alors dans une enquête sur le sujet.