Dérives de l'utilisation d'algorithmes par les caisses d'allocations familiales

Mme Michelle Gréaume appelle l'attention de Mme la ministre des solidarités et des familles sur l'algorithme utilisé pour les contrôles par les caisses d'allocations familiales (CAF) et les dérives qui en découlent. Une récente enquête du Monde fait état de pratiques discriminantes envers les bénéficiaires des prestations sociales de la CAF. Depuis 2010 en effet, la CAF attribue des notes à chaque allocataire, qui ont vocation à orienter les contrôles vers les profils les plus risqués. Un « score de risque » de fraude fondé sur des critères personnels et des « préjugés et des stéréotypes », comme le regrettait l'ancien défenseur des droits en 2020, ce qui a pour effet de discriminer les plus vulnérables. Alors que la CAF prétend qu'elle cible ses contrôles en fonction de comportements suspects ou de situations incohérentes, ce sont en réalité majoritairement des « profils types » qui sont identifiés sur des critères personnels par l'algorithme « Data Mining données entrantes » (DMDE). En réalité, nous sommes face à une chasse à la fraude sociale qui ne dit pas son nom, sans commune mesure avec les montants récupérés, ni avec son ampleur. Pour rappel, la fraude sociale est estimée à 8 milliards d'euros, alors que la fraude fiscale est estimée à 100 milliards d'euros. Selon un conseiller juridique de la commission nationale consultative des droits de l'homme (CNCDH), « si certains publics sont davantage exposés au contrôle sur la base de critères protégés, c'est clairement discriminatoire d'un point de vue politique, et peut-être aussi juridique ». Or, les prestations sociales pour les plus démunis sont celles dont les conditions d'attribution et les obligations déclaratives sont les plus complexes, et par conséquent sources de davantage d'erreurs. Un phénomène aggravé par la diminution constante du nombre de conseillers au profit d'un tout numérique qui laisse nombre de bénéficiaires livrés à eux-mêmes. En conséquence, elle lui demande quelles mesures elle compte prendre pour mettre fin à ces pratiques discriminatoires et favoriser l'accompagnement des allocataires dans l'accès aux prestations sociales.