Lutte contre la fraude sociale: à l'heure des contrôles algorithmiques, attention aux droits des usagers, souligne un rapport

Echanges de données entre organismes, recours à des algorithmes: la lutte contre la fraude sociale, soumise à une automatisation croissante, doit être menée dans un cadre respectueux des droits des usagers, souligne le Défenseur des droits, dans un rapport publié jeudi.

Les organismes de sécurité sociale et France travail ont développé l’automatisation des contrôles visant à lutter contre la fraude aux prestations afin d’améliorer leur efficacité, explique ce rapport.

Cela passe notamment par un recours à des algorithmes permettant de cibler les dossiers à contrôler en priorité.

En développant ces pratiques, les organismes concernés n’ont toutefois pas mené « de réflexion suffisamment approfondie » sur leurs effets potentiels sur les droits des usagers ou sur « les risques de discrimination », regrette le Défenseur des droits dans un communiqué.

Son rapport met ainsi en exergue le « risque d’amplification » des atteintes aux droits, par exemple, au droit à la vie privée et familiale, à travers l’accès à certaines données personnelles, bancaires ou issues des réseaux sociaux. Il relève également le caractère « intrusif » des contrôles pour les usagers, souvent vécus comme empreints d’une « présomption de culpabilité ».

Pour préserver les droits des usagers dans ce contexte de massification des contrôles, le Défenseur des droits formule une quinzaine de recommandations, dont l’encadrement du recours aux algorithmes, qui doit passer par la réalisation systématique d’une analyse d’impact sur la protection des données et par des évaluations sur les éventuels effets discriminatoires.

Par ailleurs, le Défenseur des droits souligne que le système de protection sociale « repose sur des mécanismes et des règles complexes », ce qui créé un « risque important d’erreurs » dans les déclarations des usagers « parfois démunis face à un langage administratif ou à des démarches difficilement accessibles ». Or, le principe du droit à l’erreur est « insuffisamment protégé » dans le contexte d’amplification des contrôles.