Lutte contre la fraude sociale : la Défenseure des droits alerte sur les risques des contrôles algorithmiques

Echanges de données entre organismes, recours à des algorithmes: la lutte contre la fraude sociale, soumise à une automatisation croissante, doit être menée dans un cadre respectueux des droits des usagers, souligne la Défenseure des droits, dans un rapport publié jeudi.

« Si jamais il y a une qualification de fraude, c’est à l’organisme social de prouver qu’il y a fraude, pas à l’usager de prouver qu’il n’a pas fraudé », a déclaré Claire Hédon sur RMC.

La Défenseure des droits s’exprimait à l’occasion d’un rapport qui rappelle que les organismes de sécurité sociale et France travail ont développé l’automatisation des contrôles visant à lutter contre la fraude aux prestations afin d’améliorer leur efficacité.

Cela passe notamment par un recours à des algorithmes permettant de cibler les dossiers à contrôler en priorité.

Mais cette automatisation a manqué d’une « réflexion suffisamment approfondie » autour des effets potentiels sur les droits des usagers ou sur « les risques de discrimination », regrette le rapport de la Défenseure des droits.

Il pointe le « risque d’amplification » des atteintes aux droits, par exemple, au droit à la vie privée et familiale, à travers l’accès à certaines données personnelles, bancaires ou issues des réseaux sociaux.

Il relève également le caractère « intrusif » des contrôles pour les usagers, souvent vécus comme empreints d’une « présomption de culpabilité ».

« Il y a des risques d’atteintes à la vie privée avec ce qui est public ou non (sur les réseaux sociaux, ndlr). C’est important que les personnes comprennent quel a été le motif du contrôle de départ: est-ce l’algorithme, est-ce de l’intelligence artificielle qui a été utilisée et quand un contrôleur est-il intervenu?, pour pouvoir le contester », a insisté Mme Hédon sur RMC.

Pour préserver les droits des usagers dans ce contexte de massification des contrôles, le rapport formule une quinzaine de recommandations, dont l’encadrement du recours aux algorithmes, qui doit passer par la réalisation systématique d’une analyse d’impact sur la protection des données et par des évaluations sur les éventuels effets discriminatoires.

Par ailleurs, la Défenseure des droits souligne que le système de protection sociale « repose sur des mécanismes et des règles complexes », ce qui crée un « risque important d’erreurs » dans les déclarations des usagers, « parfois démunis face à un langage administratif ou à des démarches difficilement accessibles ». Or, le principe du droit à l’erreur est « insuffisamment protégé » dans le contexte d’amplification des contrôles.

Et « les erreurs ne viennent pas que des usagers, elles viennent aussi des organismes sociaux », a observé Mme Hédon sur RMC, évoquant des « trop perçus » pour lesquels les usagers reçoivent des courriers « souvent pas très clairs » demandant de rembourser des sommes pouvant atteindre « 10.000, 15.000, 25.000 euros ».

La Défenseure des droits a aussi plaidé en faveur d' »un échelonnement des remboursements, pour laisser un reste à vivre suffisant aux personnes », disant avoir mené cette « bataille » avec le gouvernement autour du projet de loi de lutte contre les fraudes sociales et fiscales.