Encadrer les algorithmes des organismes de sécurité sociale et interdire les décisions reposant uniquement sur eux

Dans la lutte contre la fraude sociale, des outils automatisés attribuent des scores servant à orienter les contrôles. Les auteurs dénoncent un ciblage lié à la précarité et l’opacité de ces outils.

L’amendement limiterait leur utilisation à la vérification d’informations déjà détenues par l’administration. Ils ne pourraient se fonder exclusivement sur la situation sociale, les ressources ou la perception de minima sociaux. Toute décision affectant les droits d’un allocataire devrait être motivée individuellement par des faits matériellement vérifiés, et non par le seul résultat d’un algorithme.

Une publication annuelle présenterait les objectifs, données, critères, éventuels biais discriminatoires et modalités de contrôle humain. Un décret, pris après avis de la Commission nationale de l’informatique et des libertés et du Défenseur des droits, préciserait l’encadrement et l’audit. Les outils resteraient donc autorisés, mais sous ces conditions.