Le vrai risque

« Le vrai risque politique actuel, ce sont les fichiers mis en place par l’État et les administrations, leur interconnexion, les types de données - notamment biométriques - qui y sont intégrés, le refus du droit à l’oubli, l’inscription de données concernant les jeunes, à des âges de plus en plus précoces, et surtout l’usage qui en est fait à des fins prédictives des comportements. »

Meryem Marzouki [3]

Problèmes de confidentialité

L’Autorité de la statistique publique a été créée par la loi de modernisation de l’économie (LME) du 4 août 2008 afin de veiller à l’indépendance et au respect de la déontologie dans le domaine de la statistique publique. Son champ d’intervention comporte trois éléments : le Conseil national de l’information statistique (Cnis) qui organise la concertation entre les utilisateurs (acteurs économiques et sociaux) et les producteurs de statistiques, l’Insee et les services statistiques ministériels [4] .

Dans son premier rapport annuel, relatif à l’année 2009, l’Autorité aborde la « nécessité d’approfondir la connaissance des trajectoires » [5].
Après avoir constaté que celle-ci «  s’avère de plus en plus nécessaire, pour éclairer les politiques d’égalité des chances, d’insertion professionnelle et d’insertion sociale », l’Autorité constate que «  le recueil des informations nécessaires se heurte à des problèmes réels de confidentialité dans le cas du suivi scolaire ».

Et elle poursuit :

« Il est indispensable que le système d’information pour l’élaboration de statistiques sur les trajectoires scolaires ne soit pas utilisé à d’autres fins. De son intégrité dépend une information indispensable à la société française.
Il conviendrait que les responsables de la statistique publique progressent dans le dialogue avec les administrations de gestion et avec les citoyens pour l’arbitrage sur cette question, si nécessaire avec l’appui de l’Autorité de la statistique publique. »

Vous avez bien lu : les craintes exprimées à propos de la confidentialité par les sceptiques étaient tout à fait justifiées !

Et la Cnil n’en a rien dit ...

L’analyse prédictive

Depuis la mi-avril, l’Etat de Floride utilise comme aide à la décision en matière de justice des mineurs [6] un “logiciel d’analyse prédictive” conçu et développé par SPSS, une filiale d’IBM qui « propose un portefeuille complet de solutions d’analyse prédictive qui inclut la collecte de données, le texte et le data mining, l’analyse statistique avancée et des solutions d’analyse prédictive aidant les clients à prévoir les événements futurs et agir de manière proactive et avisée pour délivrer de meilleurs résultats à l’entreprise. » [7].

Ce logiciel repose sur l’analyse de la base de données constituée des informations (casier judiciaire, situation familiale, études suivies, évolution ...) recueillies sur chacun des mineurs – ils sont 85 000 chaque année – qui ont eu affaire avec la justice de l’Etat. Pour chaque nouveau délinquant, à partir des principaux indicateurs le concernant tels que ses antécédents délictuels, son usage de l’alcool, de drogues, son environnement familial, son appartenance à une bande... le logiciel estime quels sont les risques de récidive, et fait également une suggestion de “solution” : suivant le cas, il peut par exemple proposer un placement, une mesure d’isolement, une cure de désintoxication...

Le logiciel ne dispose actuellement que des données recensées par la justice, mais il est vraisemblable que des interconnexions permettront bientôt de prendre en compte des données provenant d’autres domaines.
Il est également en cours d’expérimentation en Grande-Bretagne, mais sur les adultes : le ministère de la Justice du pays s’en sert en effet pour évaluer la probabilité de récidive des détenus après leur libération [8].

Ces méthodes évoquent ce que l’on désignait il y a quelques années sous le nom de système expert, tel le logiciel ToM qui, dès 1984, apportait une aide au diagnostic des maladies de la tomate. Certes nos enfants ne sont pas des plants de tomates, mais l’augmentation des capacités de calcul et l’accroissement considérable des données disponibles rend aujourd’hui envisageable d’appliquer à l’homme une telle technologie – avec les dérives que l’on peut prévoir.

L’évolution vers un processus prédictif semble particulièrement inquiétante : selon IBM, ce logiciel, nommé Predictive Analytics, offre aux gouvernements un « moyen pour créer des communautés plus sûres via l’identification, la prévision, l’intervention et la prévention des activités criminelles ».

Déontologie

Le respect par chacun des acteurs de quelques règles permettrait d’encadrer le recours à l’informatique de gestion dans le domaine scolaire. Voici, par exemple, ce que propose l’ancien Haut-commissaire aux solidarités actives :

« [Les] applications doivent être sous le contrôle des parties prenantes : enseignants, travailleurs sociaux, parents d’élèves, représentants des élèves doivent être en mesure de pouvoir vérifier que jamais une telle application informatique ne sera détournée de son objectif. » [9]