Avec une base de données suffisante et une intelligence artificielle, il est parfois possible d’anticiper certains incidents. Certaines plateformes, comme Facebook, travaillent sur des algorithmes permettant de repérer les adolescents suicidaires et d’intervenir dans le cas où ils risquent de passer à l’acte. Au Canada, les forces de l’ordre vont utiliser des modèles prédictifs pour prédire les disparitions avant qu’elles n’aient lieu.
Selon un rapport du gouvernement, les modèles prédictifs seront basés sur des publications sur les réseaux sociaux, les dossiers de la police et les services sociaux. Les algorithmes se référeront à une dizaine de facteurs de risques communs, comme des antécédents de fugue ou de violence à la maison, afin d’identifier les personnes susceptibles de disparition.
L’initiative fait toutefois l’objet de nombre de critiques. Certains experts pensent que l’utilisation de modèles prédictifs à cette fin pourrait conduire à de faux positifs.
Le type d’informations à utiliser n’a pas été dévoilé
Le document a été publié le mois dernier par la RDDC (Defence Research and Development Canada), une agence rattachée au ministère de la Défense nationale. Selon le rapport, la conception des modèles prédictifs sera assurée par SPPAL (Saskatchewan Police Predictive Analytics Lab).
Ce laboratoire est le fruit d’un partenariat entre la police, le ministère provincial de la Justice et l’Université de la Saskatchewan.
La police canadienne utilise déjà les réseaux sociaux pour repérer des cas d’infraction, trouver des suspects et résoudre des enquêtes.
Toutefois, le rapport n’indique pas les types d’informations qui seront recueillies sur les médias sociaux.
Des risques de faux positifs
Tamir Israel est avocat à CIPPIC (Canadian Internet Policy and Public Interest Clinic). Il a reconnu que les modèles prédictifs de SPPAL pourraient être utilisés pour trier les cas suspects selon leur ordre de priorité. Il est en effet nécessaire de distinguer, par exemple, une éventuelle victime d’enlèvement d’une fugueuse habituelle. « Les forces de l’ordre seront invitées à s’appuyer sur les résultats du modèle prédictif” pour décider de la sérieuse prise en charge d’un cas de personne disparue », a-t-il déclaré à Motherbord.
Toutefois, il a souligné que ces modèles prédictifs sont souvent opaques dans leur fonctionnement, en s’appuyant sur des facteurs que les policiers eux-mêmes ne peuvent pas évaluer ou deviner. Il a noté que les informations sur les réseaux sociaux ne sont pas toujours fiables et augmentent les risques de faux positifs.
Il a également noté que cette méthode pourrait conduire à des résultats faussés lorsque les modèles sont appliqués à des groupes minoritaires. Il craint qu’ils ne fassent pas de différences entre les cultures.
« Nous savons que les modèles prédictifs sont loin d’être infaillibles dans des situations réelles et qu’il y aura des faux positifs », a-t-il rappelé. « Les conséquences d’une intervention basée sur un faux positif peuvent être très graves. »