Je m’appelle Franck. Je suis consultant. Depuis 2003, j’accompagne de grands établissements pour renforcer leurs dispositifs de lutte contre le blanchiment (AML) et le financement du terrorisme en déployant des progiciels. 17 ans sont passés, ils fonctionnent toujours. Problème : ils sont devenus des monstres ! Je prends conscience de ma condition : je suis – à mon échelle – un docteur Frankenstein !
Ces systèmes sont des « monstres ». Ils asservissent les humains !
Tous les jours, les algorithmes « mal nés » surveillent les clients des grands établissements à la recherche d’anomalies pouvant trahir des activités criminelles. Lorsqu’ils en identifient, ils jettent des alertes sur les écrans des collaborateurs. Certaines sont justifiées mais elles sont rares et invisibles dans un océan de « faux positifs ».
Des Hommes sont donc condamnés à servir la machine, à pallier ses défauts. Un quotidien d’un autre âge – un mauvais « remake » des Temps Modernes – s’est imposé à un nombre croissant de collaborateurs dont l’intelligence est annihilée par des activités épuisantes.
Les Hommes souffrent. Les coûts explosent. Les risques ne sont pas maîtrisés.
Ce cercle vicieux se traduit par des difficultés opérationnelles colossales pour les établissements et trouve ses racines dans les « faux-positifs ». Assommés par l’incapacité des progiciels, les Hommes asservis perdent de vue le sens de leurs actions. Ils n’ont plus confiance dans la machine inapte à séparer le bon grain de l'ivraie. Ils s’épuisent. Leur attention baisse. Ils font des erreurs. Ils sont démotivés. Ils changent de job. Les connaissances s’évaporent. Les erreurs demeurent.
Initialement conçue pour combattre le crime, la machine mal alimentée et mal calibrée est devenue la complice des criminels qu’elle est censée débusquer.
Les faux positifs : on ne négocie pas avec les maths !
Une leçon durement apprise : on ne négocie pas avec les maths ! Surtout lorsqu’on attend des chiffres qu’ils décrivent des comportements humains et qu’ils identifient des événements rares dans de très grandes populations.
L’intention initiale était louable : faire des économies et aller vite. En 2004, pressés de mettre en œuvre ces systèmes dont les coûts étaient importants, nous avons fait de notre mieux pour outiller La Conformité.
Alors, on a réduit les comportements humains à des lois normales et les profondeurs de collecte de données « pauvres » à quelques mois… Mais, on ne peut pas tricher avec les maths ! La sanction fut terrible : les faux-positifs étaient nés.
Mea culpa.
Je n’en suis pas le seul responsable mais je travaille pour corriger cette erreur et accoucher d’outils «intelligents». Des outils sachant capitaliser sur le travail énorme réalisé par les Compliance Officers au cours de ces 16 dernières années pour rendre la détection plus pertinente. Des outils qui permettent de réaliser des investigations numériques, d’exploiter les techniques d’analyse criminelles pour accélérer, sécuriser les études des acteurs et de leurs environnements…
Changer de «logiciel».
Aucun algorithme – seul – ne sait identifier des criminels car il ne peut identifier les nouveaux schémas, ni faire preuve d’empathie ou d’exégèse. Compte tenu des masses d’information à analyser, l’Homme aussi brillant qu’il soit, est incapable de faire face au tsunami de la donnée. Seul, il est condamné à la noyade numérique.
Alors nous devons repenser la collaboration Homme+Machine pour lutter contre les crimes. Cela peut sembler paradoxal mais cette machine peut être une assistante bienveillante.
S’assurer de la pertinence de la détection : «observer, conceptualiser, modéliser, évaluer, déployer».
Pour ce faire, elle doit apprendre à identifier des schémas risqués. Seul l’homme est susceptible de le lui enseigner. Il dispose des données, des alertes traitées et surtout des cas symptomatiques qu’il convient de disséquer très régulièrement.
Pour apprendre à la machine à identifier un phénomène « intéressant », il faut d’abord appréhender sa complexité avec des méthodes d’analyse criminelle développées par les services de renseignements.
Puis, il faut conceptualiser pour mettre en évidence les signes qui doivent alerter. Une fois ce travail réalisé par les Compliance Officers, les data scientists entrent en jeu. Ils collectent les données, modélisent, choisissent les méthodes, les testent et soumettent les résultats à la Conformité. Ce cycle se répète jusqu’à ce que les résultats soient satisfaisants puis le résultat est déployé et monitoré afin de s’assurer de sa pertinence.
Je ne m’appelle pas Franck.
Je me prénomme François. Il y a 2 ans, j’ai rejoint l’entreprise capable de repenser le partenariat Homme+Machine avec des data scientists remarquables ! Chaque jour, nous œuvrons pour soulager les collaborateurs des établissements du fardeau des faux-positifs ; nous aspirons ainsi à transformer les métiers de la Conformité, les rendre plus humains.
