L’utilisation de l’intelligence artificielle et du machine learning a considérablement augmenté au sein des entreprises et organismes financiers. Les applications de ces nouvelles technologies permettent en effet d’automatiser la relation client, de conseiller en matière de crédit ou encore d’assurance grâce à une meilleure analyse des données et à une plus grande efficacité.
Un secteur en demande d’IA
Le Conseil de Stabilité Financière (CSF) a publié le 1er novembre dernier un rapport sur les impacts sur la stabilité financière de l’intelligence artificielle et du machine learning. Cet organisme qui représente les banques centrales et les régulateurs des économies du G20 s’est en effet penché sur l’évolution actuelle que connaît le secteur.
Si cette révolution technologique aura bien évidemment des répercutions positives, en termes de profit, elle n’en reste pas moins un outil dangereux. Comme l’indique le CSF, si les entreprises sont entrées dans ce qui semble une course à l’IA, c’est aussi parce que leurs concurrents s’y sont lancés. L’accélération peut sembler vertigineuse tant l’intégration d’outils IA s’est faite rapidement. Si les bénéfices sont certains, les risques sont beaucoup plus flous mais bien réels comme l’indique le rapport.
Des risques à maîtriser au plus tôt
Le CSF a identifié plusieurs risques et alerte sur la dépendance que cela pourrait créer pour les entreprises vis-à-vis des géants du domaine mais aussi sur la cyber-criminalité.
“Ces problèmes de concurrence – suffisamment pertinents du point de vue de l’efficacité économique – pourraient se traduire par des risques de stabilité financière, si et quand, ces entreprises technologiques détiennent une part de marché importante dans des segments spécifiques du marché financier”.
Le rapport du CSF met également l’accent sur la nécessité de former et de recruter un personnel spécialiste dans ces nouvelles technologies.
“Si plusieurs entreprises développent des stratégies commerciales utilisant des modèles d’IA et de machine learning sans les comprendre, du fait de leur complexité, il serait très difficile pour les entreprises et les superviseurs de prédire comment les actions des modèles affecteront les marchés”.
Parallèlement, comme l’indique le CSF dans son rapport, les applications et programmes actuels ont été développés à une période où le système financier international est plutôt en accélération. Cela implique un questionnement nécessaire car “les modèles pourraient ne pas suggérer des actions optimales en période de ralentissement économique ou de crise financière”.
L’intelligence artificielle promet une plus grande efficacité, une meilleure inter-connectivité entre les organismes et entreprises mais implique plus que jamais d’être maîtrisée.
“Comme pour tout nouveau produit ou service, il sera important d’évaluer les utilisations de l’IA et du machine learning en fonction de leurs risques, y compris en ce qui concerne le respect des protocoles sur la confidentialité des données, les risques de conduite et la cybersécurité.
Des tests et une “formation” adéquats aux outils via des données objectives et des mécanismes de rétroaction sont fondamentaux pour s’assurer que les applications font ce qu’elles sont censées faire.”
L’intelligence artificielle et ses applications sont des outils à très fort potentiel mais ils entrainent également des risques bien réels. Le secteur de la finance n’est pas le seul à s’interroger sur l’avenir de la société et, même si les avis divergent, il semble fondamental d’ouvrir un réel débat sur le sujet.
