💠 Le biais algorithmique est le meilleur ennemi de la FinTech

par Aurélie Jean, PhD, scientifique numéricienne, entrepreneure

Le 10 Avril 2018, à Station F, France Fintech rassemblera les principaux acteurs de la Fintech : régulateurs, entrepreneurs, investisseurs. C’est l’occasion unique d’écouter et d’échanger avec celles et ceux qui seront partie prenante de la révolution qui touche l’industrie financière depuis 5 ans.

La FinTech est aujourd’hui Digitalo-Analytique

L’industrie financière Française a construit sa réputation rayonnante sur ses quants. Aujourd’hui le numérique est la voie pour innover en finance de marché et en assurance. L’exemple récent de Goldman Sachs qui a fait un changement radical dans son industrie en devenant d’une certaine manière une entreprise Tech, montre cette tendance. Le data scientist et le développeur informatique deviennent des gold commodities pour cette industrie qui se réinvente. Des outils numériques sont développés pour analyser les marchés, pour détecter les fraudes et délits d’initiés, pour faire des prédictions sur les stocks, ou encore pour identifier des portefeuilles d’investissement. En assurance, on utilise des outils numériques capables d’estimer le coût d’une couverture à partir du profile de l’assuré, ou encore des outils numériques capables de simuler le risque d’attribution d’un prêt. Ces outils puissants et a priori plus justes, peuvent malheureusement créer des discriminations s’ils sont mal développés et utilisés. Ces discriminations impliquent une considération différente des individus à partir de stéréotypes et préjugés, qu’on nomme aussi biais. En plus des considérations sociétales et humaines évidentes, les biais algorithmiques sont le risque pour les entreprises de la FinTech d’écarter certaines populations des leurs segments de clients. Ces biais interviennent dans les critères de l’algorithme, ainsi que dans la data choisie pour calibrer l’algorithme ou le modèle. Dans le contexte du machine learning les conséquences de ces biais sont amplifiées car la data possiblement biaisée va entraîner l’algorithme et engendrer à l’issue de l’entrainement des critères a posteriori fortement biaisés et souvent difficilement réversibles. Les acteurs de l’industrie financière doivent comprendre les mécanismes de ces technologies et de l’intelligence artificielle, pour devenir des utilisateurs éclairés.

Les Biais Algorithmiques sont une opportunité pour la FinTech de se réinventer

En machine learning les algorithmes sont entraînés sur des données choisies par les Hommes. Dans le cas de l’estimation du prix d’une assurance, si on entraîne les algorithmes uniquement sur des données des assurés des dernières décennies, on reproduira inévitablement les biais de genre, d’origines sociales et d’origines ethniques du passé. C’est ainsi qu’aux États-Unis un assuré noir paye jusqu’à trois fois plus son assurance voiture qu’un assuré blanc. Des techniques actuelles doivent être utilisées avec prudence, comme par exemple les techniques utilisées par la société FICO (FICO credit scores) qui capturent des informations sur leur clients via leur cellulaires pour définir leur credit score. Un autre exemple est la compagnie Allemande Kreditech qui demande à ses clients de partager avec elle leurs réseaux sociaux afin de caractériser le profile des individus appartenant à leurs cercles d’amis. Selon Kreditech, avoir des amis qui ont de bons credit scores est un bon indicateur de votre capacité à gérer un crédit et donc de le rembourser. Ces approches enferment les algorithmes de prise de décision dans certains de nos préjugés et de nos stéréotypes. Un autre exemple est le news & social media sentiment index développé par Bloomberg. Cet index est calculé entre autres à partir de l’analyse des postes sur les réseaux sociaux tels que Twitter pour définir un sentiment vis à vis d’une entreprise présente sur le marché public. Il est intéressant d’aller chercher dans cet index un levier pour décider ou confirmer une stratégie d’investissement dans un stock. La tendance générale est de dire que lorsque des tweets ont un sentiment négatif sur une entreprise présente sur le marché, cette dernière risque surement de voir la valeur de son action diminuée. Néanmoins cette tendance ne peut pas devenir une règle explicite, il faut rester prudent car on sait également que certaines entreprises défient cette logique comme l’entreprise Apple. Ces exemples montrent la complexité de mettre en place des règles explicites générales pour automatiser des décisions et faire des prédictions. Ces limitations et ces possibles biais imposent aux acteurs de la finance et de l’assurance d’être plus créatifs et même d’investir dans des équipes de recherche, comme l’a fait Capital One. L’industrie financière a été fortement impactée à la suite de la crise de 2008, et de nombreux acteurs de cette industrie affirment que l’ensemble des régulations votées et mises en place à la suite de la crise a profondément limité la créativité du secteur. La transformation digitalo-analytique et l’intelligence artificielle offrent une opportunité unique aux entreprises de la FinTech de se réinventer et d’innover à nouveau, en développant des outils numériques ambitieux et encore plus intelligents pour approcher notre société et notre économie de façon plus juste et plus transparente. Les acteurs de l’industrie FinTech vont se transformer, et cette mutation passera par une meilleure connaissance et une meilleure maîtrise des technologies.

Les acteurs de la FinTech deviennent des utilisateurs éclairés de la Tech

L’utilisation éclairée des outils numériques de prise de décision, d’analyse et de prédiction, devient critique dans tous les domaines, et l’industrie financière n’y échappe pas. Sans devenir des experts techniques, les acteurs de la FinTech doivent comprendre les mécanismes technologiques ainsi que les processus d’automatisation et de prédiction. L’industrie financière devient encore plus en profondeur Tech, et les acteurs traditionnellement orientés business et finance doivent se transformer. Ces acteurs doivent également comprendre cet écosystème pour mieux anticiper les innovations, les risques et les futurs changements possibles de leur métier respectif. L’apprentissage du code informatique par un cas d’usage de leur métier, est un moyen efficace pour comprendre les notions, les challenges et les enjeux concernant les algorithmes, la data, les biais, la performance, le machine learning, les API ou encore la cyber sécurité. Cet acculturation leur permet également de comprendre les actions et régulations actuellement débattues ou mises en place, et par conséquent de mieux s’y préparer. En Europe le règlement général sur la protection des données (RGPD) en action à partir du mois de Mai 2018 s’articule autour de trois grands points: le profiling, la transparence et, les biais et les discriminations. Le Equal Credit Opportunity Act aux États-Unis exige un traitement égal des individus sans considération d’origine ethnique, de langue, de religion, ou encore d’orientation sexuelle. La FinTech innove dans un nouveau paradigme qui s’inscrit dans une dimension responsable et dans une transparence financière et analytique, et le biais algorithmique est son meilleur ennemi !

#Finance #FinTech #Algorithm #Analytic #Bias #Innovation #Transformation #PowerUser #Society #People #Economy

Cet article fait partie d’une série de billets publiés dans le cadre de l’évènement annuel organisé par France Fintech : Fintech R:Evolution 2018, qui aura lieu le 10 Avril à Station F à Paris, sur le thème “Data Liberation”. A partager, commenter et liker sur LinkedIn avec le hashtag #FFT18.