đź’  Le biais algorithmique est le meilleur ennemi de la FinTech

Apr 3, 2018 | Parutions

par Aurélie Jean, PhD, scientifique numéricienne, entrepreneure

Le 10 Avril 2018, à Station F, France Fintech rassemblera les principaux acteurs de la Fintech : régulateurs, entrepreneurs, investisseurs. C’est l’occasion unique d’écouter et d’échanger avec celles et ceux qui seront partie prenante de la révolution qui touche l’industrie financière depuis 5 ans.

La FinTech est aujourd’hui Digitalo-Analytique

L’industrie financière Française a construit sa rĂ©putation rayonnante sur ses quants. Aujourd’hui le numĂ©rique est la voie pour innover en finance de marchĂ© et en assurance. L’exemple rĂ©cent de Goldman Sachs qui a fait un changement radical dans son industrie en devenant d’une certaine manière une entreprise Tech, montre cette tendance. Le data scientist et le dĂ©veloppeur informatique deviennent des gold commodities pour cette industrie qui se rĂ©invente. Des outils numĂ©riques sont dĂ©veloppĂ©s pour analyser les marchĂ©s, pour dĂ©tecter les fraudes et dĂ©lits d’initiĂ©s, pour faire des prĂ©dictions sur les stocks, ou encore pour identifier des portefeuilles d’investissement. En assurance, on utilise des outils numĂ©riques capables d’estimer le coĂ»t d’une couverture Ă  partir du profile de l’assurĂ©, ou encore des outils numĂ©riques capables de simuler le risque d’attribution d’un prĂŞt. Ces outils puissants et a priori plus justes, peuvent malheureusement crĂ©er des discriminations s’ils sont mal dĂ©veloppĂ©s et utilisĂ©s. Ces discriminations impliquent une considĂ©ration diffĂ©rente des individus Ă  partir de stĂ©rĂ©otypes et prĂ©jugĂ©s, qu’on nomme aussi biais. En plus des considĂ©rations sociĂ©tales et humaines Ă©videntes, les biais algorithmiques sont le risque pour les entreprises de la FinTech d’écarter certaines populations des leurs segments de clients. Ces biais interviennent dans les critères de l’algorithme, ainsi que dans la data choisie pour calibrer l’algorithme ou le modèle. Dans le contexte du machine learning les consĂ©quences de ces biais sont amplifiĂ©es car la data possiblement biaisĂ©e va entraĂ®ner l’algorithme et engendrer Ă  l’issue de l’entrainement des critères a posteriori fortement biaisĂ©s et souvent difficilement rĂ©versibles. Les acteurs de l’industrie financière doivent comprendre les mĂ©canismes de ces technologies et de l’intelligence artificielle, pour devenir des utilisateurs Ă©clairĂ©s.

Les Biais Algorithmiques sont une opportunité pour la FinTech de se réinventer

En machine learning les algorithmes sont entraînés sur des données choisies par les Hommes. Dans le cas de l’estimation du prix d’une assurance, si on entraîne les algorithmes uniquement sur des données des assurés des dernières décennies, on reproduira inévitablement les biais de genre, d’origines sociales et d’origines ethniques du passé. C’est ainsi qu’aux États-Unis un assuré noir paye jusqu’à trois fois plus son assurance voiture qu’un assuré blanc. Des techniques actuelles doivent être utilisées avec prudence, comme par exemple les techniques utilisées par la société FICO (FICO credit scores) qui capturent des informations sur leur clients via leur cellulaires pour définir leur credit score. Un autre exemple est la compagnie Allemande Kreditech qui demande à ses clients de partager avec elle leurs réseaux sociaux afin de caractériser le profile des individus appartenant à leurs cercles d’amis. Selon Kreditech, avoir des amis qui ont de bons credit scores est un bon indicateur de votre capacité à gérer un crédit et donc de le rembourser. Ces approches enferment les algorithmes de prise de décision dans certains de nos préjugés et de nos stéréotypes. Un autre exemple est le news & social media sentiment index développé par Bloomberg. Cet index est calculé entre autres à partir de l’analyse des postes sur les réseaux sociaux tels que Twitter pour définir un sentiment vis à vis d’une entreprise présente sur le marché public. Il est intéressant d’aller chercher dans cet index un levier pour décider ou confirmer une stratégie d’investissement dans un stock. La tendance générale est de dire que lorsque des tweets ont un sentiment négatif sur une entreprise présente sur le marché, cette dernière risque surement de voir la valeur de son action diminuée. Néanmoins cette tendance ne peut pas devenir une règle explicite, il faut rester prudent car on sait également que certaines entreprises défient cette logique comme l’entreprise Apple. Ces exemples montrent la complexité de mettre en place des règles explicites générales pour automatiser des décisions et faire des prédictions. Ces limitations et ces possibles biais imposent aux acteurs de la finance et de l’assurance d’être plus créatifs et même d’investir dans des équipes de recherche, comme l’a fait Capital One. L’industrie financière a été fortement impactée à la suite de la crise de 2008, et de nombreux acteurs de cette industrie affirment que l’ensemble des régulations votées et mises en place à la suite de la crise a profondément limité la créativité du secteur. La transformation digitalo-analytique et l’intelligence artificielle offrent une opportunité unique aux entreprises de la FinTech de se réinventer et d’innover à nouveau, en développant des outils numériques ambitieux et encore plus intelligents pour approcher notre société et notre économie de façon plus juste et plus transparente. Les acteurs de l’industrie FinTech vont se transformer, et cette mutation passera par une meilleure connaissance et une meilleure maîtrise des technologies.

Les acteurs de la FinTech deviennent des utilisateurs éclairés de la Tech

L’utilisation éclairée des outils numériques de prise de décision, d’analyse et de prédiction, devient critique dans tous les domaines, et l’industrie financière n’y échappe pas. Sans devenir des experts techniques, les acteurs de la FinTech doivent comprendre les mécanismes technologiques ainsi que les processus d’automatisation et de prédiction. L’industrie financière devient encore plus en profondeur Tech, et les acteurs traditionnellement orientés business et finance doivent se transformer. Ces acteurs doivent également comprendre cet écosystème pour mieux anticiper les innovations, les risques et les futurs changements possibles de leur métier respectif. L’apprentissage du code informatique par un cas d’usage de leur métier, est un moyen efficace pour comprendre les notions, les challenges et les enjeux concernant les algorithmes, la data, les biais, la performance, le machine learning, les API ou encore la cyber sécurité. Cet acculturation leur permet également de comprendre les actions et régulations actuellement débattues ou mises en place, et par conséquent de mieux s’y préparer. En Europe le règlement général sur la protection des données (RGPD) en action à partir du mois de Mai 2018 s’articule autour de trois grands points: le profiling, la transparence et, les biais et les discriminations. Le Equal Credit Opportunity Act aux États-Unis exige un traitement égal des individus sans considération d’origine ethnique, de langue, de religion, ou encore d’orientation sexuelle. La FinTech innove dans un nouveau paradigme qui s’inscrit dans une dimension responsable et dans une transparence financière et analytique, et le biais algorithmique est son meilleur ennemi !

#Finance #FinTech #Algorithm #Analytic #Bias #Innovation #Transformation #PowerUser #Society #People #Economy

Cet article fait partie d’une sĂ©rie de billets publiĂ©s dans le cadre de l’Ă©vènement annuel organisĂ© par France Fintech : Fintech R:Evolution 2018, qui aura lieu le 10 Avril à Station F à Paris, sur le thème “Data Liberation”. A partager, commenter et liker sur LinkedIn avec le hashtag #FFT18.