Amusante coïncidence ou sujet prévisible ? Il se trouve que le dernier numéro de HBR publie un excellente article consacré aux relatives faiblesses des algorithmes, ou plus précisément aux failles que leur utilisation intempestives ont révélées. Justement, dans mon article précédent, je m’insurgeais contre l’idée que les humains pouvaient être assimilés à des algorithmes (sujet qui revient sans arrêt dans les discours des transhumanistes les plus fervents – ceux qui rêvent de devenir des robots)…

Alors pourquoi l’algorithme intelligent échoue-t-il ? Simple d’après Michael Luca, John Kleinberg et Sendhil Mullainathan, les auteurs de l’article : « 1 – ils font ce pour quoi ils ont été conçus et donc ils feront exactement ce que vous leur demandez et 2 – étant des boîtes noires, ils ne peuvent expliquer pourquoi ils proposent des recommandations particulières ». D’une part, le résultat dépend donc de celui qui programme l’algorithme, et d’autre part, on ne pourra pas l’expliquer !…

Prenons deux exemples éloquents fournis par ces chercheurs de haut niveau et qui concerne directement le monde du marketing.

Netflix est réputé pour avoir mis au point un algorithme permettant de prévoir ce que l’abonné aurait envie de voir… Mais ayant été développé pour l’époque DVD, il s’est avéré totalement inefficace pour les films ou les séries en streaming ! Le contexte n’était plus le même et les mêmes indicateurs n’avaient plus la même signification. Un des problèmes de l’algorithme, réside dans le manque de nuance et dans l’impossibilité de varier les décisions en fonction du contexte.

Ebay, comme beaucoup d’autres sites e-commerce, a longtemps cru que les publicités via Google étaient efficaces, concluant que les personnes exposées aux publicités étaient plus susceptibles de faire des achats sur le site que celles qui ne les regardaient pas. Or un test à grande échelle, réalisé en prenant au hasard les internautes exposés ou pas, a démontré que les publicités n’étaient pas efficaces et que ceux qui avaient vus les publicités étaient aussi ceux qui auraient acheté de toute façon (y compris sans aucune publicité) sur Ebay.

Là intervient la confusion entre corrélation et causalité. Or l’algorithme ne sait pas, ne peut pas savoir faire la différence ; c’est à l’humain de lui indiquer. Un des principaux défauts de l’algorithme mal employé c’est de mettre en évidence, l’évidence ! C’est de renforcer le signal fort, quitte à négliger les effets secondaires, et plus grave encore les signaux faibles.

Or la force extraordinaire de l’algorithme est justement de pouvoir détecter ce que l’humain n’aurait pas vu, faute de pouvoir tout analyser, par manque de puissance de traitement de la donnée. La diversité des données est le carburant de l’algorithme performant. Exactement comme dans la nature, c’est de la diversité que nous apprenons, que naissent les plus inattendues créations de l’homme…