Algorithmic Price Personalization and the Limits of Anti-Discrimination Law

Résumé

       À l’heure où l’on s’affaire à réglementer les systèmes de l’IA afin de minimiser les risques, y compris ceux causés par des résultats biaisés et discriminatoires, il est essentiel de mieux comprendre comment certaines pratiques commerciales pourraient violer les lois anti-discrimination. Cet article examine les cas où la personnalisation algorithmique des prix, c’est-à-dire la fixation des prix en fonction des renseignements personnels des consommateurs dans le but de se rapprocher le plus possible de leur volonté de payer maximale (APP), pourrait violer les lois canadiennes anti-discrimination. Il analyse les cas dans lesquels le APP pourrait constituer une discrimination prima facie, tout en reconnaissant la difficulté de détecter cette pratique commerciale. Il discute des raisons pour lesquelles certaines différenciations de pratiques commerciales, même pour des motifs interdits, ne conduisent pas nécessairement à une discrimination prima facie, offrant ainsi une analyse plus nuancée de l’application de la loi anti-discrimination à l’APP. Cependant, une fois la discrimination prima facie établie, le APP ne sera pas facilement exempté en vertu d’une exigence bona fide, étant donné l’absence d’objectif commercial légitime de l’APP et en vertu du test rigoureux de la loi anti-discrimination, en accord avec son statut quasi-constitutionnel. Cet article fait le lien entre le droit anti-discrimination traditionnel et la réglementation émergente en matière de gouvernance de l’IA. En soulignant les lacunes identifiées dans le droit anti-discrimination, il analyse comment la réglementation de la gouvernance de l’IA pourrait renforcer le droit anti-discrimination et en améliorer la conformité.