La CNIL se préoccupe des algorithmes
La CNIL vient de publier une réflexion sur les enjeux éthiques des algorithmes et de l'intelligence artificielle.
PublicitéParmi les regrets de la CNIL sur l'adaptation du droit français consacré à la protection des données personnelles, il y avait l'absence de prise en compte des préoccupations de l'autorité administrative indépendante sur les algorithmes comme nous le relations hier. Or la prise de décision automatisée via algorithmes (notamment de scoring) s'accroît sans cesse. La CNIL a donc publié aujourd'hui une réflexion sur les enjeux éthiques des algorithmes et de l'intelligence artificielle. Ce rapport « s'appuie sur les résultats d'un débat public ouvert et décentralisé que la CNIL a animé de janvier à octobre 2017 : 3 000 personnes ont participé à 45 manifestations qui se sont tenues à l'initiative de 60 partenaires » comme le note l'autorité administrative indépendante.
Pourquoi une telle inquiétude ? La loi du 6 janvier 1978 dite « Informatique et Libertés », modifiée par celle du 6 août 2004, dans son article 10, interdit la prise de décision avec effet juridique sur la seule base d'un algorithme traitant des données personnelles. Voici un extrait de cet article 10 : « Aucune décision de justice impliquant une appréciation sur le comportement d'une personne ne peut avoir pour fondement un traitement automatisé de données à caractère personnel destiné à évaluer certains aspects de sa personnalité. Aucune autre décision produisant des effets juridiques à l'égard d'une personne ne peut être prise sur le seul fondement d'un traitement automatisé de données destiné à définir le profil de l'intéressé ou à évaluer certains aspects de sa personnalité. »
Le besoin d'une réglementation
L'interdiction posée est très limitée. Quelque part, heureusement : tous les services en ligne reposent largement sur des algorithmes, y compris des algorithmes de recommandation sur les sites e-commerce, sans oublier les publicités ciblées. Mais, du coup, ces algorithmes peuvent être très intrusifs et traiter de très nombreuses données personnelles (par exemple sur les réseaux sociaux), sans véritable transparence, et sans échappatoire. La CNIL appelle donc à inscrire dans la loi « une nouvelle génération de garanties et de droits fondamentaux à l'ère numérique ».
Comme pour tous les traitements, il y aurait une obligation de loyauté (donc de transparence, via la fin des « boîtes noires ») et de vigilance. La CNIL en déduit six recommandations opérationnelles. Ces recommandations insistent sur le besoin d'une dimension éthique des algorithmes, de transparence et de contrôle. Reste à savoir ce que cette réflexion entraînera concrètement en termes d'adaptations législatives.
Article rédigé par
Bertrand Lemaire, Rédacteur en chef de CIO
Commentaire
INFORMATION
Vous devez être connecté à votre compte CIO pour poster un commentaire.
Cliquez ici pour vous connecter
Pas encore inscrit ? s'inscrire