La Cnil présente un rapport sur les enjeux éthiques des algorithmes

La Cnil présente un rapport sur les enjeux éthiques des algorithmes

La Commission nationale de l'informatique et des libertés (Cnil) présente vendredi un rapport visant à sensibiliser développeurs, entreprises et utilisateurs sur les enjeux éthiques des algorithmes et de l'intelligence ...

A lire aussi

AFP, publié le vendredi 15 décembre 2017 à 08h05

La Commission nationale de l'informatique et des libertés (Cnil) présente vendredi un rapport visant à sensibiliser développeurs, entreprises et utilisateurs sur les enjeux éthiques des algorithmes et de l'intelligence artificielle.

Ce document est le produit d'un vaste débat organisé par la Cnil entre janvier et octobre, la loi pour une République numérique de 2016 lui ayant donné mission de conduire une réflexion sur les enjeux éthiques et les questions de société soulevés par l'évolution des technologies numériques.

Pour son premier opus, la Commission s'est emparé des algorithmes, omniprésents dans l'univers numérique, parce qu'ils suscitent "un réel intérêt du grand public, et aussi un malaise du fait de l'incompréhension autour de cet objet technique", a indiqué sa présidente Isabelle Falque-Pierrotin à l'AFP.

Dans son rapport, la Cnil définit simplement un algorithme comme "une suite finie et non ambiguë d'instructions permettant d'aboutir à un résultat à partir de données fournies en entrée", ce qui permet par exemple "fournir des résultats sur un moteur de recherche, proposer un diagnostic médical, conduire une voiture d'un point à un autre, détecter des suspects de fraude parmi les allocataires de prestations sociales, etc" 

L'intelligence artificielle désigne principalement "une nouvelle classe d'algorithmes, paramétrés à partir de techniques dites d'apprentissage", explique-t-elle aussi: les instructions à exécuter ne sont plus programmées explicitement par un développeur humain, elles sont générées par la machine elle-même, qui "apprend" à partir des données qui lui sont fournies. Cela permet d'accomplir des tâches dont sont incapables les algorithmes classiques.

"Mais leur logique reste incompréhensible et opaque, y compris à ceux qui les construisent", souligne la Commission. 

"Deux principes nouveaux apparaissent comme fondateurs", selon le rapport.

Le premier, "substantiel", est le principe de loyauté: l'algorithme ne doit pas trahir l'utilisateur, ni la communauté. Le second est un principe de vigilance: "On doit constamment créer du doute au niveau de l'algorithme; il doit sans cesse être remis en question" car il est extrêmement complexe et en perpétuelle mutation, insiste Mme Falque-Pierrotin.

La Cnil avance six recommandations: former à l'éthique tous les maillons de la "chaîne algorithmique" --y compris les citoyens--, rendre les systèmes algorithmiques plus compréhensibles en renforçant les droits existants, travailler leur design au service de la liberté humaine, mettre sur pied une "plateforme nationale d'audit des algorithmes", encourager la recherche sur l'intelligence artificielle éthique et enfin "renforcer la fonction éthique au sein des entreprises".

 
3 commentaires - La Cnil présente un rapport sur les enjeux éthiques des algorithmes
  • La CNIL est donc en train de nous faire savoir qu'elle va tout faire pour entraver le développement du numérique.
    Ce n'est pas nouveau, cela fait 40 ans que cet organisme, spécialiste de l'entre soi, nous prive de tout progrès en la matière.

    Vous faites preuve d'un évident manque de culture et de civisme. La CNIL est sans doute la meilleure institution pour nous protéger de "big brother". Bien sur vous pensez que je suis un neuneu...mais je suis un dev informatique et je vous garantis que le numérique peut vous pourrir la vie à un point que vous ne pouvez imaginer. Cela fait parfois froid dans le dos!

  • La Science des mathématiques est quelque chose d'extraordinaire , de merveilleux , presque incroyable ! Merci les maths

  • Concernant l'IA les algorithmes sont développés par un/des expert(s).
    Ils valent ce que valent les développeurs.
    Long et complexe ce développement peut avoir une conséquence dramatique quand il s'agit de médecine diagnostique par exemple. Qui est responsable en cas d'erreur ? Le développeur ou faute à pas de chance pour la victime ?

  • avatar
    [=pseudo.pseudo] -

    [=reaction.title]

    [=reaction.text]

avatar
[=pseudo.pseudo] -

[=reaction.text]