Cnil: il faut sans cesse douter des algorithmes

Cnil: il faut sans cesse douter des algorithmes

Isabelle Falque-Pierrotin, présidente de la Cnil, le 27 mars 2017 à Paris

A lire aussi

AFP, publié le vendredi 15 décembre 2017 à 11h31

Il faut savoir constamment douter des algorithmes, omniprésents dans l'univers numérique, qui forment des chaînes complexes et changeantes, explique à l'AFP Isabelle Falque-Pierrotin, présidente de la Commission nationale de l'informatique et des libertés (Cnil), qui présente vendredi un rapport sur leurs enjeux éthiques.

Q: Pourquoi cette réflexion sur les algorithmes?

R: Le thème des algorithmes et des intelligences artificielles nous est apparu très transversal dans l'univers numérique. C'est un sujet pour lequel il y a un réel intérêt du grand public, et aussi un malaise du fait de l'incompréhension autour de cet objet technique. On a fait un sondage, tout au début de l'année, qui montrait que la plupart des gens avaient identifié cet objet algorithme/intelligence artificielle, et en même temps disaient +on ne sait pas ce que c'est+. Il y avait alors, dans la presse notamment, toute une série de voix --certaines autorisées, d'autres moins autorisées-- tonnant sur la situation française en disant en gros +la guerre est déjà perdue, les algorithmes et l'intelligence artificielle vont nous échapper et seront du domaine des acteurs américains ou chinois+.

Nous nous sommes donc dit que c'était un bon domaine pour pousser un débat collectif qui puisse synthétiser les éléments du problème, et le cas échéant faire des propositions. Au départ, nous n'étions pas sûrs de nécessairement faire des propositions, nous voulions faire apparaître les questions éthiques liées au sujet. Et finalement, des propositions se sont imposées.

Q: Quelles sont les principales conclusions auxquelles vous arrivez?

R: L'éthique, c'est un enjeu collectif, par définition c'est une morale collective appliquée à un sujet. Dans le cas des algorithmes, c'est particulièrement vrai parce qu'on est face à un phénomène de chaîne: il y a des développeurs, des paramétreurs, des utilisateurs, des régulateurs, le grand public... Nos propositions visent à ce que toute la chaîne algorithmique apporte sa contribution éthique. 

Avec les algorithmes, on est sur une brique de base de l'univers numérique. Le principe de loyauté a l'air très banal: l'algorithme fait une promesse, par exemple de trier les gens. Il faut qu'il fasse ce qu'il dit, c'est le premier niveau du principe de loyauté. Nous disons que derrière ce premier niveau, il y en a un autre qui est la loyauté à la communauté humaine. L'algorithme ne doit pas trahir les intérêts supérieurs de la communauté humaine, par exemple en ne servant que les intérêts d'une communauté d'utilisateurs en particulier --ce qui désavantagerait les autres. 

Un autre principe fondamental, c'est le principe de vigilance, et pour trois raisons. Les algorithmes sont quelque chose qui évolue extrêmement rapidement, on est face à un objet qui se métamorphose constamment. Deuxièmement, cet objet est partagé en une multitude de contributeurs et d'utilisateurs, et chacun de ces gens-là n'a pas forcément connaissance de l'ensemble de la chaîne. Le troisième élément, c'est qu'on a une tendance naturelle à faire une confiance absolue à ces outils. Face à ces trois éléments, on doit constamment créer du doute au niveau de l'algorithme; il doit sans cesse être remis en question.

Q: Quelle est finalité?

R: Nous versons notre réflexion au débat public. Cédric Villani (mathématicien et député LREM, ndlr) doit notamment rendre son rapport sur l'intelligence artificielle dans un mois, j'imagine qu'il trouvera de l'intérêt à notre analyse.

Et quand nous disons, au-delà des recommandations opérationnelles, qu'il y a deux principes nouveaux qui pourraient régir la régulation de ces objets techniques, le principe de loyauté et le principe de vigilance, on pense qu'ils sont suffisamment robustes intellectuellement et suffisamment généraux pour être aussi portés au plan international dans le cadre de la réflexion sur l'encadrement de l'internet et du numérique.

La communauté internationale pourra se saisir de la position française. La question de l'éthique va d'ailleurs être mise à l'agenda de la prochaine conférence internationale des autorités de protection des données à Bruxelles, en octobre de l'année prochaine.

 
3 commentaires - Cnil: il faut sans cesse douter des algorithmes
  • Pendant que Nous allons Travailler Nos différentes formes de doutes et d'éthiques...

    Nos concurrents étranger vont continuer a Avancer Travailler en réunissant dans tout les domaines de recherche...Alors oui j'ai peur que les algorithmes et l'intelligence artificielle nous échappe car priorité des acteurs américains et chinois...
    Notre seul chance l'union de l'Atlantique a l'Oural,de la méditerrané a Canaan...

  • avatar
    Strategique  (privé) -

    En tant qu'internaute de base nous avons sans cesse à faire avec ces fameux algorithmes. Par les biais,
    Des nombreux documents à éplucher si, nous voulons comprendre leur nécessité et leur raison d'être.
    L'embarquement massif "de plus en plus" vient sans cesse modifier ces algorithmes pas prévus à cela.
    La question: Peut on modérer un ou plusieurs algorithmes ? Ce n'est pas si sur. Et pour finir,
    Peut on se servir efficacement d'algorithmes pour effectuer toutes sortes de sondages très coûteux ?
    A vos calculettes pour, éviter les redondances qui, sont terriblement néfastes au déroulement algorithmiques.

  • avatar
    [=pseudo.pseudo] -

    [=reaction.title]

    [=reaction.text]

avatar
[=pseudo.pseudo] -

[=reaction.text]