15/04/2019

L’UE veut une IA digne de confiance

drapeau union europeenne

En publiant les lignes directrices pour l’intelligence artificielle, l’Union européenne souhaite encourager des applications fiables et éthiques, soutenant les droits de l’homme.

Le 8 avril dernier, l’Union européenne a publié un document regroupant les lignes directrices que les développeurs pourront suivre étape après étape. Reconnaissant l’intérêt des différentes applications de l’intelligence artificielle comme l’apprentissage profond, la reconnaissance de visage et d’objets, le traitement du langage, l’organisation admet qu’elles sont aussi une source de préoccupation. Les dernières applications à destination des armées et gouvernements peuvent en effet mener à un niveau de surveillance et de contrôle des populations inacceptables.

Les lignes directrices

Les normes présentées par l’UE concernent :

  • La position vis-à-vis des humains : les systèmes ayant recours à l’intelligence artificielle devraient permettre des sociétés équitables en soutenant l’action humaine et les droits fondamentaux, et non pas diminuer, limiter ou mal orienter l’autonomie humaine.
  • La Robustesse et la sécurité : une intelligence artificielle doit inspirer un niveau minimum de confiance. L’UE exige que les algorithmes soient suffisamment sûrs, fiables et robustes pour traiter les erreurs ou les incohérences pendant toutes les phases du cycle de vie des systèmes d’IA.
  • La Protection de la vie privée et la gouvernance des données : les citoyens devraient avoir un contrôle total sur leurs propres données. Les données les concernant ne seront pas utilisées pour leur nuire ou pour exercer une discrimination à leur encontre.
  • Transparence : la traçabilité des systèmes d’intelligence artificielle devrait être assurée.
  • Diversité, non-discrimination et équité : les systèmes d’IA devraient tenir compte de l’ensemble des capacités, des compétences et des exigences humaines et assurer l’accessibilité.
  • Bien-être social et environnement : les systèmes d’IA devraient être utilisés pour améliorer les changements sociaux positifs et renforcer la durabilité et la responsabilité écologique.
  • Responsabilisation : des mécanismes devraient être mis en place pour assurer la responsabilité et l’obligation de rendre compte des systèmes d’IA et de leurs résultats.

Une législation à venir

Bien que ces lignes directrices représentent une somme importante de contraintes, elles devraient séduire un grand nombre de parties prenantes des entreprises aux ONG, en passant par les chercheurs et développeurs. Un tel document pourrait donc être les prémices à la mise en place d’une législation commune aux membres de l’UE. Un programme sera lancé cette année pour approfondir la problématique et y associer notamment les entreprises via l’alliance européenne pour l’intelligence artificielle.

Source : ec.europa.eu

Actualités