Assistant virtuel : Avis sur l’explicabilité

Une IA digne de confiance et explicable

Une IA digne de confiance et explicable constitue un objectif clé pour l’UE. L’UE travaille actuellement à l’élaboration d’un cadre réglementaire pour l’IA. La proposition de règlement de la Commission européenne du 21 avril 2021 établissant des règles harmonisées concernant l’intelligence artificielle (ci-après la «législation sur l’IA») (annexe 3) prévoit deux grands types d’engagements de la part des fournisseurs de solutions et d’outils fondés sur l’IA: la transparence et la fourniture d’informations.

Les utilisateurs de systèmes d’IA ont le droit de recevoir des informations. Ce droit est assorti d’obligations, telles que celles d’utiliser le système conformément à la notice d'utilisation et de surveiller le fonctionnement de l’outil d’IA concerné. Le respect de ces règles garantit la responsabilité de tous les acteurs concernés.

La proposition de législation sur l’IA dispose à l’article 52 (Obligations de transparence pour certains systèmes d’IA) que «1. Les fournisseurs veillent à ce que les systèmes d’IA destinés à interagir avec des personnes physiques soient conçus et développés de manière à ce que les personnes physiques soient informées qu’elles interagissent avec un système d’IA, sauf si cela ressort clairement des circonstances et du contexte d’utilisation. […]»

La proposition de législation sur l’IA suit une approche fondée sur les risques et introduit une distinction entre les utilisations de l’IA qui créent i) un risque inacceptable, ii) un risque élevé et iii) un risque faible ou minimal.

Publio, l’assistant intelligent du portail de l’OP, interagit avec les personnes physiques et effectue des recherches en utilisant des mots-clés fondés sur des informations accessibles au public sur le portail de l’OP. Ces informations sont publiées sur la base du principe de transparence qui sous-tend l’ensemble des politiques et de la législation de l’UE. L’assistant intelligent ne génère pas de nouveaux contenus, ni ne manipule ou n’influence les choix des utilisateurs; il se limite à proposer des options de filtrage possibles pour les recherches des utilisateurs. Publio doit donc être considéré comme relevant de la catégorie iii) à «risque faible» telle que définie dans le projet de législation sur l’IA.

Le projet de législation sur l’IA dispose, au titre IV (Transparence), que la conception et le fonctionnement des systèmes d’IA doivent tenir compte des risques spécifiques que ces systèmes pourraient présenter, tels que 1) la manipulation par des techniques subliminales, c’est-à-dire des techniques au-dessous du seuil de conscience des utilisateurs, ou 2) l’exploitation de groupes vulnérables susceptible de causer des préjudices psychologiques ou physiques. Des obligations de transparence plus strictes s’appliqueront aux systèmes qui i) interagissent avec les humains, ii) sont utilisés pour détecter des émotions ou déterminer l’association avec des catégories (sociales) sur la base de données biométriques, ou iii) génèrent ou manipulent des contenus (trucages vidéo ultra-réalistes). Si Publio interagit avec les personnes physiques, il n’est pas conçu pour détecter des émotions dans le but de manipuler les personnes et ne contient pas non plus d’éléments susceptibles de conduire par inadvertance à un tel résultat. Publio ne répond donc pas aux critères susmentionnés.

IA et responsabilité

La proposition de législation sur l’IA présentée par la Commission européenne a été complétée, le 28 septembre 2022, par une proposition relative à un régime de responsabilité civile pour l’IA – la directive sur la responsabilité en matière d'intelligence artificielle (annexe 4) (ci-après «directive sur la responsabilité en matière d’IA»), à la suite de la résolution du Parlement européen adoptée en vertu de l’article 225 du TFUE (annexe 5).

Comme indiqué dans la proposition de directive sur la responsabilité en matière d’IA, les règles nationales existant en matière de responsabilité, notamment en ce qui concerne la responsabilité pour faute, ne sont pas adaptées pour traiter les actions en responsabilité dans le cas de dommages causés par des produits et services dotés d’IA. En vertu de ces règles, il incombe à la victime de prouver l’existence d’un acte préjudiciable ou d’une omission, d’identifier la personne qui a causé le dommage et d’établir un lien de causalité. Compte tenu des caractéristiques spécifiques de l’IA, notamment sa complexité, son autonomie et son opacité (l’effet dit de «boîte noire»), il peut être difficile d’identifier la personne responsable du dommage résultant de l’utilisation de l’IA. Les victimes de tels dommages peuvent donc être dissuadées de demander une indemnisation. Compte tenu de la nature de la charge de la preuve, la proposition de directive sur la responsabilité en matière d’IA apporte des solutions innovantes: elle assouplit les exigences décrites ci-dessus en recourant à la divulgation et aux présomptions réfragables de non-respect.

La proposition de directive sur la responsabilité en matière d’IA fournit des moyens efficaces d’identifier les personnes potentiellement responsables des dommages et de trouver des éléments de preuve pertinents. Elle indique, par exemple, qu’une juridiction nationale peut ordonner la divulgation des éléments de preuve pertinents (et leur conservation) concernant des systèmes d’IA à haut risque spécifiques soupçonnés d’avoir causé un dommage (annexe 6). En outre, sous réserve des exigences énoncées à l’article 4 de la proposition de directive, les juridictions nationales présument [...] le lien de causalité entre la faute du défendeur et le résultat produit par le système d’IA ou l’incapacité de celui-ci à produire un résultat.

Comme indiqué dans l’exposé des motifs de la proposition de directive sur la responsabilité en matière d’IA, «la définition de telles règles efficaces en matière de responsabilité civile présente en outre l’avantage d’inciter davantage toutes les personnes participant à des activités liées aux systèmes d’IA à respecter les obligations quant au comportement que l’on attend d’elles.».

À propos de Publio

Termes et définitions

Qu’est-ce que Publio?

Publio, l’assistant intelligent du portail de l’Office des publications (portail de l’OP), est un outil d’IA qui interagit avec les personnes physiques et effectue des recherches en utilisant des mots-clés fondés sur des informations accessibles au public sur le portail de l’OP. Publio associe des techniques d’intelligence artificielle (IA) conversationnelle telles que le traitement du langage naturel et l’apprentissage automatique avec des systèmes interactifs de reconnaissance vocale et de recherche traditionnelle, afin d’aider les utilisateurs à trouver des publications et des actes législatifs de l’UE et des personnes de contact dans les institutions européennes.

L’assistant intelligent permet spécifiquement des conversations parlées ou saisies entre les utilisateurs finaux et le portail de l’OP. Il est actuellement disponible en anglais, français et espagnol. Tout en étant utilisable par tous, l’assistant intelligent offre également une solution adaptée aux besoins des personnes ayant des difficultés de lecture, améliorant ainsi l’accessibilité. Il permet en outre une recherche conversationnelle, une nouvelle méthode de recherche qui permet aux utilisateurs de parler avec des phrases complètes — comme ils le feraient dans une conversation normale — à un assistant vocal alimenté par l’IA qui fournit les réponses. L’échange entre l’utilisateur et l’assistant intelligent prend la forme d’une conversation.

Quel type de données Publio utilise-t-il?

Publio utilise les informations accessibles au public sur le portail de l’OP. Ces informations sont publiées sur la base du principe de transparence applicable à l’ensemble des politiques et de la législation de l’UE. Sur la base de ce corpus, Publio utilise les classifications et les catégories disponibles sur le portail de l’OP, telles que les domaines EuroVoc, les auteurs ou le format, afin de guider et d’affiner la conversation et d’aider l’utilisateur à effectuer des recherches dans les trois principales collections du portail de l’OP: les publications de l’UE, le droit de l’UE et l’annuaire officiel de l’UE (EU Whoiswho).

Publio utilise un modèle linguistique existant pour comprendre les questions posées par les utilisateurs et guider ceux-ci tout au long de leur parcours de recherche. Sur la base des avis des utilisateurs, le modèle linguistique de Publio est constamment amélioré et formé pour répondre aux attentes des utilisateurs et s’adapter à la diversité de leurs entrées dans les trois langues prises en charge.

Cette formation couvre de nombreuses composantes du système qui sous-tend Publio:

• une série prédéfinie d’énoncés associés à différentes formes d’intention possibles pour permettre à Publio de saisir d’abord l’objectif final de l’utilisateur puis de guider celui-ci étape par étape vers la réalisation de cet objectif;
• une série prédéfinie de questions fixes que Publio «comprend» et pour lesquelles il peut fournir une réponse prédéfinie aux utilisateurs. Exemple: «comment puis-je commander des publications?»;
• des entités acquises sur l’ordinateur peuvent être identifiées par Publio et utilisées dans ses processus en arrière-plan pour détecter des paramètres de recherche et fournir des résultats de recherche plus précis ou des options permettant d’affiner davantage la recherche. Ces entités sont fondées sur la classification et les catégories de données existantes, telles que les thésaurus EuroVoc ou d’autres tables d’autorité gérées par EuroVoc: auteurs, formats, langues, organes (organisations) de l’UE, rôles fonctionnels dans le service public de l’UE, etc. Sur cette base, Publio peut ainsi comprendre, à partir de la requête de l’utilisateur, que ce dernier recherche une publication sur un sujet spécifique ou d’un auteur spécifique.

Comment Publio fonctionne-t-il?

Publio s’appuie sur Microsoft Language Understanding (LUIS) (annexe 7) pour traiter l’entrée de l’utilisateur (un énoncé écrit ou oral), comprendre son intention et repérer les éléments clés (entités) auxquels il s’intéresse. Sur la base de l’intention reconnue, Publio lance un flux de conversation personnalisé visant à aider les utilisateurs à atteindre le résultat visé en quelques étapes simples.

À l’heure actuelle, Publio met en œuvre 4 principaux flux de conversation:

• Flux de recherche de documents pour aider les utilisateurs à rechercher des publications ou des documents juridiques de l’UE
• Flux de recherche de personnes pour aider les utilisateurs à rechercher des fonctionnaires des institutions de l’UE
• Flux de recherche d’organisations pour aider les utilisateurs à rechercher des organes de l’UE (organisations)
• Flux de questions-réponses pour apporter une réponse prédéfinie à des questions fréquentes.

Si un flux de «recherche» est reconnu, l’assistant virtuel guidera l’utilisateur dans la recherche d’un document, d’une personne ou d’une organisation pertinent(e) en lui posant des questions simples et, en fonction de sa réponse, proposera des options de filtrage.

Pour le flux de questions-réponses, le personnel de l’Office des publications tient à jour une liste de questions fréquemment posées et leurs réponses prédéfinies. Si l’intention de questions-réponses est reconnue et qu’il existe un degré élevé de similitude entre la question spécifique de l’utilisateur et l’une des questions enregistrées dans le système, une réponse appropriée sera directement renvoyée à l’utilisateur. Par exemple:

– si l’intention de questions-réponses est reconnue avec une requête comme «Où est ma commande?», l’assistant répondra par «Vous pouvez vérifier l’état de votre commande dans la section Mes commandes de votre profil»;

– si l’intention de questions-réponses est reconnue avec une requête telle que «Où puis-je trouver des documents pour les enfants», l’assistant répondra par «Les publications pour enfants sont disponibles dans le coin des enfants».

Les utilisateurs peuvent poser les questions par écrit ou oralement. L'agent conversationnel capture l’entrée audio (les questions posées oralement par l’utilisateur) et l’envoie à un moteur de reconnaissance vocale qui la convertit en texte. L’entrée audio est traitée par le service de reconnaissance vocale Microsoft Azure (annexe 8). Publio affiche ensuite les mots issus de l’entrée audio interprétés par le moteur de reconnaissance vocale, avant d’afficher la réponse par écrit et à l’oral à l’aide d’une voix de synthèse. Cet échange est instantané (il se produit instantanément) et éphémère (il ne laisse aucune trace).

Comment Publio analyse-t-il la question et propose-t-il des résultats?

Publio n’utilise pas de technologie générative et n’est donc pas en mesure de générer ou de manipuler le contenu utilisateur.

Publio utilise un modèle linguistique d’apprentissage automatique qui est formé (modèle linguistique formé) pour apprendre à reconnaître les entrées des utilisateurs et à y répondre. Ce modèle est chargé de traiter le message ou la requête de l’utilisateur, d’identifier l’intention du message et d’apporter une réponse appropriée. Le processus de formation de Publio consiste à fournir au modèle d’apprentissage automatique un grand nombre de données de formation étiquetées, qui comprennent des exemples d’entrées des utilisateurs, ainsi que leurs intentions et les réponses plausibles correspondantes.

Publio utilise le traitement du langage naturel et le modèle linguistique formé pour comprendre l’intention de l’utilisateur et extraire de la question de l’utilisateur les entités reconnues (par exemple: terme de recherche, objet, auteur, date du document et format du document). Publio utilise ces entités pour effectuer la recherche et afficher les résultats.

Si les résultats de la recherche sont trop vastes, Publio poursuit la conversation en posant des questions supplémentaires à l’utilisateur, afin d’affiner les résultats de la recherche à l’aide de filtres appliqués à d’autres entités.

Les questions formulées par Publio se limitent à identifier l’intention de l’utilisateur, à en saisir la finalité et à formuler la requête de recherche appropriée au corpus de contenu publié sur le portail de l’OP. Les résultats proposés par Publio proviennent entièrement de ce corpus.

Avis des utilisateurs

Traitement des données privées

Les données disponibles sur le portail de l’OP sont traitées conformément au règlement général de l’UE sur la protection des données (RGPD) et au règlement relatif au traitement des données à caractère personnel par les institutions, agences et organes de l’UE (annexe 9).

Publio ne stocke, ne conserve ou n’archive aucun élément, que ce soit l’entrée de l’utilisateur ou les éléments fournis au moyen des réponses de Publio.

Les avis recueillis sont anonymisés de sorte qu'il est impossible de les relier à l’utilisateur auprès duquel ils ont été recueillis.

Aucune donnée à caractère personnel n’est utilisée de quelque manière que ce soit pour la prise de décision, le traçage ou le profilage automatisés.

Limites actuelles

• Transcription vocale des noms: si la plupart des noms sont «compris» et transcrits correctement, l’extraction du nom repose sur l’apprentissage automatique et n’est pas exacte à 100 %. En raison des limites liées à Microsoft Language Understanding (LUIS), certains noms ne sont pas correctement extraits, même après avoir formé le modèle avec les exemples spécifiques de l’ensemble de données.
• Dates en français et en espagnol: la «compréhension» des dates est moins précise en espagnol et en français dans des contextes plus complexes. Par exemple, l’année sera reconnue en espagnol en utilisant «entre 2016 y 2017» sans contexte supplémentaire, alors qu’elle ne sera pas reconnue avec «entre el año 2019 y 2020». En anglais, «2 years ago» est reconnu alors qu’en français, l’expression «il y a 2 ans» ne l’est pas.
• La reconnaissance vocale ne fonctionne que dans une seule langue à la fois.
• Elle n’a pas de mode orthographique, ce qui signifie qu’elle ne dispose pas d'une fonctionnalité qui permettrait aux utilisateurs d’épeler des mots lettre par lettre afin de garantir une transcription exacte.
• La reconnaissance de l’entité du nom ne fonctionne pas bien dans des expressions plus vastes lorsqu’elle est associée à «Mme»/«Mlle».

Office des publications de l’Union européenne, 16 mai 2023.