Assistente virtual : Aviso sobre explicabilidade

IA confiável e explicável

Uma IA confiável e explicável constituem objetivos fundamentais para a UE. A UE está a trabalhar num quadro regulamentar para a IA. A proposta da Comissão Europeia, de 21 de abril de 2021, de um regulamento que estabelece regras harmonizadas em matéria de inteligência artificial (a seguir designado por «Regulamento Inteligência Artificial») (Anexo 3) estabelece dois tipos principais de compromissos que devem ser assumidos por parte dos fornecedores de soluções e instrumentos baseados na IA: a transparência e a prestação de informações.

Os utilizadores dos sistemas de IA têm o direito de receber informações. Esse direito está associado às obrigações correspondentes, como a obrigação de utilizar o sistema em conformidade com as instruções e de controlar o desempenho da ferramenta de IA em causa. O cumprimento destas regras responsabiliza todos os intervenientes.

A proposta de Regulamento Inteligência Artificial estipula, no artigo 52.º (Obrigações de transparência aplicáveis a determinados sistemas de IA), que «1. Os fornecedores devem assegurar que os sistemas de IA destinados a interagir com pessoas singulares sejam concebidos e desenvolvidos de maneira que as pessoas singulares sejam informadas de que estão a interagir com um sistema de IA, salvo se tal se revelar óbvio dadas as circunstâncias e o contexto de utilização. […] »

A proposta de Regulamento Inteligência Artificial segue uma abordagem baseada no risco e diferencia entre as utilizações de IA que criam: i) um risco inaceitável, ii) um risco elevado, iii) um risco baixo ou mínimo.

O Publio, o assistente inteligente do Portal do Serviço das Publicações, interage com pessoas singulares e realiza pesquisas utilizando palavras-chave com base em informações publicamente disponíveis no Portal. Estas informações são publicadas com base no princípio da transparência subjacente a todas as políticas e ao direito da UE. O assistente inteligente não gera conteúdos novos nem manipula ou influencia as escolhas feitas pelos utilizadores. Apenas propõe possíveis opções de filtragem para a pesquisa dos utilizadores. Por conseguinte, o Publio deve ser considerado como pertencente à categoria iii), de «baixo risco», tal como definida no projeto de Regulamento Inteligência Artificial.

O projeto de Regulamento Inteligência Artificial estipula, no Título IV («Transparência»), que a conceção e o funcionamento dos sistemas de IA devem ter em conta os riscos específicos que estes sistemas podem representar de 1) manipular os utilizadores por meio de técnicas subliminares, ou seja, técnicas que passam despercebidas aos utilizadores, ou 2) explorar grupos vulneráveis de uma forma que seja suscetível de causar danos psicológicos ou físicos. Aplicam-se obrigações de transparência mais rigorosas aos sistemas que: i) interagem com seres humanos, ii) são utilizados para detetar emoções ou determinar a associação com categorias (sociais) com base em dados biométricos, iii) geram ou manipulam conteúdos («falsificações profundas»). Embora o Publio interaja com pessoas singulares, o assistente inteligente não está concebido para detetar emoções com o objetivo de manipular, e a ferramenta também não contém quaisquer elementos que possam conduzir inadvertidamente a esse resultado. Por conseguinte, o Publio não corresponde aos critérios acima referidos.

IA e responsabilidade

A proposta da Comissão Europeia de Regulamento Inteligência Artificial foi complementada, em 28 de setembro de 2022, por uma proposta relativa a um regime de responsabilidade civil para a IA — a Diretiva relativa à responsabilidade no âmbito da inteligência artificial (Anexo 4) (a seguir designada «Diretiva Responsabilidade da IA»), na sequência da resolução do Parlamento Europeu adotada nos termos do artigo 225.º do TFUE (Anexo 5).

Tal como estabelecido na proposta de Diretiva Responsabilidade da IA, as regras em vigor em matéria de responsabilidade, baseadas na culpa, não são adequadas para tratar os pedidos de indemnização por danos causados por produtos e serviços baseados na IA. De acordo com as regras em vigor em matéria de responsabilidade, as vítimas têm de provar a existência de um ato ilícito ou de uma omissão, identificar a pessoa responsável pelos danos e estabelecer um nexo de causalidade. As características específicas da IA, incluindo a sua complexidade, autonomia e opacidade (o chamado efeito de «caixa negra»), dificultam a identificação da pessoa responsável pelos danos resultantes da utilização da IA. Por conseguinte, as vítimas destes danos podem ser dissuadidas de pedir uma indemnização. Dada a natureza da questão do ónus da prova, a proposta de Diretiva Responsabilidade da IA prevê soluções inovadoras, aliviando os requisitos acima descritos através de divulgações e de presunções ilidíveis de incumprimento.

A proposta de Diretiva Responsabilidade da IA fornece meios eficazes para identificar pessoas potencialmente responsáveis e elementos de prova pertinentes. Refere, por exemplo, que um tribunal nacional pode ordenar a divulgação de elementos de prova relevantes (e a sua conservação) sobre sistemas de IA de risco elevado específicos suspeitos de terem causado danos (Anexo 6). Além disso, sem prejuízo dos requisitos estabelecidos no artigo 4.º da proposta de diretiva, os tribunais nacionais devem presumir [...] o nexo de causalidade entre o facto culposo do demandado e o resultado produzido pelo sistema de IA (ou a incapacidade do sistema de IA de produzir um resultado).

Tal como concluído na exposição de motivos da proposta de Diretiva responsabilidade da IA, «estas regras eficazes em matéria de responsabilidade civil têm a vantagem adicional de proporcionar a todas as partes que exercem atividades relacionadas com sistemas de IA um incentivo adicional para respeitarem as suas obrigações relativamente à conduta que delas se espera».

Sobre o Publio

Termos e definições

O que é o Publio?

O Publio, o assistente inteligente do Portal do Serviço das Publicações (Portal do Serviço das Publicações), é uma ferramenta de IA que interage com pessoas singulares e realiza pesquisas utilizando palavras-chave com base em informações publicamente disponíveis no Portal do Serviço das Publicações. O Publio combina técnicas de inteligência artificial (IA) de conversação, como o processamento de linguagem natural (PLN) e a aprendizagem automática (ML), com o reconhecimento de voz interativo e sistemas de pesquisa tradicionais para ajudar os utilizadores a encontrar publicações da UE, legislação da UE e pessoas de contacto nas instituições europeias.

O assistente inteligente permite especificamente conversações por escrito ou em voz alta entre os utilizadores finais e o Portal do Serviço das Publicações e está atualmente disponível em inglês, francês e espanhol. Além de poder ser utilizados por todos, o assistente inteligente oferece igualmente uma solução adaptada às necessidades das pessoas com dificuldades de leitura, melhorando a acessibilidade. O sistema permite ainda uma pesquisa conversacional – uma nova forma de pesquisar que permite aos utilizadores comunicar através de frases completas (tal como numa conversa normal) com um assistente de voz com tecnologia de IA, que por sua vez apresenta respostas, dando a esta troca entre o utilizador e o assistente inteligente a forma de uma conversa.

Que tipo de dados utiliza o Publio?

O Publio utiliza as informações publicamente disponíveis no Portal do Serviço das Publicações. Essas informações são publicadas com base no princípio da transparência aplicável a todas as políticas e a toda a legislação da UE. Com base nesse corpus, o Publio utiliza classificações e categorias disponíveis no Portal do Serviço das Publicações, tais como os domínios Eurovoc, os autores ou o formato, para orientar e tornar a conversação mais precisa, ajudando o utilizador a pesquisar nas três principais coleções do portal do Serviço das Publicações: Publicações da UE, direito da UE e lista de contactos oficial das instituições europeias («EU Whoiswho»).

O Publio utiliza um modelo de linguagem existente para compreender as perguntas dos utilizadores e os orientar ao longo do seu percurso de pesquisa. O modelo de linguagem do Publio é constantemente melhorado e treinado, com base nos comentários dos utilizadores, para satisfazer as expectativas dos utilizadores e lidar com a diversidade das perguntas dos utilizadores nas três línguas disponíveis.

Este treino abrange vários componentes do sistema de base do Publio:

• Uma série de enunciados predefinidos associados às diferentes formas possíveis de intenções para permitir ao Publio, em primeiro lugar, compreender o objetivo final do utilizador e, em segundo lugar, orientar o utilizador passo a passo para que alcance esse objetivo;
• Uma série de perguntas fixas predefinidas que o Publio «compreende» e para as quais pode dar uma resposta predefinida aos utilizadores. Exemplo: «Como posso encomendar publicações?»;
• Entidades adquiridas por aprendizagem automática que podem ser identificadas pelo Publio e utilizadas nos seus processos de segundo plano para detetar parâmetros de pesquisa, fornecer resultados de pesquisa mais precisos ou opções para afinar a pesquisa. Estas entidades baseiam-se na classificação e nas categorias de dados existentes, como os tesauros Eurovoc ou outros quadros de autoridades geridos pelo EuroVoc: autores, formatos, línguas, organismos da UE (organizações), cargos funcionais no serviço público da UE, etc. Com base nestas informações, o Publio pode, por exemplo, compreender a partir da consulta do utilizador que este procura uma publicação sobre um assunto específico ou de um autor específico.

Como funciona o Publio?

O Publio utiliza o serviço «Microsoft Language Understanding» (LUIS) (Anexo 7) para processar os dados introduzidos num pedido do utilizador (um enunciado escrito ou oral), compreender a sua intenção e identificar os principais elementos (entidades) em que o utilizador está interessado. Com base na intenção detetada, o Publio dá início a um fluxo conversacional personalizado que tem por objetivo ajudar os utilizadores a alcançar o resultado pretendido em apenas alguns passos simples.

Atualmente, o Publio implementa quatro fluxos conversacionais principais:

• Fluxo de pesquisa de documentos, para ajudar os utilizadores a encontrar publicações da UE ou documentos jurídicos da UE;
• Fluxo de pesquisa de pessoas, para ajudar os utilizadores a encontrar funcionários públicos empregados pelas instituições da UE;
• Fluxo de pesquisa de organizações, para ajudar os utilizadores a procurar organismos da UE (organizações);
• Fluxo de perguntas e respostas (P&R) para responder a perguntas frequentes com uma resposta predefinida.

Se um destes fluxos de pesquisa for detetado, o assistente virtual orientará o utilizador na procura de um documento, de uma pessoa ou de uma organização pertinente, fazendo-lhe perguntas simples e propondo opções de filtragem, com base nas respostas do utilizador.

Para o fluxo de P&R, o pessoal do Serviço das Publicações mantém uma lista de pares de perguntas frequentes e respostas predefinidas respetivas. Se a intenção de P&R for detetada e existir um elevado nível de semelhança entre a pergunta específica do utilizador e uma das perguntas armazenadas no sistema, será diretamente apresentada ao utilizador uma resposta adequada. Por exemplo:

– se a intenção de P&R for detetada numa consulta como «Onde está a minha encomenda?», o assistente responderá com «Pode verificar o seu estado das suas encomendas na secção “As minhas encomendas” do seu perfil.»

– se a intenção de P&R for detetada numa consulta como «Onde posso encontrar documentos para crianças», o assistente responderá com «As publicações para crianças estão disponíveis no “Espaço das crianças”».

Os utilizadores podem fazer perguntas por escrito ou em voz alta. O robô de conversação capta os dados de entrada de áudio (as perguntas que o utilizador faz em voz alta) e envia-os para um motor de reconhecimento de voz que converte voz em texto. Os dados áudio são processados pelo serviço de conversão de voz em texto do Microsoft Azure (Anexo 8). Em seguida, o Publio apresenta os dados áudio, com base nas palavras interpretadas pelo motor de reconhecimento de voz, antes de apresentar uma resposta por escrito e em voz alta, com a ajuda de uma voz sintetizada. Esta interação é imediata (ocorre instantaneamente) e efémera (não deixa quaisquer registos).

Como é que o Publio analisa as perguntas e apresenta resultados?

O Publio não utiliza tecnologia generativa, pelo que não é capaz de gerar ou manipular conteúdos de utilizador.

O Publio utiliza um modelo de linguagem produzido por aprendizagem automática treinado para aprender a reconhecer e responder a pedidos dos utilizadores. Este modelo é responsável pelo processamento da mensagem ou consulta do utilizador, identificando a intenção da mensagem e dando uma resposta adequada. O processo de treino do Publio consiste em fornecer ao modelo de aprendizagem automática uma grande quantidade de dados de treino anotados, que incluem exemplos de pedidos dos utilizadores, soluções correspondentes e possíveis respostas.

O Publio utiliza processamento de linguagem natural e o modelo de linguagem treinado para compreender a intenção do utilizador e extrair da pergunta do utilizador as entidades reconhecidas (por exemplo, termo de pesquisa, assunto, autor, data do documento, formato do documento). O Publio utiliza estas entidades para realizar a pesquisa e apresentar os resultados.

Se os resultados da pesquisa forem demasiado amplos, o Publio dá seguimento à conversação, fazendo perguntas adicionais ao utilizador para filtrar os resultados da pesquisa com base noutras entidades.

As perguntas formuladas pelo Publio limitam-se a identificar a intenção do utilizador, a captar a sua finalidade e a formular a consulta de pesquisa correta no corpus de conteúdos publicado no Portal do Serviço das Publicações. Os resultados propostos pelo Publio provêm inteiramente deste corpus.

Comentários dos utilizadores

Em qualquer momento da conversa, o utilizador final pode apresentar comentários positivos, neutros ou negativos sobre a sua experiência de utilização do Publio. Este comentário pode ser introduzido manualmente pelo utilizador em qualquer momento ou numa janela automática que é apresentada após alguns segundos de inatividade, solicitando ao utilizador que introduza os seus comentários. Além disso, as perguntas que não sejam corretamente «compreendidas» pelo Publio são automaticamente registadas e processadas periodicamente por uma equipa humana de funcionários do Serviço das Publicações. Os comentários dos utilizadores e a análise de perguntas que não são corretamente «compreendidas» pelo Publio são utilizados para treinar novamente o modelo de linguagem com o objetivo de melhorar continuamente os serviços prestados aos utilizadores finais.

Tratamento de dados privados

Os dados disponíveis no Portal do Serviço das Publicações são tratados em conformidade com o Regulamento Geral sobre a Proteção de Dados da UE (RGPD) e o Regulamento relativo ao tratamento de dados pessoais pelas instituições e pelos órgãos e organismos da UE (Anexo 9).

O Publio não armazena, conserva ou arquiva quaisquer elementos, sejam eles os pedidos enviados pelo utilizador ou os contidos em respostas dadas pelo Publio.

Os comentários recolhidos são anonimizados de modo a que não seja possível reestabelecer a ligação entre estes e o utilizador junto de quem foram recolhidas.

Não são utilizados dados pessoais para quaisquer tomadas automáticas de decisões, rastreios ou definição de perfis.

Limitações no momento atual

• Transcrição de nomes utilizando a voz: embora a maioria dos nomes seja «compreendida» e transcrita corretamente, a extração de nomes baseia-se em aprendizagem automática e não é 100 % exata. Devido às limitações do serviço «Microsoft Language Understanding» (LUIS), alguns nomes não são extraídos corretamente, mesmo depois de treinar o modelo com os exemplos específicos do conjunto de dados.
• Datas em francês e espanhol: a «compreensão» de datas é menos precisa em espanhol e francês em contextos mais complexos. Por exemplo, o sistema é capaz de reconhecer o ano em espanhol utilizando «entre 2016 y 2017» sem contexto adicional, ao passo que não reconhece «entre el año 2019 y 2020». Em inglês, a expressão «2 years ago» é reconhecida, ao passo que em francês «il y a 2 ans» não.
• O reconhecimento de voz apenas funciona numa língua de cada vez.
• O reconhecimento de voz não tem um modo de soletração que permita aos utilizadores soletrar as palavras por caráter, a fim de assegurar uma transcrição exata.
• O reconhecimento de entidades nomeadas não funciona bem em frases grandes quando combinado com «Mrs»/«Miss».

Serviço das Publicações da União Europeia, 16 de maio de 2023