Wirtualny asystent : Informacja o wytłumaczalności

Godna zaufania i wytłumaczalna AI

Godna zaufania i wytłumaczalna AI to najważniejszy cel dla UE. UE pracuje nad stworzeniem ram regulacyjnych dla AI. We wniosku Komisji Europejskiej z dnia 21 kwietnia 2021 r. dotyczącym rozporządzenia ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (zwanym dalej „aktem w sprawie sztucznej inteligencji”) (dodatek 3) wprowadzono dwa główne rodzaje zobowiązań dla dostawców rozwiązań i narzędzi opartych na AI – przejrzystość i przekazywanie informacji.

Użytkownicy systemów AI mają prawo do otrzymania informacji. Prawu temu towarzyszą odpowiednie obowiązki, takie jak obowiązek korzystania z systemu zgodnie z instrukcjami oraz monitorowania skuteczności działania danego narzędzia AI. Przestrzeganie tych zasad jest obowiązkiem wszystkich zaangażowanych podmiotów.

Art. 52 proponowanego aktu w sprawie sztucznej inteligencji (Obowiązki w zakresie przejrzystości w odniesieniu do określonych systemów sztucznej inteligencji) stanowi, że „1. Dostawcy zapewniają, aby systemy sztucznej inteligencji przeznaczone do wchodzenia w interakcję z osobami fizycznymi projektowano i opracowywano w taki sposób, aby osoby fizyczne były informowane o tym, że prowadzą interakcję z systemem sztucznej inteligencji, chyba że okoliczności i kontekst korzystania z systemu jednoznacznie na to wskazują. […]”

W proponowanym akcie w sprawie sztucznej inteligencji zastosowano podejście oparte na analizie ryzyka, wprowadzając rozróżnienie między zastosowaniami AI, które stwarzają (i) niedopuszczalne ryzyko, (ii) wysokie ryzyko oraz (iii) niskie lub minimalne ryzyko.

Publio, inteligentny asystent Portalu UP, jest narzędziem sztucznej inteligencji (AI), wchodzi w interakcję z osobami fizycznymi i przeprowadza wyszukiwanie według słów kluczowych, korzystając z informacji, które są publicznie dostępne na Portalu UP. Publikacja tych informacji odbywa się zgodnie z zasadą przejrzystości leżącą u podstaw polityki i prawodawstwa UE we wszystkich dziedzinach. Inteligentny asystent nie generuje nowych treści, nie manipuluje wyborami użytkowników ani nie wpływa na nie – proponuje jedynie możliwe opcje filtrowania dla prowadzonego przez użytkowników wyszukiwania. Należy zatem uznać, że Publio zalicza się do kategorii „niskiego ryzyka” (iii) zgodnie z definicją zawartą w projekcie aktu w sprawie sztucznej inteligencji.

W tytule IV projektu aktu w sprawie sztucznej inteligencji (Przejrzystość) określono, że projektowanie i funkcjonowanie systemów AI powinno uwzględniać szczególne rodzaje ryzyka, jakie systemy te stwarzają: 1) ryzyko manipulacji z wykorzystaniem technik podprogowych, tj. technik będących poza świadomością użytkowników lub 2) ryzyko wykorzystania słabszych grup, które może spowodować szkody psychiczne lub fizyczne. Większe obowiązki w zakresie przejrzystości mają zastosowanie do systemów, które (i) wchodzą w interakcję z człowiekiem, (ii) są wykorzystywane do wykrywania emocji lub określania powiązań z kategoriami (społecznymi) na podstawie danych biometrycznych lub (iii) generują treści lub manipulują nimi (technologia deepfake). Mimo iż Publio rzeczywiście wchodzi w interakcję z osobami fizycznymi, inteligentny asystent nie jest przeznaczony do wykrywania emocji w celu manipulacji; podobnie narzędzie to nie zawiera żadnych elementów, które mogłyby nieumyślnie wywołać taki efekt. Publio nie spełnia zatem wymienionych wyżej kryteriów.

AI a odpowiedzialność

28 września 2022 r. wniosek Komisji Europejskiej dotyczący aktu w sprawie sztucznej inteligencji uzupełniono o wniosek w sprawie systemu odpowiedzialności cywilnej za sztuczną inteligencję (dodatek 4) (zwanego dalej „dyrektywą w sprawie odpowiedzialności za sztuczną inteligencję”), w następstwie rezolucji Parlamentu Europejskiego przyjętej na podstawie art. 225 TFUE (dodatek 5).

Jak stwierdzono w proponowanej dyrektywie w sprawie odpowiedzialności za sztuczną inteligencję, obowiązujące systemy odpowiedzialności na zasadzie winy nie są przystosowane do obsługi roszczeń z tytułu szkód spowodowanych przez produkty i usługi oparte na AI. Zgodnie z obowiązującymi zasadami odpowiedzialności ofiary muszą udowodnić, że miało miejsce niewłaściwe działanie lub zaniedbanie, wskazać osobę, która spowodowała szkodę, oraz ustalić związek przyczynowy. Szczególne cechy AI, w tym jej złożoność, autonomia i nieprzejrzystość (tzw. efekt czarnej skrzynki), utrudniają wskazanie osoby odpowiedzialnej za szkodę wynikającą z jej wykorzystywania. Ofiary, które poniosły taką szkodę, mogą być zatem zniechęcone do występowania z roszczeniami odszkodowawczymi. Ze względu na charakter kwestii ciężaru dowodu w proponowanej dyrektywie w sprawie odpowiedzialności za sztuczną inteligencję przewidziano innowacyjne rozwiązania, łagodząc wspomniane wyżej wymagania dzięki zastosowaniu ujawniania informacji oraz wzruszalnych domniemań niezgodności z przepisami.

Proponowana dyrektywa w sprawie odpowiedzialności za sztuczną inteligencję zapewnia skuteczne środki umożliwiające identyfikację potencjalnie odpowiedzialnych osób i odpowiednich dowodów. Przepisy dyrektywy stanowią na przykład, że sąd krajowy może wydać nakaz ujawnienia (i zabezpieczenia) odpowiednich dowodów dotyczących konkretnych systemów AI wysokiego ryzyka, co do których istnieje podejrzenie, że spowodowały szkody (dodatek 6). Ponadto, z zastrzeżeniem wymagań określonych w art. 4 proponowanej dyrektywy, sądy krajowe domniemywają [...] istnienie związku przyczynowego między winą pozwanego a wynikiem uzyskanym przez system sztucznej inteligencji (lub faktem nieuzyskania przez taki system wyniku).

Jak stwierdzono w uzasadnieniu proponowanej dyrektywy w sprawie odpowiedzialności za sztuczną inteligencję, „[d]odatkową zaletą takich skutecznych przepisów dotyczących odpowiedzialności cywilnej jest fakt, że dają one wszystkim podmiotom zaangażowanym w działalność związaną z systemami sztucznej inteligencji dodatkową zachętę do przestrzegania zobowiązań dotyczących ich spodziewanego zachowania”.

O Publio

Terminy i definicje

Czym jest Publio?

Publio, inteligentny asystent Portalu Urzędu Publikacji Unii Europejskiej (Portal UP), jest narzędziem sztucznej inteligencji, które wchodzi w interakcję z osobami fizycznymi i przeprowadza wyszukiwanie według słów kluczowych, korzystając z informacji, które są publicznie dostępne na Portalu UP. Publio łączy w sobie techniki konwersacyjnej sztucznej inteligencji (AI), takie jak przetwarzanie języka naturalnego i uczenie maszynowe, z interaktywnym rozpoznawaniem głosu i tradycyjnymi systemami wyszukiwania, aby pomóc użytkownikom w znajdowaniu unijnych publikacji, przepisów UE i osób do kontaktu w europejskich instytucjach.

Inteligentny asystent umożliwia w szczególności konwersację mówioną lub pisaną na klawiaturze między użytkownikami końcowymi a Portalem UP. Usługa inteligentnego asystenta jest obecnie dostępna w językach angielskim, francuskim i hiszpańskim. Jest to usługa, z której mogą korzystać wszyscy, ale inteligentny asystent zapewnia również rozwiązanie dostosowane do potrzeb osób z niepełnosprawnością w zakresie czytania, co jeszcze bardziej zwiększa jego dostępność. Ponadto umożliwia wyszukiwanie konwersacyjne, które jest nowym sposobem wyszukiwania pozwalającym użytkownikom na mówienie pełnymi zdaniami – tak jak w trakcie normalnej rozmowy – do obsługiwanego przez AI asystenta głosowego, który udziela odpowiedzi. Dzięki temu wymiana między użytkownikiem a inteligentnym asystentem ma formę rozmowy.

Jakiego rodzaju dane wykorzystuje Publio?

Publio korzysta z informacji, które są publicznie dostępne na Portalu UP. Ich publikacja odbywa się zgodnie z zasadą przejrzystości mającą zastosowanie do polityki i prawodawstwa UE we wszystkich dziedzinach. W oparciu o ten korpus Publio wykorzystuje klasyfikacje i kategorie dostępne na Portalu UP, takie jak tematy, autorów lub format Eurovoc, aby prowadzić i udoskonalać konwersację i pomóc użytkownikom w przeszukiwaniu trzech głównych zbiorów na Portalu UP: publikacji UE, prawa Unii i oficjalnej organizacyjnej bazy danych Unii Europejskiej (EU Whoiswho).

Publio wykorzystuje istniejący model językowy, aby rozumieć zadawane przez użytkowników pytania i przeprowadzić ich przez podróż wyszukiwania. Dzięki informacjom zwrotnym od użytkowników model językowy Publio jest stale udoskonalany i szkolony, aby spełniać oczekiwania użytkowników i radzić sobie z różnorodnością wprowadzanych przez nich informacji w trzech obsługiwanych językach.

Takie szkolenie obejmuje szereg elementów tworzących system Publio:

• wstępnie zdefiniowany zestaw wypowiedzi powiązany z różnymi możliwymi formami intencji, aby Publio mógł najpierw rozpoznać ostateczny cel użytkownika, a następnie poprowadzić go krok po kroku do jego osiągnięcia;
• wstępnie zdefiniowany zestaw stałych pytań, które Publio „rozumie” i na które może udzielić użytkownikom wstępnie zdefiniowanej odpowiedzi. Przykład: Jak mogę zamówić publikacje?
• Encje uczone maszynowo, które Publio może zidentyfikować i wykorzystać w prowadzonych w tle procesach do wykrywania parametrów wyszukiwania, dostarczają dokładniejszych wyników lub opcji wyszukiwania, aby można było jeszcze bardziej udoskonalić ten proces. Encje te opierają się na istniejącej klasyfikacji i kategoriach danych, takich jak tezaurusy EuroVoc lub inne tabele autorytatywne, którymi zarządza EuroVoc: autorów, formatów, języków, organów (organizacji) UE, funkcji w strukturze służby publicznej UE itp. Dzięki temu Publio może na przykład stwierdzić na podstawie zapytania użytkownika, że szuka on publikacji na konkretny temat lub konkretnego autora.

Jak działa Publio?

Publio korzysta z usługi Language Understanding (LUIS) firmy Microsoft (dodatek 7), aby przetwarzać wprowadzane przez użytkowników informacje (wypowiedź pisemna lub głosowa), rozumieć intencje użytkowników i określać najważniejsze elementy (encje), którymi użytkownik jest zainteresowany. Na podstawie rozpoznanej intencji Publio uruchamia spersonalizowany system dialogowy mający na celu wsparcie użytkowników w uzyskaniu docelowego wyniku w kilku prostych krokach.

Obecnie Publio wdraża 4 główne systemy dialogowe:

• system wyszukiwania dokumentów pomagający użytkownikom wyszukującym publikacje UE lub unijne akty prawne
• system wyszukiwania osób pomagający użytkownikom w wyszukiwaniu funkcjonariuszy publicznych zatrudnionych w instytucjach Unii
• system wyszukiwania organizacji pomagający użytkownikom w wyszukiwaniu organów (organizacji) UE
• system pytań i odpowiedzi (QnA) udzielający wcześniej zdefiniowanych odpowiedzi na często zadawane pytania.

W przypadku rozpoznania systemu „wyszukiwania” wirtualny asystent przeprowadzi użytkownika przez proces wyszukiwania odpowiedniego dokumentu, osoby lub organizacji, zadając mu proste pytania i proponując opcje filtrowania na podstawie jego odpowiedzi.

W przypadku systemu QnA Urząd Publikacji prowadzi wykaz par często zadawanych pytań i wstępnie zdefiniowanych odpowiedzi na te pytania. Jeżeli Publio rozpozna intencję dotyczącą QnA, a między konkretnym pytaniem od użytkownika i jednym z pytań przechowywanych w systemie istnieje duże podobieństwo, użytkownik niezwłocznie otrzyma stosowną odpowiedź. Na przykład:

– w przypadku rozpoznania intencji dotyczącej QnA i pytania w rodzaju „Gdzie jest moje zamówienie?” asystent odpowie „Status zamówienia można sprawdzić w sekcji Moje zamówienia w profilu użytkownika”;

– w przypadku rozpoznania intencji dotyczącej QnA i pytania w rodzaju „Gdzie mogę znaleźć dokumenty dla dzieci?” asystent odpowie zdaniem: „Publikacje dla dzieci można znaleźć w dziale Dla dzieci”.

Użytkownicy mogą wpisać pytania na klawiaturze lub zadać je na głos. Chatbot rejestruje dźwięk (pytanie wypowiedziane przez użytkownika) i przesyła go do systemu rozpoznawania mowy, który przetwarza mowę na tekst. Nagranie dźwiękowe jest przetwarzane przez platformę Microsoft Azure Speech na usługę tekstową (dodatek 8). Następnie Publio wyświetla wypowiedziany tekst zgodnie z tym, jak został on zinterpretowany przez system rozpoznawania mowy, a potem wyświetla odpowiedź jako tekst i odtwarza jako słowa przy użyciu syntezatora mowy. Odbywa się to błyskawicznie i bez pozostawiania śladów.

W jaki sposób Publio analizuje pytanie i proponuje wyniki?

Publio nie wykorzystuje technologii generatywnych, a zatem nie może generować treści ani manipulować treściami użytkownika.

Publio wykorzystuje model językowy uczenia maszynowego, który jest szkolony, aby nauczyć się rozpoznawania wprowadzanych przez użytkownika informacji i reagować na nie. Model ten odpowiada za przetwarzanie wiadomości lub zapytania użytkownika, identyfikując intencję, z jaką przekazano wiadomość i udzielając stosownej odpowiedzi. Proces szkolenia Publio polega na wprowadzeniu do modelu uczenia maszynowego dużej ilości oznaczonych danych szkoleniowych, które obejmują przykłady informacji wprowadzanych przez użytkowników i odpowiadających im intencji wraz z możliwymi odpowiedziami.

Publio wykorzystuje Przetwarzanie Języka Naturalnego i wyszkolony model językowy, aby zrozumieć intencję użytkownika i wyodrębnić z jego pytania rozpoznane encje (na przykład wyszukiwanie terminu, tematu, autora, daty dokumentu, formatu dokumentu). Publio używa tych encji do przeprowadzenia wyszukiwania i wyświetlenia jego wyników.

Jeżeli wynik wyszukiwania jest zbyt szeroki, Publio kontynuuje konwersację, zadając użytkownikowi dodatkowe pytania, aby zawęzić wyniki wyszukiwania przez filtrowanie innych encji.

Pytania formułowane przez Publio ograniczają się do identyfikacji intencji użytkownika, zrozumienia jego celu i sformułowania odpowiedniego zapytania wyszukiwania do korpusu treści opublikowanych na Portalu UP. Proponowane przez Publio wyniki pochodzą w całości z tego korpusu.

Informacje zwrotne od użytkowników

W dowolnym momencie konwersacji użytkownik końcowy może przekazać pozytywne, neutralne lub negatywne informacje zwrotne dotyczące jego doświadczeń z korzystania z Publio. Mogą to być informacje zwrotne wprowadzone ręcznie przez użytkownika w dowolnym momencie lub w odpowiedzi na automatyczne wyskakujące okienko, które wyświetla się po kilku sekundach bezczynności z prośbą do użytkownika o przekazanie informacji zwrotnych. Dodatkowo pytania, których Publio nie „zrozumiał” właściwie, są automatycznie rejestrowane i okresowo przetwarzane przez zespół pracowników Urzędu Publikacji. Zarówno informacje zwrotne od użytkowników, jak i analiza pytań, których Publio nie „zrozumiał” właściwie, są wykorzystywane do ponownego szkolenia modelu językowego w celu stałego udoskonalania usług świadczonych na rzecz użytkowników końcowych.

Przetwarzanie danych prywatnych

Przetwarzanie danych osobowych na Portalu UP odbywa się zgodnie z przepisami unijnego ogólnego rozporządzenia o ochronie danych (RODO) oraz rozporządzenia w sprawie przetwarzania danych osobowych przez instytucje, agencje i organy Unii Europejskiej (dodatek 9).

Publio nie gromadzi, nie przechowuje ani nie archiwizuje żadnych elementów – ani informacji wprowadzanych przez użytkowników, ani informacji przekazywanych w odpowiedziach Publio.

Gromadzone informacje zwrotne są anonimizowane w taki sposób, aby nie można było ich powiązać z użytkownikami, od których pochodzą.

Żadnych danych osobowych nie wykorzystuje się na potrzeby zautomatyzowanego podejmowania decyzji, śledzenia ani profilowania w jakikolwiek możliwy sposób.

Aktualne ograniczenia

• Transkrypcja imion i nazwisk przy użyciu głosu: chociaż większość imion i nazwisk zostaje „zrozumiana” i zapisana poprawnie, ich wyodrębnianie opiera się na uczeniu maszynowym i nie jest w 100% dokładne. Ze względu na ograniczenia usługi LUIS niektóre imiona i nazwiska nie zostają prawidłowo wyodrębnione nawet po wyszkoleniu modelu przy pomocy konkretnych przykładów ze zbioru danych.
• Daty w językach francuskim i hiszpańskim: w bardziej złożonych kontekstach „rozumienie” dat w językach hiszpańskim i francuskim jest mniej dokładne. Na przykład w języku hiszpańskich rok zostanie rozpoznany przy użyciu „entre 2016 y 2017” bez dodatkowego kontekstu, natomiast nie zostanie rozpoznany przy użyciu „entre el año 2019 y 2020”. W języku angielskim wyrażenie „2 years ago” jest rozpoznawane, natomiast wyrażenie „il y a 2 ans” w języku francuskim – nie.
• Rozpoznawanie mowy działa tylko w jednym języku na raz.
• Rozpoznawanie mowy nie obejmuje trybu pisowni, co oznacza, że nie jest wyposażone w funkcję, która pozwoliłaby użytkownikom literować słowa znak po znaku w celu zapewnienia dokładnej transkrypcji.
• Rozpoznawanie encji imienia i nazwiska nie sprawdza się w przypadku dłuższych wyrażeń w połączeniu ze zwrotami „Mrs”/„Miss”.

Urząd Publikacji Unii Europejskiej, 16 maja 2023 r.