Virtuální asistent : Oznámení o vysvětlitelnosti

Důvěryhodná, vysvětlitelná UI

Důvěryhodná a vysvětlitelná umělá inteligence jsou pro EU klíčovými cílem. EU pracuje na regulačním rámci pro UI. Návrh nařízení Evropské komise ze dne 21. dubna 2021, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (dále jen „akt o UI“) (Příloha 3) zavádí dva hlavní druhy závazků ze strany poskytovatelů řešení a nástrojů založených na umělé inteligenci – transparentnost a poskytování informací.

Uživatelé systémů UI mají právo na informace. Toto právo jde ruku v ruce s odpovídajícími povinnostmi, jako je povinnost používat systém v souladu s pokyny a sledovat výkonnost daného nástroje UI. Pokud jsou tato pravidla dodržována, všechny zúčastněné strany vědí, jakou mají zodpovědnost.

Navrhovaný akt o UI v článku 52 (Povinnosti transparentnosti pro některé systémy UI) stanoví, že „1. Poskytovatelé zajistí, že systémy UI určené k interakci s fyzickými osobami budou navrhovány a vyvíjeny tak, aby byly fyzické osoby informovány o tom, že komunikují se systémem UI, pokud to není zřejmé z okolností a kontextu použití. […] “

Tento návrh aktu o UI se řídí přístupem založeným na posouzení rizik, který rozlišuje mezi použitími UI vytvářejícími i) nepřijatelné riziko, ii) vysoké riziko a iii) nízké nebo minimální riziko.

Publio, inteligentní asistent Portálu OP, vstupuje do interakcí s fyzickými osobami a provádí vyhledávání pomocí klíčových slov, vycházející z informací veřejně dostupných na portálu OP. Tyto informace jsou zveřejňovány na základě zásady transparentnosti, na níž jsou založeny všechny politiky a právní předpisy EU. Inteligentní asistent nevytváří nový obsah a nemanipuluje ani neovlivňuje, co zvolí uživatel, kromě toho, že navrhne možné varianty filtrů, které může uživatel použít při vyhledávání. Má se tedy za to, že Publio spadá do kategorie „nízkého rizika“ (iii), jak je definována v návrhu aktu o UI.

V hlavě IV (Transparentnost) návrh aktu o umělé inteligenci stanoví, že při navrhování a fungování systémů UI musí být zohledněna specifická rizika, která mohou představovat 1) manipulace prostřednictvím podprahových technik, tj. techniky, jejichž použití si uživatel neuvědomuje, nebo 2) zneužívání zranitelných skupin, u něhož je velká pravděpodobnost, že způsobí psychickou nebo fyzickou újmu. Přísnější povinnosti transparentnosti se budou vztahovat na systémy, které i) vstupují do interakce s lidmi, ii) které se používají k detekci emocí nebo k určování spojitosti se (sociálními) kategoriemi na základě biometrických údajů nebo iii) které generují obsah nebo s ním manipulují (tzv. deep fakes). Publio sice interaguje s fyzickými osobami, tento inteligentní asistent však není určen k detekci emocí s cílem manipulovat ani neobsahuje žádné prvky, které by k takovému výsledku mohly neúmyslně vést. Publio proto neodpovídá výše uvedeným kritériím.

UI a odpovědnost

Návrh aktu o UI, který předložila Evropská komise, byl dne 28. září 2022 doplněn návrhem na režim občanskoprávní odpovědnosti za umělou inteligenci – směrnicí o odpovědnosti za umělou inteligenci (Příloha 4) (dále jen „směrnice o odpovědnosti za umělou inteligenci“) v návaznosti na usnesení Evropského parlamentu přijaté podle článku 225 SFEU (Příloha 5).

Jak je stanoveno v navrhované směrnici o odpovědnosti za umělou inteligenci, stávající pravidla subjektivní odpovědnosti nejsou vhodná pro řešení nároků na náhradu škody způsobené výrobky a službami využívajícími UI. Podle stávajících pravidel odpovědnosti musejí poškození prokázat protiprávní jednání nebo opomenutí, určit osobu, která škodu způsobila, a prokázat příčinnou souvislost. Specifické vlastnosti UI, včetně její složitosti, autonomie a neprůhlednosti (tzv. efekt „černé skříňky“) poškozeným ztěžují určení osoby, která je za škodu vyplývající z použití umělé inteligence odpovědná. Je tedy možné, že poškození, kteří utrpěli takovou škodu, jsou od požadování náhrady škody odrazováni. Vzhledem k povaze otázky důkazního břemene poskytuje navrhovaná směrnice o odpovědnosti za umělou inteligenci inovativní řešení, kdy výše popsané požadavky zjednodušuje tím, že umožňuje použít zpřístupnění a vyvratitelné domněnky nesouladu.

Navrhovaná směrnice o odpovědnosti za umělou inteligenci poskytuje účinné prostředky, jak určit, kdo jsou potenciálně odpovědné osoby, a uvést příslušné důkazy. Uvádí například, že vnitrostátní soud může nařídit zpřístupnění příslušných důkazů (a jejich uchovávání) o konkrétních vysoce rizikových systémech UI, u nichž existuje podezření, že způsobily škodu (Příloha 6). Kromě toho s výhradou požadavků stanovených v článku 4 navrhované směrnice vnitrostátní soudy předpokládají [...] příčinnou souvislost mezi zaviněním žalovaného a výstupem vytvořeným systémem UI (nebo tím, že systém UI žádný výstup neposkytl).

Jak je uvedeno v důvodové zprávě k navrhované směrnici o odpovědnosti, mají „taková účinná pravidla občanskoprávní odpovědnosti další výhodu v tom, že všechny subjekty zapojené do činností souvisejících se systémy UI motivují k tomu, aby dodržovaly své povinnosti týkající se očekávaného jednání“.

Informace o asistentu Publio

Pojmy a definice

Co je Publio?

Publio, inteligentní asistent portálu Úřadu pro publikace Evropské unie (Portál OP), je nástroj UI, který komunikuje s fyzickými osobami a provádí vyhledávání pomocí klíčových slov, která vycházejí z informací veřejně dostupných na portálu OP. Asistent Publio kombinuje konverzační techniky umělé inteligence (UI), jako je zpracování přirozeného jazyka (NLP) a strojové učení (ML), s interaktivním rozpoznáváním hlasu a tradičními vyhledávacími systémy a pomáhá nalézt publikace EU, právní předpisy EU a kontaktní osoby v evropských orgánech.

Inteligentní asistent konkrétně umožňuje mluvené nebo psané konverzace mezi koncovými uživateli a portálem OP. Inteligentní asistent je v současné době k dispozici anglicky, francouzsky a španělsky. Inteligentního asistenta mohou sice využít všichni, asistent ale zároveň poskytuje řešení přizpůsobené potřebám osob trpících poruchami čtení, čímž zvyšuje přístupnost. Dále umožňuje konverzační vyhledávání, což je nový způsob vyhledávání, který uživatelům umožňuje mluvit v celých větách – stejně jako v běžném hovoru – k hlasovému asistentovi využívajícímu umělou inteligenci, který odpovídá, přičemž interakce mezi uživatelem a inteligentním asistentem má podobu konverzace.

Jaký druh údajů Publio používá?

Publio používá informace, které jsou veřejně dostupné na Portálu OP. Tyto informace jsou zveřejňovány na základě zásady transparentnosti, která se uplatňuje na všechny politiky a právní předpisy EU. Na základě tohoto korpusu používá Publio klasifikace a kategorie dostupné na portálu OP, jako jsou témata Eurovoc, autoři nebo formát a vede a upřesňuje konverzaci s cílem pomoci uživateli vyhledávat ve třech hlavních sbírkách portálu OP: publikace EU, právo EU a oficiální adresář EU (EU Whoiswho).

Publio používá stávající jazykový model k pochopení otázek, jimiž se uživatelé zabývají, a k vedení uživatelů po celou dobu jejich cesty vyhledávání. Na základě zpětné vazby od uživatelů je jazykový model Publio dále zdokonalován a školen tak, aby odpovídal očekáváním uživatelů a zvládl rozmanitost uživatelských vstupů ve třech podporovaných jazycích.

Toto školení zahrnuje více složek základního systému Publia:

• Předem definovaná řada promluv spojených s různými možnými formami záměru, jejichž pomocí Publio nejprve pochopí konečný cíl uživatele a poté nasměruje uživatele krok za krokem k dosažení tohoto cíle.
• Předem definovaná řada pevných otázek, které Publio „chápe“ a k nimž může uživatelům poskytnout předem definovanou odpověď. Příklad: Jak si můžu objednat publikace?
• Subjekty, které procházejí strojovým učením, Publio je může identifikovat a lze je použít v procesech na pozadí, díky nimž Publio detekuje vyhledávací parametry, poskytují přesnější výsledky vyhledávání nebo možnost dalšího zpřesnění vyhledávání. Tyto subjekty jsou založeny na stávající klasifikaci a kategoriích údajů, jako je tezaurus Eurovoc nebo jiné tabulky orgánů spravované sdružením EuroVoc: autoři, formáty, jazyky, orgány EU (organizace), funkce ve veřejné službě EU atd. Na tomto základě může Publio například z dotazu uživatele pochopit, že uživatel hledá publikaci s konkrétním tématem nebo od konkrétního autora.

Jak Publio funguje?

Publio se opírá o službu LUIS (Příloha 7), která zpracuje vstupní údaje uživatelů (písemné nebo řečové promluvy), pochopí záměr uživatele a identifikuje klíčové prvky (subjekty), o které má uživatel zájem. Na základě rozpoznaného záměru iniciuje Publio personalizovaný tok konverzace, jehož cílem je podpořit uživatele, aby dosáhl cíleného výsledku v několika jednoduchých krocích.

V současné době Publio provádí 4 hlavní toky konverzace:

• vyhledávání dokumentů s cílem pomoci uživatelům při vyhledání publikací EU nebo právních dokumentů EU
• vyhledávání osob s cílem pomoci uživatelům s vyhledáním úředníků zaměstnaných orgány EU
• tok vyhledávání organizací s cílem pomoci uživatelům při vyhledávání orgánů EU (organizací)
• tok otázek a odpovědi (QNA) tak, aby byly zodpovězeny časté otázky s předem definovanou odpovědí

Je-li rozpoznán tok „vyhledávání“, virtuální asistent povede uživatele vyhledáváním příslušného dokumentu, osoby nebo organizace pomocí jednoduchých otázek a na základě jeho odpovědi navrhne možné filtry.

Pro potřeby toku QNA vedou zaměstnanci Úřadu pro publikace seznam párů častých otázek a předem definovaných odpovědí na ně. V případě, že je rozpoznán záměr QNA a existuje vysoká podobnost mezi konkrétní otázkou od uživatele a jednou z otázek uložených v systému, bude příslušná odpověď přímo poskytnuta uživateli. Například

– je-li záměr QNA rozpoznán s otázkou jako „Kde je moje objednávka?“, asistent odpoví „Co se děje s vaší objednávkou, si můžete zkontrolovat v sekci Moje objednávka ve vašem profilu“.

– je-li záměr QNA rozpoznán s dotazem jako „Kde najdu dokumenty pro děti“, asistent odpoví „Publikace pro děti jsou k dispozici v sekci Pro děti“.

Uživatelé mohou klást otázky písemně nebo ústně. Chatbot zachytí audiozáznam (uživatelův ústní dotaz) a zašle jej do zařízení pro rozpoznávání řeči, které převádí řeč na text. Audiovstup zpracovává služba Microsoft Azure Speech to text (Příloha 8). Asistent Publio pak zobrazí audiovstup ve slovech interpretovaných zařízením pro rozpoznávání řeči a poté zobrazí odpověď, a to jak písemně, tak slovně, prostřednictvím syntetizovaného hlasu. Tato interakce je okamžitá (dochází k ní okamžitě) a dočasná (nezanechává žádnou stopu).

Jak Publio analyzuje otázku a navrhuje výsledky?

Asistent Publio nepoužívá generativní technologii, a proto není schopen vytvářet uživatelský obsah nebo s ním manipulovat.

Publio používá model strojového učení jazyka, který je vyškolen (školený jazykový model), aby se mohl naučit rozpoznat vstupy uživatelů a reagovat na ně. Tento model odpovídá za zpracování uživatelské zprávy nebo dotazu, identifikaci záměru zprávy a poskytnutí vhodné odpovědi. Proces školení asistenta Publio zahrnuje poskytování velkého množství označených školicích dat modelu strojového učení. Data zahrnují příklady uživatelských vstupů a jejich odpovídajících záměrů a věrohodných odpovědí.

Zpracování přirozeného jazyka (NLP) a školený jazykový model používá Publio k pochopení uživatelského záměru a k tomu, aby z dotazu uživatele exhtrahovalo rozpoznané subjekty (například vyhledávané slovo, předmět, autora, datum dokumentu, formát dokumentu). Publio využívá tyto subjekty k provedení vyhledávání a k zobrazení výsledku vyhledávání.

Přinese-li vyhledávání příliš hodně výsledků, Publio pokračuje v konverzaci tak, že klade uživateli další otázky, aby se vyhledávání zúžilo odfiltrováním jiných subjektů.

Otázky, které asistent Publio klade, se omezují na identifikaci záměru uživatele, zachycení jeho účelu a zformulování správného zadání vyhledávání v korpusu obsahu zveřejněného na portálu OP. Výsledky, které asistent Publio nabízí, pocházejí v plném rozsahu z tohoto korpusu.

Vaše názory a připomínky

Koncový uživatel může kdykoli během rozhovoru poskytnout pozitivní, neutrální nebo negativní zpětnou vazbu ohledně své zkušenosti s použitím asistenta Publio. Může se jednat o manuální zpětnou vazbu, kterou uživatel začne poskytovat v jakýkoliv okamžik nebo v reakci na automatické vyskakovací okno zobrazené po několika sekundách nečinnosti s žádostí o zpětnou vazbu od uživatele. Kromě toho jsou otázky, které asistent Publio správně „nepochopil“, automaticky zaznamenávány a pravidelně zpracovávány lidským týmem zaměstnanců Úřadu pro publikace. Jak zpětná vazba od uživatelů, tak analýza otázek, které Publio správně „nepochopilo“, se používají k přeškolení jazykového modelu s cílem neustále zlepšovat služby poskytované koncovým uživatelům.

Zpracování osobních údajů

Údaje dostupné na portálu OP se zpracovávají v souladu s obecným nařízením EU o ochraně osobních údajů (GDPR) a nařízením o zpracování osobních údajů orgány, institucemi a jinými subjekty EU (Příloha 9).

Publio neukládá, neuchovává ani nearchivuje žádné prvky ani vstupy uživatele, ani ty, které jsou poskytovány prostřednictvím odpovědí asistenta Publio.

Získaná zpětná vazba je anonymizována tak, že neumožňuje propojit zpětnou vazbu s uživatelem, od něhož byla získána.

Žádné osobní údaje se žádným způsobem nepoužívají pro automatizované rozhodování, vysledování ani profilování.

Aktuální omezení

• Přepis jmen pomocí hlasu: zatímco většina jmen je „pochopena“ a přepsána správně, extrakce jmen je založena na strojovém učení a není 100% přesná. Vzhledem k omezením služby LUIS nejsou některá jména řádně extrahována ani po proškolení modelu s konkrétními příklady ze souboru údajů.
• Datum ve francouzštině a španělštině: „pochopení“ data je méně přesné ve španělštině a francouzštině ve složitějších souvislostech. Například rok bude rozpoznán ve španělštině s použitím „entre 2016 y 2017“ bez dalších souvislostí, zatímco „entre el año 2019 y 2020“ tomu tak nebude. Anglické „2 years ago“ je rozpoznáno, zatímco francouzské „il y a 2 ans“ nikoliv.
• Rozpoznávání řeči funguje současně pouze v jednom jazyce.
• Rozpoznávání řeči nemá pravopisný režim, což znamená, že nemá funkci, která by uživatelům umožňovala hláskovat slova znak po znaku, aby byl zajištěn přesný přepis.
• V kombinaci s výrazem „Mrs“/„Miss“ nefunguje ve větších větách dobře rozpoznávání subjektu jména.

Úřad pro publikace Evropské unie, 16. května 2023.