Asistentul virtual : Aviz privind explicabilitatea

IA de încredere și explicabilă

Pentru UE este important ca sistemele de IA folosite să fie de încredere și explicabile. UE lucrează la elaborarea unui cadru de reglementare pentru IA. Propunerea de regulament din 21 aprilie 2021 a Comisiei Europene de stabilire a unor norme armonizate privind inteligența artificială (anexa 3) instituie două tipuri principale de angajamente din partea furnizorilor de soluții și instrumente bazate pe IA – transparența și furnizarea de informații.

Utilizatorii sistemelor de IA au dreptul de a primi informații. Acest drept este însoțit de obligații, cum ar fi obligația de a utiliza sistemul conform instrucțiunilor și de a monitoriza performanța instrumentului de IA în cauză. Respectarea acestor reguli asigură asumarea răspunderii de către toți actorii implicați.

Propunerea de regulament privind IA prevede, la articolul 52 (Obligații în materie de transparență pentru anumite sisteme de IA), că „1. Furnizorii se asigură că sistemele de IA destinate să interacționeze cu persoane fizice sunt proiectate și dezvoltate astfel încât persoanele fizice să fie informate că interacționează cu un sistem de IA, cu excepția cazului în care acest lucru este evident din circumstanțele și contextul de utilizare. [...]”

Propunerea de regulament privind IA urmează o abordare bazată pe riscuri, făcând distincție între utilizările IA care creează (i) un risc inacceptabil, (ii) un risc ridicat și (iii) un risc scăzut sau minim.

Publio, asistentul inteligent al portalului OP, interacționează cu oamenii și efectuează căutări utilizând cuvinte-cheie bazate pe informații care sunt disponibile public pe portalul OP. Aceste informații sunt publicate pe baza principiului transparenței pe care se sprijină legislația și toate politicile UE. Asistentul inteligent nu generează conținut nou, nu manipulează și nu influențează alegerile făcute de utilizatori, ci se limitează la a propune posibile opțiuni de filtrare pentru căutările pe care doresc le efectueze utilizatorii. Prin urmare, Publio trebuie considerat ca încadrându-se în categoria „risc scăzut” (iii), astfel cum este definită în proiectul de regulament privind IA.

Proiectul de regulament privind IA prevede, la titlul IV (Transparența), că proiectarea și funcționarea sistemelor de IA trebuie să țină seama de riscurile specifice pe care acestea le-ar putea prezenta, și anume: 1) manipularea prin tehnici subliminale, adică tehnici care acționează la nivelul subconștientului utilizatorilor, sau 2) exploatarea grupurilor vulnerabile care ar putea aduce prejudicii psihologice sau fizice. Obligațiile mai stricte privind transparența se aplică sistemelor care (i) interacționează cu oamenii, (ii) sunt utilizate pentru a detecta emoțiile sau pentru a determina asocierea cu categorii (sociale) pe baza datelor biometrice sau (iii) generează sau manipulează conținut (prin tehnologii de tip „deepfake”). Deși Publio interacționează cu oamenii, asistentul inteligent nu este conceput pentru a detecta emoțiile cu scopul de a manipula și nu conține nici elemente care ar putea conduce în mod accidental la un astfel de rezultat. Prin urmare, Publio nu îndeplinește criteriile menționate mai sus.

IA și răspunderea

Propunerea Comisiei Europene de regulament privind IA a fost completată pe 28 septembrie 2022 de o propunere de regim de răspundere civilă pentru IA – Directiva privind răspunderea pentru inteligența artificială (anexa 4) (denumită în continuare „Directiva privind răspunderea pentru IA”), în urma rezoluției Parlamentului European adoptate în temeiul articolul 225 din TFUE (anexa 5).

Așa cum se arată în propunerea de directivă privind răspunderea pentru IA, normele existente privind răspunderea bazată pe culpă nu sunt adecvate pentru a trata cererile de despăgubire pentru prejudiciile cauzate de produsele și serviciile bazate pe IA. Conform acestor norme, victimele trebuie să dovedească existența unei acțiuni ilicite sau a unei omisiuni, să identifice persoana care a cauzat prejudiciul și să stabilească o legătură de cauzalitate. Având în vedere caracteristicile specifice ale IA, inclusiv complexitatea, autonomia și opacitatea acesteia (așa-numitul „efect de cutie neagră”), persoana care se face responsabilă de prejudiciile rezultând din utilizarea IA poate fi greu de identificat. Prin urmare, victimele care suferă astfel de prejudicii se pot simți descurajate să solicite despăgubiri. Dată fiind natura problemei sarcinii probei, propunerea de Directivă privind răspunderea pentru IA aduce soluții inovatoare, relaxând cerințele descrise mai sus prin publicarea de informații și de prezumții relative de neconformitate.

Propunerea de Directivă privind răspunderea pentru IA prevede mijloace eficace de identificare a persoanelor potențial responsabile și de găsire a dovezilor relevante. Ea prevede, de exemplu, că o instanță națională poate dispune divulgarea elementelor de probă relevante (și păstrarea acestora) cu privire la anumite sisteme de IA cu grad ridicat de risc care sunt suspectate de a fi adus prejudicii (anexa 6). În plus, sub rezerva cerințelor prevăzute la articolul 4 din propunerea de directivă, instanțele naționale prezumă [...] legătura de cauzalitate dintre vina pârâtului și rezultatul produs de sistemul de IA (sau incapacitatea sistemului de IA de a produce un rezultat).

Astfel cum s-a concluzionat în expunerea de motive la propunerea de directivă privind răspunderea pentru IA, „astfel de norme eficace privind răspunderea civilă au avantajul suplimentar că oferă tuturor celor implicați în activități legate de sistemele de IA un stimulent suplimentar pentru a-și respecta obligațiile în ceea ce privește comportamentul lor preconizat”.

Despre Publio

Termeni și definiții

Ce este Publio?

Publio, asistentul inteligent al portalului Oficiului pentru Publicații (portalul OP), este un instrument IA care interacționează cu oamenii și efectuează căutări utilizând cuvinte-cheie bazate pe informații disponibile public pe portalul OP. Publio combină tehnicile conversaționale de inteligență artificială (IA), cum ar fi prelucrarea limbajului natural (PLN) și învățarea automată, cu recunoașterea vocală interactivă și sistemele tradiționale de căutare, pentru a ajuta utilizatorii să găsească publicații și legislație UE și persoane de contact în instituțiile europene.

Asistentul inteligent permite conversații vorbite sau scrise între utilizatorii finali și portalul OP. El este disponibil în prezent în limbile engleză, franceză și spaniolă. Deși poate fi utilizat de oricine, asistentul inteligent oferă și o soluție adaptată la nevoile persoanelor cu dificultăți de citire, sporind astfel accesibilitatea. De asemenea, permite o căutare conversațională, o nouă modalitate de căutare care le permite utilizatorilor să vorbească în fraze complete – la fel ca în cazul unei conversații normale – cu un asistent vocal alimentat de IA care returnează răspunsuri, schimbul dintre utilizator și asistentul inteligent luând forma unei conversații.

Ce tip de date utilizează Publio?

Publio utilizează informațiile disponibile public pe portalul OP. Aceste informații sunt publicate pe baza principiului transparenței aplicabil tuturor politicilor și legislației UE. Plecând de la această colecție de date, Publio utilizează clasificări și categorii disponibile pe portalul OP, cum ar fi domeniile Eurovoc, autorii sau formatul, pentru a ghida și a perfecționa conversația și pentru a-l ajuta pe utilizator să efectueze căutări în toate cele trei colecții principale ale portalului OP: publicațiile UE, legislația UE și anuarul oficial al UE (EU Whoiswho).

Publio utilizează un model lingvistic existent pentru a înțelege întrebările adresate de utilizatori și pentru a-i îndruma de-a lungul parcursului lor de căutare. Pe baza feedbackului primit de la utilizatori, modelul lingvistic Publio este îmbunătățit în mod constant și format să răspundă așteptărilor utilizatorilor și să facă față diversității cererilor acestora în cele trei limbi suportate.

Această formare acoperă mai multe componente ale sistemului pe care se bazează Publio:

• o serie predefinită de enunțuri asociate diferitelor forme posibile de intenție pentru a-i permite să înțeleagă mai întâi obiectivul final al utilizatorului și apoi să îl ghideze treptat către atingerea acestui obiectiv.
• o serie predefinită de întrebări fixe pe care Publio „le înțelege” și pentru care poate oferi un răspuns predefinit utilizatorilor. Exemplu: „cum pot comanda publicații?”.
• Entitățile învățate automat care pot fi identificate de Publio și utilizate în procesele în fundal ale Publio pentru a detecta parametrii de căutare oferă rezultate de căutare mai precise sau opțiuni de îmbunătățire a căutării. Aceste entități se bazează pe clasificarea și categoriile de date existente, cum ar fi tezaurul Eurovoc sau alte tabele de referință gestionate de EuroVoc: autori, formate, limbi, organisme (organizații) ale UE, funcții în cadrul administrației publice a UE etc. Pe această bază, Publio poate, de exemplu, să înțeleagă din întrebarea utilizatorului că acesta caută o publicație pe o anumită temă sau scrisă de un anumit autor.

Cum funcționează Publio?

Publio se bazează pe Microsoft Language Understanding – LUIS – (anexa 7) pentru a prelucra intrările utilizatorilor (un enunț scris sau vorbit), pentru a înțelege intenția utilizatorului și pentru a identifica elementele-cheie (entitățile) de care utilizatorul este interesat. Pe baza intenției recunoscute, Publio inițiază un flux conversațional personalizat, menit să îi ajute pe utilizatori să obțină rezultatul vizat în câteva etape simple.

În prezent, Publio aplică 4 fluxuri conversaționale principale:

• Fluxul de căutare de documente pentru a-i ajuta pe utilizatori să caute publicații sau documente juridice ale UE
• Fluxul de căutare de persoane pentru a-i ajuta pe utilizatori să caute funcționari ai instituțiilor UE
• Fluxul de căutare de organizații pentru a-i ajuta pe utilizatori să caute organisme ale UE
• Fluxul de tip întrebări și răspunsuri pentru a răspunde la întrebări frecvente cu un răspuns predefinit.

Dacă un flux de căutare este recunoscut, asistentul virtual îl va îndruma pe utilizator în căutarea unui document, a unei persoane sau a unei organizații relevante, adresându-i întrebări simple și, pe baza răspunsului acestuia, va propune opțiuni de filtrare.

Pentru fluxul de întrebări și răspunsuri, personalul Oficiului pentru Publicații păstrează o listă cu întrebările adresate frecvent și cu răspunsurile predefinite la acestea. Dacă este recunoscută intenția de tip întrebare și răspuns, iar întrebarea utilizatorului seamănă foarte mult cu una dintre întrebările stocate în sistem, un răspuns adecvat va fi returnat direct utilizatorului. De exemplu,

- dacă intenția de tip întrebare și răspuns este recunoscută cu o interogare de tipul „Unde este comanda mea?”, asistentul va răspunde cu „Puteți verifica statutul comenzii dumneavoastră în secțiunea Comenzile mele din profilul dumneavoastră.”

- dacă intenția de tip întrebare și răspuns este recunoscută cu o interogare de tip „Unde pot găsi documente pentru copii”, asistentul va răspunde cu „Publicațiile pentru copii sunt disponibile în Spațiul micilor europeni”.

Întrebările pot fi adresate în scris sau verbal. Robotul de chat capturează mesajele vocale (întrebările rostite de către utilizator) și le trimite unui motor de recunoaștere vocală care transformă textul rostit în text scris. Mesajele vocale sunt prelucrate de serviciul de recunoaștere vocală Microsoft Azure (Anexa 8). Publio afișează apoi textul scris care reproduce mesajul vocal, în cuvintele interpretate de motorul de recunoaștere vocală, înainte de a afișa răspunsul atât în scris, cât și verbal, cu ajutorul unei voci sintetizate. Acest schimb are loc instantaneu și este efemer (nu lasă nicio urmă).

Cum analizează Publio întrebarea și cum propune rezultate?

Prin urmare, Publio nu utilizează o tehnologie generativă și nu este în măsură să genereze sau să manipuleze conținuturi destinate utilizatorilor.

Publio utilizează un model lingvistic de învățare automată (model lingvistic instruit) care învață cum să recunoască cererile utilizatorilor și cum să răspundă la acestea. Acest model are sarcina de a prelucra mesajul sau cererea utilizatorului, de a identifica intenția mesajului și de a furniza un răspuns adecvat. Procesul de instruire a Publio constă în a-i furniza modelului de învățare automată un volum mare de date de formare etichetate, care includ exemple de intrări ale utilizatorilor, precum și intențiile acestora și răspunsurile plauzibile corespunzătoare.

Publio utilizează prelucrarea limbajului natural și modelul lingvistic instruit pentru a înțelege intenția utilizatorului și pentru a extrage din întrebarea acestuia entitățile recunoscute (de exemplu, termenul de căutare, subiectul, autorul, data documentului, formatul documentului). Publio utilizează aceste entități pentru a efectua căutarea și pentru a afișa rezultatul căutării.

Dacă rezultatele căutării sunt prea ample, Publio continuă conversația, adresându-i întrebări suplimentare utilizatorului, pentru a limita rezultatele căutării cu ajutorul filtrelor aplicate altor entități.

Întrebările formulate de Publio se limitează la identificarea intenției utilizatorului, la identificarea scopului acestuia și la formularea căutării corecte în colecția de conținut publicat pe portalul OP. Rezultatele propuse de Publio provin în întregime din această colecție de date.

Părerea utilizatorilor

În orice moment în timpul conversației, utilizatorul final își poate exprima părerea (pozitivă, neutră sau negativă) cu privire la experiența sa de utilizare a Publio. Poate fi o părere introdusă manual de utilizator în orice moment sau sub formă de răspuns la o fereastră pop-up care se afișează automat după câteva secunde de inactivitate. În plus, întrebările care nu sunt „înțelese” corect de Publio sunt înregistrate automat și prelucrate periodic de o echipă din cadrul Oficiului pentru Publicații. Părerea utilizatorilor și analiza întrebărilor care nu sunt „înțelese” în mod corespunzător de către Publio sunt utilizate pentru a reinstrui modelul lingvistic, cu scopul de a îmbunătăți serviciile furnizate utilizatorilor finali.

Prelucrarea datelor cu caracter personal

Datele disponibile pe portalul OP sunt prelucrate în conformitate cu Regulamentul general al UE privind protecția datelor (RGPD) și cu Regulamentul privind prelucrarea datelor cu caracter personal de către instituțiile, agențiile și organele UE (anexa 9).

Publio nu stochează, nu păstrează și nu arhivează niciun element – nici informațiile furnizate de utilizator, nici pe cele furnizate prin răspunsurile Publio.

Părerile colectate sunt anonimizate astfel încât să nu poată fi corelate cu utilizatorul care le-a exprimat.

Datele cu caracter personal nu sunt utilizate în niciun fel pentru luarea de decizii, urmărirea sau stabilirea de profiluri.

Limitele actuale

• Transcrierea vocală a numelor: deși majoritatea numelor sunt „înțelese” și transcrise corect, extragerea numelui se bazează pe învățarea automată și nu are o precizie de 100 %. Din cauza unor limitări ale Microsoft Language Understanding (LUIS), unele nume nu sunt extrase corect nici după instruirea modelului cu exemple clare din setul de date.
• Datele în limbile franceză și spaniolă: „înțelegerea” datei este mai puțin exactă în spaniolă și franceză în contexte mai complexe. De exemplu, anul va fi recunoscut în limba spaniolă utilizând „entre 2016 y 2017” fără un context suplimentar, în timp ce nu va fi recunoscut cu „entre el año 2019 y 2020”. În limba engleză, „2 years ago” este recunoscut, în timp ce în limba franceză „il y a 2 ans” nu este recunoscut.
• Recunoașterea vocală nu funcționează decât într-o singură limbă odată.
• Recunoașterea vocală nu are un mod ortografic, ceea ce înseamnă că nu dispune de o funcționalitate care să le permită utilizatorilor rostirea cuvintelor literă cu literă pentru a asigura o transcriere exactă.
• Recunoașterea entității numelui nu funcționează bine în frazele mai lungi când este însoțită de „dna”/„dra”.

Oficiul pentru Publicații al Uniunii Europene, 16 mai 2023