Virtualni pomočnik : Obvestilo o razložljivosti

Zaupanja vredna in razložljiva UI

Zaupanja vredna in razložljiva UI je ključni cilj EU. EU si prizadeva vzpostaviti regulativni okvir za UI. Predlog Evropske komisije z dne 21. aprila 2021 o uredbi o določitvi harmoniziranih pravil o umetni inteligenci (v nadaljnjem besedilu: akt o UI) (Dodatek 3) uvaja dve glavni zavezi za ponudnike rešitev in orodij, temelječih na UI: preglednost in zagotavljanje informacij.

Uporabniki umetnointeligenčnih sistemov imajo pravico prejeti informacije. Ta pravica je neločljiva od ustreznih obveznosti, kot je obveznost uporabe sistema v skladu z navodili in spremljanja učinkovitosti zadevnega orodja UI. Za skladnost s temi pravili so odgovorni vsi vključeni akterji.

Predlagani akt o UI v členu 52 (Obveznosti glede preglednosti za nekatere umetnointeligenčne sisteme) določa naslednje: „1. Ponudniki zagotovijo, da so umetnointeligenčni sistemi, namenjeni interakciji s fizičnimi osebami, zasnovani in razviti tako, da so fizične osebe obveščene, da so v stiku z umetnointeligenčnim sistemom, razen če je to razvidno iz okoliščin in konteksta uporabe. […]“

Predlagani akt o UI temelji na pristopu na podlagi tveganja in razlikuje med uporabami UI, ki ustvarjajo (i) nesprejemljivo tveganje, (ii) veliko tveganje in (iii) majhno ali minimalno tveganje.

Publio, inteligentni pomočnik portala Urada za publikacije, vzpostavlja interakcijo s fizičnimi osebami in izvaja iskanja z uporabo ključnih besed, pri tem pa se opira na informacije, ki so javno dostopne na portalu Urada za publikacije. Te informacije se objavljajo na podlagi načela preglednosti, ki je temelj vseh politik in zakonodaje EU. Inteligentni pomočnik zgolj predlaga možnosti filtriranja uporabnikovega iskanja, sicer pa ne ustvarja nove vsebine in ne manipulira z izbirami uporabnikov, niti ne vpliva nanje. Publio torej spada v kategorijo „majhnega tveganja“ (iii), kot je opredeljena v predlogu akta o UI.

Predlog akta o UI v naslovu IV (Preglednost) določa, da je pri zasnovi in delovanju umetnointeligenčnih sistemov treba upoštevati posebna tveganja, ki bi jih lahko predstavljali, in sicer (1) subliminalne tehnike, ki presegajo zavest osebe, ali (2) izkoriščanje ranljivih skupin, ki bi lahko povzročilo psihično ali fizično škodo. Strožje obveznosti glede preglednosti veljajo za sisteme, ki (i) so v interakciji z ljudmi, (ii) se uporabljajo za zaznavanje čustev ali določanje pripadnosti (družbenim) kategorijam na podlagi biometričnih podatkov ali (iii) ustvarjajo ali manipulirajo z vsebino („globoki ponaredki“). Publio sicer je v interakciji s fizičnimi osebami, vendar ta inteligentni pomočnik ni zasnovan za zaznavanje čustev s ciljem manipuliranja niti ne vsebuje morebitnih elementov, ki bi lahko nenamerno privedli do takega izida. Publio torej ne izpolnjuje zgoraj navedenih meril.

UI in odgovornost

Predlog Evropske komisije za akt o UI je bil 28. septembra 2022 dopolnjen s predlogom o ureditvi civilne odgovornosti za področje umetne inteligence – direktiva o odgovornosti na področju umetne inteligence (Dodatek 4) (v nadaljnjem besedilu: direktiva o odgovornosti na področju UI), po resoluciji Evropskega parlamenta, sprejeti na podlagi člena 225 PDEU (Dodatek 5).

Kot je opredeljeno v predlagani direktivi o odgovornosti na področju UI, obstoječa pravila o odgovornosti, ki temeljijo na krivdi, niso primerna za obravnavanje odškodninskih zahtevkov za škodo, ki jo povzročijo umetnointeligenčno omogočeni proizvodi in storitve. Na podlagi obstoječih pravil o odgovornosti morajo žrtve dokazati, da sta bila ravnanje osebe, ki je povzročila škodo, ali opustitev nezakonita, identificirati to osebo in dokazati vzročno povezavo. Zaradi posebnih značilnosti UI, med njimi njene kompleksnosti, avtonomije in neprepustnosti (tako imenovani učinek „črne skrinjice“) je težko ugotoviti, katera oseba je odgovorna za škodo, ki je nastala zaradi uporabe UI. To lahko žrtve, ki utrpijo tako škodo, odvrača od odškodninskih zahtevkov. Glede na naravo vprašanja, ki se nanaša na dokazno breme, predlagana direktiva o odgovornosti na področju UI določa inovativne rešitve, tako da zgoraj navedene zahteve olajšuje z uporabo razkritja in izpodbojnih domnev o neizpolnjevanju dolžnosti.

Predlagana direktiva o odgovornosti na področju UI zagotavlja učinkovita sredstva za identifikacijo potencialno odgovornih oseb in ustrezne dokaze. Navaja na primer, da lahko nacionalno sodišče odredi razkritje ustreznih dokazov (in njihovo zavarovanje) o določenih umetnointeligenčnih sistemih velikega tveganja, za katere se sumi, da so povzročili škodo (Dodatek 6). Hkrati skladno z zahtevami iz člena 4 predlagane direktive nacionalna sodišča […] domnevajo vzročno zvezo med krivdo tožene stranke in izhodnimi podatki, ki jih je ustvaril umetnointeligenčni sistem (ali dejstvom, da umetnointeligenčni sistem ni ustvaril izhodnih podatkov).

Kot je sklenjeno v obrazložitvenem memorandumu k predlagani direktivi o odgovornosti na področju UI, [imajo] „taka učinkovita pravila o civilni odgovornosti […] dodatno prednost, da vse, ki so vključeni v dejavnosti, povezane z umetnointeligenčnimi sistemi, dodatno spodbujajo k spoštovanju njihovih obveznosti glede pričakovanega ravnanja“.

O Publio

Opredelitve pojmov

Kaj je Publio?

Publio, inteligentni pomočnik portala Urada za publikacije, je orodje umetne UI, ki vzpostavlja interakcijo s fizičnimi osebami in izvaja iskanja z uporabo ključnih besed, pri tem pa se opira na informacije, ki so javno dostopne na portalu Urada za publikacije. Publio združuje tehnike pogovorne umetne inteligence, kot so obdelava naravnega jezika ali strojno učenje z interaktivnim prepoznavanjem govora in tradicionalnimi iskalnimi sistemi, ki uporabnikom pomagajo pri iskanju publikacij in zakonodaje EU ter kontaktnih oseb v evropskih institucijah.

Inteligentni pomočnik zlasti omogoča govorjene ali tipkane pogovore med končnimi uporabniki in portalom Urada za publikacije. Za zdaj je inteligentni pomočnik na voljo v angleščini, francoščini in španščini. Čeprav ga lahko uporabljajo vsi, pa je dostopnost inteligentnega pomočnika razširjena, saj zagotavlja tudi rešitev, prilagojeno potrebam ljudi z motnjami branja. Dalje omogoča tudi pogovorno iskanje, tj. nov način iskanja, ki omogoča uporabnikom, da se v celih stavkih (kot bi to počeli pri običajnem pogovoru) pogovarjajo z govornim pomočnikom, ki temelji na umetni inteligenci in vrača odgovore, izmenjava med uporabnikom in inteligentnim pomočnikom pa poteka v obliki pogovora.

Katere vrste podatkov uporablja Publio?

Publio uporablja informacije, ki so javno dostopne na portalu Urada za publikacije. Te so objavljene na podlagi načela preglednosti, ki velja za vse politike in zakonodajo EU. Na podlagi tega korpusa Publio uporablja razvrstitve in kategorije, ki so na voljo na portalu Urada za publikacije, kot so subjekti, avtorji in format Eurovoc, ki pogovor usmerjajo in ga izpopolnijo tako, da uporabniku pomagajo pri iskanju v treh glavnih zbirkah portala Urada za publikacije: publikacije EU, zakonodaja EU in uradni imenik EU (EU Whoiswho).

Za razumevanje vprašanj, ki jih naslovijo uporabniki, in za usmerjanje uporabnikov na njihovi iskalni poti uporablja obstoječ jezikovni model. Na podlagi povratnih informacij uporabnikov se jezikovni model Publio stalno izboljšuje in uči, da lahko izpolnjuje potrebe uporabnikov in obravnava najrazličnejše vnose uporabnikov v treh podprtih jezikih.

To učenje zajema več komponent sistema, na katerem temelji Publio:

• vnaprej določen niz izrek, povezanih z različnimi možnimi oblikami namenov, na podlagi katerih lahko Publio najprej razume uporabnikov končni cilj in ga nato postopno usmerja k dosegi tega cilja,
• vnaprej določen niz fiksnih vprašanj, ki jih Publio „razume“ in za katere lahko uporabnikom zagotovi vnaprej določen odgovor. Primer: Kako lahko naročim publikacije?;
• strojno naučeni subjekti, ki jih Publio lahko ugotovi in uporabi v svojih procesih v ozadju za odkrivanje iskalnih parametrov, zagotavljajo bolj točne rezultate iskanja ali možnosti nadaljnje natančnejše opredelitve iskanja. Ti subjekti temeljijo na obstoječi razvrstitvi in kategorijah podatkov, kot so tezavri Eurovoc ali druge preglednice organov, ki jih upravlja EuroVoc: avtorji, formati, jeziki, organi (organizacije) EU, funkcionalne vloge v javnih storitvah EU itd. Na podlagi tega lahko na primer Publio iz uporabnikove poizvedbe razume, da ta išče publikacijo določenega avtorja ali na določeno temo.

Kako deluje Publio?

Publio se opira na storitev Microsoft Language Understanding (LUIS) (Dodatek 7) za obdelavo uporabnikovega vnosa (pisne ali izgovorjene izreke), za razumevanje uporabnikovega namena in za ugotovitev ključnih elementov (subjektov), za katere se uporabnik zanima. Na podlagi ugotovljenega namena Publio začne s prilagojenim pogovornim tokom, ki si prizadeva za podporo uporabnikom na poti do ciljnega rezultata v nekaj preprostih korakih.

Za zdaj Publio izvaja 4 glavne pogovorne tokove:

• tok iskanja po dokumentih za pomoč uporabnikom, ki iščejo po publikacijah in pravnih dokumentih EU,
• tok iskanja po osebah za pomoč uporabnikom, ki iščejo po javnih uslužbencih, zaposlenih v institucijah EU,
• tok iskanja po organizacijah za pomoč uporabnikom, ki iščejo po organih (organizacijah) EU,
• tok vprašanj in odgovorov za odgovore na pogosto zastavljena vprašanja z vnaprej določenih odgovorom.

Če virtualni pomočnik prepozna tok „iskanja“, bo uporabnika usmerjal pri iskanju ustreznega dokumenta, osebe ali organizacije tako, da bo uporabniku postavljal preprosta vprašanja in na podlagi njegovega odziva predlagal možnosti filtriranja.

Za tok vprašanj in odgovorov uslužbenci Urada za publikacije vodijo seznam parov pogosto zastavljenih vprašanj in njihovih vnaprej določenih odgovorov. Če je prepoznan namen vprašanj in odgovorov in je raven podobnosti med določenim vprašanjem uporabnika in enim od vprašanj, shranjenih v sistemu, visoka, bo uporabnik neposredno prejel ustrezen odgovor. Na primer,

− če je prepoznan namen vprašanj in odgovorov pri poizvedbi, kot je: „Kje je moje naročilo?“, bo pomočnik odgovoril: „Status vašega naročila lahko preverite v razdelku Moje naročilo vašega profila.“;

− če je prepoznan namen vprašanj in odgovorov pri poizvedbi, kot je: „Kje lahko najdem dokumente za otroke?“, bo pomočnik odgovoril: „Publikacije za otroke so na voljo v kotičku za otroke.“

Uporabniki lahko vprašanja zastavljajo pisno ali govorno. Klepetalni bot ujame zvočni vnos (uporabnikova izgovorjena vprašanja) in ga pošlje napravi za prepoznavanje govora, ki pretvori govor v besedilo. Strežnik Microsoft Azure Speech obdela zvočni vnos z besedilno storitvijo (Dodatek 8). Publio nato z besedami, ki jih zazna naprava za prepoznavanje govora, prikaže zvočni vnos, nato pa prikaže odgovor tako v pisni kot govorni obliki s sintetiziranim glasom. Taka izmenjava je hipna (zgodi se v trenutku) in kratkotrajna (za seboj ne pusti nobenih sledi).

Kako Publio analizira vprašanje in predlaga rezultate?

Publio ne uporablja generativne tehnologije, zato ne more ustvarjati uporabniške vsebine ali manipulirati z njo.

Uporablja jezikovni model strojnega učenja, ki je naučen (naučeni jezikovni model) za prepoznavanje uporabniških vnosov in odzivanje nanje. Ta model je odgovoren, da pri obdelavi uporabnikovega sporočila ali poizvedbe ugotovi namen sporočila in zagotovi ustrezen odziv. Proces, v katerem se Publio uči, zajema zagotovitev modela strojnega učenja z veliko količino označenih podatkov o učenju, kamor med drugim spadajo primeri uporabniških vnosov ter njihovih ustreznih namenov in možnih odzivov.

Z obdelavo naravnega jezika in naučenega jezikovnega modela skuša Publio razumeti uporabnikov namen in iz njegovega vprašanja izluščiti prepoznane subjekte (na primer iskalni izraz, temo, avtorja, datum dokumenta, obliko dokumenta). S temi subjekti Publio izvaja iskanje in prikaže rezultat iskanja.

Če je rezultat iskanja preširok, Publio nadaljuje pogovor tako, da uporabniku zastavlja dodatna vprašanja, da bi rezultat iskanja omejil s filtriranjem drugih subjektov.

Vprašanja, ki jih oblikuje Publio, so omejena na ugotavljanje namena uporabnika, da se opredeli njegov namen in oblikuje prava iskalna poizvedba za korpus vsebin, objavljen na portalu Urada za publikacije. Rezultati, ki jih predlaga Publio, v celoti izhajajo iz tega korpusa.

Povratne informacije uporabnikov

Končni uporabnik lahko med pogovorom kadar koli zagotovi pozitivne, nevtralne ali negativne povratne informacije o svoji izkušnji z uporabo pomočnika Publio. Uporabnik lahko povratne informacije kadar koli sproži ročno ali v odziv na samodejno pojavno okno, ki se prikaže po nekaj sekundah nedejavnosti in prosi uporabnika za povratne informacije. Obenem se vprašanja, ki jih Publio ne „razume“ pravilno, samodejno vnesejo, da jih redno obdeluje človeška ekipa uslužbencev Urada za publikacije. Tako povratne informacije uporabnikov kot analiza vprašanj, ki jih Publio ne „razume“ pravilno, se uporabljajo za ponovno učenje jezikovnega modela s ciljem rednega nadaljnjega izboljševanja storitev za končne uporabnike.

Obdelava zasebnih podatkov

Podatki, ki so na voljo na portalu Urada za publikacije, se obdelujejo v skladu s splošno uredbo EU o varstvu podatkov in uredbo o obdelavi osebnih podatkov v institucijah, organih, uradih in agencijah EU (Dodatek 9).

Publio ne shranjuje ali arhivira ničesar − niti uporabnikovih vnosov niti vnosov, zagotovljenih z odzivi pomočnika Publio.

Zbrane povratne informacije se anonimizirajo tako, da je onemogočeno povezovanje povratnih informacij z uporabnikom, od katerega so bile zbrane.

Nobeni osebni podatki se na noben način ne uporabljajo za avtomatizirane postopke odločanja, sledenje ali profiliranje.

Sedanje omejitve

• Prepis imena z uporabo govora: čeprav se večina imen „razume“ in prepiše pravilno, samo izluščanje imen temelji na strojnem učenju in ni 100-odstotno natančno. Zaradi omejitev storitve LUIS se nekatera imena ne izluščijo pravilno niti potem, ko se je model naučil specifičnih primerov iz nabora podatkov.
• Datumi v francoščini in španščini: „razumevanje“ datumov je v španščini in francoščini v kompleksnejših sobesedilih manj natančno. V španščini bo na primer leto v zvezi „entre 2016 y 2017“ brez dodatnega sobesedila prepoznano, ne bo pa prepoznano v zvezi „entre el año 2019 y 2020“. V angleščini zveza „2 years ago“ je prepoznana, medtem ko v francoščini zveza „il y a 2 ans“ ni.
• Prepoznavanje govora deluje v samo enem jeziku naenkrat.
• Prepoznavanje govora ni opremljeno s črkovanjem, kar pomeni, da nima značilnosti, ki bi uporabnikom omogočala črkovanje besed po posameznih črkah za zagotovitev točnega prepisa.
• Prepoznavanje imenskih subjektov ne deluje dobro v večjih besednih zvezah skupaj z „ga./gdč“.

Urad za publikacije Evropske unije, 16. maj 2023