Virtualusis asistentas : Pranešimas dėl paaiškinamumo

Patikimas ir paaiškinamas dirbtinis intelektas

DI patikimumas ir paaiškinamumas yra svarbūs ES tikslai. ES rengia dirbtinio intelekto reglamentavimo sistemą. 2021 m. balandžio 21 d. Europos Komisijos pasiūlyme dėl reglamento, kuriuo nustatomos suderintos dirbtinio intelekto taisyklės (toliau – DI aktas) (priedėlis, 3), nustatyti dviejų pagrindinių rūšių DI grindžiamų sprendimų ir priemonių teikėjų įsipareigojimai – skaidrumas ir informacijos teikimas.

DI sistemų naudotojai turi teisę gauti informaciją. Ta teisė taikoma kartu su atitinkamomis pareigomis, pavyzdžiui, pareiga naudotis sistema pagal instrukcijas ir stebėti atitinkamos DI priemonės veikimą. Laikantis šių taisyklių atskaitingi yra visi susiję subjektai.

Siūlomo DI akto 52 straipsnyje (Tam tikroms DI sistemoms taikomi skaidrumo reikalavimai) teigiama, kad „1. Tiekėjai užtikrina, kad DI sistemos, kurių paskirtis – bendrauti su fiziniais asmenimis, būtų suprojektuotos ir sukurtos taip, kad fiziniai asmenys būtų informuojami apie tai, kad bendrauja su DI sistema, nebent tai būtų akivaizdu iš aplinkybių ir naudojimo konteksto. […] “

Siūlomame DI akte laikomasi rizika pagrįsto metodo, darant skirtumą tarp DI, kuris kelia i) nepriimtiną riziką, ii) didelę riziką ir iii) mažą arba minimalią riziką, naudojimo.

Leidinių biuro portalo išmanusis asistentas „Publio“ bendrauja su fiziniais asmenimis ir atlieka paiešką naudodamas raktinius žodžius, remdamasis Leidinių biuro portale viešai skelbiama informacija. Ta informacija skelbiama remiantis skaidrumo principu, kuriuo grindžiama visų sričių ES politika ir teisės aktai. Išmanusis asistentas negeneruoja naujo turinio, nemanipuliuoja naudotojų sprendimais ir nedaro jiems įtakos – tik pasiūlo galimus filtravimo variantus naudotojams atliekant paiešką. Todėl turi būti laikoma, kad „Publio“ patenka į DI akto projekte apibrėžtą „mažos rizikos“ kategoriją (iii).

DI akto projekto IV antraštinėje dalyje (Skaidrumas) nustatyta, kad projektuojant ir paleidžiant veikti DI sistemas turi būti atsižvelgiama į konkrečią riziką, kurią jos gali kelti: 1) manipuliavimo naudojant pasąmonę veikiančius metodus, t. y. metodus, kurių naudotojai nesuvokia arba 2) pažeidžiamų grupių išnaudojimo, dėl kurio gali būti padaryta psichologinė arba fizinė žala. Griežtesni įpareigojimai skaidrumo srityje bus taikomi sistemoms, kurios i) sąveikauja su žmonėmis, ii) naudojamos emocijoms arba asociacijoms su (socialinėmis) kategorijomis nustatyti remiantis biometriniais duomenimis arba iii) kuria turinį arba juo manipuliuoja (sintetinė sankaita). Nors „Publio“ sąveikauja su fiziniais asmenimis, išmanusis asistentas nėra skirtas emocijoms nustatyti siekiant manipuliuoti ir neturi jokių elementų, dėl kurių tai galėtų įvykti netyčia. Todėl „Publio“ minėtų kriterijų neatitinka.

Dirbtinis intelektas ir atsakomybė

Europos Komisijos pasiūlymas dėl DI akto 2022 m. rugsėjo 28 d. papildytas pasiūlymu dėl civilinės atsakomybės už dirbtinį intelektą tvarkos – Atsakomybės už dirbtinį intelektą direktyva (priedėlis, 4) (toliau – Atsakomybės už DI direktyva), atsižvelgiant į Europos Parlamento rezoliuciją, priimtą pagal SESV 225 straipsnį (priedėlis, 5).

Siūlomoje Atsakomybės už DI direktyvoje nustatyta, kad šiuo metu galiojančios nacionalinės atsakomybės taisyklės, kurios visų pirma grindžiamos kalte, nėra tinkamos pretenzijoms dėl atsakomybės už dirbtiniu intelektu grindžiamų produktų ir paslaugų padarytą žalą nagrinėti. Pagal galiojančias atsakomybės taisykles nukentėjusieji turi įrodyti, kad buvo padarytas neteisėtas veiksmas arba būta neveikimo, nustatyti žalą padariusio asmens tapatybę ir nustatyti priežastinį ryšį. Dėl specifinių dirbtinio intelekto savybių, įskaitant sudėtingumą, autonomiją ir neskaidrumą (vadinamąjį juodosios dėžės reiškinį), gali būti sunku nustatyti už naudojant DI padarytą žalą atsakingą asmenį. Todėl tokią žalą patyrę asmenys gali net nemėginti reikalauti ją atlyginti. Atsižvelgiant į įrodinėjimo pareigos klausimo pobūdį, siūlomoje Atsakomybės už DI direktyvoje pateikiami novatoriški sprendimai, pirmiau aprašyti reikalavimai supaprastinami taikant įrodymų atskleidimo ir nuginčijamų prezumpcijų dėl reikalavimų nesilaikymo principus.

Siūlomoje Atsakomybės už DI direktyvoje numatytos veiksmingos priemonės potencialiai atsakingiems asmenims ir svarbiems įrodymams nustatyti. Pavyzdžiui, jame nurodoma, kad nacionalinis teismas gali nurodyti atskleisti (ir išsaugoti) atitinkamus įrodymus, susijusius su konkrečiomis didelės rizikos DI sistemomis, dėl kurių, kaip įtariama, buvo padaryta žala (priedėlis, 6). Be to, laikydamiesi siūlomos direktyvos 4 straipsnyje nustatytų reikalavimų, nacionaliniai teismai preziumuoja priežastinį ryšį tarp atsakovo kaltės ir dirbtinio intelekto sistemos sugeneruoto išvedinio (arba dirbtinio intelekto sistemos negebėjimo sugeneruoti išvedinį).

Siūlomos Atsakomybės už DI direktyvos aiškinamajame memorandume daroma išvada: „Tokios veiksmingos civilinės atsakomybės taisyklės turi papildomą pranašumą, nes jomis visiems, vykdantiems su dirbtinio intelekto sistemomis susijusią veiklą, suteikiama papildoma paskata vykdyti savo pareigas, susijusias su numatomu jų elgesiu.“

Apie „Publio“

Terminai ir apibrėžtys

Kas yra „Publio“?

Leidinių biuro portalo išmanusis asistentas „Publio“ yra DI priemonė, kuri bendrauja su fiziniais asmenimis ir atlieka paiešką naudodama raktinius žodžius, remdamasi Leidinių biuro portale viešai skelbiama informacija. „Publio“ derina pokalbių dirbtinio intelekto metodus, tokius kaip natūraliosios kalbos apdorojimas ir mašinų mokymasis, su interaktyviu balso atpažinimu ir tradicinėmis paieškos sistemomis, kad padėtų naudotojams rasti ES leidinius, ES teisės aktus ir kontaktinius asmenis ES institucijose.

Išmanusis asistentas sudaro sąlygas galutinių naudotojų ir OP portalo pokalbiams žodžiu arba raštu. Šiuo metu išmaniojo asistento paslaugos teikiamos anglų, prancūzų ir ispanų kalbomis. Naudotis išmaniojo asistento paslaugomis gali visi. Be to, jis siūlo skaitymo negalią turinčių asmenų poreikius atitinkantį sprendimą ir taip didina prieinamumą. Jis suteikia galimybę atlikti šnekamąją paiešką. Tai naujas paieškos būdas, kai naudotojas dirbtiniu intelektu grindžiamam balso asistentui gali sakyti ištisus sakinius, kaip tai darytų per įprastą pokalbį, o balso asistentas pateikia atsakymus. Taip naudotojo ir išmaniojo asistento bendravimas įgyja pokalbio formą.

Kokius duomenis naudoja „Publio“?

„Publio“ naudoja Leidinių biuro portale viešai skelbiamą informaciją. Ta informacija skelbiama vadovaujantis skaidrumo principu, taikomu visų sričių ES politikai ir teisės aktams. „Publio“ naudoja šią medžiagą ir Leidinių biuro portalo klasifikatorius ir kategorijas, pavyzdžiui, „Eurovoc“ temas, autorius arba formatą, kad kreiptų pokalbį ir padėtų naudotojui atlikti paiešką trijuose pagrindiniuose Leidinių biuro portalo rinkiniuose: ES leidinių, ES teisės ir Oficialiojo ES katalogo („EU Whoiswho“).

„Publio“ naudoja esamą kalbos modelį, kad suprastų naudotojų užduodamus klausimus ir padėtų naudotojams per visą paiešką. „Publio“ kalbos modelis remiantis naudotojų atsiliepimais nuolat tobulinamas ir mokomas, kad būtų patenkinti naudotojų lūkesčiai ir atsižvelgta į naudotojų indėlio trimis palaikomomis kalbomis įvairovę.

Šis mokymas apima daug „Publio“ pagrindinės sistemos komponentų:

• iš anksto nustatytus pasakymų, susijusių su įvairiomis galimomis intencijomis, rinkinius, kad „Publio“ galėtų pirmiausia suprasti galutinį naudotojo tikslą, o tada padėti naudotojui palaipsniui to tikslo siekti;
• iš anksto nustatytus fiksuotus klausimus, kuriuos „Publio“ „supranta“ ir gali pateikti naudotojams iš anksto nustatytus atsakymus. (Pavyzdys: Kaip galiu užsisakyti leidinių?);
• mašinų išmoktas esybes, kurias „Publio“ gali nustatyti ir kurios gali būti naudojamos „Publio“ antraeiliuose procesuose siekiant nustatyti paieškos parametrus, pateikti tikslesnius paieškos rezultatus arba parinktis, kad paiešką būtų galima toliau tikslinti. Šios esybės grindžiamos esama duomenų klasifikacija ir kategorijomis, pavyzdžiui, tezauru „Eurovoc“ arba kitomis „EuroVoc“ tvarkomomis autoritetinių duomenų lentelėmis. Tai autoriai, formatai, kalbos, ES įstaigos (organizacijos), funkciniai vaidmenys ES viešojoje tarnyboje ir t. t. Tuo remdamasis „Publio“, pavyzdžiui, gali iš naudotojo užklausos suprasti, kad naudotojas ieško leidinio konkrečia tema arba konkretaus autoriaus leidinio.

Kaip „Publio“ veikia?

„Publio“ remiasi paslauga „Microsoft Language understanding“ (LUIS) (priedėlis, 7), kad apdorotų naudotojo įvestį (pasakymą raštu arba žodžiu), suprastų naudotojo intenciją ir nustatytų pagrindinius naudotoją dominančius elementus (esybes). Remdamasis atpažinta intencija, „Publio“ pradeda pritaikytą pokalbį, kad padėtų naudotojams keliais paprastais žingsniais pasiekti norimą rezultatą.

Šiuo metu „Publio“ naudoja 4 pagrindines pokalbių eigas:

• dokumentų paieškos, kad padėtų naudotojams ieškoti ES leidinių arba ES teisinių dokumentų;
• asmenų paieškos, kad padėtų naudotojams ieškoti ES institucijose dirbančių tarnautojų;
• organizacijų paieškos, kad padėtų naudotojams ieškoti ES įstaigų (organizacijų);
• klausimų ir atsakymų, kad pateiktų iš anksto nustatytus atsakymus į dažnai užduodamus klausimus.

Jei atpažįstama paieškos eiga, virtualusis asistentas padės naudotojui ieškoti dokumento, asmens ar organizacijos užduodamas paprastus klausimus ir, atsižvelgdamas į naudotojo atsakymą, pasiūlys filtravimo galimybes.

Klausimų ir atsakymų eigos atveju naudojamas Leidinių biuro darbuotojų tvarkomas dažnai užduodamų klausimų ir iš anksto nustatytų atsakymų į juos sąrašas. Jei atpažįstama klausimų ir atsakymų intencija ir konkretus naudotojo klausimas labai panašus į vieną iš sistemoje saugomų klausimų, naudotojui bus tiesiogiai pateiktas tinkamas atsakymas. Pavyzdžiui,

- jei užklausoje „Kur yra mano užsakyti leidiniai?“ atpažįstama klausimų ir atsakymų intencija, asistentas atsakys: „Galite patikrinti savo užsakymo būseną savo profilio dalyje „Mano užsakymai“;

- jei užklausoje „Kur galiu rasti dokumentų vaikams?“ atpažįstama klausimų ir atsakymų intencija, asistentas atsakys: „Leidinių vaikams yra „Vaikų kampelyje“.

Klausimus naudotojai gali užduoti raštu arba žodžiu. Pokalbių robotas užregistruoja garsinius įvesties duomenis (naudotojo sakomus klausimus) ir siunčia juos į sakytinės kalbos atpažinimo sistemą, kuri sakytinę kalbą paverčia tekstu. Garsinė įvestis apdorojama naudojantis „Microsoft Azure“ sakytinės kalbos pavertimo rašytine paslauga (priedėlis, 8). Tuomet „Publio“, prieš pateikdamas atsakymą ir raštu, ir žodžiu sintezuotu balsu, pateikia garsinius įvesties duomenis sakytinės kalbos atpažinimo sistemos interpretuojamais žodžiais. Šie mainai įvyksta akimirksniu (iš karto) ir yra trumpalaikiai (nelieka jokių pėdsakų).

Kaip „Publio“ analizuoja klausimą ir siūlo rezultatus?

„Publio“ nenaudoja generatyvinės technologijos, todėl negali kurti naudotojo turinio arba juo manipuliuoti.

„Publio“ naudoja mašinų mokymosi kalbos modelį, kuris parengiamas, kad išmoktų atpažinti naudotojo įvesties duomenis ir į juos reaguoti. Šis modelis naudojamas naudotojo pranešimui arba užklausai tvarkyti, pranešimo tikslui nustatyti ir tinkamam atsakymui pateikti. „Publio“ mokymo procese mašinų mokymosi modeliui pateikiama daug paženklintų mokomųjų duomenų, įskaitant naudotojų įvesties ir atitinkamų intencijų pavyzdžius bei tikėtinus atsakymus.

„Publio“ naudoja natūraliosios kalbos apdorojimą ir parengtą kalbos modelį, kad suprastų naudotojo intenciją ir iš naudotojo klausimo išrinktų atpažintas esybes (pvz., paieškos terminą, temą, autorių, dokumento datą, dokumento formatą). Naudodamasis šiomis esybėmis „Publio“ atlieka paiešką ir pateikia jos rezultatą.

Jei paieškos rezultatų per daug, „Publio“ tęsia pokalbį užduodamas naudotojui papildomų klausimų, kad galėtų filtruoti rezultatus naudodamasis kitomis esybėmis ir taip paiešką susiaurintų.

„Publio“ formuluojami klausimai skirti tik tam, kad būtų galima nustatyti naudotojo intenciją ir tikslą, tinkamai suformuluoti Leidinių biuro portalo skelbiamame turinyje atliekamos paieškos užklausą. „Publio“ siūlomi rezultatai grindžiami vien tik šiuo turiniu.

Naudotojų atsiliepimai

Per pokalbį galutinis naudotojas gali bet kuriuo metu pateikti teigiamą, neutralų arba neigiamą atsiliepimą apie tai, kaip jam sekėsi naudotis „Publio“. Tai gali būti atsiliepimas, kurį naudotojas bet kada gali pateikti savo iniciatyva arba po kelių neaktyvumo sekundžių automatiškai iškilus iškylančiajam langui, kuriame naudotojo prašoma pateikti atsiliepimą. Be to, klausimai, kuriuos „Publio“ neteisingai suprato, automatiškai registruojami ir juos periodiškai tvarko Leidinių biuro darbuotojų grupė. Tiek naudotojų atsiliepimai, tiek „Publio“ netinkamai suprastų klausimų analizė naudojami kalbos modeliui permokyti, siekiant nuolat tobulinti galutiniams naudotojams teikiamas paslaugas.

Asmens duomenų tvarkymas

Leidinių biuro portale esantys duomenys tvarkomi laikantis ES bendrojo duomenų apsaugos reglamento (BDAR) ir Reglamento dėl ES institucijų, agentūrų ir įstaigų atliekamo asmens duomenų tvarkymo (priedėlis, 9).

„Publio“ nelaiko, nesaugo ir nededa į archyvą jokių elementų – nei naudotojų įvesčių, nei „Publio“ atsakymuose pateiktų duomenų.

Surinkti atsiliepimai nuasmeninami taip, kad jų nebūtų galima susieti su jais pateikusiais naudotojais.

Jokie asmens duomenys nėra jokiu įmanomu būdu naudojami automatizuotam sprendimų priėmimui, atsekamumui ar profiliavimui.

Dabartiniai apribojimai

• Balsu sakomo vardo ir pavardės transkripcija. Nors dauguma vardų ir pavardžių suprantami ir užrašomi teisingai, vardų ir pavardžių išskyrimas grindžiamas mašinų mokymusi ir nėra visiškai tikslus. Dėl LUIS apribojimų kai kurie vardai ir pavardės nėra tinkamai išskiriami net ir po to, kai modelis mokomas naudojant konkrečius pavyzdžius iš duomenų rinkinio.
• Datos prancūzų ir ispanų kalbomis. Sudėtingesniuose tekstuose prancūzų ir ispanų kalbomis datos suprantamos blogiau. Pavyzdžiui, tekste ispanų kalba metai bus atpažinti be papildomo konteksto, jei bus vartojama „entre 2016 y 2017“, tačiau jie nebus atpažinti, jei bus pavartota „entre el año 2019 y 2020“. Junginys anglų kalba „2 years ago“ atpažįstamas, tačiau prancūzų kalba „il y a 2 ans“ – ne.
• Sakytinės kalbos atpažinimas vyksta tik viena kalba vienu metu.
• Sakytinės kalbos atpažinimas neveikia tarimo paraidžiui režimu, t. y. nėra funkcijos, kuri leistų naudotojams tarti žodžius paraidžiui, kad jie būtų tiksliai užrašyti.
• Pavardės esybės atpažinimas prastai veikia ilguose sakiniuose, kai ji vartojama kartu su „Mrs“ arba „Miss“.

Europos Sąjungos leidinių biuras, 2023 m. gegužės 16 d.