Virtuālais asistents : Paziņojums par izskaidrojamību

Uzticams, izskaidrojams MI

Uzticama un izskaidrojama MI nodrošināšana ir viens no ES pamatmērķiem. Patlaban norit darbs pie ES tiesiskā regulējuma MI jomā. Eiropas Komisijas 2021. gada 21. aprīļa priekšlikumā Regulai, kas nosaka saskaņotas normas mākslīgā intelekta jomā (turpmāk “MI akts”) (3), ir noteikti divi galvenie saistību veidi, kas jāuzņemas uz MI balstītu risinājumu un rīku sagādātājiem, – pārredzamība un informācijas sniegšana.

MI sistēmu lietotājiem ir tiesības saņemt informāciju. Šīs tiesības ir saistītas ar attiecīgiem pienākumiem, tai skaitā ar pienākumu izmantot sistēmu saskaņā ar norādījumiem un pārraudzīt attiecīgā MI rīka sniegumu. Šo noteikumu ievērošana nodrošina visu iesaistīto dalībnieku pārskatatbildību.

MI akta priekšlikuma 52. pants (Pienākums nodrošināt pārredzamību noteiktām MI sistēmām) paredz, ka “1. Sagādātāji nodrošina, ka MI sistēmas, kas paredzētas saskarsmei ar fiziskām personām, projektē un izstrādā tā, lai fiziskās personas tiktu informētas par to, ka tās ir saskarsmē ar MI sistēmu, ja vien tas nav pats par sevi saprotams attiecīgajos apstākļos un izmantošanas kontekstā. […]”

MI akta priekšlikumā tiek piemērota uz risku balstīta pieeja, nošķirot MI lietojumus, kuru riska līmenis ir (i) nepieņemams, (ii) augsts vai (iii) zems vai minimāls.

OP portāla intelektiskais asistents Publio ir mākslīgā intelekta (MI) rīks, kas komunicē ar fiziskām personām un pēc atslēgvārdiem meklē publiski pieejamu informāciju OP portālā. Šī informācija tiek publicēta, vadoties pēc pārredzamības principa, kas ir visu ES politikas virzienu un tiesību aktu pamatā. Intelektiskais asistents neģenerē jaunu saturu, kā arī nemanipulē un neietekmē lietotāju izvēles. Tas vienīgi var piedāvāt meklēšanā izmantot rezultātu filtrēšanas iespējas. Līdz ar to var uzskatīt, ka Publio ietilpst MI akta projektā definētajā “zema riska” jeb (iii) kategorijā.

MI akta projekta IV sadaļā (Pārredzamība) ir noteikts, ka MI sistēmu izstrādē un darbībā ir jāņem vērā īpašie riski, ko tās varētu radīt, tai skaitā 1) manipulācija, izmantojot subliminālus (jeb lietotājam nemanāmus) paņēmienus, vai 2) neaizsargātu grupu ietekmēšana, kas var radīt fizisku vai psiholoģisku kaitējumu. Stingrāki pārredzamības pienākumi attieksies uz sistēmām, kuras (i) ir saskarsmē ar cilvēkiem, (ii) izmanto emociju konstatēšanai vai saiknes noteikšanai ar (sociālajām) kategorijām, pamatojoties uz biometriskajiem datiem, vai (iii) ģenerē vai manipulē saturu (“dziļviltošana”). Lai gan Publio komunicē ar fiziskām personām, šis asistents nav paredzēts emociju konstatēšanai ar mērķi manipulēt, kā arī nesatur elementus, kas varētu netīši novest pie šāda iznākuma. Līdz ar to Publio neatbilst iepriekš minētajiem kritērijiem.

MI un atbildība

Ņemot vērā Eiropas Parlamenta rezolūciju, kas tika pieņemta saskaņā ar LESD 225. pantu (5), Eiropas Komisijas MI akta priekšlikums 2022. gada 28. septembrī tika papildināts ar priekšlikumu par MI civiltiesiskās atbildības režīmu – Direktīvu par atbildību mākslīgā intelekta jomā (4) (turpmāk “MI atbildības direktīva”).

Ierosinātajā MI atbildības direktīvā ir noteikts, ka esošie noteikumi attiecībā uz atbildību par vainu nav piemēroti, lai izskatītu prasības par saukšanu pie atbildības par kaitējumu, ko radījuši MI iespējoti ražojumi un pakalpojumi. Saskaņā ar spēkā esošajiem noteikumiem par atbildību cietušajiem ir jāpierāda, ka ir notikusi nelikumīga darbība vai bezdarbība, jāidentificē kaitējumu nodarījusī persona un jānosaka cēloņsakarība. Ņemot vērā MI īpašās iezīmes, tai skaitā tā sarežģītību, autonomiju un nepārredzamību (tā saukto “melnās kastes efektu”), cietušajiem var būt sarežģīti identificēt personu, kas ir atbildīga par MI izmantošanas rezultātā nodarīto kaitējumu. Tas varētu atturēt cietušos vispār pieprasīt kompensāciju. Ņemot vērā pierādīšanas pienākuma jautājuma būtību, ierosinātā MI atbildības direktīvā ir izklāstīti inovatīvi risinājumi, kā, izmantojot informācijas izpaušanu un atspēkojamas prezumpcijas, atvieglot iepriekš aprakstītās prasības.

Ierosinātā MI atbildības direktīva piedāvā iedarbīgus līdzekļus potenciāli atbildīgo personu un attiecīgo pierādījumu identificēšanai. Tajā, piemēram, ir noteikts, ka valsts tiesa var izdot rīkojumu par tādu attiecīgu pierādījumu izprasīšanu (un saglabāšanu), kas attiecas uz konkrētām augsta riska MI sistēmām, par kurām ir aizdomas, ka tās ir radījušas kaitējumu (6). Turklāt, ievērojot ierosinātās direktīvas 4. pantā noteiktās prasības, valsts tiesas prezumē cēloņsakarību starp atbildētāja vainu un MI sistēmas ģenerēto izvadi (vai MI sistēmas nespēju ģenerēt izvadi).

Ierosinātās AI atbildības direktīvas paskaidrojuma rakstā secināts, ka “šādi efektīvi civiltiesiskās atbildības noteikumi rada papildu priekšrocību, jo tie visiem ar MI sistēmām saistītās darbībās iesaistītajiem sniedz papildu stimulu pildīt pienākumus attiecībā uz rīcību, kas no viņiem tiek gaidīta”.

Par Publio

Termini un definīcijas

Kas ir Publio?

OP portāla intelektiskais asistents Publio ir MI rīks, kas komunicē ar fiziskām personām un pēc atslēgvārdiem meklē publiski pieejamu informāciju OP portālā. Publio palīdz lietotājiem meklēt ES publikācijas, ES tiesību aktus un kontaktpersonas ES iestādēs, apvienojot sarunu MI paņēmienus (dabiskās valodas apstrādi un mašīnmācīšanos) ar interaktīvām balss atpazīšanas un tradicionālām meklēšanas sistēmām.

Konkrētāk, šis intelektiskais asistents nodrošina mutvārdu un rakstiskas sarunas starp lietotājiem un OP portālu. Pagaidām tas ir pieejams angļu, franču un spāņu valodā. Publio var izmantot ikviens, taču šis asistents arī nodrošina risinājumu, kas īpaši pielāgots personām ar lasīšanas traucējumiem. Tas uzlabo portāla piekļūstamību. Lietotājiem ir pieejams jauns meklēšanas veids, proti, meklēšana sarunas režīmā, kas lietotājiem sniedz iespēju runāt ar MI balstītu balss asistentu pilnos teikumos un saņemt atbildes uz jautājumiem, – līdz ar to mijiedarbība starp lietotāju un intelektisko asistentu norit sarunas veidā.

Kādus datus Publio izmanto?

Publio izmanto OP portālā publiski pieejamo informāciju. Šī informācija tiek publicēta, vadoties pēc pārredzamības principa, kas attiecas uz visiem ES politikas virzieniem un tiesību aktiem. Balstoties uz šo informācijas kopumu, Publio izmanto OP portālā pieejamo klasifikāciju un kategorijas (piemēram, EuroVoc tematus, autoru vārdus, formātu), lai vadītu un precizētu sarunu un palīdzētu lietotājam veikt meklēšanu visās trijās OP portāla galvenajās kolekcijās: ES publikācijas, ES tiesību akti un ES iestāžu kontaktinformācijas katalogs (EU Whoiswho).

Publio izmanto esošu valodas modeli, lai saprastu lietotāju uzdotos jautājumus un sniegtu norādījumus lietotājiem visā meklēšanas ceļā. Pamatojoties uz lietotāju atsauksmēm, Publio valodas modelis tiek pastāvīgi uzlabots un “apmācīts”, lai tas atbilstu lietotāju prasībām un varētu izpildīt dažādus lietotāju vaicājumus visās trijās atbalstītajās valodās.

Šī apmācība aptver vairākus Publio sistēmas komponentus.

• Iepriekšdefinēti izteikumi, kas saistīti ar dažādiem iespējamiem nolūku veidiem, lai Publio varētu, pirmkārt, uztvert lietotāja galīgo mērķi un, otrkārt, virzīt lietotāju soli pa solim uz šā mērķa sasniegšanu.
• Iepriekšdefinēti jautājumi, kurus Publio “saprot” un uz kuriem tas var sniegt iepriekšsagatavotas atbildes lietotājiem. Piemērs: Kā es varu pasūtīt publikācijas?
• Mašīnmācīšanās ceļā apgūtās entītijas, kuras Publio var identificēt un izmantot fona procesos, lai noteiktu meklēšanas parametrus, sniedz precīzākus meklēšanas rezultātus vai izvēles iespējas vaicājuma precizēšanai. Šo entītiju pamatā ir esošā datu klasifikācija un datu kategorijas, kā EuroVoc tēzauri vai citas EuroVoc pārvaldītas iestāžu tabulas: autoru vārdi, formāti, valodas, ES struktūras (organizācijas), funkcijas ES publiskajā dienestā u. c. Izmantojot šos datus, Publio no lietotāja vaicājuma var noprast, ka lietotājs meklē publikāciju par konkrētu tematu vai no konkrēta autora.

Kā Publio darbojas?

Publio izmanto “Microsoft” valodas izprašanas pakalpojumu (LUIS) (7), kas tam palīdz apstrādāt lietotāja ievadi (rakstisku vai mutisku izteikumu), uztvert lietotāja nolūku un identificēt galvenos elementus (entītijas), par kuriem lietotājs interesējas. Pamatojoties uz atpazīto nolūku, Publio ierosina īpaši pielāgotu sarunas plūsmu, kuras mērķis ir palīdzēt lietotājiem sasniegt vēlamo rezultātu, veicot dažas vienkāršas darbības.

Patlaban Publio izmanto četras galvenās sarunu plūsmas:

• Dokumentu meklēšanas plūsma – palīdz lietotājiem meklēt ES publikācijas vai ES juridiskos dokumentus
• Personu meklēšanas plūsma – palīdz lietotājiem meklēt ES iestādēs nodarbinātus ierēdņus
• Organizāciju meklēšanas plūsma – palīdz lietotājiem meklēt ES struktūras (organizācijas)
• Jautājumu un atbilžu (QnA) plūsma – sniedz iepriekš sagatavotas atbildes uz bieži uzdotiem jautājumiem

Ja virtuālais asistents atpazīst attiecīgo meklēšanas plūsmu, tas palīdz lietotājam atrast attiecīgo dokumentu, personu vai organizāciju, uzdodot lietotājam vienkāršus jautājumus un, pamatojoties uz lietotāja atbildi, piedāvā rezultātu filtrēšanas iespējas.

Jautājumu un atbilžu plūsmas vajadzībām Publikāciju biroja darbinieki uztur sarakstu, kurā iekļauti bieži uzdoti jautājumi un iepriekš sagatavotas atbildes. Ja tiek konstatēts QnA nolūks un pastāv liela atbilstība starp lietotāja jautājumu un kādu no sistēmā saglabātajiem jautājumiem, lietotājam uzreiz tiek sniegta atbilstoša atbilde. Piemēram,

- ja tiek konstatēts QnA nolūks ar vaicājumu “Kur ir mans pasūtījums?”, asistents sniegs šādu atbildi: “Pasūtījuma statusu varat pārbaudīt sava profila sadaļā “Mans pasūtījums”.”

- ja tiek konstatēts QnA nolūks ar vaicājumu “Kur varu atrast dokumentus bērniem”, asistents sniegs šādu atbildi: “Publikācijas bērniem ir pieejamas “Bērnu stūrītī”.”

Lietotāji jautājumus var uzdot rakstiski vai mutiski. Sarunbots reģistrē audio ievadi (lietotāja mutiskos jautājumus) un nosūta to uz runas atpazīšanas programmu, kas runu pārveido tekstā. Audio ievade tiek apstrādāta, izmantojot “Microsoft Azure” pakalpojumu “Runas pārveide tekstā” (8). Publio no sākuma parāda audio ievadi, kas ar runas atpazīšanas programmu pārveidota tekstā, un pēc tam parāda rakstisku atbildi, kuru uzreiz pārvērš runā, izmantojot sintezētu balsi. Šī apmaiņa ir momentāna (notiek uzreiz) un īslaicīga (nekur netiek saglabāta).

Kā Publio analizē jautājumu un piedāvā rezultātus?

Publio neizmanto ģeneratīvās tehnoloģijas, tāpēc tas nevar ģenerēt lietotāju ievadīto informāciju vai manipulēt ar to.

Publio izmanto mašīnmācīšanās valodas modeli, kas ir “apmācīts” (apmācīts valodas modelis) mācīties atpazīt lietotāju ievadi un reaģēt uz to. Šis modelis ir atbildīgs par lietotāja ziņojuma vai vaicājuma apstrādi, ziņojuma nolūka identificēšanu un atbilstošas atbildes sniegšanu. Intelektiskā asistenta apmācības vajadzībām tiek izveidots mašīnmācīšanās modelis ar lielu daudzumu marķētu apmācības datu, kas ietver lietotāju ievadītās informācijas piemērus, atbilstošos nolūkus un iespējamās atbildes.

Publio izmanto dabiskās valodas apstrādi un apmācītu valodas modeli, kas palīdz tam saprast lietotāja nolūku un no lietotāja jautājuma izgūt atpazītās entītijas (piemēram, meklējamo terminu, tematu, autoru, dokumenta datumu, dokumenta formātu). Publio šīs entītijas izmanto, lai veiktu meklēšanu un parādītu meklēšanas rezultātus.

Ja meklēšanas rezultāti ir pārāk plaši, Publio turpina sarunu, uzdodot lietotājam papildu jautājumus, lai sašaurinātu meklēšanas rezultātus, filtrējot tos pēc citām entītijām.

Virtuālā asistenta uzdoto jautājumu mērķis ir noskaidrot lietotāja nolūku, lai reģistrētu tā mērķi un formulētu pareizu meklēšanas vaicājumu OP portālā publicētā satura korpusam. Publio piedāvātie rezultāti pilnībā tiek izgūti no šā korpusa.

Lietotāju atsauksmes

Sarunas gaitā galalietotājs var sniegt pozitīvu, neitrālu vai negatīvu atsauksmi par savu pieredzi ar Publio. Atsauksmes jāievada manuāli, un lietotājs to var darīt jebkurā brīdī vai arī reaģējot uz automātiski uznirstošu logu, kas parādās pēc dažām neaktivitātes sekundēm un aicina sniegt atsauksmi. Turklāt jautājumi, kurus Publio nav pareizi sapratis, tiek automātiski reģistrēti, un Publikāciju biroja darbinieki tos periodiski apstrādā. Gan lietotāju atsauksmes, gan nepareizi saprasto jautājumu analīzi izmanto, lai no jauna apmācītu valodas modeli. Tas tiek darīts, lai pastāvīgi uzlabotu galalietotājiem sniegtos pakalpojumus.

Privāto datu apstrāde

OP portālā pieejamie dati tiek apstrādāti saskaņā ar ES Vispārīgo datu aizsardzības regulu (VDAR) un Regulu par personas datu apstrādi Savienības iestādēs, struktūrās un aģentūrās (9).

Publio neuzglabā, nepatur un nearhivē nekādus elementus – ne lietotāja ievadi, ne Publio sniegtās atbildes.

Saņemtās atsauksmes ir anonimizētas tādā veidā, ka tās nav iespējams sasaistīt ar lietotāju, kurš tās iesniedzis.

Persondati nekādā veidā netiek izmantoti automatizētai lēmumu pieņemšanai, izsekošanai vai profilēšanai.

Pašreizējie ierobežojumi

• Personvārdu transkripcija, izmantojot balsi. Lai gan lielākā daļa vārdu tiek “saprasti” un transkribēti pareizi, personvārdu izgūšanas pamatā ir mašīnmācīšanās, un rezultāti ne vienmēr ir precīzi. LUIS ierobežojumu dēļ dažu vārdu izgūšana ir problemātiska pat pēc modeļa apmācīšanas ar konkrētiem piemēriem no datu kopas.
• Datumi franču un spāņu valodā. Datuma atpazīšana sarežģītākos kontekstos spāņu un franču valodā ir salīdzinoši neprecīza. Piemēram, spāņu frāzi “entre 2016 y 2017” virtuālais asistents sapratīs bez papildu konteksta, taču frāzi “entre el año 2019 y 2020” tas neatpazīs. Angļu valodā frāze “2 years ago” tiek atpazīta, bet franču “il y a 2 ans” nē.
• Runas atpazīšana nedarbojas vairākās valodās vienlaikus.
• Runas atpazīšanai nav pareizrakstības režīma, proti, lietotājiem nav iespējas nosaukt vārdu pa burtiem, lai garantētu tā precīzu transkripciju.
• Ja personvārds ir apvienots ar uzrunu (“Mr”/“Miss”), tā atpazīšana garākās frāzēs ne vienmēr darbojas.

Eiropas Savienības Publikāciju birojs, 2023. gada 16. maijs