Virtuaalassistent : Selgitav teatis

Usaldusväärne, seletuslik intellektitehnika

Usaldusväärne ja seletuslik intellektitehnika on ELi peamised eesmärgid. EL töötab välja tehisintellekti reguleerivat raamistikku. Euroopa Komisjoni 21. aprilli 2021. aasta ettepanekuga võtta vastu määrus, millega nähakse ette tehisintellekti käsitlevad ühtlustatud õigusnormid (edaspidi „tehisintellekti käsitlev õigusakt“) (3. lisa), kehtestatakse tehisintellektipõhiste lahenduste ja vahendite pakkujate kaks peamist kohustuste liiki – läbipaistvus ja teabe esitamine.

Tehisintellektisüsteemide kasutajatel on õigus saada teavet. See õigus käib käsikäes vastavate kohustustega, nagu kohustus kasutada süsteemi kooskõlas juhistega ja jälgida asjaomase tehisintellekti vahendi toimivust. Nende eeskirjade järgimine toob kaasa kõigi asjaosaliste vastutuse.

Kavandatava tehisintellekti käsitleva õigusakti artiklis 52 (Teatavate tehisintellektisüsteemide läbipaistvuskohustused) on sätestatud, et „1. Pakkujad tagavad, et füüsiliste isikutega suhtlema mõeldud tehisintellektisüsteeme projekteeritakse ja arendatakse selliselt, et füüsilistele isikutele antakse teada, et nad suhtlevad tehisintellektisüsteemiga, välja arvatud juhul, kui see on asjaolude ja kasutamise konteksti tõttu ilmne. […] “

Kavandatavas tehisintellekti käsitlevas õigusaktis järgitakse riskipõhist lähenemisviisi, eristades tehisintellekti kasutusviise, mis tekitavad i) vastuvõetamatu riski, ii) suure riski ja iii) väikese või minimaalse riski.

Väljaannete talituse portaali arukas assistent Publio suhtleb füüsiliste isikutega ja teeb otsinguid, kasutades väljaannete talituse portaalis avalikult kättesaadavale teabele tuginevaid märksõnu. See teave avaldatakse kõigi ELi poliitikavaldkondade ja õigusaktide aluseks oleva läbipaistvuse põhimõtte alusel. Arukas assistent ei loo uut sisu, ei manipuleeri ega mõjuta kasutajate valikuid, ega lähe kaugemale võimalike filtreerimisvõimaluste pakkumisest kasutaja otsingu jaoks. Seepärast tuleb Publiot käsitleda tehisintellekti käsitleva õigusakti eelnõus määratletud väikese riskiga kategooriasse iii) kuuluvana.

Tehisintellekti käsitleva õigusakti eelnõu IV jaotises (Läbipaistvus) on sätestatud, et tehisintellektisüsteemide kavandamisel ja toimimisel tuleb arvesse võtta spetsiifilisi riske, mida need võivad põhjustada: 1) alalävisele tajule suunatud (st kasutajate teadvusest kaugemale ulatuvate võtete) kasutamine või 2) haavatavate rühmade ekspluateerimine, mis võib põhjustada psühholoogilist või füüsilist kahju. Rangemaid läbipaistvuskohustusi kohaldatakse süsteemidele, i) mis suhtlevad inimestega, ii) mida kasutatakse biomeetriliste andmete põhjal tunnete tuvastamiseks või (sotsiaalsete) kategooriatega seoste kindlaks tegemiseks või iii) mis loovad või muudavad sisu (süvavõltsingud). Kuigi Publio suhtleb füüsiliste isikutega, ei ole arukas assistent suunatud emotsioonidega manipuleerimisele, samuti ei sisalda vahend elemente, mis võiksid tahtmatult sellise tulemuseni viia. Seega ei vasta Publio eespool nimetatud kriteeriumidele.

Tehisintellekt ja vastutus

Euroopa Komisjoni ettepanekut tehisintellekti käsitleva õigusakti kohta täiendati 28. septembril 2022 ettepanekuga, mis käsitleb tehisintellekti tsiviilvastutuse korda – tehisintellektiga seotud vastutuse direktiiv (4. lisa) (edaspidi „tehisintellektiga seotud vastutuse direktiiv“) pärast Euroopa Parlamendi resolutsiooni, mis võeti vastu ELi toimimise lepingu artikli 225 alusel (5. lisa).

Nagu on sätestatud kavandatavas tehisintellektiga seotud vastutuse direktiivis, ei sobi olemasolevad süül põhinevad vastutuseeskirjad tehisintellektil põhinevate toodete ja teenuste põhjustatud kahjuga seotud vastutusnõuete menetlemiseks. Kehtivate vastutuseeskirjade kohaselt peavad ohvrid tõendama õigusvastase tegevuse või tegevusetuse toimumist, tegema kindlaks kahju põhjustanud isiku ja tegema kindlaks põhjusliku seose. Tehisintellekti eripära, sealhulgas selle keerukus, autonoomsus ja läbipaistmatus (nn musta kasti efekt), raskendab tehisintellekti kasutamisest tuleneva kahju eest vastutava isiku kindlakstegemist. Seetõttu võib sellist laadi kahju kannatanud isik loobuda hüvitise taotlemisest. Arvestades tõendamiskoormise probleemi olemust, pakub kavandatav tehisintellektiga seotud vastutuse direktiiv uuenduslikke lahendusi, lihtsustades eespool kirjeldatud nõudeid, kasutades avalikustamist ja ümberlükatavaid eeldusi mittevastavuse kohta.

Kavandatav tehisintellektiga seotud vastutuse direktiiv pakub tõhusaid vahendeid, et teha kindlaks potentsiaalselt vastutavad isikud ja asjakohased tõendid. Selles on näiteks sätestatud, et liikmesriigi kohus võib nõuda asjakohaste tõendite avaldamist (ja nende säilitamist) konkreetsete suure riskiga tehisintellektisüsteemide kohta, mille puhul kahtlustatakse kahju tekitamist (6. lisa). Kui kavandatava direktiivi artiklis 4 sätestatud nõuetest ei tulene teisiti, eeldavad liikmesriigi kohtud […] põhjuslikku seost kostja süü ja tehisintellektisüsteemi genereeritud väljundi (või tehisintellektisüsteemi suutmatuse) vahel väljundit genereerida.

Nagu on järeldatud kavandatava tehisintellektiga seotud vastutuse direktiivi seletuskirjas: „Selliste tõhusate tsiviilvastutuse normide lisaeelis seisneb selles, et nad annavad kõigile tehisintellektisüsteemidega seotud tegevuses osalejatele täiendava stiimuli täita oma kohustusi oma eeldatava käitumise osas“.

Publio kohta

Mõisted ja määratlused

Mis on Publio?

Väljaannete talituse portaali arukas assistent Publio on tehisintellektipõhine vahend, mis suhtleb füüsiliste isikutega ja teeb otsinguid, kasutades väljaannete talituse portaalis avalikult kättesaadavale teabele tuginevaid märksõnu. Publio ühendab tehisintellekti vestlustehnoloogiad, nagu loomuliku keele töötlemine ja masinõpe, interaktiivse hääletuvastuse ja traditsiooniliste otsingusüsteemidega, et aidata kasutajatel leida ELi väljaandeid, ELi õigusakte ja kontaktisikuid Euroopa institutsioonides.

Arukas assistent võimaldab pidada kõnelisi või trükitud vestlusi lõppkasutajate ja väljaannete talituse portaali vahel. Arukas assistent on praegu kättesaadav inglise, prantsuse ja hispaania keeles. Kuigi aruka assistendi abi saavad kasutada kõik, pakub see ka lugemispuudega inimeste vajadustele kohandatud lahendusi, suurendades seeläbi juurdepääsetavust. Lisaks võimaldab see vestluslikku otsingut, mis on uus otsinguviis, mis võimaldab kasutajatel rääkida täislausetega (nagu tavalises vestluses) tehisintellektil töötava häälassistendiga, mis omakorda vastab. Seega toimub kasutaja ja aruka assistendi vaheline teabevahetus vestluse vormis.

Millist liiki andmeid Publio kasutab?

Publio kasutab väljaannete portaalis avalikult kättesaadavat teavet. See teave avaldatakse kõigi ELi poliitikavaldkondade ja õigusaktide suhtes kohaldatava läbipaistvuse põhimõtte alusel. Nii kasutab Publio väljaannete portaalis kättesaadavaid klassifikatsioone ja kategooriaid, nagu EuroVoci teemad, autorid või vorming, et suunata ja täpsustada vestlust, et aidata kasutajal teha otsinguid väljaannete portaali kolmes peamises kogus: ELi väljaanded, ELi õigus ja ELi ametlik kataloog (EU Whoiswho).

Publio kasutab olemasolevat keelemudelit, et mõista kasutajate tõstatatud küsimusi ja juhendada kasutajaid kogu otsinguteekonna vältel. Kasutajatelt saadud tagasiside põhjal täiustatakse ja koolitatakse Publio keelemudelit pidevalt, et vastata kasutajate ootustele ja tulla toime kasutajate erinevate sisenditega kolmes toetatavas keeles.

See koolitus hõlmab mitut Publio alussüsteemi komponenti.

• Eelnevalt kindlaks määratud lausungid, mis on seotud erinevate võimalike kavatsuste vormidega, et võimaldada Publiol kõigepealt mõista kasutaja lõppeesmärki ja teiseks suunata kasutajat samm-sammult selle eesmärgi saavutamise suunas.
• Eelnevalt kindlaksmääratud konkreetsed küsimused, millest Publio „aru saab“ ja mille puhul saab anda kasutajatele eelnevalt kindlaksmääratud vastuse. Näide. Kuidas saan väljaandeid tellida?
• Masinõpetatud üksused, mida Publio saab tuvastada ja mida kasutatakse Publio taustaprotsessides otsinguparameetrite tuvastamiseks, täpsemate otsingutulemuste pakkumiseks või otsingu edasiseks täpsustamiseks. Need üksused põhinevad olemasoleval klassifikatsioonil ja andmekategooriatel, nagu EuroVoci tesaurused või muud EuroVoci hallatavad normandmetabelid: autorid, vormingud, keeled, ELi asutused (organisatsioonid), funktsionaalsed rollid ELi avalikus teenistuses jne. Selle põhjal võib Publio näiteks kasutaja päringust järeldada, et kasutaja otsib väljaannet konkreetse teema kohta või konkreetselt autorilt.

Kuidas Publio toimib?

Publio tugineb Microsofti keelest arusaamise mudelile (7. lisa), et töödelda kasutajasisendit (kirjalik või suuline väljendus), mõista kasutaja kavatsust ja teha kindlaks põhielemendid (üksused), millest kasutaja on huvitatud. Tuginedes kindlaks tehtud kavatsusele, algatab Publio kohandatud vestlusvoo, mille eesmärk on aidata kasutajatel jõuda soovitud tulemuseni mõne lihtsa sammuga.

Praegu rakendab Publio nelja peamist vestlusvoogu

• Dokumentide otsinguvoog, mis aitab kasutajatel otsida ELi väljaandeid või ELi õigusdokumente
• Isikute otsinguvoog, mis aitab kasutajatel otsida ELi institutsioonides töötavaid teenistujaid
• Organisatsioonide otsinguvoog, mis aitab kasutajatel otsida ELi asutusi (organisatsioone)
• Küsimuste ja vastuste voog, et vastata korduma kippuvatele küsimustele eelnevalt kindlaksmääratud vastusega

Otsinguvoo äratundmisel juhendab virtuaalassistent kasutajat asjaomase dokumendi, isiku või organisatsiooni otsimisel, esitades kasutajale lihtsaid küsimusi ja pakkudes kasutaja vastuse põhjal välja filtreerimisvõimalused.

Küsimuste ja vastuste voo jaoks peavad väljaannete talituse töötajad loetelu korduma kippuvatest küsimustest ja neile eelnevalt kindlaksmääratud vastustest. Kui küsimuste ja vastuste kavatsus on teada ning kasutaja konkreetne küsimus ja üks süsteemi salvestatud küsimustest on väga sarnased, kuvatakse asjakohane vastus otse kasutajale. Näiteks:

- kui küsimuste ja vastuste kavatsus tuntakse ära sellise päringuna nagu „Kus on minu tellimus?“, vastab assistent „Võite kontrollida oma tellimuse olekut teie profiili rubriigis „Minu tellimus“.

- kui küsimuste ja vastuste kavatsus tuntakse ära sellise päringuna nagu „Kust saan leida lastele mõeldud dokumente?“, vastab assistent „Väljaanded lastele on kättesaadavad lastenurgas“.

Kasutajad saavad küsimusi esitada kirjalikult või suuliselt. Juturobot registreerib audiosisendi (teie suulised küsimused) ja saadab selle kõnetuvastusseadmesse, mis muundab kõne tekstiks. Microsoft Azure Speech töötleb audiosisendi tekstiteenuseks (8. lisa). Seejärel kuvab Publio audiosisendi kõnetuvastusseadme poolt tõlgitud sõnadega, enne kui kuvab vastuse nii kirjalikult kui ka tehishäälega esitatud sõnadega. See vahetus on kohene (toimub koheselt) ja ajutine (ei jäta jälge).

Kuidas Publio küsimust analüüsib ja vastuseid pakub?

Publio ei kasuta generatiivset tehnoloogiat, seega ei ole tal võimalik kasutaja sisu luua ega manipuleerida.

Publio kasutab masinõppe keelemudelit, mida koolitatakse (väljaõpetatud keelemudel), et õppida ära tundma kasutaja sisendeid ja neile reageerima. See mudel vastutab kasutaja sõnumi või päringu töötlemise, sõnumi kavatsuse kindlakstegemise ja asjakohase vastuse andmise eest. Publio koolitusprotsess hõlmab masinõppe mudeli varustamist suure hulga märgistatud koolitusandmetega, mis sisaldavad näiteid kasutajate sisenditest ning nende vastavatest kavatsustest ja usutavatest vastustest.

Publio kasutab loomuliku keele töötlemist ja koolitatud keelemudelit, et mõista kasutaja kavatsust ja tunda ära üksusi kasutaja küsimuses (nt otsingusõna, teema, autor, dokumendi kuupäev, dokumendi vorming). Publio kasutab neid üksusi otsingu tegemiseks ja otsingutulemuste kuvamiseks.

Kui otsingutulemus on liiga lai, jätkab Publio vestlust, esitades kasutajale täiendavaid küsimusi, kitsendades otsingutulemust teiste üksuste filtreerimisega.

Publio sõnastatud küsimused piirduvad kasutaja kavatsuse kindlakstegemise, selle eesmärgi väljaselgitamise ja õige otsingupäringu sõnastamisega väljaannete talituse portaalis avaldatud sisu põhjal. Publio pakutud tulemused pärinevad täielikult sellest sisust.

Kasutaja tagasiside

Vestluste ajal saab lõppkasutaja anda Publio kasutamise kohta positiivset, neutraalset või negatiivset tagasisidet. See võib olla tagasiside, mille kasutaja saab esitada igal ajahetkel või vastusena automaatsele hüpikaknale, mis kuvatakse mõni sekund pärast mitteaktiivsust, küsides kasutajalt tagasisidet. Lisaks salvestab Publio automaatselt küsimused, millest Publio „aru ei saa“, ning neid töötleb korrapäraselt väljaannete talituse töötajatest koosnev meeskond. Keelemudeli ümberkoolitamiseks kasutatakse nii kasutajate tagasisidet kui ka selliste küsimuste analüüsi, mida Publio ei ole õigesti mõistnud, et lõppkasutajatele osutatavaid teenuseid pidevalt täiustada.

Isikuandmete töötlemine

Väljaannete talituse portaalis kättesaadavaid andmeid töödeldakse kooskõlas ELi isikuandmete kaitse üldmäärusega ning määrusega, mis käsitleb isikuandmete töötlemist ELi institutsioonides, asutustes ja ametites (9. lisa).

Publio ei salvesta, säilita ega arhiveeri ühtegi kasutaja sisendis ega Publio vastustes esitatud elementi.

Kogutud tagasiside muudetakse anonüümseks nii, et see ei võimalda seostada tagasisidet selle kasutajaga, kellelt see koguti.

Isikuandmeid ei kasutata ühelgi võimalikul viisil automatiseeritud otsuste tegemiseks, jälgimiseks ega profiilianalüüsiks.

Piirangud praegusel ajahetkel

• Nime transkriptsioon hääle abil: kuigi suurem osa nimedest on „arusaadavad“ ja õigesti transkribeeritud, põhineb nimetuvastus masinõppel ega ole 100% täpne. Keelest arusaamise mudeli piirangute tõttu ei ole mõned nimed nõuetekohaselt tuvastatud isegi pärast mudeli koolitamist andmestiku konkreetsete näidete abil.
• Kuupäevad prantsuse ja hispaania keeles: keerulisemates kontekstides on kuupäevast „aru saamine“ hispaania ja prantsuse keeles vähem täpne. Näiteks saab süsteem ilma täiendava kontekstita aru lauseosast „entre 2016 y 2017“, samas kui lauseosa „entre el año 2019 y 2020“ puhul vajab see täiendavat konteksti. Ingliskeelsest lauseosast „2 years ago“ saab süsteem aru, prantsuskeelsest „il y a 2 ans“ aga mitte.
• Kõnetuvastus toimib korraga ainult ühes keeles.
• Kõnetuvastusel ei ole õigekirjarežiimi, mis tähendab, et sellel puudub funktsioon, mis võimaldaks kasutajatel sõnu tähthaaval hääldada, et tagada täpne transkriptsioon.
• Üksuse äratundmine nimes ei toimi hästi pikemate fraaside puhul, kui seda kombineerida pöördumisega „Hr“/„Pr“.

Euroopa Liidu Väljaannete Talitus, 16. mai 2023