Virtualni pomoćnik : Objašnjenje o korištenju UI-ja

Pouzdan, objašnjiv UI

Glavni je cilj EU-a da UI bude pouzdan i objašnjiv. EU radi na regulatornom okviru za umjetnu inteligenciju. U prijedlogu uredbe o utvrđivanju usklađenih pravila o umjetnoj inteligenciji koji je Europska komisija donijela 21. travnja 2021. (dalje u tekstu „Akt o umjetnoj inteligenciji”) (dodatak 3.) utvrđuju se dvije glavne vrste obveza dobavljača rješenja i alata koji se temelje na UI-ju – transparentnost i informiranje korisnika.

Korisnici UI sustava imaju pravo na informacije. To je pravo povezano s odgovarajućim obvezama, kao što je obveza da sustave koriste u skladu s uputama i da prate učinkovitost UI alata koji koriste. Poštovanjem tih pravila jamči se odgovornost svih uključenih aktera.

Člankom 52. predloženog akta o umjetnoj inteligenciji (Obveze u pogledu transparentnosti za određene UI sustave) propisuje se da „1. Dobavljači osiguravaju da su UI sustavi koji su namijenjeni interakciji s pojedincima osmišljeni i razvijeni tako da pojedinci budu svjesni da su u interakciji s UI sustavom, osim ako je to očito iz okolnosti i konteksta uporabe. […]”.

Predloženi akt o umjetnoj inteligenciji zasniva se na pristupu utemeljenom na riziku, pri čemu se razlikuju upotrebe UI-ja kojima se stvara i. neprihvatljiv rizik, ii. visok rizik i iii. nizak ili minimalan rizik.

Publio, inteligentni pomoćnik portala OP-a, stupa u interakciju s pojedincima i provodi pretraživanja s pomoću ključnih riječi, oslanjajući se na informacije koje su javno dostupne na portalu OP-a. Te se informacije objavljuju u skladu s načelom transparentnosti koje je temelj svih politika i akata EU-a. Inteligentni pomoćnik ne generira nov sadržaj, ne manipulira odlukama korisnika niti utječe na njih. Samo može predložiti opcije filtriranja za pretraživanje. Stoga se smatra da Publio pripada kategoriji „niskog rizika” (iii.) kako je definirana u nacrtu akta o umjetnoj inteligenciji.

U glavi IV. nacrta akta o umjetnoj inteligenciji (Transparentnost) propisuje se da bi se u projektiranju i radu UI sustava trebali uzeti u obzir posebni rizici koje oni mogu predstavljati: 1. rizik od manipulacije primjenom subliminalnih tehnika koje djeluju na nesvjesnoj razini ili 2. rizik od iskorištavanja ranjivih skupina, što bi im moglo psihički ili fizički naškoditi. Strože obveze u pogledu transparentnosti primjenjuju se za sustave koji: i. komuniciraju s ljudima, ii. služe za otkrivanje emocija ili određivanje povezanosti sa (socijalnim) kategorijama na temelju biometrijskih podataka ili iii. stvaraju sadržaj ili manipuliraju njime (tzv. „deep fakes”). Iako Publio komunicira s ljudima, on nije osmišljen za otkrivanje emocija s ciljem manipuliranja niti sadržava elemente koji bi nenamjerno doveli do takvog ishoda. Stoga Publio ne ispunjava prethodno navedene kriterije.

UI i odgovornost

Prijedlog Europske komisije o Aktu o umjetnoj inteligenciji dopunjen je 28. rujna 2022. prijedlogom sustava građanskopravne odgovornosti za UI – Direktiva o odgovornosti za umjetnu inteligenciju (dodatak 4.), nakon rezolucije Europskog parlamenta donesene na temelju članka 225. UFEU-a (dodatak 5.).

Kako je navedeno u predloženoj Direktivi o odgovornosti za umjetnu inteligenciju, postojeća pravila o odgovornosti, koja se temelje na krivnji, nisu prikladna za obradu odštetnih zahtjeva za štetu nanesenu proizvodima i uslugama koji se temelje na umjetnoj inteligenciji. Na temelju postojećih pravila o odgovornosti žrtve moraju dokazati da je došlo do protupravnog postupanja ili propusta, identificirati osobu koja je prouzročila štetu i uspostaviti uzročno-posljedičnu vezu. Zbog posebnih značajki umjetne inteligencije, uključujući njezinu složenost, autonomiju i netransparentnost (tzv. „učinak crne kutije”), teško je identificirati osobu odgovornu za štetu koja proizlazi iz korištenja umjetne inteligencije. To može odvratiti žrtve kojima je nanesena šteta od traženja naknade. S obzirom na prirodu problema tereta dokazivanja, u predloženoj Direktivi o odgovornosti za umjetnu inteligenciju predviđaju se inovativna rješenja tako što se opisani zahtjevi ublažavaju primjenom otkrivanja i oborivih pretpostavki nepoštovanja pravila.

Predloženom Direktivom o odgovornosti za umjetnu inteligenciju pružaju se učinkovita sredstva za identificiranje potencijalno odgovornih osoba i relevantnih dokaza. U njoj se primjerice navodi da nacionalni sud može naložiti otkrivanje relevantnih dokaza (i njihovo čuvanje) o određenim visokorizičnim UI sustavima za koje se sumnja da su prouzročili štetu (dodatak 6.). Osim toga, u skladu sa zahtjevima iz članka 4. predložene direktive, nacionalni sudovi pretpostavljaju […] uzročno-posljedičnu vezu između krivnje tuženika i izlaznog rezultata UI sustava (ili nedostatka rezultata UI sustava).

Kako je zaključeno u obrazloženju predložene Direktive o odgovornosti za umjetnu inteligenciju, „[T]akva učinkovita pravila o građanskopravnoj odgovornosti imaju dodatnu prednost jer svima uključenima u aktivnosti povezane s UI sustavima daju dodatan poticaj da poštuju svoje obveze u pogledu njihova očekivanog ponašanja.”

O Publiju

Pojmovi i definicije

Što je Publio?

Publio, inteligentni pomoćnik portala Ureda za publikacije (portal OP-a) alat je umjetne inteligencije koji stupa u interakciju s pojedincima i provodi pretraživanja s pomoću ključnih riječi, oslanjajući se na informacije koje su javno dostupne na portalu OP-a. Publio kombinira tehnike konverzacijske umjetne inteligencije kao što su obrada prirodnog jezika i strojno učenje s interaktivnim sustavom za prepoznavanje glasa i tradicionalnim sustavima pretraživanja kako bi korisnicima pomogao da pronađu publikacije EU-a, zakonodavstvo EU-a i osobe za kontakt u europskim institucijama.

Inteligentni pomoćnik konkretno omogućuje krajnjim korisnicima da komuniciraju s portalom OP-a izgovaranjem ili tipkanjem poruka. Inteligentni pomoćnik trenutačno je dostupan na engleskom, francuskom i španjolskom jeziku. Korištenje inteligentnog pomoćnika može se prilagoditi potrebama osoba s poteškoćama u čitanju, što povećava njegovu pristupačnost. Publio omogućuje i glasovno pretraživanje. To je nov način pretraživanja koji korisnicima omogućuje da izgovaraju potpune rečenice, kao i u svakodnevnom razgovoru, glasovnom pomoćniku kojim upravlja umjetna inteligencija i koji im odgovara, pa razmjena između korisnika i inteligentnog pomoćnika ima oblik razgovora.

Koju vrstu podataka koristi Publio?

Publio koristi informacije koje su javno dostupne na portalu OP-a. Te se informacije objavljuju u skladu s načelom transparentnosti koje se primjenjuje na sve politike i akte EU-a. Na temelju tog korpusa Publio koristi klasifikaciju i kategorije dostupne na portalu OP-ja kao što su teme, autori ili formati Eurovoca za usmjeravanje ili optimiziranje razgovora kako bi korisniku pomogao u pretraživanju tri glavne kolekcije na portalu OP-ja: publikacije EU-a, pravo EU-a i službeni imenik EU-a (EU Whoiswho).

Publio koristi postojeći jezični model da bi razumio pitanja koja mu korisnici postavljaju i vodio ih kroz pretraživanje. Jezični model koji koristi Publio neprestano se poboljšava i uči na temelju povratnih informacija korisnika kako bi se ispunila očekivanja korisnika i kako bi mogao uspješno obrađivati raznolike ulazne podatke na tri podržana jezika.

To učenje obuhvaća više komponenti sustava na kojem se temelju Publio:

• Unaprijed definiran niz iskaza povezan s različitim mogućim oblicima namjera koje Publiju omogućuju da razumije korisnikov konačni cilj i usmjerava korisnika korak po korak do postizanja tog cilja.
• Unaprijed definiran niz standardiziranih pitanja koja Publio „razumije” i na koja može dati unaprijed definirane odgovore. Primjer: kako mogu naručiti publikacije?
• Entiteti strojnog učenja koje Publio može identificirati i koristiti u svojim pozadinskim procesima za detektiranje parametara pretraživanja, pružanje preciznijih rezultata pretraživanja ili opcija za sužavanje pretraživanja. Ti se entiteti temelje na postojećoj klasifikaciji i kategorijama podataka kao što su pojmovnici EuroVoca ili drugi normirani popisi kojima upravlja EuroVoc: autori, formati, jezici, tijela EU-a (organizacije), funkcije u javnoj službi EU-a itd. Publio na temelju toga može, primjerice, iz korisnikova upita razumjeti da korisnik traži publikaciju o konkretnoj temi ili od konkretnog autora.

Kako Publio funkcionira?

Publio se oslanja na Microsoftovu uslugu za razumijevanje jezika (LUIS) (dodatak 7.) za obradu ulaznih informacija korisnika (pisani ili izgovoreni iskaz), kako bi razumio namjeru korisnika i identificirao ključne elemente (entitete) koji ga zanimaju. Kad prepozna namjeru, Publio pokreće prilagođeni konverzacijski tijek kako bi korisnicima pomogao da dobiju traženi rezultat u nekoliko jednostavnih koraka.

Publio trenutačno primjenjuje četiri glavna konverzacijska tijeka:

• tijek pretraživanja dokumenata, kako bi korisnicima pomogao u pretraživanju publikacija ili pravnih dokumenata EU-a
• tijek pretraživanja osoba, kako bi korisnicima pomogao u pretraživanju službenika zaposlenih u institucijama EU-a
• tijek pretraživanja organizacija, kako bi korisnicima pomogao u pretraživanju tijela (organizacija) EU-a
• tijek pitanja i odgovora, kako bi na česta pitanja odgovorio unaprijed definiranim odgovorom.

Ako se tijek pretraživanja prepozna, virtualni pomoćnik vodit će korisnika kroz pretraživanje relevantnog dokumenta, osobe ili organizacije postavljanjem jednostavnih pitanja i, na temelju korisnikova odgovora, predložiti opcije filtriranja.

Za tijek pitanja i odgovora osoblje Ureda za publikacije održava popis parova s često postavljenim pitanjima i unaprijed definiranim odgovorima na njih. Ako se prepozna namjera u vezi s pitanjima i odgovorima, a korisnikovo pitanje je vrlo slično jednom od pitanja pohranjenih u sustavu, korisnik će odmah dobiti odgovor. Na primjer:

– Ako se namjera prepozna na temelju upita kao što je „Gdje je moja narudžba?”, pomoćnik će odgovoriti sa „Status narudžbe možete provjeriti u odjeljku „Moje narudžbe” na svojem profilu”.

– Ako se namjera prepozna na temelju upita kao što je „Gdje mogu pronaći dokumente za djecu?”, pomoćnik će odgovoriti s „Publikacije za djecu dostupne su u kutku za djecu”.

Korisnici mogu postavljati pitanja u pisanom ili usmenom obliku. Chatbot registrira zvuk (pitanja koja korisnik izgovori) i šalje ga alatu za prepoznavanje govora koji ga pretvara u tekst. Alat za pretvaranje govora u tekst Microsoft Azure zatim obrađuje zvuk (dodatak 8.). Publio zatim prikaže izgovorene riječi kako ih protumači alat za prepoznavanje govora, a nakon toga i odgovor u pisanom obliku i izgovoren sintetiziranim glasom. Ta je razmjena trenutačna (događa se odmah) i kratkotrajna (ne ostavlja trag).

Kako Publio analizira pitanje i predlaže rezultate?

Publio nije alat generativne umjetne inteligencije pa ne može generirati korisnički sadržaj ni manipulirati njime.

Publio koristi jezični model strojnog učenja koji je treniran da uči prepoznavati ulazne informacije korisnika i odgovarati na njih. Taj model obrađuje korisnikovu poruku ili upit, određuje namjeru poruke i daje prikladan odgovor. Publio uči tako da se u model strojnog učenja unese velika količina označenih podataka za učenje, koji uključuju primjere ulaznih informacija korisnika, njihove odgovarajuće namjere i moguće odgovore.

Publio primjenjuje obradu prirodnog jezika i trenirani jezični model kako bi razumio namjeru korisnika i iz njegova pitanja izdvojio prepoznate entitete (npr. pojam za pretraživanje, temu, autora, datum ili format dokumenta). Publio koristi te entitete za pretraživanje i prikazivanje rezultata pretraživanja.

Ako je rezultat pretraživanja preširok, Publio nastavlja konverzaciju postavljanjem dodatnih pitanja korisniku kako bi suzio rezultate pretraživanja filtriranjem drugih entiteta.

Pitanja koja postavlja Publio ograničena su na definiranje namjere korisnika, kako bi razumio njegovu svrhu i u korpus sadržaja objavljenog na portalu OP-ja uputio dobar upit za pretraživanje. Svi rezultati koje predlaže Publio potječu iz tog korpusa.

Povratne informacije korisnika

Krajnji korisnik može u bilo kojem trenutku tijekom konverzacije dati pozitivne, neutralne ili negativne povratne informacije o svojem iskustvu korištenja Publija. Korisnik može u bilo kojem trenutku dati povratne informacije na vlastitu inicijativu, ili kad se nakon nekoliko sekundi neaktivnosti pojavi skočni prozor za unos povratnih informacija. Osim toga, pitanja koja Publio ne „razumije” na ispravan način automatski se evidentiraju i periodički ih obrađuje osoblje u Uredu za publikacije. Povratne informacije korisnika i analize pitanja koja Publio nije pravilno „razumio” koriste se za ponovno treniranje jezičnog modela kako bi se usluge za krajnje korisnike stalno poboljšavale.

Obrada osobnih podataka

Podaci dostupni na portalu OP-a obrađuju se u skladu s Općom uredbom EU-a o zaštiti podataka (GDPR) i Uredbom o obradi osobnih podataka u institucijama, agencijama i tijelima Unije (dodatak 9.).

Publio ne pohranjuje, ne čuva niti arhivira bilo koje elemente ni ulazne podatke korisnika, kao ni one iz odgovora Publija.

Prikupljene povratne informacije anonimiziraju se tako da ih nije moguće povezati s korisnikom od kojeg su dobivene.

Osobni podaci se ne koriste za automatizirano donošenje odluka, praćenje ili izradu profila.

Trenutačna ograničenja

• Transkripcija imena s pomoću glasa: iako se većina imena „razumije” i ispravno transkribira, prepoznavanje imena temelji se na strojnom učenju i nije 100 % precizno. Zbog ograničenja LUIS-a neka imena ne prepoznaju se ispravno čak ni nakon treniranja modela s konkretnim primjerima iz skupa podataka.
• Datumi na francuskom i španjolskom: „razumijevanje” datuma na španjolskom i francuskom nije potpuno precizno u složenijim kontekstima. Na primjer, na španjolskom se godina prepoznaje u obliku „entre 2016 y 2017” bez dodatnog konteksta, ali ne prepoznaje se u obliku „entre el año 2019 y 2020”. Na engleskom jeziku prepoznaje se „2 years ago”, ali „il y a 2 ans” na francuskom se ne prepoznaje.
• Prepoznavanje govora funkcionira samo za jedan jezik odjednom.
• Prepoznavanje govora nema funkciju koja bi korisnicima omogućila da izgovaraju riječ slovo po slovo kako bi se osigurala točna transkripcija.
• Prepoznavanje imena ne funkcionira dobro u duljim rečenicama kad se kombinira s gđa ili gđica.

Ured za publikacije Europske unije, 16. svibnja 2023.