Виртуален асистент : Обяснително известие

Надежден, обясним ИИ

Развитието на надежден и обясним ИИ е ключова цел за ЕС. ЕС работи по регулаторна рамка за ИИ. С предложението на Европейската комисия от 21 април 2021 г. за регламент за определяне на хармонизирани правила относно изкуствения интелект (наричан по-нататък „Законодателен акт за ИИ“) (приложение 3) се въвеждат два основни вида ангажименти от страна на доставчиците на основани на ИИ решения и инструменти — прозрачност и предоставяне на информация.

Ползвателите на системи с ИИ имат право да получават информация. Това право върви ръка за ръка със задължения, като например задължението за използване на системата в съответствие с инструкциите и за наблюдение на работата на съответния инструмент с ИИ. Спазването на тези правила води до отчетност на всички участници.

Съгласно член 52 от предложения Законодателен акт за ИИ (Задължения за прозрачност за някои системи с ИИ) „1. Доставчиците гарантират, че системите с ИИ, предназначени да взаимодействат с физически лица, са проектирани и разработени по такъв начин, че физическите лица да бъдат информирани, че взаимодействат със система с ИИ, освен ако това не е очевидно от обстоятелствата и контекста на употреба. […]“.

Предложеният Законодателен акт за ИИ следва основан на риска подход, като разграничава употребите на ИИ, които създават i) неприемлив риск, ii) висок риск и iii) нисък или минимален риск.

Publio, интелигентният помощник на портала на СП взаимодейства с физически лица и извършва търсения чрез използване на ключови думи въз основа на информация, която е публично достъпна на портала на СП. Тази информация се публикува въз основа на принципа на прозрачност, който се прилага за всички политики и цялото законодателство на ЕС. Интелигентният помощник не генерира ново съдържание, не манипулира и не влияе върху избора на потребителите освен чрез предлагане на възможни опции за филтриране при търсене от страна на потребителите. Поради това следва да се счита, че Publio попада в категорията „нисък риск“ (iii), както е определена в проекта на Законодателния акт за ИИ.

В дял IV (Прозрачност) от проекта на Законодателния акт за ИИ се посочва, че при проектирането и функционирането на системите с ИИ трябва да се вземат предвид специфичните рискове, които те могат да породят — 1) манипулиране чрез сублиминални техники, т.е. отвъд рамките на съзнаваното от потребителите, или 2) експлоатация на уязвими групи, която може да причини психологически или физически вреди. По-строги задължения за прозрачност се прилагат за системи, които i) взаимодействат с хора, ii) се използват за разпознаване на емоции или за определяне на връзка със (социални) категории въз основа на биометрични данни или iii) генерират или манипулират съдържание („дълбинни фалшификати“). Макар че Publio взаимодейства с физически лица, интелигентният помощник няма за цел да разпознава емоции с цел манипулиране и не съдържа елементи, които биха могли непреднамерено да доведат до такъв резултат. Поради това Publio не отговаря на горепосочените критерии.

ИИ и отговорност

На 28 септември 2022 г. предложението на Европейската комисия за Законодателен акт за ИИ беше допълнено от предложение за режим на гражданска отговорност за ИИ — Директивата относно отговорността във връзка с изкуствения интелект (приложение 4) (наричана по-нататък „Директива относно отговорността във връзка с ИИ“), след резолюцията на Европейския парламент, приета в съответствие с член 225 от ДФЕС (приложение 5).

Както е посочено в предложената Директива относно отговорността във връзка с ИИ, съществуващите правила за виновна отговорност не са пригодни за разглеждането на искове за отговорност за вреди, причинени от продукти и услуги, използващи ИИ. Съгласно съществуващите правила за отговорност пострадалите трябва да докажат, че е извършено неправомерно действие или бездействие, да идентифицират лицето, причинило вредата, и да установят причинно-следствена връзка. Специфичните характеристики на ИИ, включително неговата сложност, автономност и непрозрачност (т.нар. ефект на „черната кутия“), затрудняват идентифицирането на лицата, отговорни за вреди, причинени от използването на ИИ. Поради това претърпелите такива вреди лица може да бъдат разколебани да предявят иск за обезщетение. Предвид естеството на въпроса за тежестта на доказване предложената Директива относно отговорността във връзка с ИИ осигурява иновативни решения чрез облекчаване на горепосочените изисквания, като се използват разкриване и оборими презумпции за неспазване на правилата.

С предложената Директива относно отговорността във връзка с ИИ се предоставят ефективни средства за идентифициране на потенциално отговорни лица и съответните доказателства. В нея например се посочва, че национален съд може да разпореди разкриване на съответните доказателства (и тяхното запазване) за конкретни високорискови системи с ИИ, за които има подозрения, че са причинили вреди (приложение 6). Освен това, при спазване на изискванията, определени в член 4 от предложената директива, „националните съдилища предполагат [...] причинно-следствената връзка между вината на ответника и резултата, получен от системата с ИИ, или непостигането на резултат от такава система“.

Както е посочено в обяснителния меморандум към предложената Директива относно отговорността във връзка с ИИ, „тези ефективни правила за гражданска отговорност имат допълнителното предимство, че с тях на всички участници в дейности, свързани със системи с ИИ, се предоставя допълнителен стимул да спазват задълженията си по отношение на очакваното от тях поведение“.

За Publio

Термини и определения

Какво представлява Publio?

Publio, интелигентният помощник на портала на Службата за публикации на Европейския съюз (портал на СП), е инструмент с ИИ, който взаимодейства с физически лица и извършва търсения чрез използване на ключови думи въз основа на информация, която е публично достъпна на портала на СП. Publio съчетава техники за разговорен изкуствен интелект (ИИ), като например обработка на естествен език (NLP) и машинно самообучение (ML), с интерактивни системи за разпознаване на реч и традиционно търсене, за да помага на потребителите да намират публикации на ЕС, законодателство на ЕС и лица за контакт в европейските институции.

Интелигентният помощник дава възможност за разговори чрез реч или въвеждане на текст между крайните потребители и портала на СП. Понастоящем интелигентният помощник е достъпен на английски, френски и испански език. Интелигентният помощник може да се използва от всички, като същевременно допринася за подобряване на достъпността, защото предлага решение, адаптирано към нуждите на хората с увреждания, свързани с четенето. Освен това той дава възможност за разговорно търсене, което е нов начин за търсене, позволяващ на потребителите да говорят с цели изречения — точно както при обикновен разговор — с гласов асистент с ИИ, който връща отговори, като обменът между потребителя и интелигентния помощник е под формата на разговор.

Какъв вид данни използва Publio?

Publio използва информацията, която е публично достъпна на портала на СП. Тази информация се публикува въз основа на принципа на прозрачност, който се прилага за всички политики и цялото законодателство на ЕС. Въз основа на този корпус Publio използва класификации и категории, налични на портала на СП, като например теми, автори или формати от Eurovoc, за да насочва и прецизира разговора с цел подпомагане на потребителя да търси информация в трите основни колекции на портала на СП: „Публикации на ЕС“, „Право на ЕС“ и официалния указател на ЕС (EU Whoiswho).

Publio използва съществуващ езиков модел, за да разбира въпросите, задавани от потребителите, и да насочва потребителите по време на техния път на търсене. Въз основа на обратна връзка от потребителите езиковият модел на Publio непрекъснато се подобрява и обучава, за да отговаря на техните очаквания и да се справя с разнообразието от входящи данни от потребителите на трите поддържани езика.

Това обучение обхваща множество компоненти на основната система на Publio:

• предварително определен серии от изразявания, свързани с различни възможни форми на намерение, за да може Publio първо да разбира крайната цел на потребителя и след това да го насочва стъпка по стъпка към постигането на тази цел;
• предварително определени серии от фиксирани въпроси, които Publio „разбира“ и за които може да даде предварително определен отговор на потребителите. Пример: „Как мога да поръчам публикации?“;
• определени чрез машинно самообучение обекти, които могат да бъдат идентифицирани от Publio и използвани във фоновите процеси на Publio за откриване на параметри за търсене, предоставяне на по-точни резултати от търсене или опции за допълнително прецизиране на търсене. Тези обекти се основават на съществуващи класификации и категории данни, като тезаурусите EuroVoc или други номенклатурни таблици, управлявани в рамките на EuroVoc: автори, формати, езици, органи (организации) на ЕС, функционални роли в публичната служба на ЕС и др. Въз основа на това Publio може например да разбере от заявката на потребителя, че той търси публикация на конкретна тема или от конкретен автор.

Как работи Publio?

Publio използва услугата Microsoft Language Understanding (LUIS) (приложение 7), за да обработва въвежданите от потребителя данни (писмено или устно изразяване) и така да разбере намерението на потребителя и да идентифицира ключовите елементи (обекти), от които потребителят се интересува. Въз основа на разпознатото намерение Publio инициира индивидуализиран разговорен поток, чиято цел е да помага на потребителите да постигнат необходимия резултат посредством няколко прости стъпки.

Понастоящем в Publio се използват 4 основни разговорни потока:

• поток за търсене на документи, чрез който се помага на потребителите при търсенето на публикации или правни документи на ЕС
• поток за търсене на лица, чрез който се помага на потребителите при търсенето на служители на институциите на ЕС
• поток за търсене на организации, чрез който се помага на потребителите при търсенето на органи (организации) на ЕС
• поток за въпроси и отговори (QnA), чрез който на често задавани въпроси се отговаря с предварително определени отговори.

След като разпознае необходимостта от използване на поток за търсене, виртуалният помощник насочва потребителя при търсенето на съответния документ, лице или организация, като задава прости въпроси на потребителя и въз основа на неговите отговори предлага опции за филтриране.

За потока QnA персоналът на Службата за публикации поддържа списък с двойки от често задавани въпроси и техните предварително определени отговори. При разпознаване на необходимостта от използване на потока QnA и наличие на висока степен на сходство между конкретен въпрос на потребителя и някой от въпросите, съхранявани в системата, директно ще бъде предоставен подходящ отговор на потребителя. Примери:

- Ако необходимостта от използване на потока QnA бъде разпозната след заявка от типа на „Къде е моята поръчка?“, помощникът ще отговори с „Можете да видите статуса на вашата поръчка в раздел „Моята поръчка“ в профила си“.

- Ако необходимостта от използване на потока QnA бъде разпозната след заявка от типа на „Къде мога да намеря документи за деца?“, помощникът ще отговори с Публикациите за деца са налични в Детския кът.

Потребителите могат да задават въпроси писмено или устно. Чатботът записва звуковите данни (устните въпроси на потребителя) и ги изпраща до софтуер за разпознаване на реч, който превръща речта в текст. Звуковите данни се обработват чрез услугата на Microsoft Azure за преобразуване на реч в текст (приложение 8). След това Publio показва звуковите данни чрез думите, разпознати от софтуера за разпознаване на реч, преди да отговори както в писмен вид, така и устно, като използва синтезиран глас. Този обмен е мигновен (извършва се незабавно) и ефимерен (не оставя никаква следа).

Как Publio анализира въпроси и предлага резултати?

Publio не използва генеративна технология, поради което не е в състояние да генерира или манипулира потребителско съдържание.

Publio използва езиков модел за машинно самообучение, който се обучава (обучен езиков модел) да разпознава и да реагира на входящите данни от потребителите. Този модел отговаря за обработването на съобщението или заявката на потребителя, за идентифицирането на намерението на съобщението и за предоставянето на подходящ отговор. Процесът на обучение на Publio включва захранване на модела за машинно самообучение с голямо количество етикетирани данни за обучение, които включват примери за входящи данни от потребители и съответните намерения и правдоподобни отговори.

Publio използва обработка на естествен език и обучения езиков модел, за да разбере намерението на потребителя и да извлече от въпроса на потребителя разпознатите обекти (например дума за търсене, тема, автор, дата на документа, формат на документа). Publio използва тези обекти, за да извърши търсенето и да покаже резултата от търсенето.

Ако резултатът от търсенето е твърде широк, Publio продължава разговора, като задава допълнителни въпроси на потребителя, за да стесни резултата от търсенето чрез филтриране по други обекти.

Въпросите, формулирани от Publio, се ограничават до установяване на намерението на потребителя, определяне на неговата цел и формулиране на правилната заявка за търсене в корпуса на съдържанието, публикувано на портала на СП. Предлаганите от Publio резултати са изцяло от този корпус.

Обратна връзка от потребителите

През цялото времетраене на разговора крайният потребител може да предостави положителна, неутрална или отрицателна обратна връзка за опита си с използването на Publio. Това може да е обратна връзка по инициатива на потребителя или в отговор на автоматичен изскачащ прозорец, който се показва след няколко секунди липса на активност с искане за обратна връзка от потребителя. Освен това въпросите, които не са „разбрани“ правилно от Publio, се записват автоматично и периодично се обработват от екип от служители в Службата за публикации. Както обратната връзка от потребителите, така и анализът на въпросите, които не са „разбрани“ от Publio, се използват за ново обучение на езиковия модел с цел непрекъснато подобряване на услугите, предоставяни на крайните потребители.

Обработване на лични данни

Данните, налични на портала на СП, се обработват в съответствие с Общия регламент на ЕС относно защитата на данните (ОРЗД) и Регламента относно обработването на лични данни от институциите, агенциите и органите на ЕС (приложение 9).

Publio не запазва, не съхранява и не архивира никакви елементи, нито въведените от потребителите данни, нито данните, предоставени чрез отговорите на Publio.

Събираната обратна информация се анонимизира по такъв начин, че да не може да се проследят потребителите, от които е получена.

Не се използват лични данни за автоматизирано вземане на решения, проследяване или профилиране по какъвто и да е възможен начин.

Настоящи ограничения

• Изписване на имена при използване на реч: въпреки че повечето имена се „разбират“ и изписват правилно, извличането на имена се основава на машинно самообучение и не е 100 % точно. Поради ограниченията на LUIS някои имена не се извличат правилно дори след обучение на модела с конкретните примери от набора от данни.
• Дати на френски и испански език: „разбирането“ на дати на испански и френски език в по-сложен контекст е по-неточно. Например на испански, когато се използва „entre 2016 y 2017“, годината ще бъде разпозната без допълнителен контекст, но няма да бъде разпозната, когато се използва „entre el año 2019 y 2020“. Английският израз „2 years ago“ се разпознава, но френският „il y a 2 ans“ — не.
• Разпознаването на реч работи само за един език в даден момент.
• При разпознаването на реч няма функция, която позволява на потребителите да произнасят думи буква по буква, за да се гарантира точно изписване.
• Разпознаването на именувани обекти не функционира добре при по-големи фрази в съчетание с „Mrs“/„Miss“.

Служба за публикации на Европейския съюз, 16 май 2023 г.