Ние ускоряваме разработката с помощта на услугите на Azure: създаваме чатботове и когнитивни услуги с помощта на платформата

Здравей, Хабр! Днес ще ви покажем как да използвате Azure за решаване на проблеми, които обикновено изискват човешка намеса. Агентите прекарват много време, отговаряйки на едни и същи въпроси, обработвайки телефонни обаждания и текстови съобщения. Чатботовете автоматизират комуникацията и разпознаването и намаляват тежестта върху хората. Ботовете се използват и в Azure DevOps, където позволяват например одобряване на версии, управление на компилации – преглед, стартиране и спиране – директно от Slack или Microsoft Teams. По същество чатботът донякъде напомня на CLI, само че е интерактивен и позволява на разработчика да остане в контекста на дискусията в чата.

В тази статия ще говорим за инструменти за създаване на чатботове, ще покажем как те могат да бъдат подобрени с когнитивни услуги и ще опишем как да ускорим разработката с готови услуги в Azure.

Чатботове и когнитивни услуги: какви са приликите и какви са разликите?

За да създадете ботове в Microsoft Azure, вие използвате Azure Bot Service и Bot Framework. Заедно те представляват набор от софтуер за изграждане, тестване, внедряване и администриране на ботове, който ви позволява да създавате от готови модули както прости, така и усъвършенствани комуникационни системи с поддръжка на реч, разпознаване на естествен език и други възможности.

Да приемем, че трябва да внедрите прост бот, базиран на корпоративна услуга за въпроси и отговори, или, обратно, да създадете функционален бот със сложна, разклонена комуникационна система. За да направите това, можете да използвате редица инструменти, разделени на три групи: 

1. Услуги за бързо разработване на диалогови интерфейси (ботове).
2. Готови когнитивни AI услуги за различни случаи на употреба (разпознаване на образи, разпознаване на реч, база от знания и търсене).
3. Услуги за създаване и обучение на AI модели.

Обикновено хората интуитивно бъркат „ботове“ и „когнитивни услуги“, тъй като и двете концепции се основават на принципа на комуникацията, а случаят на използване на ботове и услуги включва диалози. Но чатботовете работят с ключови думи и тригери, а когнитивните услуги работят с произволни заявки, които обикновено се обработват от хора: 

Когнитивните услуги са друг начин за комуникация с потребителя, като помагат за преобразуването на произволна заявка в ясна команда и предаването й на бота. 

Така чатботовете са приложения за работа със заявки, а когнитивните услуги са инструменти за интелигентен анализ на заявки, които се стартират отделно, но до които чатботът има достъп, ставайки „интелигентен“. 

Създаване на чатботове

Препоръчителната дизайнерска диаграма за бот в Azure е както следва: 

За да проектирате и разработите ботове в Azure, използвайте Bot Framework. Предлага се в GitHub примери за ботове, възможностите на рамката се променят, така че е необходимо да се вземе предвид версията на SDK, която се използва в ботовете.

Рамката предоставя няколко опции за създаване на ботове: използване на класически код, инструменти на командния ред или блок-схеми. Последната опция визуализира диалогови прозорци, за това можете да използвате мениджъра Композитор на Bot Framework. Той е изграден върху Bot Framework SDK като визуален инструмент за разработка, който междудисциплинарните екипи могат да използват за създаване на ботове.

Bot Framework Composer ви позволява да използвате блокове, за да създадете диалогова структура, с която ботът ще работи. Освен това можете да създавате тригери, тоест ключови думи, на които ботът ще реагира по време на диалога. Например думите „оператор“, „кражба“ или „стоп“ и „достатъчно“.

В Bot Framework Composer можете да създавате сложни диалогови системи, като използвате Адаптивни диалози. Диалозите могат да използват както когнитивни услуги, така и карти за събития (адаптивни карти):

След създаването можете да разположите chatbot в абонамент и автоматично подготвен скрипт ще създаде всички необходими ресурси: когнитивни услуги, план за приложение, Application Insights, база данни и т.н.

Създател на QnA

За да създадете прости ботове, базирани на корпоративни бази данни с въпроси и отговори, можете да използвате когнитивната услуга QnA Maker. Реализиран като обикновен уеб съветник, той ви позволява да въведете връзка към корпоративна база знания (FAQ Urls) или да използвате база данни с документи във формат *.doc или *.pdf като основа. След като създаде индекса, ботът автоматично ще избере най-подходящите отговори на въпросите на потребителя.

Използвайки QnAMaker, можете също да създавате вериги от изясняващи въпроси с автоматично създаване на бутони, да допълвате базата от знания с метаданни и да обучавате допълнително услугата по време на употреба.

Услугата може да се използва като чатбот, който изпълнява само тази функция, или като част от сложен чатбот, който използва, в зависимост от заявката, други AI услуги или елементи от Bot Framework.

Работа с други когнитивни услуги

В платформата Azure има много различни когнитивни услуги. Технически това са независими уеб услуги, които могат да бъдат извикани от код. В отговор услугата изпраща json в определен формат, който може да се използва в чатбота.

Най-честите употреби на чатботовете са:

1. Разпознаване на текст.
2. Разпознаване на дефинирани от разработчиците категории изображения на Custom Vision Service (производствен случай: разпознаване дали служител носи каска, очила или маска).
3. Разпознаване на лица (отличен случай на използване е проверка дали анкетираният е публикувал собственото си лице или, да речем, снимка на куче или снимка на човек от различен пол).
4. Гласово разпознаване.
5. Анализ на изображението.
6. Превод (всички помним колко шум предизвика симултантният превод в Skype).
7. Проверка на правописа и предложения за коригиране на грешки.

LUIS

Също така, за да създадете ботове, може да се наложи LUIS (Интелигентна услуга за разбиране на език). Цели на услугата:

• Определете дали изявлението на потребителя има смисъл и дали отговорът на бота е необходим.
• Намалете усилията за транскрибиране на потребителска реч (текст) в команди, разбираеми за бота.
• Предсказвайте истинските потребителски цели/намерения и извличайте ключови прозрения от фразите в диалога.
• Позволете на разработчика да стартира бота, като използва само няколко примера за разпознаване на смисъл и последващо допълнително обучение на бота по време на работа.
• Дайте възможност на разработчика да използва визуализация, за да оцени качеството на транскрипцията на командите.
• Помогнете за постепенни подобрения в истинското разпознаване на целта.

Всъщност основната цел на LUIS е да разбере с определена вероятност какво е имал предвид потребителят и да преобразува естествена заявка в хармонична команда. За да разпознае стойностите на заявката, LUIS използва набор от намерения (значения, намерения) и обекти (или предварително конфигурирани от разработчиците, или взети и предварително формирани „домейни“ – някои готови библиотеки от стандартни фрази, изготвени от Microsoft). 

Прост пример: имате бот, който ви дава прогноза за времето. За него намерението ще бъде преобразуването на естествена заявка в „действие“ - заявка за прогноза за времето, а същностите ще бъдат време и място. Ето диаграма как работи намерението на CheckWeather за такъв бот.

Намерение
същност
Пример за естествено запитване

CheckWeather
{"type": "location", "entity": "moscow"}
{"type": "builtin.datetimeV2.date", "entity": "future","resolution":"2020-05-30"}
Какво ще бъде времето утре в Москва?

CheckWeather
{ "type": "date_range", "entity": "този уикенд" }
Покажете ми прогнозата за този уикенд

За да комбинирате QnA Maker и LUIS, можете да използвате диспечер. 

Когато работите с QnA Maker и получите заявка от потребител, системата определя какъв процент от вероятността отговорът от QnA съвпада със заявката. Ако вероятността е висока, на потребителя просто се дава отговор от корпоративната база знания; ако е ниска, заявката може да бъде изпратена до LUIS за разяснение. Използването на Dispatcher ви позволява да не програмирате тази логика, а автоматично да определите този ръб на разделянето на заявките и бързо да ги разпределите.

Тестване и публикуване на бота

Друго локално приложение се използва за тестване, Емулатор на бот рамка. Използвайки емулатора, можете да комуникирате с бота и да проверявате съобщенията, които изпраща и получава. Емулаторът показва съобщенията така, както биха се появили в интерфейс за уеб чат, и записва JSON заявки и отговори, когато изпраща съобщения до бота.

Пример за използване на емулатора е представен в тази демонстрация, която показва създаването на виртуален асистент за BMW. Видеото говори и за нови ускорители за създаване на чатботове - шаблони:

https://youtu.be/u7Gql-ClcVA?t=564

Можете също да използвате шаблони, когато създавате вашите чатботове. 
Шаблоните ви позволяват да не пишете стандартни функции на бот наново, а да добавяте готов код като „умение“. Пример може да бъде работа с календар, записване на срещи и др. Код на готови умения публикувани в github.

Тестването беше успешно, ботът е готов и сега трябва да се публикува и да се свържат канали. Публикуването се извършва с помощта на Azure, а като канали могат да се използват месинджъри или социални мрежи. Ако нямате необходимия канал за въвеждане на данни, можете да го потърсите в съответната общност на GitHab. 

Освен това, за да създадете пълноценен чатбот като интерфейс за комуникация с потребителя и когнитивни услуги, разбира се ще ви трябват допълнителни услуги на Azure, като бази данни, без сървър (функции на Azure), както и услуги на LogicApp и евентуално , Събитийна мрежа.

Оценка и анализ

За да оцените взаимодействието на потребителите, можете да използвате както вградения анализ на Azure Bot Service, така и специалната услуга Application Insights.

В резултат на това можете да събирате информация въз основа на следните критерии:

• Колко потребители са имали достъп до бота от различни канали през избрания период от време.
• Колко потребители, изпратили едно съобщение, се върнаха по-късно и изпратиха друго.
• Колко действия са изпратени и получени с помощта на всеки канал през определения интервал от време.

Използвайки Application Insights, можете да наблюдавате всяко приложение в Azure и по-специално chatbots, като получавате допълнителни данни за поведението на потребителите, натоварванията и реакциите на chatbot. Трябва да се отбележи, че услугата Application Insights има свой собствен интерфейс в портала на Azure.

Можете също да използвате данните, събрани чрез тази услуга, за създаване на допълнителни визуализации и аналитични отчети в PowerBI. Може да се вземе пример за такъв отчет и шаблон за PowerBI тук.

Благодаря на всички за вниманието! В тази статия използвахме материал от уебинара на архитекта на Microsoft Azure Анна Фенюшина „Когато хората нямат време. Как да използваме 100% чатботове и когнитивни услуги за автоматизиране на рутинни процеси”, където нагледно показахме какво представляват чатботовете в Azure и какви са сценариите за тяхното използване, а също така демонстрирахме как да създадем бот в QnA Maker за 15 минути и как структурата на заявката се дешифрира в LUIS. 

Направихме този уебинар като част от онлайн маратона за разработчици Dev Bootcamp. Ставаше въпрос за продукти, които ускоряват разработката и облекчават част от рутинното натоварване на служителите на компанията, използвайки инструменти за автоматизация и готови предварително конфигурирани Azure модули. Записите на други уебинари, включени в маратона, са достъпни на следните връзки:

• Azure DevOps като средство за организиране на пълния цикъл на разработка на всеки език и за всяка платформа, използвайки практики на DevOps 
  Говорим за еволюцията и новите възможности на услугата Azure DevOps. Анализираме подробно всичките пет основни компонента и как услугата помага за организацията на разработката на индустриален софтуер. Водещ: Владимир Гусаров Microsoft MVP.
• Организация на CI/CD с помощта на Azure Pipelines
  Обмисляме как да приложим подхода „сглобяване като код“ за всякакви програмни езици, използващи многоетапни конвейери YAML. Водещ: Владимир Гусаров Microsoft MVP.
• Практики за едновременно поддържане на множество версии на продукт в производство с помощта на Azure Repos
  Обсъждаме как да разработим стратегии за съхраняване на изходния код на софтуера и как да използваме системи за съхранение на версии с помощта на Azure Repos. Водещ: Владимир Гусаров Microsoft MVP.
• WhiteSource. Мониторинг на защитени библиотеки с отворен код 
  Ние въвеждаме техники за управление с отворен код в разработването и практическото приложение на инструмента WhiteSource. Говорим за търсене на уязвимости в компоненти с отворен код и поддържане на чистотата на лицензирането с помощта на WhiteSource. Водещи: Диана Лисбарон, директор продажби WhiteSource и Дария Орешкина, уеб контрол, официален дистрибутор на WhiteSource в Русия.

Източник: www.habr.com