Kiirendame arendust Azure teenuste abil: loome vestlusroboteid ja kognitiivseid teenuseid platvormi vahenditega.

Tere, Habr! Täna räägime, kuidas Azure abil lahendada ülesandeid, mis tavaliselt nõuavad inimtegevust. Operaatorid kulutavad palju aega, et vastata samadele küsimustele, töödelda telefonikõnesid ja tekstisõnumeid. Vestlusrobotid automatiseerivad suhtlemist ja tuvastamist, võimaldades vähendada inimeste koormust. Samuti kasutatakse roboteid Azure DevOpsis, kus nad võimaldavad näiteks kinnitada versioone, hallata ehitusi – vaadata, käivitada ja peatada – otse Slackist või Microsoft Teamsist. Sisuliselt sarnaneb vestlusrobot millegagi CLI-le, ainult interaktiivselt, ja võimaldab arendajal mitte lahkuda vestluse kontekstist.

Selles artiklis räägime vestlusrobotite loomise tööriistadest, näitame, kuidas neid saab parandada kognitiivsete teenuste abil, ja kirjeldame, kuidas arendust kiirendada tänu valmis teenustele Azure'is.

Vestlusrobotid ja kognitiivsed teenused: sarnasused ja erinevused

Microsoft Azure'is vestlusrobotite loomiseks kasutatakse Azure Boti teenust ja Bot Frameworki platvormi. Koos nad moodustavad tarkvara komplekti robotite koostamiseks, testimiseks, juurutamiseks ja haldamiseks, mis võimaldab luua nii lihtsaid kui ka arenenud suhtluse süsteeme koos kõnesuhtluse, looduse keele tuvastamise ja muude võimalustega.

Oletame, et peate rakendama lihtsa robotit ettevõtte küsimuste ja vastuste teenusel või, vastupidi, looma funktsionaalse roboti keeruka hargneva suhtlussüsteemiga. Selleks saab kasutada mitmeid tööriistu, mida võib umbkaudu jagada kolme gruppi: 

1. Dialoogivahendite (robotite) kiire arendamise teenused.
2. Valmis kognitiivsed tehisintellekti teenused erinevate kasutusstsenaariumide jaoks (pildituvastus, kõnetuvastus, teadmusbaas ja otsing).
3. Tehisintellekti mudelite loomise ja treenimise teenused.

Inimesed segavad tavaliselt intuitsiooni poolest 'roboteid' ja 'kognitiivseid teenuseid', kuna nende mõistete aluseks on suhtlemise printsiip ning robotite ja teenuste kasutusstsenaariumites on dialoogid. Kuid vestlusrobotid töötavad võtmesõnade ja stiimulitega, samas kui kognitiivsed teenused töötlevad vabalt esitatud päringuid, mille tavaliselt töötlevad inimesed: 

Kognitiivsed teenused on veel üks viis suhtlemiseks kasutajaga, aidates muuta juhusliku päringu selgeks käskluseks ja edastada selle edasi botile. 

Nii et vestlusbotid on rakendused, mis töötavad päringutega, ja kognitiivsed teenused on nutika analüüsi tööriistad, mida käivitatakse eraldi, kuid mille poole vestlusbot võib pöörduda, muutes selle 'intelligentseks'. 

Vestlusbotide loomine

Soovitatav botide projektimise skeem Azure'is näeb välja järgmine: 

Botide projekteerimiseks ja arendamiseks Azure'is kasutatakse Bot Framework. GitHubis on olemas botide näidised, raamistik muutub pidevalt, seega tuleb arvestada SDK versiooniga, mida botides kasutatakse.

Raamistik eeldab mitmeid võimalusi botide loomiseks: klassikalise koodi, käsurea tööriistade või plokkdiagrammide abil. Viimane võimalus visualiseerib dialoogid, mille jaoks saab kasutada haldurit Bot Framework Composer. See loodi Bot Framework SDK baasil visuaalse arendustööriistana, mida interdistsiplinaarsed meeskonnad saaksid kasutada botide loomiseks.

Bot Framework Composer võimaldab plokkide abil luua dialooge, millega bot töötab. Samuti on võimalik luua käivitajaid, st märksõnu, millele bot reageerib dialooge käies. Näiteks sõnad 'operaator', 'vargus' või 'peatu' ja 'jätku'.

Bot Framework Composer'is on võimalik luua keerukaid hargnevaid dialoogisüsteeme, kasutades Adaptive Dialogs. Dialoogid saavad kasutada nii kognitiivseid teenuseid kui ka sündmuste kaarte (Adaptive Cards):

Pärast loomist on võimalik vestlusrobotit juurutada tellimuses, kus automaatselt genereeritud skript loob kõik vajalikud ressursid: kognitiivsed teenused, rakenduse plaan, Application Insights, andmebaas jne.

QnA Maker

Lihtsate botide loomiseks ettevõtte küsimuste ja vastuste andmebaaside põhjal saab kasutada kognitiivset teenust QnA Maker. See, mis on teostatud lihtsa veebivõluri kujul, võimaldab esitada sisendiks lingi ettevõtte teadmistetalli (Korduma kippuvad küsimused) või võtta aluseks dokumentide andmebaasi formaadis *.doc või *.pdf. Pärast indeksi loomist peab bot ise kasutaja küsimustele kõige sobivamad vastused välja otsima.

QnAMaker aitab luua ka täiendavate küsimuste ahelaid koos automaatselt loodud nuppudega, rikastada teadmistebaasi metaandmetega ning täiendada teenust kasutamise käigus.

Teenust võib kasutada kui juturobot, mis täidab ainult seda funktsiooni, või keerulise juturoboti osana, mis kasutab vajadusel ka teisi tehisintellekti teenuseid või Bot Framework elemente.

Töötamine teiste kognitiivsete teenustega

Azure platvormil on palju erinevaid kognitiivseid teenuseid. Tehniliselt on need iseseisvad veebiteenused, mida saab koodist kutsuda. Teenus saadab vastuseks määratud formaadis json, mida saab kasutada juturoboti juures.

Juturoboti puhul kasutatakse kõige sagedamini järgmisi teenuseid:

1. Teksti äratundmine.
2. Arendaja määratletud piltide kategooriate äratundmine, Custom Vision Service (tootmisjuhtum: äratundmine, kas töötajal on kiiver, kaitseprillid või mask).
3. Näotuvastus (hea kasutusjuht on kontrollida, kas küsitletud on kasutanud oma nägu või on see näiteks koera foto või vastassugupoole inimese foto).
4. Kõnetuvastus.
5. Piltide analüüs.
6. Tõlge (kõik me mäletame, kui palju kõmu tekitas simultaan tõlge Skype'is).
7. Õigekirjakontroll ja ettepanekud vigade parandamiseks.

LUIS

Roboide loomiseks võib olla vajalik ka LUIS (Language Understanding Intelligent Service). Teenuse ülesanded:

• Määrata, kas kasutaja väljendus on mõttekas ja kas robot peab reageerima.
• Vähendada kasutaja kõne (teksti) transkribeerimise pingutusi arusaadavateks robotikäskudeks.
• Prognoosida tegelikke kasutaja eesmärke/soove ja ekstraheerida olulist teavet väljenditest dialoogis.
• Anda arendajale võimalus robot käivitada, kasutades ainult mõnda mõistmise näidet, ning seejärel täiendada robotit töö käigus.
• Anda arendajale võimalus kasutada visuaalset esitlust, et hinnata käskude transkribeerimise kvaliteeti.
• Aidata samm-sammult parandada tegelike eesmärkide äratundmist.

Eesmärk on, et LUIS mõistaks tõenäoliselt, mida kasutaja silmas pidas, ja muundaks loomuliku päringu selgesse käsusse. LUIS kasutab päringute tähenduste tuvastamiseks komplekti intente (tahteid) ja entiteete (kas eelnevalt arendajate poolt määratletud või Microsofti loodud valmiduste kaudu). 

Lihtne näide: teil on bot, mis annab ilmateate. Selle jaoks on intent loomuliku päringu muundamine 'tegevuseks' — ilmaprognoosi päring, ja entiteetideks on aeg ja koht. Toome näite CheckWeather intent'i töö tänase boti jaoks.

Intent
Entiteet
Näide loomulikust päringust

CheckWeather
{"type": "location", "entity": "moscow"}
{"type": "builtin.datetimeV2.date", "entity": "future "," resolution ":" 2020-05-30 "}
Milline ilm homme Moskvas on

CheckWeather
{"type": "date_range", "entity": "this weekend"}
Näita mulle prognoosi nende nädalavahetuste kohta

QnA Maker ja LUIS'i kombinatsiooni saab kasutada Dispatcher. 

Kui töötate QnA Makeriga ja saate kasutajalt päringu, määrab süsteem, kui suure tõenäosusega sobib QnA-süsteemist saadud vastus päringule. Kui tõenäosus on kõrge, antakse kasutajale lihtsalt organisatsiooni teadmusbaasi vastus, kui madal — päring võib minna LUISi, et selgitada. Dispatcher'i kasutamine võimaldab mitte programmeerida seda loogikat, vaid automaatselt määrata piir päringute ja nende jaotamise vahel.

Boti testimine ja avaldamine

Testimiseks kasutatakse veel ühte kohaliku rakenduse Bot framework emulator. Emulaatori abil saab suhelda botiga ja kontrollida saadetud ja saadud sõnumeid. Emulaator kuvab sõnumid nii, nagu nad ilmuvad veebivestluse liideses, ja registreerib päringud ja vastused JSON-formaadis sõnumite vahetamisel botiga.

Emulaatori kasutamise näide on esitatud selles demonstreerimises, kus näidatakse BMW virtuaalse assistendi loomist. Videos räägitakse ka uutest kiirenditest, mis aitavad luua juturoboteid — mallidest:

https://youtu.be/u7Gql-ClcVA?t=564

Saate samuti kasutada mallide loomisel oma juturoboteid. 
Mallid võimaldavad mitte kirjutada tüüpilisi roboti funktsioone uuesti, vaid lisada juba valmis koodi kui "oskust". Näiteks võib tuua kalendri haldamise, kohtumiste määramise jne. Valmisoskuste kood avaldati githubis.

Testimine läks edukalt, robot on valmis ja nüüd tuleb see avaldada ja kanalid ühendusse liita. Avaldamine toimub Azure'i vahendite abil, kanalaidena saab kasutada sõnumitoojaid või sotsiaalmeediat. Kui vajaminevat sisestuskanalit pole, siis võib seda otsida vastavast GitHub'i kogukonnast. 

Samuti vajate täieliku vestlusroboti loomiseks, et suhelda kasutaja ja kognitiivsete teenustega, muid Azure'i teenuseid, nagu andmebaasid, serverita (Azure Functions), samuti LogicApp teenuseid ja võimalusel Event Grid.

Hindamine ja analüütika

Kasutajate suhtluse hindamiseks saab kasutada nii Azure Bot Service'i sisseehitatud analüütikat kui ka spetsiaalset teenust Application Insights.

Tulemuseks on võimalik koguda teavet järgmiste kriteeriumide alusel:

• Kui palju kasutajaid sai robotile juurdepääsu erinevatest kanalitest valitud ajavahemiku jooksul.
• Kui palju kasutajaid, kes saatsid ühe sõnumi, naasid hiljem ja saatsid veel ühe.
• Kui palju toiminguid oli iga kanali kaudu saadetud ja saadud määratud ajavahemiku jooksul.

Application Insights'i abil on võimalik jälgida mis tahes rakendusi Azure's, sealhulgas vestlusroboteid, saades lisateavet kasutajate käitumise, koormuste ja roboti reageeringute kohta. Tuleb märkida, et Application Insights teenusel on oma liides Azure'i portaalis.

Samuti saab selle teenuse kaudu kogutud andmeid kasutada lisavisualiseerimise ja analüüsiraportite loomiseks PowerBI's. Sellise raporti näidise ja PowerBI templi võib leida siin.

Kõigile tänud tähelepanu eest! Selles artiklis kasutasime artikkel Microsoft Azure arhitekti Anna Fenjushina veebinarist "Kui inimesed ei jõua. Kuidas kasutada 100% vestlusroboteid ja kognitiivseid teenuseid rutiinsete protsesside automatiseerimiseks", kus näitasime visuaalselt, mis on Azure'is vestlusrobotid ja millised on nende kasutusstsenaariumid, ning demonstreerisime, kuidas 15 minutiga luua robot QnA Maker'is ja kuidas päringute struktuur LUIS'es lahti kirjutatakse. 

Me tegime selle veebiseminari Dev Bootcampi arendajate online-maratoni raames. Sel teemal rääkisime toodetest, mis kiirendavad arendust ja leevendavad osa rutiinsest koormusest ettevõtte töötajatele automatiseerimistööriistade ja eelnevalt seadistatud Azure moodulite abil. Muude maratonisse kuuluvate veebiseminaride salvestused on saadaval linkide kaudu:

• Azure DevOps kui vahend arenduse täisringi korraldamiseks igas keeles ja igal platvormil, kasutades DevOps praktikad 
  Räägime Azure DevOps teenuse evolutsioonist ja uutest võimalustest. Sügavale minek viie peamise komponendi ja sellele, kuidas teenus toetab tööstusliku tarkvaraarenduse korraldamist. Esineja — Vladimir Gusarov, Microsoft MVP.
• CI/CD korraldamine Azure Pipelines'i abil
  Vaatame, kuidas ellu viia "koodiga kogumine" lähenemist igasuguste programmeerimiskeelte jaoks, kasutades multi-stage YAML pipelines. Esineja — Vladimir Gusarov, Microsoft MVP.
• Mitme toote versiooni samaaegne toetamine tööstuslikus arenduses Azure Repos'i kasutades
  Arutame, kuidas välja töötada tarkvara lähtekoodi salvestamise strateegiaid ja kuidas kasutada versioonihaldussüsteeme Azure Repos'i abil. Esineja — Vladimir Gusarov, Microsoft MVP.
• WhiteSource. Turvaliste avatud lähtekoodiga raamatukogude monitooring 
  Tutvustame open source'i haldamise metoodikaid arenduses ning WhiteSource'i tööriista praktilist kasutamist. Räägime haavatavuste leidmisest avatud lähtekoodiga komponentides ja litsentside järgimise tagamisest WhiteSource'i abil. Esinejad — Diana Lisbaron, WhiteSource'i müügijuht, ja Darya Oreshkina, Web Control, WhiteSource'i ametlik edasimüüja Venemaal.

Allikas: habr.com