હેકાથોન DevDays'19 (ભાગ 2): IntelliJ IDEA માં ટેલિગ્રામ અને વ્યાકરણની ચકાસણી માટે ઓડિયો સંદેશ પાર્સર

અમે વસંત હેકાથોન દેવડેઝના પ્રોજેક્ટ્સ વિશે વાત કરવાનું ચાલુ રાખીએ છીએ, જેમાં માસ્ટર પ્રોગ્રામના વિદ્યાર્થીઓએ ભાગ લીધો હતો. "સોફ્ટવેર ડેવલપમેન્ટ / સોફ્ટવેર એન્જિનિયરિંગ".

માર્ગ દ્વારા, અમે વાચકોને જોડાવા માટે આમંત્રિત કરવા માંગીએ છીએ માસ્ટરના વિદ્યાર્થીઓનું વીકે જૂથ. તેમાં અમે ભરતી અને અભ્યાસ અંગેના નવીનતમ સમાચાર પ્રકાશિત કરીશું. ઓપન ડેનો વિડીયો પણ ગ્રુપમાં મળી શકે છે. અમે તમને યાદ અપાવીએ છીએ: ઇવેન્ટ 29 એપ્રિલના રોજ થશે, વિગતો ઓનલાઇન.

ટેલિગ્રામ ડેસ્કટૉપ વૉઇસ મેસેજ પાર્સર

વિચારના લેખક
ખોરોશેવ આર્ટીઓમ

હરોળમાં ગોઠવાઇ જવું

ખોરોશેવ આર્ટેમ – પ્રોજેક્ટ મેનેજર/ડેવલપર/QA
એલિસીવ એન્ટોન - બિઝનેસ વિશ્લેષક/માર્કેટિંગ નિષ્ણાત
મારિયા કુક્લિના - UI ડિઝાઇનર/ડેવલપર
બખ્વાલોવ પાવેલ – UI ડિઝાઇનર/ડેવલપર/QA

અમારા દૃષ્ટિકોણથી, ટેલિગ્રામ એક આધુનિક અને અનુકૂળ મેસેન્જર છે, અને તેનું પીસી સંસ્કરણ લોકપ્રિય અને ઓપન સોર્સ છે, જે તેને સંશોધિત કરવાનું શક્ય બનાવે છે. ક્લાયંટ તદ્દન સમૃદ્ધ કાર્યક્ષમતા પ્રદાન કરે છે. પ્રમાણભૂત ટેક્સ્ટ સંદેશાઓ ઉપરાંત, તેમાં વૉઇસ કૉલ્સ, વિડિયો સંદેશા અને વૉઇસ સંદેશાઓનો સમાવેશ થાય છે. અને તે પછીનું છે જે ક્યારેક તેમના પ્રાપ્તકર્તાને અસુવિધા લાવે છે. કમ્પ્યુટર અથવા લેપટોપ પર હોય ત્યારે વૉઇસ સંદેશ સાંભળવું ઘણીવાર શક્ય નથી. આજુબાજુનો ઘોંઘાટ હોઈ શકે છે, હેડફોન્સનો અભાવ હોઈ શકે છે અથવા તમે નથી ઈચ્છતા કે કોઈ પણ સંદેશની સામગ્રી સાંભળે. જો તમે સ્માર્ટફોન પર ટેલિગ્રામનો ઉપયોગ કરો છો તો આવી સમસ્યાઓ લગભગ ક્યારેય ઊભી થતી નથી, કારણ કે તમે લેપટોપ અથવા પીસીથી વિપરીત તેને તમારા કાનમાં લાવી શકો છો. અમે આ સમસ્યા હલ કરવાનો પ્રયાસ કર્યો.

DevDays ખાતેના અમારા પ્રોજેક્ટનો ધ્યેય ટેલિગ્રામ ડેસ્કટૉપ ક્લાયન્ટ (ત્યારબાદ ટેલિગ્રામ ડેસ્કટૉપ તરીકે ઓળખાય છે)માં પ્રાપ્ત વૉઇસ સંદેશાને ટેક્સ્ટમાં અનુવાદિત કરવાની ક્ષમતા ઉમેરવાનો હતો.

આ ક્ષણે બધા એનાલોગ એ બૉટો છે જેના પર તમે ઑડિઓ સંદેશ મોકલી શકો છો અને જવાબમાં ટેક્સ્ટ પ્રાપ્ત કરી શકો છો. અમે આનાથી બહુ ખુશ નથી: બોટ પર સંદેશ ફોરવર્ડ કરવો એ બહુ અનુકૂળ નથી; અમે મૂળ કાર્યક્ષમતા ધરાવવા માંગીએ છીએ. વધુમાં, કોઈપણ બોટ એ તૃતીય પક્ષ છે જે સ્પીચ રેકગ્નિશન API અને વપરાશકર્તા વચ્ચે મધ્યસ્થી તરીકે કાર્ય કરે છે, અને આ ઓછામાં ઓછું, અસુરક્ષિત છે.

અગાઉ નોંધ્યું તેમ, ટેલિગ્રામ-ડેસ્કટોપના બે નોંધપાત્ર ફાયદા છે: સરળતા અને કામગીરીની ઝડપ. અને આ કોઈ સંયોગ નથી, કારણ કે તે સંપૂર્ણપણે C++ માં લખાયેલું છે. અને અમે નવી કાર્યક્ષમતા સીધી ક્લાયંટમાં ઉમેરવાનું નક્કી કર્યું હોવાથી, અમારે તેને C++ માં વિકસાવવું પડ્યું.

અમારી ટીમમાં 4 લોકો હતા. શરૂઆતમાં, બે લોકો વાણી ઓળખ માટે યોગ્ય લાઇબ્રેરી શોધી રહ્યા હતા, એક વ્યક્તિ ટેલિગ્રામ-ડેસ્કટોપના સ્ત્રોત કોડનો અભ્યાસ કરી રહ્યો હતો, બીજો બિલ્ડ પ્રોજેક્ટનો ઉપયોગ કરી રહ્યો હતો. ટેલિગ્રામ ડેસ્કટોપ. પાછળથી, દરેક જણ UI ને ઠીક કરવામાં અને ડિબગ કરવામાં વ્યસ્ત હતા.

એવું લાગતું હતું કે ઇચ્છિત કાર્યક્ષમતાને અમલમાં મૂકવું મુશ્કેલ નહીં હોય, પરંતુ, હંમેશની જેમ, મુશ્કેલીઓ ઊભી થઈ.

સમસ્યાના ઉકેલમાં બે સ્વતંત્ર પેટા કાર્યોનો સમાવેશ થાય છે: યોગ્ય ભાષણ ઓળખ સાધન પસંદ કરવું અને નવી કાર્યક્ષમતા માટે UI અમલમાં મૂકવું.

વૉઇસ રેકગ્નિશન માટે લાઇબ્રેરી પસંદ કરતી વખતે, અમારે તરત જ બધા ઑફલાઇન API ને છોડી દેવાનું હતું, કારણ કે ભાષાના મોડલ ઘણી જગ્યા લે છે. પરંતુ અમે ફક્ત એક જ ભાષા વિશે વાત કરી રહ્યા છીએ. તે સ્પષ્ટ થઈ ગયું કે આપણે ઓનલાઈન API નો ઉપયોગ કરવો પડશે. પાછળથી તે બહાર આવ્યું કે Google, Yandex અને Microsoft જેવા દિગ્ગજોની વાણી ઓળખ સેવાઓ બિલકુલ મફત નથી, અને અમારે અજમાયશ અવધિથી સંતુષ્ટ રહેવું પડશે. પરિણામે, Google સ્પીચ-ટુ-ટેક્સ્ટ પસંદ કરવામાં આવ્યું હતું કારણ કે તે તમને સેવાનો ઉપયોગ કરવા માટે ટોકન મેળવવાની મંજૂરી આપે છે, જે આખા વર્ષ સુધી ચાલશે.

અમે જે બીજી સમસ્યાનો સામનો કર્યો તે C++ ની કેટલીક ખામીઓ સાથે સંબંધિત છે - કેન્દ્રિય ભંડારની ગેરહાજરીમાં વિવિધ પુસ્તકાલયોનું પ્રાણી સંગ્રહાલય. એવું બને છે કે ટેલિગ્રામ ડેસ્કટોપ અન્ય ઘણી આવૃત્તિ-વિશિષ્ટ લાઇબ્રેરીઓ પર આધાર રાખે છે. સત્તાવાર ભંડાર ધરાવે છે મેન્યુઅલ પ્રોજેક્ટ એસેમ્બલ કરવા માટે. અને બિલ્ડ સમસ્યાઓ વિશે પણ મોટી સંખ્યામાં ખુલ્લા મુદ્દાઓ, ઉદાહરણ તરીકે વખત и два. બધી સમસ્યાઓ એ હકીકત સાથે સંબંધિત હોવાનું બહાર આવ્યું કે બિલ્ડ સ્ક્રિપ્ટ ઉબુન્ટુ 14.04 માટે લખવામાં આવી હતી, અને ઉબુન્ટુ 18.04 હેઠળ ટેલિગ્રામ સફળતાપૂર્વક બનાવવા માટે, ફેરફારો કરવા પડ્યા.

ટેલિગ્રામ ડેસ્કટોપ પોતે એસેમ્બલ થવામાં ઘણો લાંબો સમય લે છે: ઇન્ટેલ કોર i5-7200U સાથેના લેપટોપ પર, તમામ નિર્ભરતાઓ સાથે પૂર્ણ એસેમ્બલી (ફ્લેગ -j 4) લગભગ ત્રણ કલાક લે છે. તેમાંથી, લગભગ 30 મિનિટ ક્લાયન્ટને જ લિંક કરીને લેવામાં આવે છે (પછીથી જાણવા મળ્યું કે ડીબગ કન્ફિગરેશનમાં, લિંકિંગ લગભગ 10 મિનિટ લે છે), પરંતુ ફેરફારો કર્યા પછી લિંકિંગ સ્ટેજને દર વખતે પુનરાવર્તિત કરવું પડશે.

સમસ્યાઓ હોવા છતાં, અમે કલ્પના કરેલ વિચારને અમલમાં મૂકવા તેમજ અપડેટ કરવામાં વ્યવસ્થાપિત થયા સ્ક્રિપ્ટ બનાવો ઉબુન્ટુ 18.04 માટે. પર કામનું પ્રદર્શન જોઈ શકાય છે કડી. અમે કેટલાક એનિમેશનનો પણ સમાવેશ કરીએ છીએ. બધા વૉઇસ સંદેશાઓની બાજુમાં એક બટન દેખાય છે, જે તમને સંદેશને ટેક્સ્ટમાં અનુવાદિત કરવાની મંજૂરી આપે છે. જમણું-ક્લિક કરીને, તમે વધુમાં તે ભાષાનો ઉલ્લેખ કરી શકો છો કે જેનો ઉપયોગ પ્રસારણ માટે કરવામાં આવશે. દ્વારા કડી ક્લાયંટ ડાઉનલોડ કરવા માટે ઉપલબ્ધ છે.

ભંડાર.

અમારા મતે, તે કાર્યક્ષમતાના ખ્યાલનો સારો પુરાવો હોવાનું બહાર આવ્યું છે જે ઘણા વપરાશકર્તાઓ માટે અનુકૂળ રહેશે. અમે તેને ટેલિગ્રામ ડેસ્કટોપના ભાવિ પ્રકાશનોમાં જોવાની આશા રાખીએ છીએ.

IntelliJ IDEA માં ઉન્નત નેચરલ લેંગ્વેજ સપોર્ટ

વિચારના લેખક

ટેન્કોવ વ્લાદિસ્લાવ

હરોળમાં ગોઠવાઇ જવું

ટેન્કોવ વ્લાદિસ્લાવ (ટીમ લીડ, લેંગ્વેજટૂલ અને ઇન્ટેલિજે આઈડીએ સાથે કામ કરે છે)
નિકિતા સોકોલોવ (LanguageTool સાથે કામ કરવું અને UI બનાવવું)
ખ્વોરોવ એલેક્ઝાન્ડર (LanguageTool સાથે કામ કરવું અને પ્રદર્શનને ઑપ્ટિમાઇઝ કરવું)
સડોવનિકોવ એલેક્ઝાન્ડર (માર્કઅપ ભાષાઓ અને કોડને પાર્સ કરવા માટે સપોર્ટ)

અમે IntelliJ IDEA માટે એક પ્લગઇન વિકસાવ્યું છે જે વ્યાકરણ, જોડણી અને શૈલીયુક્ત ચોકસાઈ (અંગ્રેજીમાં તેને પ્રૂફરીડિંગ કહેવાય છે) માટે વિવિધ ટેક્સ્ટ્સ (ટિપ્પણીઓ અને દસ્તાવેજીકરણ, કોડમાં શાબ્દિક રેખાઓ, માર્કડાઉન અથવા XML માર્કઅપમાં ફોર્મેટ કરેલ ટેક્સ્ટ) તપાસે છે.

પ્રોજેક્ટનો વિચાર પ્રમાણભૂત સ્પેલચેક IntelliJ IDEA ને Grammarly ના સ્કેલ સુધી વિસ્તારવાનો હતો, જેથી IDE ની અંદર એક પ્રકારનું વ્યાકરણ બનાવવામાં આવે.

શું થયું તે તમે જોઈ શકો છો લિંક.

સારું, નીચે આપણે પ્લગઇનની ક્ષમતાઓ, તેમજ તેની રચના દરમિયાન ઊભી થયેલી મુશ્કેલીઓ વિશે વધુ વિગતવાર વાત કરીશું.

પ્રોત્સાહન

પ્રાકૃતિક ભાષાઓમાં ટેક્સ્ટ લખવા માટે ઘણા ઉત્પાદનો ડિઝાઇન કરવામાં આવ્યા છે, પરંતુ દસ્તાવેજીકરણ અને કોડ ટિપ્પણીઓ મોટાભાગે વિકાસ વાતાવરણમાં લખવામાં આવે છે. તે જ સમયે, IDEs કોડમાં ભૂલો શોધવાનું ઉત્તમ કાર્ય કરે છે, પરંતુ કુદરતી ભાષાઓમાં લખાણો માટે ખરાબ રીતે અનુકૂળ છે. આનાથી વ્યાકરણ, વિરામચિહ્નો અથવા શૈલીમાં ભૂલો કરવી ખૂબ જ સરળ બને છે, વિકાસ પર્યાવરણ તેમને નિર્દેશિત કર્યા વિના. વપરાશકર્તા ઈન્ટરફેસ લખવામાં ભૂલ કરવી એ સૌથી મહત્વપૂર્ણ છે, કારણ કે આ ફક્ત કોડની સમજણને જ નહીં, પણ વિકસિત એપ્લિકેશનના વપરાશકર્તાઓને પણ અસર કરશે.

સૌથી વધુ લોકપ્રિય અને વિકસિત વિકાસ વાતાવરણમાંનું એક છે IntelliJ IDEA, તેમજ IntelliJ પ્લેટફોર્મ પર આધારિત IDE. IntelliJ પ્લેટફોર્મમાં પહેલેથી જ બિલ્ટ-ઇન સ્પેલચેકર છે, પરંતુ તે સરળ વ્યાકરણની ભૂલોથી પણ છુટકારો મેળવતો નથી. અમે એક લોકપ્રિય પ્રાકૃતિક ભાષા વિશ્લેષણ પ્રણાલીને IntelliJ IDEA માં એકીકૃત કરવાનું નક્કી કર્યું છે.

Реализация

અમે અમારી પોતાની ટેક્સ્ટ વેરિફિકેશન સિસ્ટમ બનાવવાનું કાર્ય જાતે સેટ કર્યું નથી, તેથી અમે હાલના ઉકેલનો ઉપયોગ કર્યો. સૌથી યોગ્ય વિકલ્પ બહાર આવ્યું લેંગ્વેજટૂલ. લાઇસન્સે અમને અમારા હેતુઓ માટે તેનો મુક્તપણે ઉપયોગ કરવાની મંજૂરી આપી છે: તે મફત છે, જાવા અને ઓપન-સોર્સમાં લખાયેલ છે. વધુમાં, તે 25 ભાષાઓને સપોર્ટ કરે છે અને પંદર વર્ષથી વધુ સમયથી વિકાસમાં છે. તેની નિખાલસતા હોવા છતાં, LanguageTool એ પેઇડ ટેક્સ્ટ વેરિફિકેશન સોલ્યુશન્સ માટે એક ગંભીર પ્રતિસ્પર્ધી છે, અને હકીકત એ છે કે તે સ્થાનિક રીતે કામ કરી શકે છે તે શાબ્દિક રીતે તેનું કિલર લક્ષણ છે.

પ્લગઇન કોડ અંદર છે GitHub પર રીપોઝીટરીઝ. UI માટે Java ના નાના ઉમેરા સાથે સમગ્ર પ્રોજેક્ટ કોટલિનમાં લખવામાં આવ્યો હતો. હેકાથોન દરમિયાન, અમે માર્કડાઉન, જાવાડોક, એચટીએમએલ અને પ્લેન ટેક્સ્ટ માટે સપોર્ટ લાગુ કરવામાં વ્યવસ્થાપિત થયા. હેકાથોન પછી, એક મુખ્ય અપડેટમાં XML, જાવા, કોટલિન અને પાયથોનમાં સ્ટ્રિંગ લિટરલ્સ અને જોડણી તપાસ માટે સપોર્ટ ઉમેરાયો.

મુશ્કેલીઓ

ખૂબ જ ઝડપથી અમને સમજાયું કે જો આપણે દરેક વખતે નિરીક્ષણ માટે લેંગ્વેજટૂલમાં તમામ ટેક્સ્ટ ફીડ કરીએ છીએ, તો IDEA ઇન્ટરફેસ કોઈપણ વધુ કે ઓછા ગંભીર ટેક્સ્ટ પર સ્થિર થઈ જશે, કારણ કે નિરીક્ષણ પોતે જ UI પ્રવાહને અવરોધે છે. સમસ્યાનું નિરાકરણ `ProgressManager.checkCancelled` ચેક દ્વારા કરવામાં આવ્યું હતું - જો IDEA માને છે કે નિરીક્ષણને અટકાવવાનો સમય આવી ગયો છે તો આ ફંક્શન એક અપવાદ દર્શાવે છે.

આનાથી ફ્રીઝ સંપૂર્ણપણે દૂર થઈ ગયા, પરંતુ તેનો ઉપયોગ કરવો અશક્ય છે: ટેક્સ્ટને પ્રક્રિયા કરવામાં ઘણો સમય લાગે છે. તદુપરાંત, અમારા કિસ્સામાં, મોટાભાગે ટેક્સ્ટનો ખૂબ જ નાનો ભાગ બદલાય છે અને અમે પરિણામોને કોઈક રીતે કેશ કરવા માંગીએ છીએ. અમે શું કર્યું તે બરાબર છે. દરેક વખતે દરેક વસ્તુની તપાસ ન કરવા માટે, અમે નિશ્ચિતપણે ટેક્સ્ટને ટુકડાઓમાં વિભાજીત કરીએ છીએ અને ફક્ત તે જ તપાસીએ છીએ જે બદલાઈ ગયા હતા. ટેક્સ્ટ્સ મોટા હોઈ શકે છે અને અમે કેશ લોડ કરવા માંગતા ન હોવાથી, અમે ટેક્સ્ટ્સ પોતે જ સ્ટોર કર્યા નથી, પરંતુ તેમના હેશ. આનાથી પ્લગઇનને મોટી ફાઇલો પર પણ સરળતાથી કામ કરવાની મંજૂરી મળી.

LanguageTool 25 થી વધુ ભાષાઓને સપોર્ટ કરે છે, પરંતુ તે અસંભવિત છે કે કોઈપણ એક વપરાશકર્તાને તે બધાની જરૂર હોય. હું વિનંતી પર ચોક્કસ ભાષા માટે લાઇબ્રેરીઓ ડાઉનલોડ કરવાની તક આપવા માંગતો હતો (જો તમે તેને UI માં ટિક કરો છો). અમે આનો અમલ પણ કર્યો, પરંતુ તે ખૂબ જટિલ અને અવિશ્વસનીય હોવાનું બહાર આવ્યું. ખાસ કરીને, અમારે એક અલગ ક્લાસલોડરનો ઉપયોગ કરીને ભાષાઓના નવા સેટ સાથે LanguageTool લોડ કરવું પડ્યું, અને પછી તેને કાળજીપૂર્વક પ્રારંભ કરવું. તદુપરાંત, બધી લાઇબ્રેરીઓ યુઝર .m2 રિપોઝીટરીમાં હતી, અને દરેક શરૂઆતમાં અમારે તેમની પ્રામાણિકતા તપાસવાની હતી. અંતે, અમે નક્કી કર્યું કે જો વપરાશકર્તાઓને પ્લગઇનના કદમાં સમસ્યા હોય, તો અમે ઘણી લોકપ્રિય ભાષાઓ માટે એક અલગ પ્લગઇન પ્રદાન કરીશું.

હેકાથોન પછી

હેકાથોન સમાપ્ત થયું, પરંતુ પ્લગઇન પરનું કામ સાંકડી ટીમ સાથે ચાલુ રહ્યું. હું શબ્દમાળાઓ, ટિપ્પણીઓ અને ભાષાની રચનાઓ જેમ કે વેરીએબલ અને વર્ગના નામોને સમર્થન આપવા માંગતો હતો. હાલમાં આ માત્ર Java, Kotlin અને Python માટે સમર્થિત છે, પરંતુ અમને આશા છે કે આ સૂચિ વધશે. અમે ઘણી બધી નાની ભૂલોને ઠીક કરી છે અને Idea ના બિલ્ટ-ઇન સ્પેલ ચેકર સાથે વધુ સુસંગત બની ગયા છીએ. વધુમાં, XML સપોર્ટ અને જોડણી તપાસ દેખાય છે. આ બધું બીજા સંસ્કરણમાં મળી શકે છે, જે અમે તાજેતરમાં પ્રકાશિત કર્યું છે.

શું આગામી છે?

આવા પ્લગઇન ફક્ત વિકાસકર્તાઓ માટે જ નહીં, પણ તકનીકી લેખકો માટે પણ ઉપયોગી થઈ શકે છે (ઘણીવાર કામ કરે છે, ઉદાહરણ તરીકે, IDE માં XML સાથે). શક્ય ભૂલો વિશે સંપાદક ટીપ્સના રૂપમાં સહાયક વિના, દરરોજ તેઓએ કુદરતી ભાષા સાથે કામ કરવું પડશે. અમારું પ્લગઇન આવા સંકેતો પ્રદાન કરે છે અને તે ઉચ્ચ સ્તરની ચોકસાઈ સાથે કરે છે.
અમે નવી ભાષાઓ ઉમેરીને અને ટેક્સ્ટ ચેકિંગ ગોઠવવા માટેના સામાન્ય અભિગમની શોધ કરીને પ્લગઇન વિકસાવવાની યોજના બનાવીએ છીએ. અમારી તાત્કાલિક યોજનાઓમાં શૈલીયુક્ત રૂપરેખાઓના અમલીકરણનો સમાવેશ થાય છે (નિયમોના સેટ કે જે ટેક્સ્ટ માટે શૈલી માર્ગદર્શિકા વ્યાખ્યાયિત કરે છે, ઉદાહરણ તરીકે, "દા.ત. લખો નહીં, પરંતુ સંપૂર્ણ સ્વરૂપ લખો"), શબ્દકોશનો વિસ્તાર કરવો અને વપરાશકર્તા ઇન્ટરફેસ (ખાસ કરીને, અમે વપરાશકર્તાને માત્ર શબ્દને અવગણવાની જ નહીં, પણ તેને શબ્દકોષમાં ઉમેરવાની તક આપવા માંગીએ છીએ, જે ભાષણનો ભાગ દર્શાવે છે).

સ્ત્રોત: www.habr.com