हैकथॉन देवडेज़'19 (भाग 2): टेलीग्राम के लिए ऑडियो संदेश पार्सर और IntelliJ IDEA में व्याकरण की जाँच

हम स्प्रिंग हैकथॉन देवडेज़ की परियोजनाओं के बारे में बात करना जारी रखते हैं, जिसमें मास्टर कार्यक्रम के छात्रों ने भाग लिया "सॉफ़्टवेयर विकास/सॉफ़्टवेयर इंजीनियरिंग".

वैसे, हम पाठकों को इसमें शामिल होने के लिए आमंत्रित करना चाहेंगे मास्टर के छात्रों का वीके समूह. इसमें हम भर्ती और अध्ययन के बारे में नवीनतम समाचार प्रकाशित करेंगे। खुले दिन का एक वीडियो भी समूह में पाया जा सकता है। हम आपको याद दिलाते हैं: यह आयोजन 29 अप्रैल को होगा, विवरण ऑनलाइन.

टेलीग्राम डेस्कटॉप वॉयस मैसेज पार्सर

विचार लेखक
खोरोशेव अर्टोम

पंक्ति बनायें

खोरोशेव आर्टेम - प्रोजेक्ट मैनेजर/डेवलपर/क्यूए
एलिसेव एंटोन - व्यापार विश्लेषक/विपणन विशेषज्ञ
मारिया कुकलिना - यूआई डिजाइनर/डेवलपर
बख्वालोव पावेल - यूआई डिजाइनर/डेवलपर/क्यूए

हमारे दृष्टिकोण से, टेलीग्राम एक आधुनिक और सुविधाजनक मैसेंजर है, और इसका पीसी संस्करण लोकप्रिय और खुला स्रोत है, जिससे इसे संशोधित करना संभव हो जाता है। क्लाइंट काफी समृद्ध कार्यक्षमता प्रदान करता है। मानक टेक्स्ट संदेशों के अलावा, इसमें वॉयस कॉल, वीडियो संदेश और वॉयस संदेश शामिल हैं। और यह उत्तरार्द्ध है जो कभी-कभी उनके प्राप्तकर्ता के लिए असुविधा लाता है। कंप्यूटर या लैपटॉप पर रहते हुए ध्वनि संदेश सुनना अक्सर संभव नहीं होता है। परिवेश में शोर हो सकता है, हेडफ़ोन की कमी हो सकती है, या आप नहीं चाहते कि कोई संदेश की सामग्री सुने। यदि आप स्मार्टफोन पर टेलीग्राम का उपयोग करते हैं तो ऐसी समस्याएं लगभग कभी नहीं आती हैं, क्योंकि लैपटॉप या पीसी के विपरीत, आप इसे आसानी से अपने कान में ला सकते हैं। हमने इस समस्या को हल करने का प्रयास किया.

DevDays में हमारे प्रोजेक्ट का लक्ष्य टेलीग्राम डेस्कटॉप क्लाइंट (इसके बाद टेलीग्राम डेस्कटॉप के रूप में संदर्भित) में प्राप्त ध्वनि संदेशों को टेक्स्ट में अनुवाद करने की क्षमता जोड़ना था।

इस समय सभी एनालॉग्स बॉट हैं जिन पर आप एक ऑडियो संदेश भेज सकते हैं और प्रतिक्रिया में एक टेक्स्ट प्राप्त कर सकते हैं। हम इससे बहुत खुश नहीं हैं: किसी बॉट को संदेश अग्रेषित करना बहुत सुविधाजनक नहीं है; हम मूल कार्यक्षमता चाहते हैं। इसके अलावा, कोई भी बॉट एक तीसरा पक्ष है जो वाक् पहचान एपीआई और उपयोगकर्ता के बीच मध्यस्थ के रूप में कार्य करता है, और यह कम से कम असुरक्षित है।

जैसा कि पहले उल्लेख किया गया है, टेलीग्राम-डेस्कटॉप के दो महत्वपूर्ण फायदे हैं: संचालन में आसानी और गति। और यह कोई संयोग नहीं है, क्योंकि यह पूरी तरह से C++ में लिखा गया है। और चूँकि हमने सीधे क्लाइंट में नई कार्यक्षमता जोड़ने का निर्णय लिया, इसलिए हमें इसे C++ में विकसित करना पड़ा।

हमारी टीम में 4 लोग थे. प्रारंभ में, दो लोग वाक् पहचान के लिए उपयुक्त लाइब्रेरी की खोज कर रहे थे, एक व्यक्ति टेलीग्राम-डेस्कटॉप के स्रोत कोड का अध्ययन कर रहा था, दूसरा बिल्ड प्रोजेक्ट को तैनात कर रहा था टेलीग्राम डेस्कटॉप. बाद में, हर कोई यूआई को ठीक करने और डिबगिंग में व्यस्त था।

ऐसा लग रहा था कि इच्छित कार्यक्षमता को लागू करना मुश्किल नहीं होगा, लेकिन, जैसा कि हमेशा होता है, कठिनाइयाँ पैदा हुईं।

समस्या के समाधान में दो स्वतंत्र उपकार्य शामिल थे: एक उपयुक्त वाक् पहचान उपकरण चुनना और नई कार्यक्षमता के लिए यूआई लागू करना।

ध्वनि पहचान के लिए लाइब्रेरी चुनते समय, हमें तुरंत सभी ऑफ़लाइन एपीआई को छोड़ना पड़ा, क्योंकि भाषा मॉडल बहुत अधिक जगह लेते हैं। लेकिन हम सिर्फ एक भाषा की बात कर रहे हैं. यह स्पष्ट हो गया कि हमें ऑनलाइन एपीआई का उपयोग करना होगा। बाद में यह पता चला कि Google, Yandex और Microsoft जैसे दिग्गजों की वाक् पहचान सेवाएँ बिल्कुल भी निःशुल्क नहीं हैं, और हमें परीक्षण अवधि से ही संतुष्ट रहना होगा। परिणामस्वरूप, Google Speech-To-Text को चुना गया क्योंकि यह आपको सेवा का उपयोग करने के लिए एक टोकन प्राप्त करने की अनुमति देता है, जो पूरे एक वर्ष तक चलेगा।

दूसरी समस्या जिसका हमें सामना करना पड़ा वह C++ की कुछ कमियों से संबंधित है - एक केंद्रीकृत भंडार के अभाव में विभिन्न पुस्तकालयों का एक चिड़ियाघर। ऐसा होता है कि टेलीग्राम डेस्कटॉप कई अन्य संस्करण-विशिष्ट पुस्तकालयों पर निर्भर करता है। आधिकारिक भंडार है अनुदेश प्रोजेक्ट को असेंबल करने के लिए. और उदाहरण के लिए, निर्माण समस्याओं के बारे में बड़ी संख्या में खुले मुद्दे भी हैं समय и два. सभी समस्याएँ इस तथ्य से संबंधित निकलीं कि बिल्ड स्क्रिप्ट Ubuntu 14.04 के लिए लिखी गई थी, और Ubuntu 18.04 के तहत टेलीग्राम को सफलतापूर्वक बनाने के लिए, बदलाव करने पड़े।

टेलीग्राम डेस्कटॉप को असेंबल करने में काफी लंबा समय लगता है: इंटेल कोर i5-7200U वाले लैपटॉप पर, सभी निर्भरताओं के साथ पूर्ण असेंबली (फ्लैग -जे 4) में लगभग तीन घंटे लगते हैं। इनमें से, क्लाइंट को स्वयं लिंक करने में लगभग 30 मिनट लगते हैं (बाद में यह पता चला कि डिबग कॉन्फ़िगरेशन में, लिंकिंग में लगभग 10 मिनट लगते हैं), लेकिन परिवर्तन करने के बाद लिंकिंग चरण को हर बार दोहराया जाना पड़ता है।

समस्याओं के बावजूद, हम कल्पित विचार को लागू करने के साथ-साथ अद्यतन करने में भी कामयाब रहे स्क्रिप्ट बनाएं उबंटू 18.04 के लिए। कार्य का प्रदर्शन यहां देखा जा सकता है लिंक. हम कई एनिमेशन भी शामिल करते हैं। सभी ध्वनि संदेशों के बगल में एक बटन दिखाई देता है, जो आपको संदेश को टेक्स्ट में अनुवाद करने की अनुमति देता है। राइट-क्लिक करके, आप अतिरिक्त रूप से उस भाषा को निर्दिष्ट कर सकते हैं जिसका उपयोग प्रसारण के लिए किया जाएगा। द्वारा लिंक क्लाइंट डाउनलोड के लिए उपलब्ध है।

भण्डार।

हमारी राय में, यह कार्यक्षमता की अवधारणा का एक अच्छा प्रमाण साबित हुआ जो कई उपयोगकर्ताओं के लिए सुविधाजनक होगा। हम इसे टेलीग्राम डेस्कटॉप के भविष्य के रिलीज में देखने की उम्मीद करते हैं।

IntelliJ IDEA में उन्नत प्राकृतिक भाषा समर्थन

विचार लेखक

टैंकोव व्लादिस्लाव

पंक्ति बनायें

टैंकोव व्लादिस्लाव (टीम लीड, लैंग्वेजटूल और इंटेलीज आइडिया के साथ काम कर रहे हैं)
निकिता सोकोलोव (लैंग्वेजटूल के साथ काम करना और यूआई बनाना)
ख्वोरोव अलेक्जेंडर (लैंग्वेजटूल के साथ काम करना और प्रदर्शन को अनुकूलित करना)
सदोवनिकोव अलेक्जेंडर (मार्कअप भाषाओं और कोड को पार्स करने के लिए समर्थन)

हमने IntelliJ IDEA के लिए एक प्लगइन विकसित किया है जो व्याकरणिक, वर्तनी और शैलीगत सटीकता के लिए विभिन्न पाठों (टिप्पणियाँ और दस्तावेज़ीकरण, कोड में शाब्दिक पंक्तियाँ, मार्कडाउन या XML मार्कअप में स्वरूपित पाठ) की जाँच करता है (अंग्रेजी में इसे प्रूफरीडिंग कहा जाता है)।

परियोजना का विचार मानक वर्तनी जाँच IntelliJ IDEA को व्याकरण के पैमाने पर विस्तारित करना था, ताकि IDE के अंदर एक प्रकार का व्याकरण बनाया जा सके।

आप देख सकते हैं क्या हुआ по ссылке.

खैर, नीचे हम प्लगइन की क्षमताओं के साथ-साथ इसके निर्माण के दौरान आने वाली कठिनाइयों के बारे में अधिक विस्तार से बात करेंगे।

अभिप्रेरण

प्राकृतिक भाषाओं में पाठ लिखने के लिए कई उत्पाद डिज़ाइन किए गए हैं, लेकिन दस्तावेज़ीकरण और कोड टिप्पणियाँ अक्सर विकास परिवेश में लिखी जाती हैं। साथ ही, आईडीई कोड में त्रुटियों को खोजने का उत्कृष्ट काम करते हैं, लेकिन प्राकृतिक भाषाओं में पाठ के लिए खराब रूप से अनुकूल हैं। इससे विकास परिवेश द्वारा बताए बिना व्याकरण, विराम चिह्न या शैली में गलतियाँ करना बहुत आसान हो जाता है। उपयोगकर्ता इंटरफ़ेस लिखने में गलती करना सबसे महत्वपूर्ण है, क्योंकि इससे न केवल कोड की समझ प्रभावित होगी, बल्कि स्वयं विकसित एप्लिकेशन के उपयोगकर्ता भी प्रभावित होंगे।

सबसे लोकप्रिय और विकसित विकास परिवेशों में से एक IntelliJ IDEA है, साथ ही IntelliJ प्लेटफ़ॉर्म पर आधारित IDE भी है। IntelliJ प्लेटफ़ॉर्म में पहले से ही एक अंतर्निहित वर्तनी जांचकर्ता है, लेकिन यह सबसे सरल व्याकरण संबंधी त्रुटियों से भी छुटकारा नहीं दिलाता है। हमने लोकप्रिय प्राकृतिक भाषा विश्लेषण प्रणालियों में से एक को IntelliJ IDEA में एकीकृत करने का निर्णय लिया।

कार्यान्वयन

हमने अपना स्वयं का टेक्स्ट सत्यापन सिस्टम बनाने का कार्य स्वयं निर्धारित नहीं किया था, इसलिए हमने मौजूदा समाधान का उपयोग किया। सबसे उपयुक्त विकल्प निकला LanguageTool. लाइसेंस ने हमें इसे अपने उद्देश्यों के लिए स्वतंत्र रूप से उपयोग करने की अनुमति दी: यह मुफ़्त है, जावा में लिखा गया है और ओपन-सोर्स है। इसके अलावा, यह 25 भाषाओं का समर्थन करता है और पंद्रह वर्षों से अधिक समय से विकास में है। अपने खुलेपन के बावजूद, लैंग्वेजटूल सशुल्क टेक्स्ट सत्यापन समाधानों का एक गंभीर प्रतियोगी है, और यह तथ्य कि यह स्थानीय रूप से काम कर सकता है, वस्तुतः इसकी शानदार विशेषता है।

प्लगइन कोड अंदर है GitHub पर रिपॉजिटरी. पूरा प्रोजेक्ट यूआई के लिए जावा के एक छोटे से जोड़ के साथ कोटलिन में लिखा गया था। हैकथॉन के दौरान, हम मार्कडाउन, जावाडॉक, HTML और प्लेन टेक्स्ट के लिए समर्थन लागू करने में कामयाब रहे। हैकथॉन के बाद, एक प्रमुख अपडेट में XML, जावा, कोटलिन और पायथन में स्ट्रिंग अक्षर और वर्तनी जांच के लिए समर्थन जोड़ा गया।

कठिनाइयों

बहुत जल्दी हमें एहसास हुआ कि यदि हम हर बार निरीक्षण के लिए लैंग्वेजटूल को सभी पाठ फ़ीड करते हैं, तो आईडिया इंटरफ़ेस किसी भी अधिक या कम गंभीर पाठ पर स्थिर हो जाएगा, क्योंकि निरीक्षण स्वयं यूआई प्रवाह को अवरुद्ध करता है। समस्या को `प्रोग्रेसमैनेजर.चेककैंसल्ड` चेक के माध्यम से हल किया गया था - यदि आईडीईए को लगता है कि निरीक्षण को रद्द करने का समय आ गया है तो यह फ़ंक्शन एक अपवाद फेंकता है।

इसने फ़्रीज़ को पूरी तरह से समाप्त कर दिया, लेकिन इसका उपयोग करना असंभव है: पाठ को संसाधित होने में बहुत लंबा समय लगता है। इसके अलावा, हमारे मामले में, अक्सर पाठ का एक बहुत छोटा हिस्सा बदल जाता है और हम किसी तरह परिणामों को कैश करना चाहते हैं। हमने बिल्कुल यही किया। हर बार हर चीज़ की जाँच न करने के लिए, हमने निश्चित रूप से पाठ को टुकड़ों में विभाजित कर दिया और केवल उन्हीं की जाँच की जो बदल गए थे। चूँकि टेक्स्ट बड़े हो सकते हैं और हम कैश लोड नहीं करना चाहते थे, इसलिए हमने टेक्स्ट को नहीं, बल्कि उनके हैश को संग्रहीत किया। इसने प्लगइन को बड़ी फ़ाइलों पर भी आसानी से काम करने की अनुमति दी।

लैंग्वेजटूल 25 से अधिक भाषाओं का समर्थन करता है, लेकिन यह संभव नहीं है कि किसी एक उपयोगकर्ता को उन सभी की आवश्यकता हो। मैं अनुरोध पर एक विशिष्ट भाषा के लिए लाइब्रेरी डाउनलोड करने का अवसर देना चाहता था (यदि आप इसे यूआई में टिक करते हैं)। हमने इसे लागू भी किया, लेकिन यह बहुत जटिल और अविश्वसनीय निकला। विशेष रूप से, हमें एक अलग क्लासलोडर का उपयोग करके लैंग्वेजटूल को भाषाओं के एक नए सेट के साथ लोड करना था, और फिर इसे सावधानीपूर्वक आरंभ करना था। उसी समय, सभी लाइब्रेरीज़ एक उपयोगकर्ता .m2 रिपॉजिटरी में थीं, और प्रत्येक शुरुआत में हमें उनकी अखंडता की जाँच करनी थी। अंत में, हमने निर्णय लिया कि यदि उपयोगकर्ताओं को प्लगइन के आकार से समस्या है, तो हम कई सबसे लोकप्रिय भाषाओं के लिए एक अलग प्लगइन प्रदान करेंगे।

हैकथॉन के बाद

हैकथॉन समाप्त हो गया, लेकिन एक संक्षिप्त टीम के साथ प्लगइन पर काम जारी रहा। मैं स्ट्रिंग्स, टिप्पणियों और यहां तक ​​कि चर और वर्ग नामों जैसे भाषा निर्माणों का समर्थन करना चाहता था। वर्तमान में यह केवल जावा, कोटलिन और पायथन के लिए समर्थित है, लेकिन हमें उम्मीद है कि यह सूची बढ़ेगी। हमने कई छोटी-मोटी बग्स को ठीक कर दिया है और आइडिया के अंतर्निर्मित स्पेलचेकर के साथ अधिक संगत हो गए हैं। इसके अलावा, XML समर्थन और वर्तनी जाँच भी सामने आई है। यह सब दूसरे संस्करण में पाया जा सकता है, जिसे हमने हाल ही में प्रकाशित किया है।

आगे क्या है?

ऐसा प्लगइन न केवल डेवलपर्स के लिए, बल्कि तकनीकी लेखकों के लिए भी उपयोगी हो सकता है (उदाहरण के लिए, आईडीई में एक्सएमएल के साथ अक्सर काम करना)। हर दिन उन्हें संभावित त्रुटियों के बारे में संपादक युक्तियों के रूप में सहायक के बिना, प्राकृतिक भाषा के साथ काम करना पड़ता है। हमारा प्लगइन ऐसे संकेत प्रदान करता है और इसे उच्च स्तर की सटीकता के साथ करता है।
हम नई भाषाओं को जोड़कर और टेक्स्ट चेकिंग को व्यवस्थित करने के लिए एक सामान्य दृष्टिकोण की खोज करके, प्लगइन विकसित करने की योजना बना रहे हैं। हमारी तात्कालिक योजनाओं में शैलीगत प्रोफाइल (नियमों के सेट जो पाठ के लिए शैली मार्गदर्शिका को परिभाषित करते हैं, उदाहरण के लिए, "उदाहरण के लिए न लिखें, बल्कि पूर्ण रूप लिखें") का कार्यान्वयन शामिल है, शब्दकोश का विस्तार करना और उपयोगकर्ता इंटरफ़ेस में सुधार करना (विशेष रूप से, हम उपयोगकर्ता को न केवल किसी शब्द को अनदेखा करने का अवसर देना चाहते हैं, बल्कि उसे भाषण के भाग को इंगित करते हुए शब्दकोश में जोड़ने का भी अवसर देना चाहते हैं)।

स्रोत: www.habr.com