Mozilla ने स्पीच रेकग्निशन इंजिन DeepSpeech 0.6 सादर केले

सादर करणारा Mozilla ने विकसित केलेले स्पीच रेकग्निशन इंजिनचे प्रकाशन डीप स्पीच ०.६, जे त्याच नावाचे स्पीच रेकग्निशन आर्किटेक्चर लागू करते, प्रस्तावित Baidu मधील संशोधकांनी. अंमलबजावणी TensorFlow मशीन लर्निंग प्लॅटफॉर्म वापरून Python मध्ये लिहिले आहे आणि द्वारा वितरित मोफत MPL 2.0 परवान्याअंतर्गत. Linux, Android, macOS आणि Windows वर कार्यास समर्थन देते. LePotato, Raspberry Pi 3 आणि Raspberry Pi 4 बोर्डांवर इंजिन वापरण्यासाठी कामगिरी पुरेशी आहे.

सेटमध्ये देखील समाविष्ट आहे देऊ केले प्रशिक्षित मॉडेल, उदाहरणे कमांड लाइनवरून ध्वनी फाइल्स आणि ओळख साधने. तुमच्या प्रोग्राम्समध्ये स्पीच रेकग्निशन फंक्शन समाकलित करण्यासाठी, Python, NodeJS, C++ आणि .NET साठी वापरण्यास तयार मॉड्यूल ऑफर केले जातात (तृतीय-पक्ष विकासकांनी यासाठी स्वतंत्रपणे मॉड्यूल तयार केले आहेत. गंज и Go). तयार झालेले मॉडेल केवळ इंग्रजीसाठी, परंतु इतर भाषांसाठी पुरवले जाते संलग्न सूचना तुम्ही स्वतः प्रणाली वापरून प्रशिक्षित करू शकता व्हॉइस डेटा, Common Voice प्रकल्पाद्वारे संकलित.

डीपस्पीच पारंपारिक प्रणालींपेक्षा खूप सोपे आहे आणि त्याच वेळी बाहेरील आवाजाच्या उपस्थितीत उच्च दर्जाची ओळख प्रदान करते. हे पारंपारिक ध्वनिक मॉडेल्स आणि फोनेम्सच्या संकल्पनेला बायपास करते, त्याऐवजी उच्च ऑप्टिमाइझ केलेल्या न्यूरल नेटवर्क-आधारित मशीन लर्निंग सिस्टमचा वापर करते ज्यामुळे आवाज, प्रतिध्वनी आणि उच्चार वैशिष्ट्ये यासारख्या विविध विसंगती मॉडेल करण्यासाठी स्वतंत्र घटक विकसित करण्याची आवश्यकता नाहीशी होते.

या दृष्टिकोनाचा तोटा असा आहे की न्यूरल नेटवर्कची उच्च-गुणवत्तेची ओळख आणि प्रशिक्षण मिळविण्यासाठी, डीपस्पीच इंजिनला मोठ्या प्रमाणात विषम डेटा आवश्यक असतो, जो वास्तविक परिस्थितीत वेगवेगळ्या आवाजांद्वारे आणि नैसर्गिक आवाजाच्या उपस्थितीत निर्देशित केला जातो.
Mozilla मध्ये तयार केलेला प्रकल्प असा डेटा गोळा करतो. सामान्य आवाज, 780 तासांचा एक सत्यापित डेटासेट प्रदान करतो इंग्रजी भाषा, जर्मनमध्ये 325, फ्रेंचमध्ये 173 आणि रशियनमध्ये 27 तास.

कॉमन व्हॉईस प्रकल्पाचे अंतिम उद्दिष्ट मानवी भाषणाच्या ठराविक वाक्यांशांच्या विविध उच्चारांचे 10 हजार तासांचे रेकॉर्डिंग जमा करणे हे आहे, जे ओळखण्यात त्रुटींची स्वीकार्य पातळी प्राप्त करण्यास अनुमती देईल. सध्याच्या स्वरूपात, प्रकल्पातील सहभागींनी एकूण 4.3 हजार तास आधीच ठरवले आहेत, त्यापैकी 3.5 हजारांची चाचणी झाली आहे. डीपस्पीचसाठी अंतिम इंग्रजी भाषेच्या मॉडेलचे प्रशिक्षण देताना, लायब्रीस्पीच, फिशर आणि स्विचबोर्ड प्रकल्पांमधील कॉमन व्हॉइस कव्हरिंग डेटा व्यतिरिक्त, 3816 तासांचे भाषण वापरले गेले आणि सुमारे 1700 तासांचे लिप्यंतरित रेडिओ शो रेकॉर्डिंग देखील समाविष्ट केले गेले.

डाउनलोडसाठी ऑफर केलेले रेडीमेड इंग्रजी भाषेचे मॉडेल वापरताना, चाचणी संचासह मूल्यमापन केल्यावर डीपस्पीचमधील ओळख त्रुटी दर 7.5% आहे. लिब्री स्पीच. तुलनेसाठी, मानवी ओळखीसाठी त्रुटी दर मूल्यमापन केले जाते 5.83% वर.

DeepSpeech मध्ये दोन उपप्रणाली असतात - एक ध्वनिक मॉडेल आणि एक डीकोडर. इनपुट ध्वनीत विशिष्ट वर्ण उपस्थित असण्याची शक्यता मोजण्यासाठी ध्वनिक मॉडेल सखोल मशीन शिक्षण पद्धती वापरते. डीकोडर वर्ण संभाव्यता डेटा मजकूर प्रतिनिधित्वामध्ये रूपांतरित करण्यासाठी किरण शोध अल्गोरिदम वापरतो.

मुख्य नवकल्पना DeepSpeech 0.6 (0.6 शाखा मागील प्रकाशनांशी सुसंगत नाही आणि कोड आणि मॉडेल अद्यतनांची आवश्यकता आहे):

• एक नवीन स्ट्रीमिंग डीकोडर प्रस्तावित आहे जो उच्च प्रतिसाद प्रदान करतो आणि प्रक्रिया केलेल्या ऑडिओ डेटाच्या आकारापेक्षा स्वतंत्र आहे. परिणामी, DeepSpeech ची नवीन आवृत्ती 260 ms पर्यंत ओळखण्यासाठी विलंब कमी करण्यात व्यवस्थापित झाली, जी पूर्वीपेक्षा 73% वेगवान आहे आणि दीपस्पीचला स्पीच रेकग्निशन सोल्यूशन्समध्ये वापरण्याची परवानगी देते.
• API मध्ये बदल केले गेले आहेत आणि फंक्शनची नावे एकत्रित करण्याचे काम केले गेले आहे. सिंक्रोनाइझेशनबद्दल अतिरिक्त मेटाडेटा मिळविण्यासाठी कार्ये जोडली गेली आहेत, ज्यामुळे तुम्हाला केवळ आउटपुट म्हणून मजकूराचे प्रतिनिधित्व मिळू शकत नाही, तर ऑडिओ प्रवाहातील एका स्थानावर वैयक्तिक वर्ण आणि वाक्यांचे बंधन देखील ट्रॅक करता येते.
• प्रशिक्षण मॉड्यूल्ससाठी लायब्ररी वापरण्यासाठी समर्थन टूलकिटमध्ये जोडले गेले आहे CuDNN आवर्ती न्यूरल नेटवर्क्स (RNN) सह कार्य ऑप्टिमाइझ करण्यासाठी, ज्यामुळे मॉडेल प्रशिक्षण कार्यप्रदर्शनात लक्षणीय (अंदाजे दुप्पट) वाढ साध्य करणे शक्य झाले, परंतु पूर्वी तयार केलेल्या मॉडेल्ससह सुसंगततेचे उल्लंघन करणाऱ्या कोडमध्ये बदल करणे आवश्यक आहे.
• किमान TensorFlow आवृत्ती आवश्यकता 1.13.1 वरून 1.14.0 पर्यंत वाढवण्यात आल्या आहेत. TensorFlow Lite च्या लाइटवेट आवृत्तीसाठी समर्थन जोडले, जे DeepSpeech पॅकेजचा आकार 98 MB वरून 3.7 MB पर्यंत कमी करते. एम्बेडेड आणि मोबाइल डिव्हाइसेसवर वापरण्यासाठी, मॉडेलसह पॅक केलेल्या फाइलचा आकार देखील 188 MB वरून 47 MB ​​पर्यंत कमी केला गेला आहे (मॉडेल प्रशिक्षित झाल्यानंतर कॉम्प्रेशनसाठी परिमाणीकरण पद्धत वापरली जाते).
• भाषेचे मॉडेल वेगळ्या डेटा स्ट्रक्चर फॉरमॅटमध्ये भाषांतरित केले गेले आहे जे लोड केल्यावर फाइल्स मेमरीमध्ये मॅप करण्याची परवानगी देते. जुन्या फॉरमॅटचा सपोर्ट बंद केला आहे.
• भाषा मॉडेलसह फाइल लोड करण्याचा मोड बदलला गेला आहे, ज्यामुळे मेमरी वापर कमी झाला आहे आणि मॉडेल तयार केल्यानंतर पहिल्या विनंतीवर प्रक्रिया करताना विलंब कमी झाला आहे. ऑपरेशन दरम्यान, DeepSpeech आता 22 पट कमी मेमरी वापरते आणि 500 ​​पट वेगाने सुरू होते.
  

• भाषेच्या मॉडेलमध्ये दुर्मिळ शब्द फिल्टर केले गेले. मॉडेलला प्रशिक्षित करण्यासाठी वापरल्या जाणाऱ्या मजकूरातील सर्वात लोकप्रिय शब्दांपैकी एकूण शब्दांची संख्या 500 हजारांपर्यंत कमी केली गेली. साफसफाईमुळे भाषा मॉडेलचा आकार 1800MB वरून 900MB पर्यंत कमी करणे शक्य झाले, ओळख त्रुटी दरावर अक्षरशः कोणताही परिणाम झाला नाही.
• विविध साठी समर्थन जोडले तंत्रज्ञ प्रशिक्षणात वापरल्या जाणाऱ्या ऑडिओ डेटाचे अतिरिक्त भिन्नता (वृद्धी) तयार करणे (उदाहरणार्थ, पर्यायांच्या संचामध्ये विकृती किंवा आवाज जोडणे).
• .NET प्लॅटफॉर्मवर आधारित अनुप्रयोगांसह एकत्रीकरणासाठी बाइंडिंगसह लायब्ररी जोडली.
• दस्तऐवजीकरण पुन्हा तयार केले गेले आहे आणि आता वेगळ्या वेबसाइटवर संकलित केले आहे. deepspeech.readthedocs.io.

स्त्रोत: opennet.ru