Mozilla ເປີດຕົວເຄື່ອງຈັກຮັບຮູ້ສຽງເວົ້າ DeepSpeech 0.6

ແນະນຳ ປ່ອຍເຄື່ອງຈັກການຮັບຮູ້ສຽງເວົ້າທີ່ພັດທະນາໂດຍ Mozilla DeepSpeech 0.6, ເຊິ່ງປະຕິບັດໂຄງສ້າງການຮັບຮູ້ສຽງເວົ້າຂອງຊື່ດຽວກັນ, ສະເໜີ ໂດຍນັກຄົ້ນຄວ້າຈາກ Baidu. ການປະຕິບັດໄດ້ຖືກຂຽນໄວ້ໃນ Python ໂດຍໃຊ້ເວທີການຮຽນຮູ້ເຄື່ອງຈັກ TensorFlow ແລະ ແຈກຢາຍໂດຍ ພາຍໃຕ້ໃບອະນຸຍາດ MPL 2.0 ຟຣີ. ວຽກງານໄດ້ຮັບການສະໜັບສະໜູນໃນ Linux, Android, macOS и Windowsປະສິດທິພາບພຽງພໍທີ່ຈະໃຊ້ເຄື່ອງຈັກໃນກະດານ LePotato, Raspberry Pi 3, ແລະ Raspberry Pi 4.

ລວມຢູ່ໃນຊຸດ ສະເໜີໃຫ້ ແບບ​ຈໍາ​ລອງ​ການ​ຝຶກ​ອົບ​ຮົມ​, ຕົວຢ່າງ ໄຟລ໌ສຽງ ແລະເຄື່ອງມືການຮັບຮູ້ຈາກແຖວຄຳສັ່ງ. ເພື່ອປະສົມປະສານຟັງຊັນການຮັບຮູ້ສຽງເວົ້າເຂົ້າໄປໃນໂປຼແກຼມຂອງທ່ານ, ໂມດູນທີ່ພ້ອມທີ່ຈະໃຊ້ສໍາລັບ Python, NodeJS, C++ ແລະ .NET ແມ່ນສະເຫນີໃຫ້ (ຜູ້ພັດທະນາພາກສ່ວນທີສາມໄດ້ກະກຽມໂມດູນແຍກຕ່າງຫາກສໍາລັບ rust и Go). ຮູບແບບສໍາເລັດຮູບແມ່ນສະຫນອງໃຫ້ພຽງແຕ່ພາສາອັງກິດ, ແຕ່ສໍາລັບພາສາອື່ນໆໂດຍ ຕິດ ຄໍາແນະນໍາ ທ່ານສາມາດຝຶກອົບຮົມລະບົບຕົວທ່ານເອງໂດຍໃຊ້ ຂໍ້​ມູນ​ສຽງ​, ເກັບກໍາໂດຍໂຄງການສຽງທົ່ວໄປ.

DeepSpeech ແມ່ນງ່າຍດາຍຫຼາຍກ່ວາລະບົບແບບດັ້ງເດີມຫຼາຍແລະໃນເວລາດຽວກັນສະຫນອງການຮັບຮູ້ຄຸນນະພາບທີ່ສູງຂຶ້ນໃນເວລາທີ່ມີສິ່ງລົບກວນ extraneous. ມັນຂ້າມແບບຈຳລອງສຽງດັງແບບດັ້ງເດີມ ແລະແນວຄວາມຄິດຂອງ phonemes, ແທນທີ່ຈະໃຊ້ລະບົບການຮຽນຮູ້ເຄື່ອງຈັກໂດຍອີງໃສ່ເຄືອຂ່າຍ neural ທີ່ມີປະສິດຕິພາບສູງ, ເຊິ່ງລົບລ້າງຄວາມຈຳເປັນໃນການພັດທະນາອົງປະກອບແຍກຕ່າງຫາກເພື່ອສ້າງແບບຈໍາລອງຄວາມຜິດປົກກະຕິຕ່າງໆ ເຊັ່ນ: ສຽງດັງ, ສຽງສະທ້ອນ ແລະສຽງເວົ້າ.

ຂໍ້ເສຍຂອງວິທີການນີ້ແມ່ນວ່າເພື່ອໃຫ້ໄດ້ຮັບການຮັບຮູ້ທີ່ມີຄຸນນະພາບສູງແລະການຝຶກອົບຮົມຂອງເຄືອຂ່າຍ neural, ເຄື່ອງຈັກ DeepSpeech ຕ້ອງການຂໍ້ມູນຈໍານວນຫລາຍ, ກໍານົດໃນສະພາບທີ່ແທ້ຈິງໂດຍສຽງທີ່ແຕກຕ່າງກັນແລະໃນທີ່ປະທັບຂອງສິ່ງລົບກວນທໍາມະຊາດ.
ໂຄງການທີ່ສ້າງຂຶ້ນໃນ Mozilla ເກັບຂໍ້ມູນດັ່ງກ່າວ. ສຽງທົ່ວໄປ, ການສະຫນອງຊຸດຂໍ້ມູນທີ່ໄດ້ຮັບການຢັ້ງຢືນທີ່ມີ 780 ຊົ່ວໂມງຂອງ ພາ​ສາ​ອັງ​ກິດ, 325 ໃນເຢຍລະມັນ, 173 ໃນພາສາຝຣັ່ງແລະ 27 ຊົ່ວໂມງໃນລັດເຊຍ.

ເປົ້າຫມາຍສຸດທ້າຍຂອງໂຄງການ Common Voice ແມ່ນເພື່ອສະສົມ 10 ພັນຊົ່ວໂມງຂອງການບັນທຶກການອອກສຽງຕ່າງໆຂອງປະໂຫຍກປົກກະຕິຂອງການປາກເວົ້າຂອງມະນຸດ, ເຊິ່ງຈະຊ່ວຍໃຫ້ບັນລຸລະດັບທີ່ຍອມຮັບຂອງຄວາມຜິດພາດໃນການຮັບຮູ້. ໃນຮູບແບບປະຈຸບັນ, ຜູ້ເຂົ້າຮ່ວມໂຄງການໄດ້ກໍານົດເວລາທັງຫມົດ 4.3 ພັນຊົ່ວໂມງ, ໃນນັ້ນ 3.5 ພັນຄົນໄດ້ຖືກທົດສອບ. ໃນເວລາທີ່ການຝຶກອົບຮົມຮູບແບບພາສາອັງກິດສຸດທ້າຍສໍາລັບ DeepSpeech, 3816 ຊົ່ວໂມງຂອງຄໍາເວົ້າໄດ້ຖືກນໍາໃຊ້, ນອກເຫນືອໄປຈາກ Common Voice ກວມເອົາຂໍ້ມູນຈາກໂຄງການ LibriSpeech, Fisher ແລະ Switchboard, ແລະຍັງລວມທັງປະມານ 1700 ຊົ່ວໂມງຂອງລາຍການວິທະຍຸທີ່ຖອດຂໍ້ຄວາມ.

ເມື່ອນໍາໃຊ້ຕົວແບບພາສາອັງກິດທີ່ກຽມພ້ອມທີ່ສະເຫນີໃຫ້ດາວໂຫລດ, ອັດຕາການຮັບຮູ້ຄວາມຜິດພາດໃນ DeepSpeech ແມ່ນ 7.5% ເມື່ອປະເມີນດ້ວຍຊຸດທົດສອບ. LibriSpeech. ສໍາລັບການປຽບທຽບ, ອັດຕາຄວາມຜິດພາດສໍາລັບການຮັບຮູ້ຂອງມະນຸດ ຖືກປະເມີນຜົນ ຢູ່ທີ່ 5.83%.

DeepSpeech ປະກອບດ້ວຍສອງລະບົບຍ່ອຍ - ແບບຈໍາລອງສຽງແລະຕົວຖອດລະຫັດ. ຮູບແບບອາໂຄສຕິກໃຊ້ວິທີການຮຽນຮູ້ເຄື່ອງຈັກຢ່າງເລິກເຊິ່ງເພື່ອຄິດໄລ່ຄວາມເປັນໄປໄດ້ຂອງຕົວອັກສອນບາງຕົວຢູ່ໃນສຽງປ້ອນເຂົ້າ. ຕົວຖອດລະຫັດໃຊ້ລະບົບການຊອກຫາແບບ ray ເພື່ອປ່ຽນຂໍ້ມູນຄວາມເປັນໄປໄດ້ຂອງຕົວອັກສອນໃຫ້ເປັນຕົວແທນຂໍ້ຄວາມ.

ຕົ້ນ​ຕໍ ນະວັດຕະກໍາ DeepSpeech 0.6 (0.6 ສາ​ຂາ​ບໍ່​ເຫມາະ​ສົມ​ກັບ​ການ​ປ່ອຍ​ທີ່​ຜ່ານ​ມາ​ແລະ​ຮຽກ​ຮ້ອງ​ໃຫ້​ມີ​ການ​ປັບ​ປຸງ​ລະ​ຫັດ​ແລະ​ຮູບ​ແບບ​)​:

• ສະເໜີຕົວຖອດລະຫັດການຖ່າຍທອດແບບໃໝ່ທີ່ສະໜອງການຕອບສະໜອງທີ່ສູງຂຶ້ນ ແລະເປັນເອກະລາດຂອງຂະໜາດຂອງຂໍ້ມູນສຽງທີ່ປະມວນຜົນແລ້ວ. ດັ່ງນັ້ນ, ສະບັບໃຫມ່ຂອງ DeepSpeech ສາມາດຫຼຸດຜ່ອນເວລາ latency ສໍາລັບການຮັບຮູ້ເຖິງ 260 ms, ເຊິ່ງໄວກວ່າ 73% ກ່ອນຫນ້ານີ້, ແລະອະນຸຍາດໃຫ້ DeepSpeech ຖືກນໍາໃຊ້ໃນການແກ້ໄຂການຮັບຮູ້ສຽງເວົ້າໄດ້.
• ມີການປ່ຽນແປງກັບ API ແລະການເຮັດວຽກໄດ້ຖືກເຮັດເພື່ອໂຮມຊື່ຟັງຊັນ. ຟັງຊັນໄດ້ຖືກເພີ່ມເພື່ອໃຫ້ໄດ້ metadata ເພີ່ມເຕີມກ່ຽວກັບ synchronization, ຊ່ວຍໃຫ້ທ່ານບໍ່ພຽງແຕ່ໄດ້ຮັບການເປັນຕົວແທນຂອງຂໍ້ຄວາມເປັນຜົນຜະລິດ, ແຕ່ຍັງຕິດຕາມການຜູກມັດຂອງແຕ່ລະຕົວລະຄອນແລະປະໂຫຍກກັບຕໍາແຫນ່ງໃນສາຍສຽງ.
• ການສະຫນັບສະຫນູນການນໍາໃຊ້ຫ້ອງສະຫມຸດໄດ້ຖືກເພີ່ມເຂົ້າໃນຊຸດເຄື່ອງມືສໍາລັບໂມດູນການຝຶກອົບຮົມ CuDNN ເພື່ອເພີ່ມປະສິດທິພາບການເຮັດວຽກກັບເຄືອຂ່າຍ neural recurrent (RNN), ເຊິ່ງເຮັດໃຫ້ມັນເປັນໄປໄດ້ທີ່ຈະບັນລຸການເພີ່ມຂື້ນຢ່າງຫຼວງຫຼາຍ (ປະມານສອງເທົ່າ) ໃນການປະຕິບັດການຝຶກອົບຮົມແບບຈໍາລອງ, ແຕ່ຮຽກຮ້ອງໃຫ້ມີການປ່ຽນແປງລະຫັດທີ່ລະເມີດຄວາມເຂົ້າກັນໄດ້ກັບຕົວແບບທີ່ກຽມໄວ້ກ່ອນຫນ້ານີ້.
• ຄວາມຕ້ອງການສະບັບ TensorFlow ຕ່ໍາສຸດໄດ້ຖືກຍົກຂຶ້ນມາຈາກ 1.13.1 ເປັນ 1.14.0. ເພີ່ມການສະຫນັບສະຫນູນສໍາລັບສະບັບນ້ໍາຫນັກເບົາຂອງ TensorFlow Lite, ເຊິ່ງຫຼຸດລົງຂະຫນາດຂອງຊຸດ DeepSpeech ຈາກ 98 MB ເປັນ 3.7 MB. ສໍາລັບການນໍາໃຊ້ໃນອຸປະກອນຝັງແລະມືຖື, ຂະຫນາດຂອງໄຟລ໌ທີ່ບັນຈຸກັບຕົວແບບໄດ້ຖືກຫຼຸດລົງຈາກ 188 MB ມາເປັນ 47 MB ​​​​(ວິທີການປະລິມານແມ່ນໃຊ້ສໍາລັບການບີບອັດຫຼັງຈາກຮູບແບບການຝຶກອົບຮົມ).
• ຮູບແບບພາສາໄດ້ຖືກແປເປັນຮູບແບບໂຄງສ້າງຂໍ້ມູນທີ່ແຕກຕ່າງກັນທີ່ອະນຸຍາດໃຫ້ໄຟລ໌ຖືກແຜນທີ່ເຂົ້າໄປໃນຫນ່ວຍຄວາມຈໍາໃນເວລາທີ່ໂຫລດ. ການ​ສະ​ຫນັບ​ສະ​ຫນູນ​ສໍາ​ລັບ​ຮູບ​ແບບ​ເກົ່າ​ໄດ້​ຖືກ​ຢຸດ​ເຊົາ​.
• ຮູບແບບການໂຫຼດໄຟລ໌ທີ່ມີຮູບແບບພາສາໄດ້ຖືກປ່ຽນແປງ, ເຊິ່ງໄດ້ຫຼຸດຜ່ອນການບໍລິໂພກຫນ່ວຍຄວາມຈໍາແລະຄວາມລ່າຊ້າຫຼຸດລົງໃນເວລາທີ່ດໍາເນີນການຮ້ອງຂໍທໍາອິດຫຼັງຈາກສ້າງຕົວແບບ. ໃນ​ລະ​ຫວ່າງ​ການ​ດໍາ​ເນີນ​ງານ​, DeepSpeech ໃນ​ປັດ​ຈຸ​ບັນ​ໃຊ້​ຄວາມ​ຈໍາ​ຫນ້ອຍ 22 ເທົ່າ​ແລະ​ເລີ່ມ​ຕົ້ນ 500 ເວ​ລາ​ໄວ​ຂຶ້ນ​.
  
• ຄໍາທີ່ຫາຍາກໄດ້ຖືກກັ່ນຕອງໃນຮູບແບບພາສາ. ຈໍານວນຄໍາສັບທັງຫມົດໄດ້ຖືກຫຼຸດລົງເປັນ 500 ພັນຄໍາຂອງຄໍາທີ່ນິຍົມຫຼາຍທີ່ສຸດທີ່ພົບເຫັນຢູ່ໃນຂໍ້ຄວາມທີ່ໃຊ້ໃນການຝຶກອົບຮົມແບບຈໍາລອງ. ການເຮັດຄວາມສະອາດເຮັດໃຫ້ມັນເປັນໄປໄດ້ທີ່ຈະຫຼຸດລົງຂະຫນາດຂອງຮູບແບບພາສາຈາກ 1800MB ເປັນ 900MB, ໂດຍເກືອບບໍ່ມີຜົນຕໍ່ອັດຕາການຮັບຮູ້ຄວາມຜິດພາດ.
• ເພີ່ມການສະຫນັບສະຫນູນຕ່າງໆ ນັກວິຊາການ ການສ້າງການປ່ຽນແປງເພີ່ມເຕີມ (ການຂະຫຍາຍ) ຂອງຂໍ້ມູນສຽງທີ່ໃຊ້ໃນການຝຶກອົບຮົມ (ຕົວຢ່າງ, ການເພີ່ມການບິດເບືອນຫຼືສຽງກັບຊຸດຂອງທາງເລືອກ).
• ເພີ່ມຫ້ອງສະຫມຸດທີ່ມີການຜູກມັດສໍາລັບການເຊື່ອມໂຍງກັບແອັບພລິເຄຊັນໂດຍອີງໃສ່ແພລະຕະຟອມ .NET.
• ເອກະສານໄດ້ຖືກປະຕິບັດຄືນໃຫມ່ແລະປະຈຸບັນໄດ້ຖືກລວບລວມຢູ່ໃນເວັບໄຊທ໌ແຍກຕ່າງຫາກ. deepspeech.readthedocs.io.

ແຫຼ່ງຂໍ້ມູນ: opennet.ru