Mozilla ເປີດຕົວເຄື່ອງຈັກຮັບຮູ້ສຽງເວົ້າ DeepSpeech 0.6

ແນະນຳ ປ່ອຍເຄື່ອງຈັກການຮັບຮູ້ສຽງເວົ້າທີ່ພັດທະນາໂດຍ Mozilla DeepSpeech 0.6, ເຊິ່ງປະຕິບັດໂຄງສ້າງການຮັບຮູ້ສຽງເວົ້າຂອງຊື່ດຽວກັນ, ສະເໜີ ໂດຍນັກຄົ້ນຄວ້າຈາກ Baidu. ການປະຕິບັດໄດ້ຖືກຂຽນໄວ້ໃນ Python ໂດຍໃຊ້ເວທີການຮຽນຮູ້ເຄື່ອງຈັກ TensorFlow ແລະ ແຈກຢາຍໂດຍ ພາຍໃຕ້ໃບອະນຸຍາດ MPL 2.0 ຟຣີ. ຮອງຮັບການເຮັດວຽກໃນ Linux, Android, macOS ແລະ Windows. ປະສິດທິພາບແມ່ນພຽງພໍທີ່ຈະໃຊ້ເຄື່ອງຈັກໃນ LePotato, Raspberry Pi 3 ແລະ Raspberry Pi 4 boards.

ລວມຢູ່ໃນຊຸດ ສະເໜີໃຫ້ ແບບ​ຈໍາ​ລອງ​ການ​ຝຶກ​ອົບ​ຮົມ​, ຕົວຢ່າງ ໄຟລ໌ສຽງ ແລະເຄື່ອງມືການຮັບຮູ້ຈາກແຖວຄຳສັ່ງ. ເພື່ອປະສົມປະສານຟັງຊັນການຮັບຮູ້ສຽງເວົ້າເຂົ້າໄປໃນໂປຼແກຼມຂອງທ່ານ, ໂມດູນທີ່ພ້ອມທີ່ຈະໃຊ້ສໍາລັບ Python, NodeJS, C++ ແລະ .NET ແມ່ນສະເຫນີໃຫ້ (ຜູ້ພັດທະນາພາກສ່ວນທີສາມໄດ້ກະກຽມໂມດູນແຍກຕ່າງຫາກສໍາລັບ rust и Go). ຮູບແບບສໍາເລັດຮູບແມ່ນສະຫນອງໃຫ້ພຽງແຕ່ພາສາອັງກິດ, ແຕ່ສໍາລັບພາສາອື່ນໆໂດຍ ຕິດ ຄໍາແນະນໍາ ທ່ານສາມາດຝຶກອົບຮົມລະບົບຕົວທ່ານເອງໂດຍໃຊ້ ຂໍ້​ມູນ​ສຽງ​, ເກັບກໍາໂດຍໂຄງການສຽງທົ່ວໄປ.

DeepSpeech ແມ່ນງ່າຍດາຍຫຼາຍກ່ວາລະບົບແບບດັ້ງເດີມຫຼາຍແລະໃນເວລາດຽວກັນສະຫນອງການຮັບຮູ້ຄຸນນະພາບທີ່ສູງຂຶ້ນໃນເວລາທີ່ມີສິ່ງລົບກວນ extraneous. ມັນຂ້າມແບບຈຳລອງສຽງດັງແບບດັ້ງເດີມ ແລະແນວຄວາມຄິດຂອງ phonemes, ແທນທີ່ຈະໃຊ້ລະບົບການຮຽນຮູ້ເຄື່ອງຈັກໂດຍອີງໃສ່ເຄືອຂ່າຍ neural ທີ່ມີປະສິດຕິພາບສູງ, ເຊິ່ງລົບລ້າງຄວາມຈຳເປັນໃນການພັດທະນາອົງປະກອບແຍກຕ່າງຫາກເພື່ອສ້າງແບບຈໍາລອງຄວາມຜິດປົກກະຕິຕ່າງໆ ເຊັ່ນ: ສຽງດັງ, ສຽງສະທ້ອນ ແລະສຽງເວົ້າ.

ຂໍ້ເສຍຂອງວິທີການນີ້ແມ່ນວ່າເພື່ອໃຫ້ໄດ້ຮັບການຮັບຮູ້ທີ່ມີຄຸນນະພາບສູງແລະການຝຶກອົບຮົມຂອງເຄືອຂ່າຍ neural, ເຄື່ອງຈັກ DeepSpeech ຕ້ອງການຂໍ້ມູນຈໍານວນຫລາຍ, ກໍານົດໃນສະພາບທີ່ແທ້ຈິງໂດຍສຽງທີ່ແຕກຕ່າງກັນແລະໃນທີ່ປະທັບຂອງສິ່ງລົບກວນທໍາມະຊາດ.
ໂຄງການທີ່ສ້າງຂຶ້ນໃນ Mozilla ເກັບຂໍ້ມູນດັ່ງກ່າວ. ສຽງທົ່ວໄປ, ການສະຫນອງຊຸດຂໍ້ມູນທີ່ໄດ້ຮັບການຢັ້ງຢືນທີ່ມີ 780 ຊົ່ວໂມງຂອງ ພາ​ສາ​ອັງ​ກິດ, 325 ໃນເຢຍລະມັນ, 173 ໃນພາສາຝຣັ່ງແລະ 27 ຊົ່ວໂມງໃນລັດເຊຍ.

ເປົ້າຫມາຍສຸດທ້າຍຂອງໂຄງການ Common Voice ແມ່ນເພື່ອສະສົມ 10 ພັນຊົ່ວໂມງຂອງການບັນທຶກການອອກສຽງຕ່າງໆຂອງປະໂຫຍກປົກກະຕິຂອງການປາກເວົ້າຂອງມະນຸດ, ເຊິ່ງຈະຊ່ວຍໃຫ້ບັນລຸລະດັບທີ່ຍອມຮັບຂອງຄວາມຜິດພາດໃນການຮັບຮູ້. ໃນຮູບແບບປະຈຸບັນ, ຜູ້ເຂົ້າຮ່ວມໂຄງການໄດ້ກໍານົດເວລາທັງຫມົດ 4.3 ພັນຊົ່ວໂມງ, ໃນນັ້ນ 3.5 ພັນຄົນໄດ້ຖືກທົດສອບ. ໃນເວລາທີ່ການຝຶກອົບຮົມຮູບແບບພາສາອັງກິດສຸດທ້າຍສໍາລັບ DeepSpeech, 3816 ຊົ່ວໂມງຂອງຄໍາເວົ້າໄດ້ຖືກນໍາໃຊ້, ນອກເຫນືອໄປຈາກ Common Voice ກວມເອົາຂໍ້ມູນຈາກໂຄງການ LibriSpeech, Fisher ແລະ Switchboard, ແລະຍັງລວມທັງປະມານ 1700 ຊົ່ວໂມງຂອງລາຍການວິທະຍຸທີ່ຖອດຂໍ້ຄວາມ.

ເມື່ອນໍາໃຊ້ຕົວແບບພາສາອັງກິດທີ່ກຽມພ້ອມທີ່ສະເຫນີໃຫ້ດາວໂຫລດ, ອັດຕາການຮັບຮູ້ຄວາມຜິດພາດໃນ DeepSpeech ແມ່ນ 7.5% ເມື່ອປະເມີນດ້ວຍຊຸດທົດສອບ. LibriSpeech. ສໍາລັບການປຽບທຽບ, ອັດຕາຄວາມຜິດພາດສໍາລັບການຮັບຮູ້ຂອງມະນຸດ ຖືກປະເມີນຜົນ ຢູ່ທີ່ 5.83%.

DeepSpeech ປະກອບດ້ວຍສອງລະບົບຍ່ອຍ - ແບບຈໍາລອງສຽງແລະຕົວຖອດລະຫັດ. ຮູບແບບອາໂຄສຕິກໃຊ້ວິທີການຮຽນຮູ້ເຄື່ອງຈັກຢ່າງເລິກເຊິ່ງເພື່ອຄິດໄລ່ຄວາມເປັນໄປໄດ້ຂອງຕົວອັກສອນບາງຕົວຢູ່ໃນສຽງປ້ອນເຂົ້າ. ຕົວຖອດລະຫັດໃຊ້ລະບົບການຊອກຫາແບບ ray ເພື່ອປ່ຽນຂໍ້ມູນຄວາມເປັນໄປໄດ້ຂອງຕົວອັກສອນໃຫ້ເປັນຕົວແທນຂໍ້ຄວາມ.

ຕົ້ນ​ຕໍ ນະວັດຕະກໍາ DeepSpeech 0.6 (0.6 ສາ​ຂາ​ບໍ່​ເຫມາະ​ສົມ​ກັບ​ການ​ປ່ອຍ​ທີ່​ຜ່ານ​ມາ​ແລະ​ຮຽກ​ຮ້ອງ​ໃຫ້​ມີ​ການ​ປັບ​ປຸງ​ລະ​ຫັດ​ແລະ​ຮູບ​ແບບ​)​:

• ສະເໜີຕົວຖອດລະຫັດການຖ່າຍທອດແບບໃໝ່ທີ່ສະໜອງການຕອບສະໜອງທີ່ສູງຂຶ້ນ ແລະເປັນເອກະລາດຂອງຂະໜາດຂອງຂໍ້ມູນສຽງທີ່ປະມວນຜົນແລ້ວ. ດັ່ງນັ້ນ, ສະບັບໃຫມ່ຂອງ DeepSpeech ສາມາດຫຼຸດຜ່ອນເວລາ latency ສໍາລັບການຮັບຮູ້ເຖິງ 260 ms, ເຊິ່ງໄວກວ່າ 73% ກ່ອນຫນ້ານີ້, ແລະອະນຸຍາດໃຫ້ DeepSpeech ຖືກນໍາໃຊ້ໃນການແກ້ໄຂການຮັບຮູ້ສຽງເວົ້າໄດ້.
• ມີການປ່ຽນແປງກັບ API ແລະການເຮັດວຽກໄດ້ຖືກເຮັດເພື່ອໂຮມຊື່ຟັງຊັນ. ຟັງຊັນໄດ້ຖືກເພີ່ມເພື່ອໃຫ້ໄດ້ metadata ເພີ່ມເຕີມກ່ຽວກັບ synchronization, ຊ່ວຍໃຫ້ທ່ານບໍ່ພຽງແຕ່ໄດ້ຮັບການເປັນຕົວແທນຂອງຂໍ້ຄວາມເປັນຜົນຜະລິດ, ແຕ່ຍັງຕິດຕາມການຜູກມັດຂອງແຕ່ລະຕົວລະຄອນແລະປະໂຫຍກກັບຕໍາແຫນ່ງໃນສາຍສຽງ.
• ການສະຫນັບສະຫນູນການນໍາໃຊ້ຫ້ອງສະຫມຸດໄດ້ຖືກເພີ່ມເຂົ້າໃນຊຸດເຄື່ອງມືສໍາລັບໂມດູນການຝຶກອົບຮົມ CuDNN ເພື່ອເພີ່ມປະສິດທິພາບການເຮັດວຽກກັບເຄືອຂ່າຍ neural recurrent (RNN), ເຊິ່ງເຮັດໃຫ້ມັນເປັນໄປໄດ້ທີ່ຈະບັນລຸການເພີ່ມຂື້ນຢ່າງຫຼວງຫຼາຍ (ປະມານສອງເທົ່າ) ໃນການປະຕິບັດການຝຶກອົບຮົມແບບຈໍາລອງ, ແຕ່ຮຽກຮ້ອງໃຫ້ມີການປ່ຽນແປງລະຫັດທີ່ລະເມີດຄວາມເຂົ້າກັນໄດ້ກັບຕົວແບບທີ່ກຽມໄວ້ກ່ອນຫນ້ານີ້.
• ຄວາມຕ້ອງການສະບັບ TensorFlow ຕ່ໍາສຸດໄດ້ຖືກຍົກຂຶ້ນມາຈາກ 1.13.1 ເປັນ 1.14.0. ເພີ່ມການສະຫນັບສະຫນູນສໍາລັບສະບັບນ້ໍາຫນັກເບົາຂອງ TensorFlow Lite, ເຊິ່ງຫຼຸດລົງຂະຫນາດຂອງຊຸດ DeepSpeech ຈາກ 98 MB ເປັນ 3.7 MB. ສໍາລັບການນໍາໃຊ້ໃນອຸປະກອນຝັງແລະມືຖື, ຂະຫນາດຂອງໄຟລ໌ທີ່ບັນຈຸກັບຕົວແບບໄດ້ຖືກຫຼຸດລົງຈາກ 188 MB ມາເປັນ 47 MB ​​​​(ວິທີການປະລິມານແມ່ນໃຊ້ສໍາລັບການບີບອັດຫຼັງຈາກຮູບແບບການຝຶກອົບຮົມ).
• ຮູບແບບພາສາໄດ້ຖືກແປເປັນຮູບແບບໂຄງສ້າງຂໍ້ມູນທີ່ແຕກຕ່າງກັນທີ່ອະນຸຍາດໃຫ້ໄຟລ໌ຖືກແຜນທີ່ເຂົ້າໄປໃນຫນ່ວຍຄວາມຈໍາໃນເວລາທີ່ໂຫລດ. ການ​ສະ​ຫນັບ​ສະ​ຫນູນ​ສໍາ​ລັບ​ຮູບ​ແບບ​ເກົ່າ​ໄດ້​ຖືກ​ຢຸດ​ເຊົາ​.
• ຮູບແບບການໂຫຼດໄຟລ໌ທີ່ມີຮູບແບບພາສາໄດ້ຖືກປ່ຽນແປງ, ເຊິ່ງໄດ້ຫຼຸດຜ່ອນການບໍລິໂພກຫນ່ວຍຄວາມຈໍາແລະຄວາມລ່າຊ້າຫຼຸດລົງໃນເວລາທີ່ດໍາເນີນການຮ້ອງຂໍທໍາອິດຫຼັງຈາກສ້າງຕົວແບບ. ໃນ​ລະ​ຫວ່າງ​ການ​ດໍາ​ເນີນ​ງານ​, DeepSpeech ໃນ​ປັດ​ຈຸ​ບັນ​ໃຊ້​ຄວາມ​ຈໍາ​ຫນ້ອຍ 22 ເທົ່າ​ແລະ​ເລີ່ມ​ຕົ້ນ 500 ເວ​ລາ​ໄວ​ຂຶ້ນ​.
  

• ຄໍາທີ່ຫາຍາກໄດ້ຖືກກັ່ນຕອງໃນຮູບແບບພາສາ. ຈໍານວນຄໍາສັບທັງຫມົດໄດ້ຖືກຫຼຸດລົງເປັນ 500 ພັນຄໍາຂອງຄໍາທີ່ນິຍົມຫຼາຍທີ່ສຸດທີ່ພົບເຫັນຢູ່ໃນຂໍ້ຄວາມທີ່ໃຊ້ໃນການຝຶກອົບຮົມແບບຈໍາລອງ. ການເຮັດຄວາມສະອາດເຮັດໃຫ້ມັນເປັນໄປໄດ້ທີ່ຈະຫຼຸດລົງຂະຫນາດຂອງຮູບແບບພາສາຈາກ 1800MB ເປັນ 900MB, ໂດຍເກືອບບໍ່ມີຜົນຕໍ່ອັດຕາການຮັບຮູ້ຄວາມຜິດພາດ.
• ເພີ່ມການສະຫນັບສະຫນູນຕ່າງໆ ນັກວິຊາການ ການສ້າງການປ່ຽນແປງເພີ່ມເຕີມ (ການຂະຫຍາຍ) ຂອງຂໍ້ມູນສຽງທີ່ໃຊ້ໃນການຝຶກອົບຮົມ (ຕົວຢ່າງ, ການເພີ່ມການບິດເບືອນຫຼືສຽງກັບຊຸດຂອງທາງເລືອກ).
• ເພີ່ມຫ້ອງສະຫມຸດທີ່ມີການຜູກມັດສໍາລັບການເຊື່ອມໂຍງກັບແອັບພລິເຄຊັນໂດຍອີງໃສ່ແພລະຕະຟອມ .NET.
• ເອກະສານໄດ້ຖືກປະຕິບັດຄືນໃຫມ່ແລະປະຈຸບັນໄດ້ຖືກລວບລວມຢູ່ໃນເວັບໄຊທ໌ແຍກຕ່າງຫາກ. deepspeech.readthedocs.io.

ແຫຼ່ງຂໍ້ມູນ: opennet.ru