ການຮຽນຮູ້ເຄື່ອງຈັກໂດຍບໍ່ມີ Python, Anaconda ແລະສັດເລືອຄານອື່ນໆ

ບໍ່, ແນ່ນອນ, ຂ້ອຍບໍ່ຈິງຈັງ. ຕ້ອງມີຂອບເຂດຈໍາກັດທີ່ມັນເປັນໄປໄດ້ທີ່ຈະເຮັດໃຫ້ຫົວຂໍ້ໃດຫນຶ່ງງ່າຍຂຶ້ນ. ແຕ່ສໍາລັບຂັ້ນຕອນທໍາອິດ, ຄວາມເຂົ້າໃຈແນວຄວາມຄິດພື້ນຖານແລະໄວ "ເຂົ້າໄປໃນ" ຫົວຂໍ້, ມັນອາດຈະຍອມຮັບໄດ້. ພວກເຮົາຈະປຶກສາຫາລືກ່ຽວກັບວິທີການຕັ້ງຊື່ເອກະສານນີ້ຢ່າງຖືກຕ້ອງ (ທາງເລືອກ: "ການຮຽນຮູ້ເຄື່ອງຈັກສໍາລັບ dummies", "ການວິເຄາະຂໍ້ມູນຈາກຜ້າອ້ອມ", "ສູດການຄິດໄລ່ສໍາລັບເດັກນ້ອຍ") ໃນຕອນທ້າຍ.

ເຖິງຈຸດ. ຂຽນໂຄງການຄໍາຮ້ອງສະຫມັກຈໍານວນຫນຶ່ງໃນ MS Excel ສໍາລັບການເບິ່ງເຫັນແລະການສະແດງພາບຂອງຂະບວນການທີ່ເກີດຂື້ນໃນວິທີການຮຽນຮູ້ເຄື່ອງຈັກທີ່ແຕກຕ່າງກັນໃນເວລາທີ່ການວິເຄາະຂໍ້ມູນ. ການເບິ່ງແມ່ນຄວາມເຊື່ອ, ຫຼັງຈາກທີ່ທັງຫມົດ, ດັ່ງທີ່ຜູ້ຖືວັດທະນະທໍາເວົ້າວ່າ, ເຊິ່ງໄດ້ພັດທະນາວິທີການເຫຼົ່ານີ້ສ່ວນໃຫຍ່ (ໂດຍວິທີທາງການ, ບໍ່ແມ່ນທັງຫມົດ. "ເຄື່ອງຈັກ vector ສະຫນັບສະຫນູນ" ທີ່ມີປະສິດທິພາບທີ່ສຸດ, ຫຼື SVM, ເຄື່ອງ vector ສະຫນັບສະຫນູນແມ່ນການປະດິດສ້າງ. ເພື່ອນຮ່ວມຊາດຂອງພວກເຮົາ Vladimir Vapnik, Moscow Institute of Management. 1963, ໂດຍວິທີທາງການ, ແນວໃດກໍ່ຕາມ, ໃນປັດຈຸບັນ, ລາວສອນແລະເຮັດວຽກຢູ່ໃນສະຫະລັດ).

ສາມໄຟລ໌ສໍາລັບການທົບທວນຄືນ

1. K ຫມາຍເຖິງການຈັດກຸ່ມ

ບັນຫາຂອງປະເພດນີ້ຫມາຍເຖິງ "ການຮຽນຮູ້ທີ່ບໍ່ໄດ້ຮັບການເບິ່ງແຍງ," ເມື່ອພວກເຮົາຕ້ອງການແບ່ງຂໍ້ມູນເບື້ອງຕົ້ນເປັນຈໍານວນບາງປະເພດທີ່ຮູ້ຈັກລ່ວງຫນ້າ, ແຕ່ພວກເຮົາບໍ່ມີຈໍານວນ "ຄໍາຕອບທີ່ຖືກຕ້ອງ"; ພວກເຮົາຕ້ອງແຍກອອກຈາກຂໍ້ມູນຂອງມັນເອງ. . ບັນຫາຄລາສສິກພື້ນຖານຂອງການຊອກຫາຊະນິດຍ່ອຍຂອງດອກ iris (Ronald Fisher, 1936!), ເຊິ່ງຖືວ່າເປັນອາການທໍາອິດຂອງຄວາມຮູ້ດ້ານນີ້, ແມ່ນມີລັກສະນະນີ້.

ວິທີການແມ່ນຂ້ອນຂ້າງງ່າຍດາຍ. ພວກເຮົາມີຊຸດຂອງວັດຖຸທີ່ເປັນຕົວແທນເປັນ vectors (ຊຸດຂອງຕົວເລກ N). ໃນ irises, ນີ້ແມ່ນຊຸດຂອງ 4 ຕົວເລກທີ່ມີລັກສະນະຂອງດອກໄມ້: ຄວາມຍາວແລະຄວາມກວ້າງຂອງແສກຂ້າງນອກແລະພາຍໃນຂອງ perianth, ຕາມລໍາດັບ (irises ຂອງ Fischer - ວິກິພີເດຍ). ການວັດແທກ Cartesian ປົກກະຕິແມ່ນເລືອກເປັນໄລຍະຫ່າງ, ຫຼືການວັດແທກຄວາມໃກ້ຊິດລະຫວ່າງວັດຖຸ.

ຕໍ່ໄປ, ສູນກຸ່ມຖືກເລືອກແບບສຸ່ມ (ຫຼືບໍ່ແມ່ນແບບສຸ່ມ, ເບິ່ງຂ້າງລຸ່ມນີ້), ແລະໄລຍະຫ່າງຈາກແຕ່ລະຈຸດໄປຫາສູນກາງຂອງກຸ່ມໄດ້ຖືກຄິດໄລ່. ແຕ່ລະວັດຖຸຢູ່ໃນຂັ້ນຕອນການຊໍ້າຄືນທີ່ໃຫ້ໄວ້ຈະຖືກໝາຍວ່າເປັນຂອງສູນກາງທີ່ໃກ້ທີ່ສຸດ. ຫຼັງຈາກນັ້ນ, ສູນກາງຂອງແຕ່ລະກຸ່ມໄດ້ຖືກໂອນໄປຫາຄ່າສະເລ່ຍເລກຄະນິດຂອງຈຸດປະສານງານຂອງສະມາຊິກຂອງມັນ (ໂດຍການປຽບທຽບກັບຟີຊິກ, ມັນຖືກເອີ້ນວ່າ "ສູນກາງຂອງມະຫາຊົນ"), ແລະຂັ້ນຕອນແມ່ນຊ້ໍາກັນ.

ຂະບວນການ converges ຂ້ອນຂ້າງໄວ. ໃນ​ຮູບ​ພາບ​ໃນ​ສອງ​ຂະ​ຫນາດ​ມັນ​ຄ້າຍ​ຄື​ນີ້​:

1. ການແຈກຢາຍແບບສຸ່ມເບື້ອງຕົ້ນຂອງຈຸດເທິງຍົນ ແລະ ຈຳນວນກຸ່ມ

2. ກຳນົດຈຸດສູນກາງຂອງກຸ່ມ ແລະ ກຳນົດຈຸດໃຫ້ກຸ່ມຂອງເຂົາເຈົ້າ

3. ຍົກຍ້າຍຈຸດປະສານງານຂອງສູນກຸ່ມ, ຄິດໄລ່ຄືນການຕິດພັນຂອງຈຸດຕ່າງໆ ຈົນກ່ວາບັນດາສູນຄົງຕົວ. ເສັ້ນທາງຂອງສູນກາງກຸ່ມເຄື່ອນຍ້າຍໄປຍັງຈຸດສຸດທ້າຍຂອງມັນແມ່ນເຫັນໄດ້.

ໃນທຸກເວລາ, ທ່ານສາມາດຕັ້ງສູນກຸ່ມໃຫມ່ (ໂດຍບໍ່ມີການສ້າງຈຸດການແຈກຢາຍໃຫມ່!) ແລະເຫັນວ່າຂະບວນການແບ່ງສ່ວນແມ່ນບໍ່ແນ່ນອນສະເຫມີ. ໃນທາງຄະນິດສາດ, ນີ້ຫມາຍຄວາມວ່າສໍາລັບຫນ້າທີ່ຖືກປັບປຸງໃຫ້ດີທີ່ສຸດ (ຜົນລວມຂອງໄລຍະຫ່າງສອງເທົ່າຈາກຈຸດໄປຫາຈຸດສູນກາງຂອງກຸ່ມຂອງພວກເຂົາ), ພວກເຮົາພົບວ່າບໍ່ແມ່ນທົ່ວໂລກ, ແຕ່ເປັນຕໍາ່ສຸດທີ່ທ້ອງຖິ່ນ. ບັນຫານີ້ສາມາດເອົາຊະນະໄດ້ໂດຍທາງເລືອກທີ່ບໍ່ແມ່ນແບບສຸ່ມຂອງສູນກຸ່ມເບື້ອງຕົ້ນ, ຫຼືໂດຍການຄິດໄລ່ສູນທີ່ເປັນໄປໄດ້ (ບາງຄັ້ງມັນກໍ່ເປັນປະໂຫຍດທີ່ຈະຈັດວາງມັນໄວ້ຢູ່ໃນຈຸດຫນຶ່ງ, ຫຼັງຈາກນັ້ນຢ່າງຫນ້ອຍກໍ່ມີການຮັບປະກັນວ່າພວກເຮົາຈະບໍ່ຫວ່າງເປົ່າ. ກຸ່ມ). ໃນກໍລະນີໃດກໍ່ຕາມ, ຊຸດຈໍາກັດສະເຫມີມີ infimum.

ເຈົ້າສາມາດຫຼິ້ນກັບໄຟລ໌ນີ້ໄດ້ທີ່ລິ້ງນີ້ (ຢ່າລືມເປີດການຮອງຮັບ macro. ໄຟລ໌ໄດ້ຖືກສະແກນຫາໄວຣັສແລ້ວ)

ລາຍລະອຽດຂອງວິທີການໃນ Wikipedia - k-ຫມາຍຄວາມວ່າວິທີການ

2. ການປະມານໂດຍ polynomials ແລະການແບ່ງແຍກຂໍ້ມູນ. ຝຶກຊ້ອມ

ນັກວິທະຍາສາດທີ່ໂດດເດັ່ນແລະເປັນທີ່ນິຍົມຂອງວິທະຍາສາດຂໍ້ມູນ K.V. Vorontsov ອະທິບາຍໂດຍຫຍໍ້ວິທີການການຮຽນຮູ້ເຄື່ອງຈັກເປັນ "ວິທະຍາສາດຂອງການແຕ້ມເສັ້ນໂຄ້ງຜ່ານຈຸດ." ໃນຕົວຢ່າງນີ້, ພວກເຮົາຈະຊອກຫາຮູບແບບໃນຂໍ້ມູນໂດຍໃຊ້ວິທີການສີ່ຫລ່ຽມນ້ອຍທີ່ສຸດ.

ເຕັກນິກການແບ່ງຂໍ້ມູນແຫຼ່ງເຂົ້າໄປໃນ "ການຝຶກອົບຮົມ" ແລະ "ການຄວບຄຸມ" ໄດ້ຖືກສະແດງໃຫ້ເຫັນ, ເຊັ່ນດຽວກັນກັບປະກົດການເຊັ່ນ retraining, ຫຼື "ປັບໃຫມ່" ກັບຂໍ້ມູນ. ດ້ວຍການປະມານທີ່ຖືກຕ້ອງ, ພວກເຮົາຈະມີຄວາມຜິດພາດທີ່ແນ່ນອນກ່ຽວກັບຂໍ້ມູນການຝຶກອົບຮົມແລະຄວາມຜິດພາດທີ່ໃຫຍ່ກວ່າເລັກນ້ອຍກ່ຽວກັບຂໍ້ມູນການຄວບຄຸມ. ຖ້າບໍ່ຖືກຕ້ອງ, ມັນຈະສົ່ງຜົນໃຫ້ມີການປັບຕົວທີ່ຊັດເຈນກັບຂໍ້ມູນການຝຶກອົບຮົມແລະຄວາມຜິດພາດອັນໃຫຍ່ຫຼວງຕໍ່ຂໍ້ມູນການທົດສອບ.

(ມັນເປັນຄວາມຈິງທີ່ຮູ້ຈັກກັນດີວ່າຜ່ານຈຸດ N ຫນຶ່ງສາມາດແຕ້ມເສັ້ນໂຄ້ງດຽວຂອງລະດັບ N-1th, ແລະວິທີການນີ້ໃນກໍລະນີທົ່ວໄປບໍ່ໄດ້ໃຫ້ຜົນໄດ້ຮັບທີ່ຕ້ອງການ. Lagrange interpolation polynomial ໃນ Wikipedia)

1. ກໍານົດການແຈກຢາຍເບື້ອງຕົ້ນ

2. ພວກເຮົາແບ່ງຈຸດເປັນ "ການຝຶກອົບຮົມ" ແລະ "ການຄວບຄຸມ" ໃນອັດຕາສ່ວນ 70 ຫາ 30.

3. ພວກເຮົາແຕ້ມເສັ້ນໂຄ້ງປະມານຕາມຈຸດການຝຶກອົບຮົມ, ພວກເຮົາເຫັນຄວາມຜິດພາດທີ່ມັນໃຫ້ຂໍ້ມູນການຄວບຄຸມ.

4. ພວກເຮົາແຕ້ມເສັ້ນໂຄ້ງທີ່ແນ່ນອນຜ່ານຈຸດຂອງການຝຶກອົບຮົມ, ແລະພວກເຮົາເຫັນຄວາມຜິດພາດ monstrous ກ່ຽວກັບຂໍ້ມູນການຄວບຄຸມ (ແລະສູນຂໍ້ມູນການຝຶກອົບຮົມ, ແຕ່ວ່າຈຸດແມ່ນຫຍັງ?).

ສະແດງໃຫ້ເຫັນ, ແນ່ນອນ, ແມ່ນທາງເລືອກທີ່ງ່າຍດາຍທີ່ສຸດດ້ວຍການແບ່ງສ່ວນດຽວເຂົ້າໄປໃນ "ການຝຶກອົບຮົມ" ແລະ "ການຄວບຄຸມ"; ໃນກໍລະນີທົ່ວໄປ, ນີ້ແມ່ນເຮັດຫຼາຍຄັ້ງສໍາລັບການປັບຕົວຂອງຄ່າສໍາປະສິດທີ່ດີທີ່ສຸດ.

ໄຟລ໌ແມ່ນມີຢູ່ບ່ອນນີ້, ສະແກນໂດຍ antivirus. ເປີດໃຊ້ macro ສໍາລັບການປະຕິບັດທີ່ຖືກຕ້ອງ

3. ການສືບເຊື້ອສາຍ Gradient ແລະນະໂຍບາຍດ້ານການປ່ຽນແປງຂອງຄວາມຜິດພາດ

ຈະ​ມີ​ກໍ​ລະ​ນີ 4 ມິ​ຕິ​ລະ​ດັບ​ແລະ regression ເສັ້ນ​. ຄ່າສໍາປະສິດ regression ເສັ້ນຈະຖືກກໍານົດເປັນຂັ້ນຕອນໂດຍຂັ້ນຕອນໂດຍວິທີການ gradient descent, ໃນເບື້ອງຕົ້ນ coefficients ທັງຫມົດແມ່ນສູນ. ເສັ້ນສະແດງທີ່ແຍກຕ່າງຫາກສະແດງໃຫ້ເຫັນເຖິງນະໂຍບາຍດ້ານການຫຼຸດຜ່ອນຄວາມຜິດພາດຍ້ອນວ່າຄ່າສໍາປະສິດໄດ້ຖືກປັບຫຼາຍຂຶ້ນຢ່າງຖືກຕ້ອງ. ມັນເປັນໄປໄດ້ທີ່ຈະເບິ່ງທັງສີ່ການຄາດຄະເນ 2 ມິຕິ.

ຖ້າທ່ານຕັ້ງຂັ້ນຕອນການສືບເຊື້ອສາຍ gradient ໃຫຍ່ເກີນໄປ, ທ່ານສາມາດເຫັນໄດ້ວ່າທຸກໆຄັ້ງທີ່ພວກເຮົາຈະຂ້າມຂັ້ນຕ່ໍາແລະຈະມາຮອດຜົນໄດ້ຮັບໃນຈໍານວນຂັ້ນຕອນທີ່ໃຫຍ່ກວ່າ, ເຖິງແມ່ນວ່າໃນທີ່ສຸດພວກເຮົາຍັງຈະມາຮອດ (ເວັ້ນເສຍແຕ່ວ່າພວກເຮົາຈະຊັກຊ້າຂັ້ນຕອນການສືບເຊື້ອສາຍເກີນໄປ. ຫຼາຍ - ຫຼັງຈາກນັ້ນ algorithm ຈະໄປ "ໃນ spades"). ແລະເສັ້ນສະແດງຂອງຄວາມຜິດພາດຂຶ້ນກັບຂັ້ນຕອນການຊໍ້າຄືນຈະບໍ່ລຽບ, ແຕ່ "jerky".

1. ສ້າງຂໍ້ມູນ, ກໍານົດຂັ້ນຕອນການສືບເຊື້ອສາຍ gradient

2. ດ້ວຍການຄັດເລືອກທີ່ຖືກຕ້ອງຂອງຂັ້ນຕອນການສືບເຊື້ອສາຍ gradient, ພວກເຮົາກ້ຽງແລະໄວສາມາດບັນລຸຕໍາ່ສຸດທີ່

3. ຖ້າ​ຫາກ​ວ່າ​ຂັ້ນ​ຕອນ​ການ​ສືບ​ເຊື້ອ​ສາຍ gradient ຖືກ​ເລືອກ​ບໍ່​ຖືກ​ຕ້ອງ​, ພວກ​ເຮົາ overshoot ສູງ​ສຸດ​, ເສັ້ນ​ສະ​ແດງ​ຄວາມ​ຜິດ​ພາດ​ແມ່ນ "jerky​"​, convergence ໃຊ້​ເວ​ລາ​ຂະ​ຫນາດ​ໃຫຍ່​ຂອງ​ຂັ້ນ​ຕອນ​.

и

4. ຖ້າ​ຫາກ​ວ່າ​ພວກ​ເຮົາ​ເລືອກ gradient descent ຂັ້ນ​ຕອນ​ຢ່າງ​ບໍ່​ຖືກ​ຕ້ອງ​, ພວກ​ເຮົາ​ຍ້າຍ​ອອກ​ຈາກ​ຕໍາ​່​ສຸດ​ທີ່​

(ເພື່ອຜະລິດຂະບວນການຄືນໃໝ່ໂດຍໃຊ້ຄ່າຂັ້ນຕອນການສືບເຊື້ອສາຍ gradient ທີ່ສະແດງຢູ່ໃນຮູບ, ໃຫ້ກວດເບິ່ງກ່ອງ “ຂໍ້ມູນອ້າງອີງ”).

ໄຟລ໌ແມ່ນຢູ່ໃນລິ້ງນີ້, ທ່ານຈໍາເປັນຕ້ອງເປີດໃຊ້ macros, ບໍ່ມີໄວຣັສ.

ອີງຕາມຊຸມຊົນທີ່ເຄົາລົບ, ການເຮັດໃຫ້ງ່າຍດາຍແລະວິທີການນໍາສະເຫນີເອກະສານດັ່ງກ່າວເປັນທີ່ຍອມຮັບບໍ? ມັນຄຸ້ມຄ່າທີ່ຈະແປບົດຄວາມເປັນພາສາອັງກິດບໍ?

ແຫຼ່ງຂໍ້ມູນ: www.habr.com