ກ່ຽວກັບຄວາມລໍາອຽງທາງປັນຍາທຽມ

tl dr:

• ການຮຽນຮູ້ເຄື່ອງຈັກຊອກຫາຮູບແບບໃນຂໍ້ມູນ. ແຕ່ປັນຍາປະດິດສາມາດ "ອະຄະຕິ" - ນັ້ນແມ່ນ, ຊອກຫາຮູບແບບທີ່ບໍ່ຖືກຕ້ອງ. ຕົວຢ່າງ, ລະບົບການກວດຫາມະເຮັງຜິວໜັງທີ່ອີງໃສ່ຮູບພາບອາດຈະເອົາໃຈໃສ່ເປັນພິເສດຕໍ່ຮູບພາບທີ່ຖ່າຍຢູ່ໃນຫ້ອງການຂອງທ່ານຫມໍ. ການຮຽນຮູ້ເຄື່ອງຈັກເຮັດບໍ່ໄດ້ ເຂົ້າໃຈ: ສູດການຄິດໄລ່ຂອງມັນພຽງແຕ່ລະບຸຮູບແບບໃນຕົວເລກ, ແລະຖ້າຂໍ້ມູນບໍ່ແມ່ນຕົວແທນ, ດັ່ງນັ້ນຜົນຂອງການປະມວນຜົນຂອງມັນ. ແລະການຈັບແມງໄມ້ດັ່ງກ່າວສາມາດມີຄວາມຫຍຸ້ງຍາກເນື່ອງຈາກກົນໄກຂອງການຮຽນຮູ້ເຄື່ອງຈັກ.
• ພື້ນທີ່ບັນຫາທີ່ຈະແຈ້ງ ແລະເປັນຕາຢ້ານທີ່ສຸດແມ່ນຄວາມຫຼາກຫຼາຍຂອງມະນຸດ. ມີຫຼາຍເຫດຜົນວ່າເປັນຫຍັງຂໍ້ມູນກ່ຽວກັບຄົນອາດຈະສູນເສຍຈຸດປະສົງເຖິງແມ່ນວ່າຢູ່ໃນຂັ້ນຕອນການລວບລວມ. ແຕ່ຢ່າຄິດວ່າບັນຫານີ້ສົ່ງຜົນກະທົບຕໍ່ຄົນເທົ່ານັ້ນ: ຄວາມຫຍຸ້ງຍາກດຽວກັນເກີດຂື້ນໃນເວລາທີ່ພະຍາຍາມກວດພົບນໍ້າຖ້ວມໃນສາງຫຼື turbine ອາຍແກັສທີ່ລົ້ມເຫລວ. ບາງລະບົບອາດມີຄວາມລຳອຽງຕໍ່ສີຜິວ, ຄົນອື່ນຈະມີຄວາມລຳອຽງຕໍ່ເຊັນເຊີ Siemens.
• ບັນຫາດັ່ງກ່າວບໍ່ແມ່ນເລື່ອງໃຫມ່ສໍາລັບການຮຽນຮູ້ເຄື່ອງຈັກ, ແລະພວກມັນແມ່ນຢູ່ໄກຈາກສິ່ງທີ່ເປັນເອກະລັກຂອງມັນ. ການສົມມຸດຕິຖານທີ່ຜິດພາດແມ່ນເກີດຂື້ນໃນໂຄງສ້າງທີ່ສັບສົນ, ແລະການເຂົ້າໃຈວ່າເປັນຫຍັງການຕັດສິນໃຈສະເພາະແມ່ນມີຄວາມຫຍຸ້ງຍາກສະເຫມີ. ພວກເຮົາຈໍາເປັນຕ້ອງໄດ້ຕໍ່ສູ້ກັບນີ້ໃນວິທີການທີ່ສົມບູນແບບ: ສ້າງເຄື່ອງມືແລະຂະບວນການສໍາລັບການຢັ້ງຢືນ - ແລະສຶກສາອົບຮົມຜູ້ໃຊ້ເພື່ອໃຫ້ເຂົາເຈົ້າບໍ່ blindly ປະຕິບັດຕາມຄໍາແນະນໍາ AI. ການຮຽນຮູ້ເຄື່ອງຈັກເຮັດບາງສິ່ງທີ່ດີກ່ວາທີ່ພວກເຮົາສາມາດເຮັດໄດ້ - ຕົວຢ່າງເຊັ່ນຫມາແມ່ນມີປະສິດທິພາບຫຼາຍກ່ວາມະນຸດໃນການກວດສອບຢາເສບຕິດ, ເຊິ່ງບໍ່ແມ່ນເຫດຜົນທີ່ຈະໃຊ້ພວກມັນເປັນພະຍານແລະຕັດສິນໂດຍອີງໃສ່ປະຈັກພະຍານຂອງພວກເຂົາ. ແລະ, ໂດຍວິທີທາງການ, ຫມາແມ່ນສະຫລາດກວ່າລະບົບການຮຽນຮູ້ເຄື່ອງຈັກໃດໆ.

ການຮຽນຮູ້ເຄື່ອງຈັກແມ່ນໜຶ່ງໃນແນວໂນ້ມເຕັກໂນໂລຊີພື້ນຖານທີ່ສຳຄັນທີ່ສຸດໃນມື້ນີ້. ນີ້ແມ່ນຫນຶ່ງໃນວິທີທີ່ສໍາຄັນທີ່ເຕັກໂນໂລຢີຈະປ່ຽນແປງໂລກທີ່ຢູ່ອ້ອມຮອບພວກເຮົາໃນທົດສະວັດຕໍ່ໄປ. ບາງດ້ານຂອງການປ່ຽນແປງເຫຼົ່ານີ້ແມ່ນສາເຫດສໍາລັບຄວາມກັງວົນ. ຕົວຢ່າງ, ຜົນກະທົບທີ່ອາດເກີດຂື້ນຂອງການຮຽນຮູ້ເຄື່ອງຈັກໃນຕະຫຼາດແຮງງານ, ຫຼືການນໍາໃຊ້ມັນເພື່ອຈຸດປະສົງທີ່ບໍ່ມີຈັນຍາບັນ (ຕົວຢ່າງ, ໂດຍລະບອບການປົກຄອງ). ມີບັນຫາອື່ນທີ່ໂພສນີ້ກ່າວເຖິງ: ອະຄະຕິທາງປັນຍາທຽມ.

ນີ້ບໍ່ແມ່ນເລື່ອງງ່າຍ.

AI ຂອງ Google ສາມາດຊອກຫາແມວ. ຂ່າວ​ນີ້​ຈາກ​ປີ 2012 ແມ່ນ​ບາງ​ສິ່ງ​ບາງ​ຢ່າງ​ພິ​ເສດ​ໃນ​ຕອນ​ນັ້ນ​.

“AI Bias” ແມ່ນຫຍັງ?

"ຂໍ້ມູນດິບ" ແມ່ນທັງ oxymoron ແລະຄວາມຄິດທີ່ບໍ່ດີ; ຂໍ້ມູນຕ້ອງໄດ້ຮັບການກະກຽມຢ່າງດີແລະລະມັດລະວັງ. — Geoffrey Boker

ບາງບ່ອນກ່ອນປີ 2013, ເພື່ອເຮັດໃຫ້ລະບົບທີ່, ເວົ້າວ່າ, ຮັບຮູ້ແມວໃນການຖ່າຍຮູບ, ທ່ານຕ້ອງອະທິບາຍຂັ້ນຕອນຢ່າງມີເຫດຜົນ. ວິທີການຊອກຫາມຸມໃນຮູບພາບ, ຮັບຮູ້ຕາ, ວິເຄາະໂຄງສ້າງສໍາລັບຂົນ, ນັບ paws, ແລະອື່ນໆ. ຫຼັງຈາກນັ້ນ, ເອົາອົງປະກອບທັງຫມົດຮ່ວມກັນແລະຄົ້ນພົບວ່າມັນບໍ່ໄດ້ຜົນແທ້ໆ. ຄ້າຍຄືກັບມ້າກົນຈັກ - ໃນທາງທິດສະດີມັນສາມາດເຮັດໄດ້, ແຕ່ໃນການປະຕິບັດມັນສະລັບສັບຊ້ອນເກີນໄປທີ່ຈະອະທິບາຍ. ຜົນໄດ້ຮັບທີ່ສຸດແມ່ນຫຼາຍຮ້ອຍ (ຫຼືແມ້ກະທັ້ງພັນ) ຂອງກົດລະບຽບການຂຽນດ້ວຍມື. ແລະບໍ່ແມ່ນຮູບແບບການເຮັດວຽກດຽວ.

ດ້ວຍການມາເຖິງຂອງການຮຽນຮູ້ເຄື່ອງຈັກ, ພວກເຮົາຢຸດເຊົາການໃຊ້ "ຄູ່ມື" ກົດລະບຽບສໍາລັບການຮັບຮູ້ວັດຖຸສະເພາະໃດຫນຶ່ງ. ແທນທີ່ຈະ, ພວກເຮົາເອົາຫນຶ່ງພັນຕົວຢ່າງຂອງ "ນີ້", X, ພັນຕົວຢ່າງຂອງ "ອື່ນໆ", Y, ແລະໃຫ້ຄອມພິວເຕີສ້າງແບບຈໍາລອງໂດຍອີງໃສ່ການວິເຄາະສະຖິຕິຂອງພວກເຂົາ. ຫຼັງຈາກນັ້ນ, ພວກເຮົາໃຫ້ຕົວແບບນີ້ຂໍ້ມູນຕົວຢ່າງບາງຢ່າງແລະມັນກໍານົດດ້ວຍຄວາມແມ່ນຍໍາບາງຢ່າງວ່າມັນເຫມາະສົມກັບຊຸດຫນຶ່ງ. ການຮຽນຮູ້ເຄື່ອງຈັກສ້າງແບບຈໍາລອງຈາກຂໍ້ມູນແທນທີ່ຈະມາຈາກຄົນຂຽນມັນ. ຜົນໄດ້ຮັບແມ່ນຫນ້າປະທັບໃຈ, ໂດຍສະເພາະໃນດ້ານການຮັບຮູ້ຮູບພາບແລະຮູບແບບ, ແລະນັ້ນແມ່ນເຫດຜົນທີ່ວ່າອຸດສາຫະກໍາເຕັກໂນໂລຢີທັງຫມົດໃນປັດຈຸບັນກໍາລັງກ້າວໄປສູ່ການຮຽນຮູ້ເຄື່ອງຈັກ (ML).

ແຕ່ມັນບໍ່ງ່າຍດາຍ. ໃນໂລກທີ່ແທ້ຈິງ, ຫຼາຍພັນຕົວຢ່າງຂອງທ່ານ X ຫຼື Y ຍັງມີ A, B, J, L, O, R, ແລະແມ້ກະທັ້ງ L. ສິ່ງເຫຼົ່ານີ້ອາດຈະບໍ່ຖືກແຈກຢາຍຢ່າງເທົ່າທຽມກັນ, ແລະບາງອັນອາດຈະເກີດຂື້ນເລື້ອຍໆທີ່ລະບົບຈະຈ່າຍເງິນຫຼາຍ. ເອົາ​ໃຈ​ໃສ່​ກັບ​ເຂົາ​ເຈົ້າ​ກ​່​ວາ​ສິ່ງ​ຂອງ​ທີ່​ທ່ານ​ສົນ​ໃຈ​.

ນີ້ຫມາຍຄວາມວ່າແນວໃດໃນການປະຕິບັດ? ຕົວຢ່າງທີ່ຂ້ອຍມັກທີ່ສຸດແມ່ນເມື່ອລະບົບການຮັບຮູ້ຮູບພາບ ເບິ່ງພູຫຍ້າແລະເວົ້າວ່າ, "ແກະ". ມັນເປັນທີ່ຊັດເຈນວ່າເປັນຫຍັງ: ຮູບຕົວຢ່າງຂອງ "ແກະ" ສ່ວນຫຼາຍແມ່ນຖ່າຍຢູ່ໃນທົ່ງຫຍ້າທີ່ພວກເຂົາອາໄສຢູ່, ແລະໃນຮູບພາບເຫຼົ່ານີ້, ຫຍ້າໃຊ້ພື້ນທີ່ຫຼາຍກ່ວາ fluffs ສີຂາວເລັກນ້ອຍ, ແລະມັນແມ່ນຫຍ້າທີ່ລະບົບຖືວ່າມີຄວາມສໍາຄັນທີ່ສຸດ. .

ມີຕົວຢ່າງທີ່ຮ້າຍແຮງກວ່າ. ຫຼ້າສຸດອັນໜຶ່ງ ໂຄງການ ສໍາລັບການກວດຫາມະເຮັງຜິວຫນັງໃນຮູບຖ່າຍ. ມັນໄດ້ຫັນອອກວ່າແພດຜິວຫນັງມັກຈະຖ່າຍຮູບໄມ້ບັນທັດພ້ອມກັບການສະແດງອອກຂອງມະເຮັງຜິວຫນັງເພື່ອບັນທຶກຂະຫນາດຂອງການສ້າງ. ບໍ່ມີໄມ້ບັນທັດຢູ່ໃນຮູບຕົວຢ່າງຂອງຜິວຫນັງທີ່ມີສຸຂະພາບດີ. ສໍາລັບລະບົບ AI, ໄມ້ບັນທັດດັ່ງກ່າວ (ທີ່ຊັດເຈນກວ່ານັ້ນ, pixels ທີ່ພວກເຮົາກໍານົດເປັນ "ໄມ້ບັນທັດ") ໄດ້ກາຍເປັນຫນຶ່ງໃນຄວາມແຕກຕ່າງລະຫວ່າງຊຸດຂອງຕົວຢ່າງ, ແລະບາງຄັ້ງກໍ່ມີຄວາມສໍາຄັນຫຼາຍກ່ວາຜື່ນຂະຫນາດນ້ອຍເທິງຜິວຫນັງ. ດັ່ງນັ້ນ, ລະບົບທີ່ສ້າງຂຶ້ນເພື່ອກໍານົດມະເຮັງຜິວຫນັງບາງຄັ້ງຖືກຮັບຮູ້ເປັນໄມ້ບັນທັດແທນ.

ຈຸດສໍາຄັນຢູ່ທີ່ນີ້ແມ່ນວ່າລະບົບບໍ່ມີຄວາມເຂົ້າໃຈ semantic ກ່ຽວກັບສິ່ງທີ່ມັນກໍາລັງຊອກຫາຢູ່. ພວກເຮົາເບິ່ງຢູ່ໃນຊຸດຂອງ pixels ແລະເບິ່ງຢູ່ໃນພວກມັນເປັນແກະ, ຜິວຫນັງຫຼືໄມ້ບັນທັດ, ແຕ່ລະບົບແມ່ນພຽງແຕ່ຕົວເລກ. ນາງບໍ່ເຫັນພື້ນທີ່ສາມມິຕິ, ບໍ່ເຫັນວັດຖຸ, ໂຄງສ້າງ, ຫຼືແກະ. ນາງພຽງແຕ່ເບິ່ງຮູບແບບໃນຂໍ້ມູນ.

ຄວາມຫຍຸ້ງຍາກໃນການວິນິດໄສບັນຫາດັ່ງກ່າວແມ່ນວ່າເຄືອຂ່າຍ neural (ແບບຈໍາລອງທີ່ສ້າງຂຶ້ນໂດຍລະບົບການຮຽນຮູ້ເຄື່ອງຈັກຂອງທ່ານ) ປະກອບດ້ວຍຫລາຍຮ້ອຍຫລາຍພັນຂໍ້. ບໍ່ມີວິທີທີ່ງ່າຍທີ່ຈະເບິ່ງເຂົ້າໄປໃນຕົວແບບແລະເບິ່ງວ່າມັນເຮັດການຕັດສິນໃຈແນວໃດ. ມີວິທີການດັ່ງກ່າວຫມາຍຄວາມວ່າຂະບວນການແມ່ນງ່າຍດາຍພຽງພໍທີ່ຈະອະທິບາຍກົດລະບຽບທັງຫມົດດ້ວຍຕົນເອງ, ໂດຍບໍ່ມີການນໍາໃຊ້ການຮຽນຮູ້ເຄື່ອງຈັກ. ປະຊາຊົນກັງວົນວ່າການຮຽນຮູ້ເຄື່ອງຈັກໄດ້ກາຍເປັນສິ່ງທີ່ຢູ່ໃນກ່ອງດໍາ. (ຂ້ອຍຈະອະທິບາຍຕໍ່ມາເລັກນ້ອຍວ່າເປັນຫຍັງການປຽບທຽບນີ້ຍັງຫຼາຍເກີນໄປ.)

ນີ້, ໃນຄໍາສັບຕ່າງໆທົ່ວໄປ, ແມ່ນບັນຫາຂອງຄວາມລໍາອຽງໃນປັນຍາປະດິດຫຼືການຮຽນຮູ້ເຄື່ອງຈັກ: ລະບົບສໍາລັບການຊອກຫາຮູບແບບໃນຂໍ້ມູນອາດຈະຊອກຫາຮູບແບບທີ່ບໍ່ຖືກຕ້ອງ, ແລະທ່ານອາດຈະບໍ່ໄດ້ສັງເກດເຫັນມັນ. ນີ້ແມ່ນລັກສະນະພື້ນຖານຂອງເຕັກໂນໂລຢີ, ແລະເຫັນໄດ້ຊັດເຈນກັບທຸກໆຄົນທີ່ເຮັດວຽກກັບມັນຢູ່ໃນສະຖາບັນການສຶກສາແລະບໍລິສັດເຕັກໂນໂລຢີໃຫຍ່. ແຕ່ຜົນສະທ້ອນຂອງມັນມີຄວາມຊັບຊ້ອນ, ແລະການແກ້ໄຂທີ່ເປັນໄປໄດ້ຂອງພວກເຮົາຕໍ່ກັບຜົນສະທ້ອນເຫຼົ່ານັ້ນ.

ໃຫ້ເວົ້າກ່ຽວກັບຜົນສະທ້ອນກ່ອນ.

AI ສາມາດ, ໂດຍ implicitly ສໍາລັບພວກເຮົາ, ເຮັດໃຫ້ທາງເລືອກໃນເງື່ອນໄຂຂອງບາງປະເພດຂອງປະຊາຊົນ, ໂດຍອີງໃສ່ຈໍານວນຂະຫນາດໃຫຍ່ຂອງສັນຍານ imperceptible.

ສະຖານະການ Bias AI

ແນ່ນອນທີ່ສຸດແລະເປັນຕາຢ້ານ, ບັນຫານີ້ສາມາດປະກົດຕົວຂອງມັນເອງໃນເວລາທີ່ມັນມາກັບຄວາມຫຼາກຫຼາຍຂອງມະນຸດ. ເມື່ອບໍ່ດົນມານີ້ ມີຂ່າວລືວ່າ Amazon ພະຍາຍາມສ້າງລະບົບການຮຽນຮູ້ເຄື່ອງຈັກສໍາລັບການກວດກາເບື້ອງຕົ້ນຂອງຜູ້ສະຫມັກວຽກ. ເນື່ອງຈາກມີຜູ້ຊາຍຫຼາຍກວ່າຄົນງານ Amazon, ຕົວຢ່າງຂອງ "ການຈ້າງງານທີ່ປະສົບຜົນສໍາເລັດ" ມັກຈະເປັນຜູ້ຊາຍ, ແລະມີຜູ້ຊາຍຫຼາຍກວ່າໃນການຄັດເລືອກຊີວະປະຫວັດທີ່ລະບົບແນະນໍາ. Amazon ສັງເກດເຫັນນີ້ແລະບໍ່ໄດ້ປ່ອຍລະບົບເຂົ້າໄປໃນການຜະລິດ.

ສິ່ງທີ່ສໍາຄັນທີ່ສຸດໃນຕົວຢ່າງນີ້ແມ່ນວ່າລະບົບໄດ້ຖືກຂ່າວລືກ່ຽວກັບຜູ້ສະຫມັກເພດຊາຍ, ເຖິງວ່າຈະມີຄວາມຈິງທີ່ວ່າເພດບໍ່ໄດ້ຖືກລະບຸໄວ້ໃນຊີວະປະຫວັດ. ລະບົບໄດ້ເຫັນຮູບແບບອື່ນໆໃນຕົວຢ່າງຂອງ "ຈ້າງທີ່ດີ": ຕົວຢ່າງ, ແມ່ຍິງອາດຈະໃຊ້ຄໍາພິເສດເພື່ອອະທິບາຍຜົນສໍາເລັດ, ຫຼືມີວຽກອະດິເລກພິເສດ. ແນ່ນອນ, ລະບົບບໍ່ຮູ້ວ່າ "hockey" ແມ່ນຫຍັງ, ຫຼື "ປະຊາຊົນ" ແມ່ນໃຜ, ຫຼື "ຄວາມສໍາເລັດ" ແມ່ນຫຍັງ - ມັນພຽງແຕ່ປະຕິບັດການວິເຄາະສະຖິຕິຂອງຂໍ້ຄວາມ. ແຕ່ຮູບແບບທີ່ນາງເຫັນສ່ວນຫຼາຍອາດຈະບໍ່ມີໃຜສັງເກດເຫັນ, ແລະບາງອັນ (ຕົວຢ່າງ, ຄວາມຈິງທີ່ວ່າຄົນເພດຕ່າງໆພັນລະນາຄວາມສຳເລັດແຕກຕ່າງກັນ) ອາດຈະເປັນເລື່ອງຍາກສໍາລັບພວກເຮົາທີ່ຈະເຫັນເຖິງແມ່ນວ່າພວກເຮົາຈະເບິ່ງພວກເຂົາ.

ນອກຈາກນັ້ນ - ຮ້າຍແຮງກວ່າເກົ່າ. ລະບົບການຮຽນຮູ້ເຄື່ອງຈັກທີ່ດີຫຼາຍໃນການຄົ້ນຫາມະເຮັງໃນຜິວຫນັງທີ່ຈືດໆອາດຈະບໍ່ປະຕິບັດໄດ້ດີກັບຜິວຫນັງຊ້ໍາ, ຫຼືໃນທາງກັບກັນ. ບໍ່ຈໍາເປັນຕ້ອງຍ້ອນຄວາມລໍາອຽງ, ແຕ່ເນື່ອງຈາກວ່າທ່ານອາດຈະຈໍາເປັນຕ້ອງສ້າງຕົວແບບແຍກຕ່າງຫາກສໍາລັບສີຜິວທີ່ແຕກຕ່າງກັນ, ເລືອກລັກສະນະທີ່ແຕກຕ່າງກັນ. ລະບົບການຮຽນຮູ້ເຄື່ອງຈັກບໍ່ສາມາດປ່ຽນກັນໄດ້ເຖິງແມ່ນວ່າຢູ່ໃນພື້ນທີ່ແຄບເຊັ່ນການຮັບຮູ້ຮູບພາບ. ທ່ານຈໍາເປັນຕ້ອງປັບລະບົບ, ບາງຄັ້ງພຽງແຕ່ຜ່ານການທົດລອງແລະຄວາມຜິດພາດ, ເພື່ອໃຫ້ໄດ້ຮັບການຈັດການທີ່ດີກ່ຽວກັບລັກສະນະຕ່າງໆໃນຂໍ້ມູນທີ່ທ່ານສົນໃຈຈົນກ່ວາທ່ານບັນລຸຄວາມຖືກຕ້ອງທີ່ທ່ານຕ້ອງການ. ແຕ່ສິ່ງທີ່ທ່ານອາດຈະບໍ່ສັງເກດເຫັນແມ່ນວ່າລະບົບມີຄວາມຖືກຕ້ອງ 98% ຂອງເວລາກັບກຸ່ມຫນຶ່ງ, ແລະມີພຽງແຕ່ 91% (ເຖິງແມ່ນວ່າຖືກຕ້ອງກວ່າການວິເຄາະຂອງມະນຸດ) ກັບກຸ່ມອື່ນໆ.

ມາຮອດປະຈຸ, ຂ້າພະເຈົ້າໄດ້ນໍາໃຊ້ຕົວຢ່າງຕົ້ນຕໍທີ່ກ່ຽວຂ້ອງກັບປະຊາຊົນແລະຄຸນລັກສະນະຂອງເຂົາເຈົ້າ. ການສົນທະນາກ່ຽວກັບບັນຫານີ້ສ່ວນໃຫຍ່ແມ່ນສຸມໃສ່ຫົວຂໍ້ນີ້. ແຕ່ມັນເປັນສິ່ງສໍາຄັນທີ່ຈະເຂົ້າໃຈວ່າຄວາມລໍາອຽງຕໍ່ປະຊາຊົນແມ່ນພຽງແຕ່ສ່ວນຫນຶ່ງຂອງບັນຫາ. ພວກເຮົາຈະໃຊ້ການຮຽນຮູ້ຂອງເຄື່ອງຈັກໃນຫຼາຍສິ່ງຫຼາຍຢ່າງ, ແລະຄວາມຜິດພາດຂອງຕົວຢ່າງຈະກ່ຽວຂ້ອງກັບພວກມັນທັງໝົດ. ໃນທາງກົງກັນຂ້າມ, ຖ້າທ່ານເຮັດວຽກກັບຄົນ, ຄວາມລໍາອຽງໃນຂໍ້ມູນອາດຈະບໍ່ກ່ຽວຂ້ອງກັບພວກເຂົາ.

ເພື່ອເຂົ້າໃຈເລື່ອງນີ້, ໃຫ້ກັບຄືນໄປຫາຕົວຢ່າງຂອງມະເຮັງຜິວຫນັງແລະພິຈາລະນາສາມຄວາມເປັນໄປໄດ້ສົມມຸດຕິຖານສໍາລັບຄວາມລົ້ມເຫຼວຂອງລະບົບ.

1. ການແຜ່ກະຈາຍຂອງປະຊາຊົນຫຼາຍ: ຈໍານວນການຖ່າຍຮູບທີ່ບໍ່ສົມດຸນຂອງໂຕນຜິວຫນັງທີ່ແຕກຕ່າງກັນ, ນໍາໄປສູ່ການບວກທີ່ບໍ່ຖືກຕ້ອງຫຼືທາງລົບທີ່ບໍ່ຖືກຕ້ອງເນື່ອງຈາກເມັດສີ.
2. ຂໍ້ມູນທີ່ລະບົບໄດ້ຮັບການຝຶກອົບຮົມປະກອບດ້ວຍລັກສະນະທີ່ເກີດຂື້ນເລື້ອຍໆແລະແຈກຢາຍຢ່າງບໍ່ຢຸດຢັ້ງທີ່ບໍ່ກ່ຽວຂ້ອງກັບຄົນແລະບໍ່ມີມູນຄ່າການວິນິດໄສ: ໄມ້ບັນທັດໃນຮູບຂອງມະເຮັງຜິວຫນັງຫຼືຫຍ້າໃນຮູບແກະ. ໃນກໍລະນີນີ້, ຜົນໄດ້ຮັບຈະແຕກຕ່າງກັນຖ້າລະບົບຊອກຫາ pixels ໃນຮູບພາບຂອງບາງສິ່ງບາງຢ່າງທີ່ຕາຂອງມະນຸດກໍານົດວ່າເປັນ "ໄມ້ບັນທັດ".
3. ຂໍ້ມູນປະກອບດ້ວຍລັກສະນະພາກສ່ວນທີສາມທີ່ບຸກຄົນໃດຫນຶ່ງບໍ່ສາມາດເຫັນໄດ້ເຖິງແມ່ນວ່າລາວຊອກຫາມັນ.

ມັນຫມາຍຄວາມວ່າແນວໃດ? ພວກເຮົາຮູ້ບຸລິມະສິດທີ່ຂໍ້ມູນອາດຈະເປັນຕົວແທນຂອງກຸ່ມຄົນທີ່ແຕກຕ່າງກັນ, ແລະຢ່າງຫນ້ອຍພວກເຮົາສາມາດວາງແຜນທີ່ຈະຊອກຫາຂໍ້ຍົກເວັ້ນດັ່ງກ່າວ. ໃນຄໍາສັບຕ່າງໆອື່ນໆ, ມີຫຼາຍເຫດຜົນທາງສັງຄົມທີ່ຈະສົມມຸດວ່າຂໍ້ມູນກ່ຽວກັບກຸ່ມຄົນມີອະຄະຕິບາງຢ່າງແລ້ວ. ຖ້າພວກເຮົາເບິ່ງຮູບກັບໄມ້ບັນທັດ, ພວກເຮົາຈະເຫັນໄມ້ບັນທັດນີ້ - ພວກເຮົາພຽງແຕ່ບໍ່ສົນໃຈມັນກ່ອນ, ຮູ້ວ່າມັນບໍ່ສໍາຄັນ, ແລະລືມວ່າລະບົບບໍ່ຮູ້ຫຍັງເລີຍ.

ແຕ່ຈະເປັນແນວໃດຖ້າຮູບພາບຂອງຜິວຫນັງທີ່ບໍ່ສະອາດທັງຫມົດຂອງເຈົ້າຖືກຖ່າຍຢູ່ໃນຫ້ອງການພາຍໃຕ້ແສງສະຫວ່າງ incandescent, ແລະຜິວຫນັງທີ່ມີສຸຂະພາບດີຂອງເຈົ້າຖືກຖ່າຍພາຍໃຕ້ແສງ fluorescent? ຈະເປັນແນວໃດຖ້າວ່າ, ຫຼັງຈາກທີ່ເຈົ້າສໍາເລັດການຖ່າຍຮູບຜິວຫນັງທີ່ມີສຸຂະພາບດີ, ກ່ອນທີ່ຈະຍິງຜິວຫນັງທີ່ບໍ່ດີ, ທ່ານໄດ້ປັບປຸງລະບົບປະຕິບັດການໃນໂທລະສັບຂອງທ່ານ, ແລະ Apple ຫຼື Google ໄດ້ປ່ຽນຂັ້ນຕອນການຫຼຸດຜ່ອນສຽງເລັກນ້ອຍ? ບຸກຄົນບໍ່ສາມາດສັງເກດເຫັນສິ່ງນີ້, ບໍ່ວ່າລາວຊອກຫາລັກສະນະດັ່ງກ່າວຫຼາຍປານໃດ. ແຕ່ລະບົບການນໍາໃຊ້ເຄື່ອງຈັກຈະເຫັນແລະນໍາໃຊ້ນີ້ທັນທີ. ນາງບໍ່ຮູ້ຫຍັງເລີຍ.

ມາຮອດປະຈຸ, ພວກເຮົາໄດ້ເວົ້າກ່ຽວກັບຄວາມກ່ຽວຂ້ອງກັນ, ແຕ່ມັນກໍ່ອາດຈະເປັນຂໍ້ມູນທີ່ຖືກຕ້ອງແລະຜົນໄດ້ຮັບທີ່ຖືກຕ້ອງ, ແຕ່ທ່ານບໍ່ຕ້ອງການໃຊ້ພວກມັນສໍາລັບເຫດຜົນດ້ານຈັນຍາບັນ, ກົດຫມາຍ, ຫຼືການຄຸ້ມຄອງ. ສໍາລັບຕົວຢ່າງ, ອໍານາດການປົກຄອງຈໍານວນຫນຶ່ງບໍ່ອະນຸຍາດໃຫ້ແມ່ຍິງໄດ້ຮັບສ່ວນຫຼຸດກ່ຽວກັບການປະກັນໄພຂອງເຂົາເຈົ້າ, ເຖິງແມ່ນວ່າແມ່ຍິງອາດຈະເປັນຄົນຂັບລົດທີ່ປອດໄພກວ່າ. ພວກເຮົາສາມາດຈິນຕະນາການໄດ້ຢ່າງງ່າຍດາຍກ່ຽວກັບລະບົບທີ່, ໃນເວລາທີ່ການວິເຄາະຂໍ້ມູນປະຫວັດສາດ, ຈະກໍານົດປັດໄຈຄວາມສ່ຽງຕ່ໍາກັບຊື່ແມ່ຍິງ. ຕົກລົງ, ໃຫ້ລຶບຊື່ອອກຈາກການເລືອກ. ແຕ່ຈື່ຈໍາຕົວຢ່າງ Amazon: ລະບົບສາມາດກໍານົດເພດໂດຍອີງໃສ່ປັດໃຈອື່ນໆ (ເຖິງແມ່ນວ່າມັນບໍ່ຮູ້ວ່າເພດໃດ, ຫຼືແມ້ກະທັ້ງລົດແມ່ນຫຍັງ), ແລະທ່ານຈະບໍ່ສັງເກດເຫັນນີ້ຈົນກ່ວາຜູ້ຄວບຄຸມຈະວິເຄາະອັດຕາພາສີຄືນຄືນ. ຂໍ້ສະເຫນີແລະຄ່າບໍລິການທ່ານຈະຖືກປັບໃຫມ.

ສຸດທ້າຍ, ມັນມັກຈະສົມມຸດວ່າພວກເຮົາຈະໃຊ້ພຽງແຕ່ລະບົບດັ່ງກ່າວສໍາລັບໂຄງການທີ່ກ່ຽວຂ້ອງກັບປະຊາຊົນແລະການພົວພັນທາງສັງຄົມ. ອັນນີ້ຜິດ. ຖ້າທ່ານສ້າງເຄື່ອງຈັກອາຍແກັສ, ທ່ານອາດຈະຕ້ອງການນໍາໃຊ້ການຮຽນຮູ້ເຄື່ອງຈັກກັບ telemetry ທີ່ສົ່ງໂດຍເຊັນເຊີຫຼາຍສິບຫຼືຫຼາຍຮ້ອຍເຊັນໃນຜະລິດຕະພັນຂອງທ່ານ (ສຽງ, ວິດີໂອ, ອຸນຫະພູມ, ແລະເຊັນເຊີອື່ນໆສ້າງຂໍ້ມູນທີ່ສາມາດດັດແປງໄດ້ງ່າຍທີ່ສຸດເພື່ອສ້າງເຄື່ອງຈັກ. ຮູບແບບການຮຽນຮູ້). ໂດຍສົມມຸດຕິຖານ, ທ່ານສາມາດເວົ້າວ່າ, "ນີ້ແມ່ນຂໍ້ມູນຈາກ turbines ພັນ turbine ທີ່ລົ້ມເຫລວກ່ອນທີ່ມັນຈະລົ້ມເຫລວ, ແລະນີ້ແມ່ນຂໍ້ມູນຈາກ turbine ພັນທີ່ບໍ່ໄດ້ລົ້ມເຫລວ. ສ້າງຕົວແບບເພື່ອບອກຄວາມແຕກຕ່າງລະຫວ່າງພວກມັນ.” ດີ, ໃນປັດຈຸບັນຈິນຕະນາການວ່າເຊັນເຊີ Siemens ຖືກຕິດຕັ້ງຢູ່ໃນ 75% ຂອງ turbine ທີ່ບໍ່ດີ, ແລະມີພຽງແຕ່ 12% ຂອງເຄື່ອງດີ (ບໍ່ມີການເຊື່ອມຕໍ່ກັບຄວາມລົ້ມເຫຼວ). ລະບົບຈະສ້າງແບບຈໍາລອງເພື່ອຊອກຫາກັງຫັນທີ່ມີເຊັນເຊີ Siemens. ອຸຍ!

ຮູບພາບ — Moritz Hardt, UC Berkeley

ການຄຸ້ມຄອງ AI Bias

ພວກເຮົາສາມາດເຮັດແນວໃດກ່ຽວກັບມັນ? ທ່ານສາມາດເຂົ້າຫາບັນຫາໄດ້ຈາກສາມມຸມ:

1. ຄວາມເຂັ້ມງວດທາງດ້ານວິທີການໃນການເກັບກໍາແລະການຄຸ້ມຄອງຂໍ້ມູນສໍາລັບການຝຶກອົບຮົມລະບົບ.
2. ເຄື່ອງມືດ້ານວິຊາການສໍາລັບການວິເຄາະແລະການວິນິດໄສພຶດຕິກໍາຕົວແບບ.
3. ຝຶກອົບຮົມ, ສຶກສາອົບຮົມ, ແລະລະມັດລະວັງໃນການປະຕິບັດການຮຽນຮູ້ເຄື່ອງຈັກເຂົ້າໄປໃນຜະລິດຕະພັນ.

ມີເລື່ອງຕະຫລົກໃນຫນັງສືຂອງ Molière "The Bourgeois in the Nobility": ຜູ້ຊາຍຄົນຫນຶ່ງໄດ້ຖືກບອກວ່າວັນນະຄະດີຖືກແບ່ງອອກເປັນຄໍາເວົ້າແລະບົດກະວີ, ແລະລາວດີໃຈທີ່ຄົ້ນພົບວ່າລາວເວົ້າໃນ prose ຕະຫຼອດຊີວິດຂອງລາວ, ໂດຍບໍ່ຮູ້ຕົວ. ນີ້ອາດຈະເປັນວິທີທີ່ນັກສະຖິຕິມີຄວາມຮູ້ສຶກໃນມື້ນີ້: ໂດຍບໍ່ຮູ້ຕົວ, ເຂົາເຈົ້າໄດ້ອຸທິດອາຊີບຂອງພວກເຂົາໃຫ້ກັບປັນຍາປະດິດແລະຄວາມຜິດພາດຂອງຕົວຢ່າງ. ຊອກຫາຄວາມຜິດພາດຂອງຕົວຢ່າງແລະການກັງວົນກ່ຽວກັບມັນບໍ່ແມ່ນບັນຫາໃຫມ່, ພວກເຮົາພຽງແຕ່ຕ້ອງການວິທີການແກ້ໄຂບັນຫາຂອງມັນຢ່າງເປັນລະບົບ. ດັ່ງທີ່ໄດ້ກ່າວມາຂ້າງເທິງ, ໃນບາງກໍລະນີມັນກໍ່ງ່າຍຂຶ້ນທີ່ຈະເຮັດສິ່ງນີ້ໂດຍການສຶກສາບັນຫາທີ່ກ່ຽວຂ້ອງກັບຂໍ້ມູນຄົນ. ພວກ​ເຮົາ​ຄາດ​ວ່າ​ພວກ​ເຮົາ​ອາດ​ຈະ​ມີ​ອະ​ຄະ​ຕິ​ກ່ຽວ​ກັບ​ກຸ່ມ​ຄົນ​ທີ່​ແຕກ​ຕ່າງ​ກັນ, ແຕ່​ມັນ​ເປັນ​ການ​ຍາກ​ສໍາ​ລັບ​ພວກ​ເຮົາ​ທີ່​ຈະ​ຈິນ​ຕະ​ນາ​ການ​ອະ​ຄະ​ຕິ​ກ່ຽວ​ກັບ​ເຊັນ​ເຊີ Siemens.

ສິ່ງໃຫມ່ກ່ຽວກັບທັງຫມົດນີ້, ແນ່ນອນ, ແມ່ນວ່າປະຊາຊົນບໍ່ໄດ້ເຮັດການວິເຄາະສະຖິຕິໂດຍກົງ. ມັນໄດ້ຖືກປະຕິບັດໂດຍເຄື່ອງຈັກທີ່ສ້າງແບບຈໍາລອງຂະຫນາດໃຫຍ່, ສະລັບສັບຊ້ອນທີ່ຍາກທີ່ຈະເຂົ້າໃຈ. ບັນຫາ​ຄວາມ​ໂປ່​ງ​ໃສ​ແມ່ນ​ໜຶ່ງ​ໃນ​ບັນຫາ​ຕົ້ນຕໍ​ຂອງ​ບັນຫາ​ຄວາມ​ລຳອຽງ. ພວກເຮົາຢ້ານວ່າລະບົບບໍ່ພຽງແຕ່ມີຄວາມລໍາອຽງ, ແຕ່ບໍ່ມີວິທີທີ່ຈະກວດພົບຄວາມລໍາອຽງຂອງມັນ, ແລະການຮຽນຮູ້ເຄື່ອງຈັກແມ່ນແຕກຕ່າງຈາກຮູບແບບອັດຕະໂນມັດອື່ນໆ, ເຊິ່ງຄາດວ່າຈະປະກອບດ້ວຍຂັ້ນຕອນຢ່າງມີເຫດຜົນທີ່ສາມາດທົດສອບໄດ້.

ມີສອງບັນຫາຢູ່ທີ່ນີ້. ພວກເຮົາອາດຈະຍັງສາມາດດໍາເນີນການກວດສອບບາງປະເພດຂອງລະບົບການຮຽນຮູ້ເຄື່ອງຈັກ. ແລະການກວດສອບລະບົບອື່ນໆແມ່ນບໍ່ງ່າຍກວ່າ.

ທໍາອິດ, ຫນຶ່ງໃນທິດທາງຂອງການຄົ້ນຄວ້າທີ່ທັນສະໄຫມໃນຂົງເຂດການຮຽນຮູ້ເຄື່ອງຈັກແມ່ນການຄົ້ນຫາວິທີການເພື່ອກໍານົດຫນ້າທີ່ທີ່ສໍາຄັນຂອງລະບົບການຮຽນຮູ້ເຄື່ອງຈັກ. ທີ່ເວົ້າວ່າ, ການຮຽນຮູ້ຂອງເຄື່ອງຈັກ (ໃນສະພາບປະຈຸບັນຂອງມັນ) ແມ່ນຂົງເຂດວິທະຍາສາດໃຫມ່ທີ່ມີການປ່ຽນແປງຢ່າງໄວວາ, ດັ່ງນັ້ນຢ່າຄິດວ່າສິ່ງທີ່ເປັນໄປບໍ່ໄດ້ໃນມື້ນີ້ບໍ່ສາມາດກາຍເປັນຈິງໄດ້ໃນໄວໆນີ້. ໂຄງການ OpenAI - ຕົວຢ່າງທີ່ຫນ້າສົນໃຈຂອງເລື່ອງນີ້.

ອັນທີສອງ, ຄວາມຄິດທີ່ທ່ານສາມາດທົດສອບແລະເຂົ້າໃຈຂັ້ນຕອນການຕັດສິນໃຈຂອງລະບົບຫຼືອົງການຈັດຕັ້ງທີ່ມີຢູ່ແມ່ນດີໃນທິດສະດີ, ແຕ່ໃນການປະຕິບັດ. ຄວາມເຂົ້າໃຈກ່ຽວກັບວິທີການຕັດສິນໃຈໃນອົງການຈັດຕັ້ງຂະຫນາດໃຫຍ່ບໍ່ແມ່ນເລື່ອງງ່າຍ. ເຖິງແມ່ນວ່າຈະມີຂະບວນການຕັດສິນໃຈທີ່ເປັນທາງການ, ມັນບໍ່ໄດ້ສະທ້ອນເຖິງວິທີທີ່ຄົນເຮົາພົວພັນກັບຕົວຈິງ, ແລະພວກເຂົາເອງມັກຈະບໍ່ມີເຫດຜົນ, ເປັນລະບົບໃນການຕັດສິນໃຈຂອງເຂົາເຈົ້າ. ດັ່ງທີ່ເພື່ອນຮ່ວມງານຂອງຂ້ອຍເວົ້າ Vijay Pande, ປະຊາຊົນຍັງເປັນກ່ອງສີດໍາ.

ເອົາຄົນຫນຶ່ງພັນຄົນຢູ່ໃນບໍລິສັດແລະສະຖາບັນທີ່ທັບຊ້ອນກັນ, ແລະບັນຫາກໍ່ສັບສົນຫຼາຍ. ພວກເຮົາຮູ້ຫຼັງຈາກຄວາມຈິງທີ່ວ່າຍານອະວະກາດມີຈຸດຫມາຍປາຍທາງທີ່ຈະແຕກແຍກໃນເວລາກັບຄືນມາ, ແລະບຸກຄົນພາຍໃນອົງການ NASA ມີຂໍ້ມູນທີ່ໃຫ້ເຫດຜົນໃຫ້ພວກເຂົາຄິດວ່າບາງສິ່ງບາງຢ່າງທີ່ບໍ່ດີອາດຈະເກີດຂື້ນ, ແຕ່ລະບົບ. ໂດຍທົ່ວໄປ ຂ້ອຍບໍ່ຮູ້ເລື່ອງນີ້. NASA ເຖິງແມ່ນໄດ້ຜ່ານການກວດສອບທີ່ຄ້າຍຄືກັນຫຼັງຈາກການສູນເສຍລົດຮັບສົ່ງທີ່ຜ່ານມາ, ແລະມັນຍັງສູນເສຍໄປອີກອັນຫນຶ່ງສໍາລັບເຫດຜົນທີ່ຄ້າຍຄືກັນຫຼາຍ. ມັນງ່າຍທີ່ຈະໂຕ້ຖຽງວ່າອົງການຈັດຕັ້ງແລະປະຊາຊົນປະຕິບັດຕາມກົດລະບຽບທີ່ຊັດເຈນ, ມີເຫດຜົນທີ່ສາມາດທົດສອບ, ເຂົ້າໃຈ, ແລະປ່ຽນແປງໄດ້ - ແຕ່ປະສົບການຈະພິສູດຖ້າບໍ່ດັ່ງນັ້ນ. ນີ້ "ຄວາມຫຼົງໄຫຼຂອງ Gosplan".

ຂ້ອຍມັກຈະປຽບທຽບການຮຽນຮູ້ຂອງເຄື່ອງຈັກກັບຖານຂໍ້ມູນ, ໂດຍສະເພາະແມ່ນສິ່ງທີ່ກ່ຽວຂ້ອງ - ເຕັກໂນໂລຢີພື້ນຖານໃຫມ່ທີ່ມີການປ່ຽນແປງຄວາມສາມາດຂອງວິທະຍາສາດຄອມພິວເຕີແລະໂລກທີ່ອ້ອມຮອບມັນ, ເຊິ່ງໄດ້ກາຍເປັນສ່ວນຫນຶ່ງຂອງທຸກສິ່ງທຸກຢ່າງ, ທີ່ພວກເຮົາໃຊ້ຢ່າງຕໍ່ເນື່ອງໂດຍບໍ່ຮູ້ຕົວ. ຖານຂໍ້ມູນຍັງມີບັນຫາ, ແລະພວກເຂົາມີລັກສະນະຄ້າຍຄືກັນ: ລະບົບອາດຈະຖືກສ້າງຂຶ້ນໂດຍສົມມຸດຕິຖານທີ່ບໍ່ດີຫຼືຂໍ້ມູນທີ່ບໍ່ດີ, ແຕ່ມັນຍາກທີ່ຈະສັງເກດເຫັນ, ແລະຜູ້ທີ່ໃຊ້ລະບົບຈະເຮັດສິ່ງທີ່ມັນບອກພວກເຂົາໂດຍບໍ່ຕ້ອງຖາມຄໍາຖາມ. ມີເລື່ອງຕະຫລົກເກົ່າຫຼາຍກ່ຽວກັບຄົນພາສີທີ່ເຄີຍສະກົດຊື່ຂອງເຈົ້າຜິດ, ແລະການຊັກຊວນໃຫ້ເຂົາເຈົ້າແກ້ໄຂຄວາມຜິດພາດແມ່ນມີຄວາມຫຍຸ້ງຍາກຫຼາຍກ່ວາການປ່ຽນຊື່ຂອງເຈົ້າ. ມີຫຼາຍວິທີທີ່ຈະຄິດກ່ຽວກັບເລື່ອງນີ້, ແຕ່ມັນບໍ່ຊັດເຈນວ່າອັນໃດດີກວ່າ: ເປັນບັນຫາດ້ານວິຊາການໃນ SQL, ຫຼືເປັນແມງໄມ້ໃນການປ່ອຍ Oracle, ຫຼືເປັນຄວາມລົ້ມເຫຼວຂອງສະຖາບັນ bureaucratic? ມັນມີຄວາມຫຍຸ້ງຍາກຫຼາຍປານໃດທີ່ຈະຊອກຫາຂໍ້ຜິດພາດໃນຂະບວນການທີ່ເຮັດໃຫ້ລະບົບບໍ່ມີຄຸນສົມບັດການແກ້ໄຂການພິມຜິດ? ນີ້ອາດຈະໄດ້ຮັບການຄິດອອກກ່ອນທີ່ປະຊາຊົນເລີ່ມຈົ່ມ?

ບັນຫານີ້ໄດ້ຖືກສະແດງໃຫ້ເຫັນເຖິງພຽງແຕ່ໂດຍເລື່ອງຕ່າງໆໃນເວລາທີ່ຄົນຂັບລົດເຂົ້າໄປໃນແມ່ນ້ໍາເນື່ອງຈາກຂໍ້ມູນລ້າສະໄຫມໃນ navigator. ຕົກລົງ, ແຜນທີ່ຕ້ອງໄດ້ຮັບການປັບປຸງຢ່າງຕໍ່ເນື່ອງ. ແຕ່ TomTom ຈະຕໍານິຫຼາຍປານໃດທີ່ລົດຂອງເຈົ້າຖືກລະເບີດອອກທະເລ?

ເຫດຜົນທີ່ຂ້ອຍເວົ້ານີ້ແມ່ນວ່າແມ່ນແລ້ວ, ຄວາມລໍາອຽງການຮຽນຮູ້ເຄື່ອງຈັກຈະສ້າງບັນຫາ. ແຕ່ບັນຫາເຫຼົ່ານີ້ຈະຄ້າຍຄືກັນກັບບັນຫາທີ່ພວກເຮົາໄດ້ປະເຊີນໃນອະດີດ, ແລະພວກເຂົາສາມາດສັງເກດເຫັນແລະແກ້ໄຂໄດ້ (ຫຼືບໍ່) ກ່ຽວກັບເຊັ່ນດຽວກັນກັບພວກເຮົາໃນອະດີດ. ດັ່ງນັ້ນ, ສະຖານະການທີ່ຄວາມລໍາອຽງຂອງ AI ເຮັດໃຫ້ເກີດອັນຕະລາຍແມ່ນບໍ່ຫນ້າຈະເກີດຂຶ້ນກັບນັກຄົ້ນຄວ້າອາວຸໂສທີ່ເຮັດວຽກຢູ່ໃນອົງການຈັດຕັ້ງຂະຫນາດໃຫຍ່. ສ່ວນຫຼາຍອາດຈະ, ບາງຜູ້ຮັບເຫມົາເຕັກໂນໂລຢີທີ່ບໍ່ສໍາຄັນຫຼືຜູ້ຂາຍຊອບແວຈະຂຽນບາງສິ່ງບາງຢ່າງຢູ່ເທິງຫົວເຂົ່າຂອງພວກເຂົາ, ໂດຍໃຊ້ອົງປະກອບແຫຼ່ງເປີດ, ຫ້ອງສະຫມຸດແລະເຄື່ອງມືທີ່ພວກເຂົາບໍ່ເຂົ້າໃຈ. ແລະລູກຄ້າທີ່ໂຊກຮ້າຍຈະຊື້ຄໍາວ່າ "ປັນຍາປະດິດ" ໃນຄໍາອະທິບາຍຜະລິດຕະພັນແລະ, ໂດຍບໍ່ມີການຖາມຄໍາຖາມໃດໆ, ແຈກຢາຍມັນໃຫ້ກັບພະນັກງານທີ່ມີຄ່າຈ້າງຕໍ່າຂອງລາວ, ສັ່ງໃຫ້ພວກເຂົາເຮັດສິ່ງທີ່ AI ເວົ້າ. ນີ້ແມ່ນສິ່ງທີ່ເກີດຂຶ້ນກັບຖານຂໍ້ມູນ. ນີ້ບໍ່ແມ່ນບັນຫາປັນຍາປະດິດ, ຫຼືແມ່ນແຕ່ບັນຫາຊອບແວ. ນີ້ແມ່ນປັດໃຈຂອງມະນຸດ.

ສະຫລຸບ

ການຮຽນຮູ້ເຄື່ອງຈັກສາມາດເຮັດທຸກຢ່າງທີ່ທ່ານສາມາດສອນໝາໄດ້ - ແຕ່ເຈົ້າບໍ່ເຄີຍແນ່ໃຈວ່າເຈົ້າສອນໝາຫຍັງແທ້.

ຂ້ອຍມັກຈະມີຄວາມຮູ້ສຶກຄືກັບຄໍາວ່າ "ປັນຍາປະດິດ" ພຽງແຕ່ຢູ່ໃນວິທີການສົນທະນາແບບນີ້. ໄລຍະນີ້ເຮັດໃຫ້ຄວາມປະທັບໃຈທີ່ບໍ່ຖືກຕ້ອງທີ່ພວກເຮົາສ້າງມັນຢ່າງແທ້ຈິງ - ປັນຍານີ້. ວ່າພວກເຮົາກໍາລັງໄປຫາ HAL9000 ຫຼື Skynet - ບາງສິ່ງບາງຢ່າງທີ່ຈິງ ເຂົ້າໃຈ. ແຕ່ບໍ່ມີ. ເຫຼົ່ານີ້ແມ່ນພຽງແຕ່ເຄື່ອງຈັກ, ແລະມັນຖືກຕ້ອງຫຼາຍທີ່ຈະປຽບທຽບພວກມັນກັບ, ເວົ້າ, ເຄື່ອງຊັກຜ້າ. ນາງ​ຊັກ​ໄດ້​ດີ​ກວ່າ​ມະນຸດ, ແຕ່​ຖ້າ​ເຈົ້າ​ເອົາ​ຖ້ວຍ​ໃສ່​ແທນ​ທີ່​ຈະ​ຊັກ, ນາງ​ຈະ​ຊັກ​ມັນ. ຖ້ວຍກໍ່ຈະກາຍເປັນທີ່ສະອາດ. ແຕ່ນີ້ຈະບໍ່ເປັນສິ່ງທີ່ທ່ານຄາດຫວັງ, ແລະນີ້ຈະບໍ່ເກີດຂຶ້ນເພາະວ່າລະບົບມີລໍາອຽງໃດໆກ່ຽວກັບອາຫານ. ເຄື່ອງຊັກຜ້າບໍ່ຮູ້ວ່າຖ້ວຍແມ່ນຫຍັງຫຼືເຄື່ອງນຸ່ງແມ່ນຫຍັງ - ມັນເປັນພຽງແຕ່ຕົວຢ່າງຂອງອັດຕະໂນມັດ, ແນວຄວາມຄິດບໍ່ແຕກຕ່າງຈາກຂະບວນການອັດຕະໂນມັດກ່ອນ.

ບໍ່ວ່າພວກເຮົາຈະເວົ້າກ່ຽວກັບລົດຍົນ, ຍົນ, ຫຼືຖານຂໍ້ມູນ, ລະບົບເຫຼົ່ານີ້ຈະມີອໍານາດຫຼາຍແລະຈໍາກັດຫຼາຍ. ພວກເຂົາຈະຂຶ້ນຢູ່ກັບວິທີການປະຊາຊົນໃຊ້ລະບົບເຫຼົ່ານີ້ທັງຫມົດ, ບໍ່ວ່າຈະເປັນຄວາມຕັ້ງໃຈຂອງພວກເຂົາດີຫຼືບໍ່ດີ, ແລະພວກເຂົາເຂົ້າໃຈວິທີການເຮັດວຽກຫຼາຍປານໃດ.

ດັ່ງນັ້ນ, ການເວົ້າວ່າ "ປັນຍາປະດິດແມ່ນຄະນິດສາດ, ສະນັ້ນມັນບໍ່ສາມາດມີອະຄະຕິໄດ້" ແມ່ນບໍ່ຖືກຕ້ອງຢ່າງສົມບູນ. ແຕ່ມັນເປັນການຜິດເທົ່າກັນທີ່ຈະເວົ້າວ່າການຮຽນຮູ້ຂອງເຄື່ອງຈັກແມ່ນ "ຫົວຂໍ້ໃນທໍາມະຊາດ." ການຮຽນຮູ້ເຄື່ອງຈັກຊອກຫາຮູບແບບໃນຂໍ້ມູນ, ແລະຮູບແບບທີ່ມັນພົບແມ່ນຂຶ້ນກັບຂໍ້ມູນ, ແລະຂໍ້ມູນແມ່ນຂຶ້ນກັບພວກເຮົາ. ຄືກັນກັບສິ່ງທີ່ພວກເຮົາເຮັດກັບເຂົາເຈົ້າ. ການຮຽນຮູ້ເຄື່ອງຈັກເຮັດບາງສິ່ງທີ່ດີກ່ວາທີ່ພວກເຮົາສາມາດເຮັດໄດ້ - ຕົວຢ່າງເຊັ່ນຫມາແມ່ນມີປະສິດທິພາບຫຼາຍກ່ວາມະນຸດໃນການກວດສອບຢາເສບຕິດ, ເຊິ່ງບໍ່ແມ່ນເຫດຜົນທີ່ຈະໃຊ້ພວກມັນເປັນພະຍານແລະຕັດສິນໂດຍອີງໃສ່ປະຈັກພະຍານຂອງພວກເຂົາ. ແລະ, ໂດຍວິທີທາງການ, ຫມາແມ່ນສະຫລາດກວ່າລະບົບການຮຽນຮູ້ເຄື່ອງຈັກໃດໆ.

ການແປພາສາ: Diana Letskaya.
ການແກ້ໄຂ: Aleksey Ivanov.
ຊຸມຊົນ: @PonchikNews.

ແຫຼ່ງຂໍ້ມູນ: www.habr.com