ระดับการพัฒนาในปัจจุบันได้ก้าวมาถึงจุดที่แม้แต่เด็กนักเรียนก็สามารถใช้ห้องสมุดที่มีแบบจำลองได้ ตัวอย่างเช่น ฝึกฝนโมเดลด้วยข้อมูลที่ได้จากแหล่งข้อมูลสาธารณะ และนำไปใช้กับข้อมูลของคุณเองด้วยคุณภาพที่ยอมรับได้ บางครั้งมันก็ตลกดีเมื่อเห็นการแสดงของเจนนิเฟอร์ ลอว์เรนซ์พร้อมกับใบหน้า หรือตัวอย่างเช่น ตัวเลือก 11 ตัวเลือกเรียงกันที่มีบุคลิกแตกต่างกัน: แต่ในขณะนี้ บริษัทยักษ์ใหญ่ด้านเทคโนโลยีต่างกังวลกับสิ่งที่กำลังเกิดขึ้น และมีบทความเกี่ยวกับเรื่องนี้ออกมาแล้วด้วย เกี่ยวกับเรื่องที่ Facebook และ Microsoft ให้ทุนสนับสนุนเพื่อตรวจจับ deepfake นั้น ผมไม่เชื่อในเจตนาที่เสียสละเพื่อส่วนรวมหรอกครับ ผมเชื่อในเรื่องผลกำไรมากกว่า เป็นไปได้มากว่านี่เป็นวิธีการหาแนวทางฝึกฝนโมเดลให้ดียิ่งขึ้นเพื่อสร้าง deepfake ที่สมจริงยิ่งขึ้น นี่อาจจะเป็นจุดเริ่มต้นของวงจรที่เลวร้าย: วิธีการต่อต้าน deepfake จะถูกพัฒนาขึ้น ซึ่งจะกระตุ้นให้เทคโนโลยี deepfake พัฒนาขึ้นไปอีก
ฉันคิดว่าคงไม่ใช่ความลับอะไรที่เทคโนโลยีนี้เป็นเครื่องมือที่ยอดเยี่ยมสำหรับการบิดเบือนและยั่วยุ ส่วนนักการเมืองและคนดังนั้น มีศักยภาพมหาศาลในการสร้างข่าวในหนังสือพิมพ์แท็บลอยด์และอื่นๆ อีกมากมาย นอกจากนี้ยังควรระลึกถึงโครงการ DeepNude ที่โด่งดังและปิดตัวลงอย่างรวดเร็ว มันน่าจะเป็นลางบอกเหตุของเทคโนโลยีเฉพาะกลุ่มใหม่ เป็นไปได้มากว่าในอนาคต (หรือปัจจุบัน?) เราจะได้เห็นผลิตภัณฑ์ที่คล้ายกับนี้เกิดขึ้น ซึ่งใครๆ ก็สามารถดูใครก็ได้ในวิดีโอสำหรับผู้ใหญ่ได้โดยเสียค่าใช้จ่าย แม้แต่คนที่พยายามหลีกเลี่ยงแนวนี้มากที่สุดก็ตาม
สมมติว่าไม่มีใครต้องการสิ่งนี้ ผมขอเสนอให้เราทดสอบด้วยตัวอย่าง ลองเปรียบเทียบความสนใจในแบรนด์หนังโป๊ชื่อดังกับนักแสดงหญิงชื่อดังที่ยังไม่เคยปรากฏตัวในวงการนี้อย่างเป็นทางการ เช่น ซาช่า เกรย์ และ เจนนิเฟอร์ ลอว์เรนซ์ นี่คือการเปรียบเทียบ ทั้งสองกรณีเกิดขึ้นในช่วง 12 เดือนที่ผ่านมา นักแสดงหญิงที่ไร้ที่ติอาจสูญเสียความสนใจในตัวเธอในฐานะนักแสดง แต่ก็เป็นความจริงที่ว่ายังมีคนสนใจอยู่ และความสนใจนั้นก็มากพอ และถ้ามีความต้องการ ก็ย่อมมีตลาด และสิ่งที่เหลืออยู่ก็คือการหาวิธีสร้างรายได้จากมัน
เห็นได้ชัดว่าเราไม่ได้พูดถึงแค่เนื้อหาสำหรับผู้ใหญ่เท่านั้น หากปัญหาคือการที่สามารถสร้างตัวปลอมของบุคคล ใช้โมเดลดีพเฟค และสร้างเนื้อหาที่ไม่มีใครแยกแยะได้จากวิดีโอที่สร้างขึ้นโดยมีเหยื่อเป็นตัวละครหลัก นั่นอาจก่อให้เกิดความเสียหายต่อภาพลักษณ์และชื่อเสียงของเหยื่อได้ ปัจจุบัน การลงทุนทั้งแรงงานและเงินจำนวนมากสามารถเกิดขึ้นได้ และภาพลักษณ์ของบุคคลนั้นมีค่าสูงมาก ดังนั้น ผมจะไม่แปลกใจเลยหากจะมีหน่วยงานกำกับดูแลการสร้างเนื้อหาเกิดขึ้น และจะเป็นไปไม่ได้ที่จะโพสต์ภาพถ่ายหรือวิดีโอในแพลตฟอร์มสื่อสาธารณะที่มีภาพของบุคคลสาธารณะที่ยังไม่ได้รับการยืนยันตัวตน บางทีในอนาคต สิ่งนี้จะไม่จำกัดเฉพาะบุคคลสาธารณะ แต่จะครอบคลุมถึงทุกคน เพราะสถานะที่ไม่เปิดเผยตัวตนนั้นเป็นเพียงชั่วคราว ตัวอย่างเช่น อาจมี "หน่วยงานตรวจสอบตัวตน" เกิดขึ้น และหากไม่มีการลงนามจากหน่วยงานดังกล่าว ก็จะเป็นไปไม่ได้ แม้แต่ในทางเทคนิค ที่จะเผยแพร่เนื้อหาต่อสาธารณะ อาจฟังดูไร้สาระ แต่ระบบการให้คะแนนทางสังคมนั้นมีอยู่แล้วในปัจจุบัน ตัวอย่างเช่น นี่คือสไลด์ที่มี ซึ่งแสดงให้เห็นถึงระบบนี้ ซึ่งจะนำมาใช้ในปี 2020 ในทางตรงกันข้าม Yandex เตรียมพร้อมที่จะให้ข้อมูลประวัติการค้นหาของผู้ใช้แก่ธนาคารเพื่อใช้ในการประเมินเครดิตที่แม่นยำยิ่งขึ้น อย่างไรก็ตาม ยังไม่ชัดเจนว่ากระบวนการนี้จะทำงานอย่างไร เนื่องจากโดยทั่วไปแล้วการประเมินเครดิตจำเป็นต้องใช้แบบจำลองที่สามารถตีความได้ ดังนั้น แบบจำลองที่ใช้โครงสร้างแบบต้นไม้จึงมักถูกนำมาใช้สำหรับงานนี้ ในกรณีของ Yandex จากข้อมูลสาธารณะ คาดว่าจะเป็นกล่องดำ ในทางกลับกัน หากผู้กู้ได้รับอนุมัติสินเชื่อแล้ว พวกเขามักจะไม่สนใจเหตุผลในการขอสินเชื่อ และหากถูกปฏิเสธ ธนาคารก็มีสิทธิ์ตามกฎหมายที่จะไม่เปิดเผยเหตุผลในการปฏิเสธ
ดูเหมือนว่าเมื่อพิจารณาจากทั้งหมดนี้ การเกิดขึ้นของหน่วยงานกำกับดูแลจึงเป็นสิ่งที่หลีกเลี่ยงไม่ได้ บางทีจีนอาจจะเป็นผู้บุกเบิก? ทำไมจึงหลีกเลี่ยงไม่ได้? เพราะหากการทำลายชื่อเสียงของใครสักคนเป็นเรื่องง่าย ก็จะส่งผลกระทบต่อสถานะทางสังคมของพวกเขาด้วย และดูเหมือนว่าพลเมืองที่มีสถานะทางสังคมสูงและไม่เต็มใจที่จะสูญเสียสถานะของตนไป จะต้องหามาตรการเพื่อปกป้องสถานะของตนเอง ทรัพย์สินทางสังคม.
ในเรื่องนี้ อีกประเด็นที่น่าสนใจคือ ระบบดังกล่าวอาจไม่มีวันหมดอายุ และเมื่อนำมาใช้แล้ว จะช่วยเตือนทุกคนถึงความผิดพลาดในอดีต สถานการณ์ปัจจุบันของระบบเครดิตทางสังคมในประเทศจีนดูเหมือนจะเป็นเช่นนี้ คือ ในขณะที่เริ่มใช้ระบบ อาจปรากฏชัดขึ้นมาทันทีว่า คุณอาจไม่ได้รับอนุญาตให้ทำบางสิ่งบางอย่างอีกต่อไป
ฉันสงสัยว่าเรื่องทั้งหมดนี้จะส่งผลกระทบต่อฉันในฐานะนักพัฒนาซอฟต์แวร์อย่างไรบ้าง ? เวลาจะบอกเอง.
ที่มา: will.com
