ข้อความนี้ไม่ได้เป็นผลมาจากการวิจัยทางวิทยาศาสตร์ แต่เป็นหนึ่งในความคิดเห็นมากมายเกี่ยวกับการพัฒนาเทคโนโลยีในทันทีของเรา และในขณะเดียวกันก็ได้รับเชิญให้อภิปราย
Gary Marcus ศาสตราจารย์แห่งมหาวิทยาลัยนิวยอร์ก เชื่อว่าการเรียนรู้เชิงลึกมีบทบาทสำคัญในการพัฒนา AI แต่เขายังเชื่อด้วยว่าความกระตือรือร้นมากเกินไปสำหรับเทคนิคนี้สามารถนำไปสู่ความเสื่อมเสียได้
ในหนังสือของเขา การรีบูต AI: การสร้างปัญญาประดิษฐ์ที่เราเชื่อถือได้ Marcus นักประสาทวิทยาจากการฝึกอบรมที่สร้างอาชีพด้านการวิจัย AI ที่ล้ำสมัย กล่าวถึงด้านเทคนิคและจริยธรรม จากมุมมองของเทคโนโลยี การเรียนรู้เชิงลึกสามารถเลียนแบบงานการรับรู้ที่สมองของเราทำ เช่น การจดจำรูปภาพหรือคำพูดได้สำเร็จ แต่สำหรับงานอื่นๆ เช่น การทำความเข้าใจการสนทนาหรือการกำหนดความสัมพันธ์ระหว่างเหตุและผล การเรียนรู้เชิงลึกไม่เหมาะ หากต้องการสร้างเครื่องจักรอัจฉริยะขั้นสูงที่สามารถแก้ปัญหาได้กว้างขึ้น ซึ่งมักเรียกว่าปัญญาประดิษฐ์ทั่วไป การเรียนรู้เชิงลึกจำเป็นต้องรวมเข้ากับเทคนิคอื่นๆ
หากระบบ AI ไม่เข้าใจงานของตนหรือโลกรอบตัวอย่างแท้จริง สิ่งนี้อาจนำไปสู่ผลที่ตามมาที่เป็นอันตรายได้ แม้แต่การเปลี่ยนแปลงที่ไม่คาดคิดเพียงเล็กน้อยในสภาพแวดล้อมของระบบก็อาจนำไปสู่พฤติกรรมที่ผิดพลาดได้ มีตัวอย่างมากมายอยู่แล้ว: ปัจจัยกำหนดสำนวนที่ไม่เหมาะสมซึ่งง่ายต่อการหลอกลวง ระบบการหางานที่มีการเลือกปฏิบัติอย่างสม่ำเสมอ รถยนต์ไร้คนขับที่ชนและบางครั้งทำให้คนขับหรือคนเดินถนนเสียชีวิต การสร้างปัญญาประดิษฐ์ทั่วไปไม่ได้เป็นเพียงปัญหาการวิจัยที่น่าสนใจเท่านั้น แต่ยังมีการนำไปปฏิบัติได้จริงมากมายอีกด้วย
ในหนังสือของพวกเขา มาร์คัสและเออร์เนสต์ เดวิส ผู้ร่วมเขียนโต้แย้งกันในเรื่องเส้นทางที่แตกต่างออกไป พวกเขาเชื่อว่าเรายังห่างไกลจากการสร้าง AI ทั่วไป แต่พวกเขามั่นใจว่าไม่ช้าก็เร็วก็จะสามารถสร้างมันขึ้นมาได้
ทำไมเราต้องมี AI ทั่วไป? มีการสร้างเวอร์ชันพิเศษแล้วและก่อให้เกิดประโยชน์มากมาย
ถูกต้องและจะมีประโยชน์มากยิ่งขึ้น แต่มีปัญหามากมายที่ AI เฉพาะทางไม่สามารถแก้ไขได้ เช่น การทำความเข้าใจคำพูดธรรมดาๆ หรือความช่วยเหลือทั่วไปในโลกเสมือนจริง หรือหุ่นยนต์ที่ช่วยทำความสะอาดและทำอาหาร งานดังกล่าวอยู่นอกเหนือความสามารถของ AI เฉพาะทาง คำถามเชิงปฏิบัติที่น่าสนใจอีกข้อหนึ่ง: เป็นไปได้ไหมที่จะสร้างรถยนต์ไร้คนขับที่ปลอดภัยโดยใช้ AI เฉพาะทาง ประสบการณ์แสดงให้เห็นว่า AI ดังกล่าวยังคงมีปัญหามากมายกับพฤติกรรมในสถานการณ์ที่ผิดปกติ แม้แต่ในขณะขับรถ ซึ่งทำให้สถานการณ์ยุ่งยากอย่างมาก
ฉันคิดว่าเราทุกคนอยากมี AI ที่สามารถช่วยให้เราค้นพบสิ่งใหม่ๆ ที่ยิ่งใหญ่ในด้านการแพทย์ได้ ยังไม่ชัดเจนว่าเทคโนโลยีในปัจจุบันเหมาะสมกับสิ่งนี้หรือไม่ เนื่องจากชีววิทยาเป็นสาขาที่ซับซ้อน คุณต้องเตรียมตัวอ่านหนังสือเยอะๆ นักวิทยาศาสตร์เข้าใจความสัมพันธ์ระหว่างเหตุและผลในปฏิสัมพันธ์ของโครงข่ายและโมเลกุล สามารถพัฒนาทฤษฎีเกี่ยวกับดาวเคราะห์ได้ และอื่นๆ อย่างไรก็ตาม ด้วย AI เฉพาะทาง เราไม่สามารถสร้างเครื่องจักรที่สามารถค้นพบเช่นนั้นได้ และด้วย AI ทั่วไป เราสามารถปฏิวัติวิทยาศาสตร์ เทคโนโลยี และการแพทย์ได้ ในความคิดของฉัน การสร้าง AI ทั่วไปต่อไปเป็นสิ่งสำคัญมาก
ดูเหมือนคำว่า "ทั่วไป" คุณหมายถึง AI ที่แข็งแกร่งเหรอ?
โดย “ทั่วไป” ฉันหมายถึงว่า AI จะสามารถคิดและแก้ไขปัญหาใหม่ ๆ ได้ทันที ต่างจาก Go ที่ปัญหาไม่มีการเปลี่ยนแปลงในช่วง 2000 ปีที่ผ่านมา
AI ทั่วไปควรจะสามารถตัดสินใจได้ทั้งในด้านการเมืองและการแพทย์ สิ่งนี้คล้ายคลึงกับความสามารถของมนุษย์ บุคคลผู้มีสติสามารถทำอะไรได้มากมาย คุณรับนักเรียนที่ไม่มีประสบการณ์และภายในไม่กี่วันให้พวกเขาทำงานเกือบทุกอย่าง ตั้งแต่ปัญหาทางกฎหมายไปจนถึงปัญหาทางการแพทย์ เนื่องจากพวกเขามีความเข้าใจโลกโดยทั่วไปและสามารถอ่านออกได้ จึงสามารถมีส่วนร่วมในกิจกรรมต่างๆ มากมาย
ความสัมพันธ์ระหว่างสติปัญญาดังกล่าวกับสติปัญญาที่แข็งแกร่งคือสติปัญญาที่ไม่แข็งแกร่งอาจจะไม่สามารถแก้ไขปัญหาทั่วไปได้ หากต้องการสร้างบางสิ่งที่แข็งแกร่งพอที่จะรับมือกับโลกที่เปลี่ยนแปลงอยู่ตลอดเวลา อย่างน้อยคุณอาจต้องเข้าถึงสติปัญญาทั่วไป
แต่ตอนนี้เราอยู่ไกลจากสิ่งนี้มาก AlphaGo สามารถเล่นได้อย่างสมบูรณ์แบบบนกระดานขนาด 19x19 แต่จำเป็นต้องได้รับการฝึกใหม่จึงจะเล่นบนกระดานสี่เหลี่ยมได้ หรือใช้ระบบการเรียนรู้เชิงลึกโดยเฉลี่ย: มันสามารถจดจำช้างได้หากมีแสงสว่างเพียงพอและมองเห็นผิวหนังของมันได้ และหากมองเห็นเพียงเงาของช้าง ระบบก็อาจจะไม่สามารถจดจำได้
ในหนังสือของคุณ คุณกล่าวถึงว่าการเรียนรู้เชิงลึกไม่สามารถบรรลุขีดความสามารถของ AI ทั่วไปได้ เนื่องจากไม่สามารถเข้าใจเชิงลึกได้
ในวิทยาศาสตร์เกี่ยวกับความรู้ความเข้าใจ พวกเขาพูดถึงการก่อตัวของแบบจำลองการรับรู้ต่างๆ ฉันกำลังนั่งอยู่ในห้องพักของโรงแรม และฉันก็เข้าใจว่ามีตู้เสื้อผ้า มีเตียง มีทีวีที่แขวนในลักษณะที่ไม่ธรรมดา ฉันรู้จักวัตถุเหล่านี้ทั้งหมด ฉันไม่เพียงแค่ระบุมันเท่านั้น ฉันยังเข้าใจว่าพวกเขาเชื่อมโยงถึงกันอย่างไร ฉันมีความคิดเกี่ยวกับการทำงานของโลกรอบตัวฉัน พวกเขาไม่ได้สมบูรณ์แบบ พวกเขาอาจจะผิดแต่พวกเขาก็ค่อนข้างดี และจากข้อมูลเหล่านี้ ฉันจึงได้ข้อสรุปมากมายที่กลายเป็นแนวทางสำหรับการกระทำในแต่ละวันของฉัน
สุดขั้วอีกประการหนึ่งคือระบบเกม Atari ที่สร้างโดย DeepMind ซึ่งระบบจะจดจำสิ่งที่ต้องทำเมื่อเห็นพิกเซลในบางจุดบนหน้าจอ หากคุณได้รับข้อมูลเพียงพอ คุณอาจคิดว่าคุณมีความเข้าใจ แต่ในความเป็นจริงแล้ว มันเป็นเพียงผิวเผินมาก ข้อพิสูจน์ก็คือหากคุณย้ายวัตถุสามพิกเซล AI จะเล่นได้แย่ลงมาก การเปลี่ยนแปลงทำให้เขาสับสน สิ่งนี้ตรงกันข้ามกับความเข้าใจอย่างลึกซึ้ง
เพื่อแก้ไขปัญหานี้ คุณเสนอให้กลับไปใช้ AI แบบคลาสสิก เราควรลองใช้ข้อดีอะไรบ้าง?
มีข้อดีหลายประการ
ประการแรก AI แบบคลาสสิกเป็นกรอบการทำงานสำหรับการสร้างแบบจำลองการรับรู้ของโลก โดยขึ้นอยู่กับข้อสรุปที่สามารถสรุปได้
ประการที่สอง AI แบบคลาสสิกเข้ากันได้กับกฎเกณฑ์อย่างสมบูรณ์แบบ มีแนวโน้มแปลกๆ ในการเรียนรู้เชิงลึกในขณะนี้ ซึ่งผู้เชี่ยวชาญพยายามหลีกเลี่ยงกฎเกณฑ์ต่างๆ พวกเขาต้องการทำทุกอย่างบนโครงข่ายประสาทเทียม และไม่ทำอะไรที่ดูเหมือนการเขียนโปรแกรมแบบคลาสสิก แต่มีปัญหาที่ได้รับการแก้ไขอย่างใจเย็นด้วยวิธีนี้และไม่มีใครสนใจมัน เช่น การสร้างเส้นทางใน Google Maps
ที่จริงแล้วเราต้องการทั้งสองวิธี แมชชีนเลิร์นนิงนั้นดีในการเรียนรู้จากข้อมูล แต่ไม่ดีมากในการนำเสนอสิ่งที่เป็นนามธรรมซึ่งเป็นโปรแกรมคอมพิวเตอร์ Classic AI ทำงานได้ดีกับนามธรรม แต่ต้องเขียนโปรแกรมด้วยมือทั้งหมด และมีความรู้มากเกินไปในโลกที่จะเขียนโปรแกรมทั้งหมดได้ เห็นได้ชัดว่าเราจำเป็นต้องรวมทั้งสองแนวทางเข้าด้วยกัน
สิ่งนี้เชื่อมโยงกับบทที่คุณพูดถึงสิ่งที่เราสามารถเรียนรู้จากจิตใจของมนุษย์ได้ และประการแรกเกี่ยวกับแนวคิดตามแนวคิดที่กล่าวมาข้างต้นว่าจิตสำนึกของเราประกอบด้วยระบบต่าง ๆ มากมายที่ทำงานในรูปแบบที่แตกต่างกัน
ฉันคิดว่าวิธีอธิบายอีกอย่างหนึ่งก็คือ ระบบการรับรู้แต่ละระบบที่เราแก้ปัญหาต่างกันจริงๆ ส่วนที่คล้ายกันของ AI จะต้องได้รับการออกแบบเพื่อแก้ไขปัญหาต่าง ๆ ที่มีลักษณะแตกต่างกัน
ตอนนี้เรากำลังพยายามใช้เทคโนโลยีออลอินวันเพื่อแก้ไขปัญหาที่แตกต่างกันอย่างสิ้นเชิง การทำความเข้าใจประโยคไม่เหมือนกับการจดจำวัตถุเลย แต่ผู้คนพยายามใช้การเรียนรู้เชิงลึกในทั้งสองกรณี จากมุมมองด้านความรู้ความเข้าใจ งานเหล่านี้เป็นงานที่แตกต่างกันในเชิงคุณภาพ ฉันประหลาดใจมากที่ AI แบบคลาสสิกในชุมชนการเรียนรู้เชิงลึกไม่ค่อยมีประโยชน์มากนัก ทำไมต้องรอให้กระสุนเงินปรากฏ? ไม่สามารถบรรลุได้ และการค้นหาที่ไร้ผลไม่อนุญาตให้เราเข้าใจความซับซ้อนทั้งหมดของงานการสร้าง AI
คุณยังกล่าวถึงว่าระบบ AI จำเป็นสำหรับการทำความเข้าใจความสัมพันธ์ระหว่างเหตุและผล คุณคิดว่าการเรียนรู้เชิงลึก AI แบบคลาสสิก หรืออะไรใหม่ๆ จะช่วยเราในเรื่องนี้หรือไม่
นี่เป็นอีกพื้นที่หนึ่งที่การเรียนรู้เชิงลึกไม่เหมาะนัก ไม่ได้อธิบายสาเหตุของเหตุการณ์บางอย่าง แต่คำนวณความน่าจะเป็นของเหตุการณ์ภายใต้เงื่อนไขที่กำหนด
เรากำลังพูดเรื่องอะไรอยู่? คุณดูสถานการณ์บางอย่างและคุณเข้าใจว่าทำไมสิ่งนี้ถึงเกิดขึ้นและสิ่งที่อาจเกิดขึ้นหากสถานการณ์บางอย่างเปลี่ยนไป ฉันสามารถมองดูขาตั้งที่ทีวีวางอยู่ แล้วจินตนาการว่าถ้าตัดขาข้างหนึ่งออก ขาตั้งจะพลิกคว่ำและทีวีจะล้มลง นี่คือความสัมพันธ์ระหว่างเหตุและผล
Classic AI ให้เครื่องมือบางอย่างแก่เราสำหรับสิ่งนี้ เขาสามารถจินตนาการได้ว่าแนวรับคืออะไรและการล่มสลายคืออะไร แต่ฉันจะไม่สรรเสริญมากเกินไป ปัญหาคือ AI แบบคลาสสิกส่วนใหญ่ขึ้นอยู่กับข้อมูลที่สมบูรณ์เกี่ยวกับสิ่งที่เกิดขึ้น และฉันก็ได้ข้อสรุปเพียงแค่ดูที่อัฒจันทร์ ฉันสามารถสรุปได้ ลองนึกภาพบางส่วนของขาตั้งที่ฉันมองไม่เห็น เรายังไม่มีเครื่องมือในการใช้คุณสมบัตินี้
คุณยังบอกว่าผู้คนมีความรู้โดยธรรมชาติ สิ่งนี้สามารถนำไปใช้ใน AI ได้อย่างไร?
ในช่วงแรกเกิด สมองของเราเป็นระบบที่ซับซ้อนมากอยู่แล้ว มันไม่ได้รับการแก้ไข ธรรมชาติสร้างร่างแรกอันคร่าวๆ จากนั้นการเรียนรู้ก็ช่วยให้เราแก้ไขร่างนั้นตลอดชีวิตของเรา
ร่างคร่าวๆ ของสมองมีความสามารถบางอย่างอยู่แล้ว แพะภูเขาแรกเกิดสามารถลงจากไหล่เขาได้อย่างไม่มีข้อผิดพลาดภายในเวลาไม่กี่ชั่วโมง เห็นได้ชัดว่าเขามีความเข้าใจเกี่ยวกับอวกาศสามมิติ ร่างกายของเขา และความสัมพันธ์ระหว่างสิ่งเหล่านั้นแล้ว ระบบที่ซับซ้อนมาก
นี่คือเหตุผลส่วนหนึ่งที่ฉันเชื่อว่าเราต้องการรถไฮบริด เป็นเรื่องยากที่จะจินตนาการว่าเราจะสามารถสร้างหุ่นยนต์ที่ทำงานได้ดีในโลกที่ไม่มีความรู้เหมือนกันว่าจะเริ่มต้นอย่างไร แทนที่จะเริ่มต้นด้วยกระดานชนวนที่ว่างเปล่าและเรียนรู้จากประสบการณ์อันยาวนานและกว้างใหญ่
สำหรับมนุษย์ ความรู้โดยกำเนิดของเรามาจากจีโนมของเราซึ่งมีการพัฒนามาเป็นเวลานาน แต่ด้วยระบบ AI เราจะต้องเดินไปในเส้นทางอื่น ส่วนหนึ่งอาจเป็นกฎสำหรับการสร้างอัลกอริทึมของเรา ส่วนหนึ่งอาจเป็นกฎสำหรับการสร้างโครงสร้างข้อมูลที่อัลกอริธึมเหล่านี้จัดการ และส่วนหนึ่งอาจเป็นความรู้ที่เราจะลงทุนเรื่องเครื่องจักรโดยตรง
ที่น่าสนใจในหนังสือเล่มนี้คุณได้นำเสนอแนวคิดเรื่องความไว้วางใจและการสร้างระบบความไว้วางใจ เหตุใดคุณจึงเลือกเกณฑ์เฉพาะนี้
ฉันเชื่อว่าวันนี้ทั้งหมดนี้เป็นเกมบอล สำหรับฉันดูเหมือนว่าเรากำลังใช้ชีวิตผ่านช่วงเวลาที่แปลกประหลาดในประวัติศาสตร์ โดยไว้วางใจซอฟต์แวร์จำนวนมากที่ไม่น่าเชื่อถือ ฉันคิดว่าความกังวลที่เรามีในวันนี้จะไม่คงอยู่ตลอดไป ในอีกร้อยปี AI จะพิสูจน์ความไว้วางใจของเรา และอาจเร็วกว่านั้นด้วยซ้ำ
แต่ทุกวันนี้ AI เป็นสิ่งที่อันตราย ไม่ใช่ในแง่ที่ Elon Musk กลัว แต่ในแง่ที่ว่าระบบสัมภาษณ์งานเลือกปฏิบัติต่อผู้หญิง ไม่ว่าโปรแกรมเมอร์จะทำอะไรก็ตาม เพราะเครื่องมือของพวกเขาเรียบง่ายเกินไป
ฉันหวังว่าเราจะมี AI ที่ดีกว่า ฉันไม่ต้องการเห็น "ฤดูหนาว AI" ที่ผู้คนตระหนักว่า AI ใช้งานไม่ได้และเป็นเพียงอันตรายและไม่ต้องการแก้ไข
ในบางแง่ หนังสือของคุณดูมีแง่ดีมาก คุณคิดว่าเป็นไปได้ที่จะสร้าง AI ที่น่าเชื่อถือ เราแค่ต้องมองไปในทิศทางที่แตกต่างออกไป
ถูกต้อง หนังสือเล่มนี้มองโลกในแง่ร้ายมากในระยะสั้นและมองโลกในแง่ดีมากในระยะยาว เราเชื่อว่าปัญหาทั้งหมดที่เราอธิบายไว้สามารถแก้ไขได้ด้วยการมองให้กว้างขึ้นว่าคำตอบที่ถูกต้องควรเป็นอย่างไร และเราคิดว่าหากสิ่งนี้เกิดขึ้น โลกจะเป็นสถานที่ที่ดีขึ้น
ที่มา: will.com