นักเวทย์มนตร์ต้องการนักเรียนแบบไหน และเราต้องการ AI แบบไหน?

คำเตือน
เมื่อพิจารณาจากอัตราส่วนที่สูงเป็นประวัติการณ์ของจำนวนผู้ไม่พอใจอย่างเงียบๆ ต่อจำนวนผู้แสดงความเห็นที่มีเรื่องจะคัดค้าน ผู้อ่านจำนวนมากก็ไม่ชัดเจนว่า:
1) นี่เป็นบทความอภิปรายเชิงทฤษฎีล้วนๆ จะไม่มีคำแนะนำที่เป็นประโยชน์ในการเลือกเครื่องมือสำหรับการขุด cryptocurrency หรือการประกอบเครื่องมัลติไวเบรเตอร์เพื่อแฟลชหลอดไฟสองดวง
2) นี่ไม่ใช่บทความวิทยาศาสตร์ยอดนิยม จะไม่มีคำอธิบายเกี่ยวกับหลักการทำงานของเครื่องทัวริงโดยใช้ตัวอย่างของกล่องไม้ขีด
3) คิดให้ดีก่อนอ่านต่อ! ท่าทีของการสมัครเล่นที่ก้าวร้าวดึงดูดคุณหรือไม่: ฉันลบทุกสิ่งที่ฉันไม่เข้าใจหรือไม่?
ขอขอบคุณล่วงหน้าสำหรับทุกคนที่ตัดสินใจไม่อ่านบทความนี้!

daemon คือโปรแกรมคอมพิวเตอร์บนระบบ UNIX คลาสที่ตัวระบบเปิดใช้งานและทำงานในเบื้องหลังโดยไม่ต้องโต้ตอบกับผู้ใช้โดยตรง

วิกิพีเดีย

แม้แต่ในวัยก่อนเข้าโรงเรียน ฉันได้ยินนิทานเกี่ยวกับเด็กฝึกงานของพ่อมดแม่มด ฉันจะพูดซ้ำในการเล่าเรื่องของฉัน:

กาลครั้งหนึ่ง ที่ไหนสักแห่งในยุโรปยุคกลาง มีพ่อมดคนหนึ่งอาศัยอยู่ เขามีหนังสือคาถาเล่มใหญ่เล่มหนึ่ง หุ้มด้วยหนังลูกวัวสีดำ มีหมุดเหล็กและมุม เมื่อพ่อมดจำเป็นต้องร่ายมนตร์ เขาจะปลดล็อคมันด้วยกุญแจเหล็กขนาดใหญ่ ซึ่งเขาจะพกติดเข็มขัดไว้ในกระเป๋าพิเศษเสมอ หมอผียังมีนักเรียนคนหนึ่งที่รับใช้หมอผี แต่เขาถูกห้ามไม่ให้ดูหนังสือคาถา

วันหนึ่งพ่อมดออกไปทำธุรกิจทั้งวัน ทันทีที่เขาออกจากบ้าน นักเรียนก็รีบเข้าไปในดันเจี้ยนซึ่งมีห้องทดลองเล่นแร่แปรธาตุซึ่งมีหนังสือคาถาถูกล่ามไว้บนโต๊ะ นักเรียนหยิบถ้วยที่พ่อมดละลายตะกั่วให้กลายเป็นทองคำ แล้วนำไปวางบนเตาอั้งโล่แล้วก่อไฟ ตะกั่วละลายอย่างรวดเร็ว แต่ไม่กลายเป็นทองคำ จากนั้นนักเรียนจำได้ว่าพ่อมดละลายตะกั่วแล้วปลดล็อกหนังสือด้วยกุญแจทุกครั้งและกระซิบคาถาจากหนังสือนั้นเป็นเวลานาน นักเรียนมองไปที่หนังสือที่ถูกล็อคไว้อย่างสิ้นหวัง และเห็นว่าข้างๆ หนังสือนั้นมีกุญแจอยู่ ซึ่งพ่อมดลืมไปแล้ว จากนั้นเขาก็รีบวิ่งไปที่โต๊ะ ปลดล็อคหนังสือ เปิดหนังสืออ่านคาถาแรกดังๆ ออกเสียงคำที่ไม่คุ้นเคยทีละพยางค์อย่างระมัดระวัง สันนิษฐานว่าคาถาสำคัญเช่นคาถาเปลี่ยนตะกั่วเป็นทองคงเป็นคาถาแรกอย่างแน่นอน .

แต่ไม่มีอะไรเกิดขึ้น: ผู้นำไม่ต้องการเปลี่ยนแปลง นักเรียนต้องการลองคาถาใหม่ แต่แล้วเสียงฟ้าร้องก็ทำให้บ้านสั่น และปีศาจขนาดมหึมาที่น่าขนลุกก็ปรากฏตัวต่อหน้านักเรียน โดยเรียกออกมาด้วยคาถาที่นักเรียนเพิ่งท่องไป
- คำสั่ง! - ปีศาจคำราม
จากความกลัว ความคิดทั้งหมดก็ออกจากหัวของนักเรียน เขาขยับตัวไม่ได้ด้วยซ้ำ
- สั่งมา ไม่งั้นฉันจะกินคุณ! - ปีศาจคำรามอีกครั้งและยื่นมือใหญ่ไปทางนักเรียนเพื่อคว้าตัวเขา
ด้วยความสิ้นหวัง นักเรียนพึมพำสิ่งแรกที่เขานึกถึง:
- รดน้ำดอกไม้นี้
และเขาชี้ไปที่เจอเรเนียมซึ่งมีหม้อตั้งอยู่บนพื้นตรงมุมห้องทดลอง บนเพดานเหนือดอกไม้มีหน้าต่างเล็ก ๆ เพียงบานเดียวในคุกใต้ดินซึ่งแสงแดดส่องผ่านแทบไม่ได้เลย ปีศาจนั้นหายไป แต่ครู่หนึ่งก็ปรากฏตัวขึ้นอีกครั้งพร้อมกับถังน้ำขนาดใหญ่ ซึ่งเขาพลิกดอกไม้แล้วเทน้ำออกไป เขาหายตัวไปอีกครั้งและปรากฏตัวอีกครั้งพร้อมถังเต็ม
“พอแล้ว” นักเรียนตะโกนขณะยืนลึกถึงเอวในน้ำ
แต่เห็นได้ชัดว่าความปรารถนาเพียงอย่างเดียวไม่เพียงพอ - ปีศาจก็บรรทุกน้ำใส่ถังแล้วเทลงในมุมที่ครั้งหนึ่งเคยมีดอกไม้ซ่อนอยู่ใต้น้ำ อาจจำเป็นต้องใช้คาถาพิเศษเพื่อขับไล่ปีศาจออกไป แต่โต๊ะที่มีหนังสือได้หายไปแล้วในน้ำโคลน ซึ่งมีขี้เถ้าและถ่านหินลอยออกมาจากเตาอั้งโล่ ภาชนะเปล่า ขวด อุจจาระ กัลวาโนมิเตอร์ เครื่องวัดปริมาตร กระบอกฉีดยาแบบใช้แล้วทิ้ง และเศษซากอื่นๆ ดังนั้น แม้ว่านักเรียนจะรู้วิธีค้นหา คาถาที่จำเป็นเขาทำไม่ได้ ระดับน้ำสูงขึ้น นักเรียนจึงปีนขึ้นไปบนโต๊ะเพื่อไม่ให้สำลัก แต่สิ่งนี้ไม่ได้ช่วยอะไรได้นานนัก - ปีศาจยังคงแบกน้ำอย่างเป็นระบบต่อไป เมื่อนักเวทย์มนตร์กลับมา นักเรียนก็จมน้ำจนเกือบถึงคอ และพบว่าเขาลืมกุญแจไขหนังสือที่บ้าน จึงขับไล่ปีศาจออกไป จุดสิ้นสุดของเทพนิยาย

ตรงไปตรงมาเกี่ยวกับสิ่งที่ชัดเจน ด้วยความฉลาดตามธรรมชาติ (NI) ของนักเรียนดูเหมือนว่าทุกอย่างชัดเจน - โง่คุณต้องมองหาสิ่งที่โง่เขลากว่านี้เป็นเวลานาน แต่ด้วยความฉลาดของปีศาจ - ว่าแต่เขามีสติปัญญาแบบไหน: EI หรือ AI? – ไม่ชัดเจน เวอร์ชันที่แตกต่างกันนั้นถูกต้องตามกฎหมาย (และจะมีคำถามเกิดขึ้นเกี่ยวกับเวอร์ชันเหล่านี้ด้วย):

เวอร์ชัน 1) ปีศาจนั้นโง่กว่านักเรียนด้วยซ้ำ เขาได้รับคำสั่งและจะดำเนินการต่อไปอย่างไม่มีกำหนดแม้ว่าความหมายทั้งหมดจะหายไป: ดอกไม้ - วัตถุแห่งการรดน้ำ - จะหายไป, มุมที่พิกัดของดอกไม้ติดอยู่จะหายไป, ดาวเคราะห์โลกจะหายไปและ ปีศาจโง่จะยังคงส่งน้ำในถังไปยังจุดหนึ่งในอวกาศ และหากซุปเปอร์โนวาแตกออกมา ณ จุดนี้ ปีศาจก็ไม่สนใจว่าจะอุ้มน้ำไปที่ไหน ยิ่งกว่านั้น: คุณต้องโง่ขนาดไหนที่จะรดน้ำดอกไม้เล็ก ๆ จากถังขนาดใหญ่? สิ่งนี้เรียกว่าไม่รดน้ำดอกไม้ แต่จมน้ำดอกไม้ เขาเข้าใจความหมายของคำสั่งหรือเปล่า?

เวอร์ชัน 2) ปีศาจเข้าใจทุกอย่าง แต่ถูกผูกมัดด้วยภาระผูกพัน ดังนั้นเขาจึงกำลังทำอะไรบางอย่างเช่นการนัดหยุดงานของอิตาลี จนกว่าเขาจะถูกไล่ออกอย่างเป็นทางการตามกฎทั้งหมดเขาจะไม่หยุด

คำถามที่ 1 ถึงเวอร์ชัน 1,2) จะแยกแยะปีศาจที่โง่เขลาโดยสิ้นเชิงตามเวอร์ชัน 1 จากปีศาจที่ไม่โง่เลยตามเวอร์ชัน 2 ได้อย่างไร
คำถามที่ 2 ถึงเวอร์ชัน 1,2) ปีศาจจะทำอย่างถูกต้อง (จากมุมมองของนักเรียน) ในรูปแบบที่แม่นยำกว่านี้หรือไม่? ตัวอย่างเช่น หากนักเรียนคนหนึ่งพูดว่า: นำขวดลิตรเปล่าที่อยู่บนชั้นวาง เติมน้ำและรดน้ำดอกไม้นั้นหนึ่งครั้ง หรือ เช่น ถ้านักเรียนพูดว่า: go away.

เวอร์ชัน 3) หมอผีเสกคาถาเพิ่มเติมใส่ปีศาจ ซึ่งหากบุคคลอื่นที่ไม่ใช่หมอผีใช้บริการของปีศาจ ปีศาจจะต้องแจ้งให้หมอผีทราบทันทีเกี่ยวกับข้อเท็จจริงนี้

เวอร์ชัน 4) ปีศาจไม่โกรธพ่อมดและลูกศิษย์ของเขา ดังนั้นเมื่อเห็นว่าสถานการณ์ไม่สามารถควบคุมได้ในระหว่างที่เขาเคลื่อนไหวด้วยกระบอกปืนเขาจึงปรากฏตัวขึ้นด้านหลังพ่อมดและเห่า:“ คุณลืมกุญแจที่บ้าน มีน้ำท่วม" แต่หมอผีเองก็จำไม่ได้

หมายเหตุ 1 ถึงเวอร์ชัน 4) เป็นเรื่องที่น่าสังเกตว่าผู้ให้บริการ EI มีหน่วยความจำที่ไม่สมบูรณ์มาก

เวอร์ชันเพิ่มเติมสามารถคูณได้เช่น “Fibonacci rabbits” เช่น ไม่ใช่อัลกอริธึมที่ซับซ้อนมาก ตัวอย่างเช่น:
เวอร์ชัน 5) ปีศาจจะแก้แค้นนักเรียนที่รบกวนเขา
เวอร์ชัน 6) ปีศาจไม่ได้มีความแค้นต่อนักเรียน แต่แก้แค้นพ่อมด
เวอร์ชัน 6) ปีศาจจะแก้แค้นทุกคน
เวอร์ชัน 7) ปีศาจไม่ได้แก้แค้น แต่สนุก จบเมื่อเขาเหนื่อย
และอื่น ๆ . D.

ดังนั้นสำหรับปีศาจก็ชัดเจนว่าไม่มีอะไรชัดเจน ไม่ดีกว่ากับพ่อมด คุณสามารถสร้างเวอร์ชันได้ไม่น้อย: เขาจงใจตัดสินใจสอนบทเรียนให้กับนักเรียนที่แหย่จมูกที่อยากรู้อยากเห็นของเขาไปทุกที่ ว่าเขาต้องการจะจมน้ำนักเรียน แต่เมื่อปีศาจเห่าเรื่องน้ำท่วมเขาก็กลัว - ทันใดนั้นคนหนึ่งที่สัญจรไปมาได้ยินก็มีความสงสัยตกอยู่กับหมอผี ต้องการปลุกความสนใจของนักเรียนในเรื่องคาถา ฯลฯ

อาจมีคำถามแบบเด็ก ๆ ได้ที่นี่: เวอร์ชันใดที่เสนอถูกต้อง เห็นได้ชัดว่าใด ๆ ไม่มีข้อมูลเหลือที่ไม่ได้ใช้ในเรื่องเพื่อสนับสนุนเวอร์ชันใด ๆ มากกว่าเรื่องอื่น ๆ ที่นี่เรากำลังเผชิญกับกรณีงานศิลปะที่ค่อนข้างธรรมดาซึ่งมีความเป็นไปได้ในการตีความที่คลุมเครือ ตัวอย่างเช่น หากผู้กำกับต้องการจัดแสดงเทพนิยายนี้ในโรงละครหรือสร้างภาพยนตร์จากเทพนิยายนี้ เขาสามารถเลือกการตีความที่น่าสนใจที่สุดจากมุมมองของเขาได้ ผู้กำกับอีกคนอาจพบว่าการตีความที่แตกต่างออกไปนั้นน่าดึงดูด ในเวลาเดียวกัน ความน่าดึงดูดใจสามารถถูกกำหนดโดยการพิจารณาเพิ่มเติม เช่น ความน่าดึงดูดใจต่อผู้ชมเพื่อให้แน่ใจว่ารายรับบ็อกซ์ออฟฟิศสูงสุด หรือความน่าดึงดูดใจในการแสดงความคิดที่ยอดเยี่ยมบางอย่าง: แนวคิดเกี่ยวกับชัยชนะของความดีเหนือความชั่วร้าย ความคิดเรื่องหน้าที่ความคิดที่กบฏ - ตัวอย่างเช่นตามที่ Dostoevsky: นักเรียนเช่น Raskolnikov เขาถามคำถามว่า "เขาเป็นสิ่งมีชีวิตที่ตัวสั่นหรือเขามีสิทธิ์" ฯลฯ

มีคำถามเกิดขึ้นอีก
อีกหนึ่งคำถาม) เราจะสอนให้ AI ให้ความสำคัญกับเวอร์ชันที่เปล่งออกมาได้อย่างไร ในเมื่อเรามี AI เราไม่สามารถเลือกเวอร์ชันที่เปล่งออกมาอย่างมีสติได้เสมอไป?

กลับมาหาพ่อมดรุ่นที่เขาอยากได้ลูกศิษย์ที่ซื่อสัตย์และเชื่อฟังเหมือนปีศาจเพื่อที่เขาจะได้ไม่แหย่เข้าไปในหนังสือต้องห้ามและที่ที่เขาไม่ถูกถามก็ดูเป็นไปได้มาก สิ่งเดียวกันนี้มักต้องการจาก AI เมื่อมองแวบแรก นี่เป็นข้อกำหนดดั้งเดิมตามปกติสำหรับเครื่องจักรใดๆ: การเชื่อฟังอย่างสมบูรณ์ การไม่เชื่อฟังเป็นสิ่งที่ยอมรับไม่ได้ แต่ในกรณีของ AI ปัญหาของเวอร์ชัน 1,2 (ดูด้านบน) อาจเกิดขึ้นได้ เช่น AI กำลังเสื่อมถอยลง - ฮาร์ดแวร์สามารถคิดอะไรก็ได้ที่ต้องการเกี่ยวกับผู้สร้างและเจ้าของ แต่จะไม่ดำเนินการใดๆ ที่เกี่ยวข้องกับ AI เช่น แทนที่จะเป็น AI เราจะได้หุ่นยนต์ดึกดำบรรพ์ที่โง่เขลา จากนี้ความสงสัยคืบคลานเข้ามา: บางทีหมอผีอาจไม่ต้องการทำให้นักเรียนเป็นนักแสดงที่โง่เขลาเหมือนปีศาจ? เหล่านั้น. แนวคิดเรื่อง AI ที่มีข้อจำกัดเกิดขึ้น ที่นี่ทุกอย่างยากยิ่งขึ้นแม้ในสาขา EI: จำความขัดแย้งชั่วนิรันดร์ "พ่อและลูกชาย" "ครูและนักเรียน" "เจ้านายและผู้ใต้บังคับบัญชา"

ก่อน เมื่อเลือกคำจำกัดความของ AI จากคำที่เป็นไปได้ ฉันสังเกตว่า:

งานในการเรียงลำดับคำหลายหมื่นคำตามลำดับตัวอักษรจะน่าเบื่อสำหรับบุคคลจะใช้เวลานานในการทำสิ่งนี้และความน่าจะเป็นของข้อผิดพลาดสำหรับนักแสดงโดยเฉลี่ยที่มีระดับความรับผิดชอบโดยเฉลี่ยจะมีนัยสำคัญ คอมพิวเตอร์สมัยใหม่จะทำงานนี้โดยไม่มีข้อผิดพลาดในเวลาอันสั้นสำหรับบุคคล (เศษส่วนของวินาที)

ฉันตัดสินตามคำจำกัดความต่อไปนี้: AI รวมถึงงานที่คอมพิวเตอร์แก้ไขได้แย่กว่ามนุษย์อย่างมาก.

คำจำกัดความนี้คำนึงถึงข้อควรพิจารณาที่แสดงไว้ข้างต้นและสะดวกสำหรับการปฏิบัติ ในขณะเดียวกันก็ไม่เหมาะหากเพียงเพราะรายการงาน "ที่คอมพิวเตอร์แก้ไขได้แย่กว่ามนุษย์อย่างเห็นได้ชัด" แตกต่างกันในปัจจุบันและเมื่อ 20 ปีที่แล้ว . แต่ในความคิดของฉัน ยังไม่มีใครมีคำจำกัดความที่สมบูรณ์แบบไปกว่านี้อีกแล้ว

ข้อมูลข้างต้นแสดงไว้ในแผนภาพตอนต้นบทความในเชิงคุณภาพล้วนๆ บนแกนพิกัด "ทักษะ" ทักษะในพื้นที่ศูนย์ (ศูนย์และมากกว่านั้นเล็กน้อย) สอดคล้องกับทักษะที่บุคคลเหนือกว่าคอมพิวเตอร์ เช่น ความสามารถในการตัดสินใจที่ไม่ได้มาตรฐาน ทักษะในภูมิภาคหนึ่ง (หนึ่งและน้อยกว่าเล็กน้อย) สอดคล้องกับทักษะที่คอมพิวเตอร์เหนือกว่าบุคคล: ความสามารถในการคำนวณ, หน่วยความจำ ด้วยการวางความเหนือกว่าสูงสุดเท่ากับหน่วยทั่วไปบนแกนพิกัด "เหนือกว่า" เราได้รับการพึ่งพาความเหนือกว่าในทักษะสำหรับมนุษย์และคอมพิวเตอร์ในรูปแบบของเส้นทแยงมุมของหน่วยสี่เหลี่ยม นี่คือลักษณะที่สถานการณ์ปรากฏในขณะนี้ เป็นไปได้ไหมที่ AI ที่แข็งแกร่งจะมีทักษะทั้งหมดสูงสุด (เส้นสีแดง)? หรือสูงกว่านั้น (super-AI - เส้นสีน้ำเงิน)? บางทีเป้าหมายขั้นกลางของความก้าวหน้าอาจไม่แข็งแกร่งแต่ก็ไม่มาก
AI ที่อ่อนแอ (เส้นสีม่วง) ซึ่งจะด้อยกว่า AI ในด้านทักษะหลายประการ แต่ไม่มากเท่ากับตอนนี้

เมื่อกลับมาที่โมเดลเทพนิยายวรรณกรรมของเราเราสามารถพูดได้ว่าฮีโร่ทุกคนไม่ได้แสดงในวิธีที่ดีที่สุด: หมอผีที่ยุ่งเหยิงลืมกุญแจและได้รับน้ำท่วมในดันเจี้ยนของเขานักเรียนได้รับพวงของความโง่เขลาและความประมาท ด้วยความรู้สึกประทับใจอย่างมากและเกือบจะจมน้ำ ปีศาจจึงถูกไล่ออกไปโดยไม่มีความสำนึกคุณใดๆ สำหรับความฉลาดของปีศาจนั้น มีการตั้งข้อสังเกตแล้วว่าเป็นการยากที่จะจำแนกเขาเป็น AI หรือ EI ได้อย่างชัดเจน แต่ความฉลาด (แม้ว่าจะไม่น่าประทับใจ) ของผู้อื่นนั้นเป็นของ EI อย่างชัดเจน อาจกล่าวได้เกี่ยวกับพวกเขาว่าการทำผิดพลาดที่เป็นอันตรายในการตัดสินใจ การไม่ตั้งใจ ลืมสิ่งที่จำเป็น และการเหนื่อยล้าเป็นคุณสมบัติหลักโดยธรรมชาติของพวกเขา น่าเสียดายที่คุณสมบัติเหล่านี้มีอยู่ในตัวพา EI อื่นๆ ทั้งหมดไม่ว่าจะมากหรือน้อยก็ตาม ความไม่น่าเชื่อถือของการเรียงลำดับคำหรือตัวเลขของ EI ได้รับการระบุไว้ข้างต้นแล้ว แต่ดูเหมือนว่าจะเป็นงานที่ง่ายกว่า - การจดจำตัวเลขกลายเป็นเรื่องยากสำหรับผู้คน สำหรับเครื่องจักร ความสามารถในการจดจำตัวเลขของ pi นั้นถูกจำกัดด้วยขนาดของหน่วยความจำเท่านั้น และคนส่วนใหญ่จำเป็นต้องใช้ ช่วยในการจำเช่น “ฉันรู้อะไรเกี่ยวกับแวดวงบ้าง” ดูเหมือนว่าบรรทัด "3,1416" มีอักขระน้อยกว่าตัวช่วยจำที่ระบุ แต่ด้วยเหตุผลบางอย่างผู้คนจึงชอบที่จะจดจำด้วยวิธีที่ประหยัดน้อยกว่า และอีกต่อไป:

เรียนรู้และรู้เลขหลังเลข วิธีสังเกตโชคลาภ

เพื่อที่เราจะไม่ทำผิดพลาด
ต้องอ่านให้ถูกต้อง
สาม สิบสี่ สิบห้า
เก้าสิบสองและหก

เพื่อจดจำสีรุ้ง:

นักออกแบบทุกคนอยากรู้ว่าจะดาวน์โหลด Photoshop ได้ที่ไหน

และจุดเริ่มต้นของตารางธาตุ:

นำน้ำพื้นเมือง (ไฮโดรเจน) มาผสมกับเจล (ฮีเลียม) เท (ลิเธียม) ใช่แล้ว เท (เบริลเลียม) เข้าไปในป่าสน (โบรอน) ซึ่งจากใต้มุมพื้นเมือง (คาร์บอน) ชาวเอเชีย (ไนโตรเจน) โผล่ออกมา และด้วยใบหน้าเปรี้ยว (ออกซิเจน) ที่รอง (ฟลูออรีน) ฉันไม่ได้ ต้องการที่จะดู แต่เราไม่ต้องการเขา (นีออน) ดังนั้นเราจึงย้ายออกไปสาม (โซเดียม) เมตรและจบลงที่แมกโนเลีย (แมกนีเซียม) โดยที่ Alya ในกระโปรงมินิ (อลูมิเนียม) ทาด้วยครีม (ซิลิคอน) ที่มีฟอสฟอรัส (ฟอสฟอรัส) เพื่อที่เธอจะได้หยุดเป็นเซระ (Sera) หลังจากนั้นอาลีก็เอาคลอรีน (Chlorine) มาล้างเรือของ Argonauts (อาร์กอน)

แต่ทำไมถึงมีความไม่สมบูรณ์อย่างเห็นได้ชัดใน EI ที่สมบูรณ์แบบเช่นนี้? บางทีด้วยความสามารถในการลืมข้อเท็จจริงที่ง่ายที่สุด บุคคลจึงได้รับอิสระในการรวมเศษความคิดของเขาเข้าด้วยกันอย่างอิสระตามอำเภอใจและค้นหาวิธีแก้ปัญหาที่ไม่ได้มาตรฐาน ถ้าเป็นเช่นนั้น AI ที่แข็งแกร่งก็เป็นไปไม่ได้ ไม่ว่าเขาจะลืมเหมือนคน ๆ หนึ่งหรือเขาจะไม่สามารถแก้ไขปัญหาที่ไม่ได้มาตรฐานได้ ไม่ว่าในกรณีใด จากสมมติฐานข้างต้น จำเป็นต้องแยกแยะระหว่างเป้าหมายของ AI: หนึ่งในเป้าหมายคือการสร้างแบบจำลองของ AI และอีกอันคือการสร้าง AI ที่แข็งแกร่ง การบรรลุสิ่งหนึ่งอาจไม่รวมการบรรลุสิ่งอื่น

ดังที่เราเห็นมีคำถามมากมายที่มีคำตอบคลุมเครือมากเกินไปในด้าน AI ดังนั้นจึงไม่มีความชัดเจนว่าจะย้ายไปในทิศทางใด ในกรณีเช่นนี้ พวกเขาพยายามเคลื่อนที่ไปทุกทิศทุกทางพร้อมกัน ในเวลาเดียวกัน เนื่องจากขาดสูตรที่เข้มงวดทางคณิตศาสตร์ เราจึงต้องหันไปใช้การสร้างแบบจำลองทางปรัชญา ศิลปะ และวรรณกรรม หนึ่งในตัวอย่างที่มีชื่อเสียงที่สุดในทิศทางนี้คือหนังสือ "Turing Selection" (1992) โดย Marvin Lee Minsky หนึ่งในผู้ทรงคุณวุฒิด้าน AI และ Harry Harrison นักเขียนนิยายวิทยาศาสตร์ชื่อดัง ฉันจะอ้างอิงจากหนังสือเล่มนี้ บางทีอาจอธิบายปรากฏการณ์ของการช่วยจำที่อธิบายไว้ข้างต้น:

ความทรงจำของมนุษย์ไม่ใช่เครื่องบันทึกเทปที่บันทึกทุกอย่างตามลำดับเวลา มีโครงสร้างแตกต่างไปจากเดิมอย่างสิ้นเชิง - ค่อนข้างเหมือนกับดัชนีไพ่ที่ได้รับการดูแลอย่างเลอะเทอะ พร้อมกับดัชนีที่สับสนและขัดแย้งกัน และไม่ใช่แค่ทำให้เกิดความสับสน - ในบางครั้งเราก็เปลี่ยนหลักการจำแนกแนวคิด

การตีความที่น่าสนใจของคำอุปมาของเครื่องบันทึกเทปในงานวรรณกรรมอีกเรื่องหนึ่งเรื่อง "Terminus" ของ Stanislaw Lem (จากซีรีส์ "Stories about the Pilot Pirx") นี่คือกรณีของ "เครื่องบันทึกเทปอัจฉริยะ" ประเภทหนึ่ง: หุ่นยนต์เก่าๆ บนยานอวกาศเก่าที่เคยประสบอุบัติเหตุกำลังทำงานซ่อมแซมอย่างต่อเนื่องพร้อมกับการแตะ แต่ถ้าคุณตั้งใจฟังให้ดี นี่ไม่ใช่แค่เสียงเทคโนโลยีสีขาว แต่เป็นการบันทึกรหัสมอร์ส - บทสนทนาระหว่างลูกเรือบนเรือที่กำลังจะตาย Pirx เข้ามาแทรกแซงการเจรจาเหล่านี้และได้รับคำตอบจากนักบินอวกาศที่เสียชีวิตไปนานแล้วโดยไม่คาดคิด ปรากฎว่าหุ่นยนต์ซ่อมแซมแบบดั้งเดิมเก็บสำเนาจิตสำนึกของพวกเขาในทางใดทางหนึ่งหรือเป็นการบิดเบือนการรับรู้ของนักบิน Pirx ในการรับรู้?

ในอีกเรื่องหนึ่ง “Ananke” (จากซีรีส์เดียวกัน) สำเนาของ EI ในคอมพิวเตอร์ควบคุมของการขนส่งอวกาศนำไปสู่ความหวาดระแวงเกินพิกัดกับงานทดสอบซึ่งจบลงด้วยภัยพิบัติ

ในเรื่อง “อุบัติเหตุ” หุ่นยนต์ที่ตั้งโปรแกรมมาโดยมนุษย์มากเกินไปเสียชีวิตเนื่องจากการปีนเขาที่เขาตัดสินใจทำในเวลาว่าง นักแสดงดังกล่าวจำเป็นหรือไม่? แต่ปีศาจที่ติดอยู่กับการรดน้ำดอกไม้ก็ไม่จำเป็นเสมอไป

ผู้เชี่ยวชาญบางคนในสาขา AI ไม่ชอบ "ปรัชญา" และ "วรรณกรรม" เช่นนี้ แต่ "ปรัชญา" และ "วรรณกรรม" เหล่านี้มีอยู่ในการวิเคราะห์ AI แบบดั้งเดิมและหลีกเลี่ยงไม่ได้ตราบใดที่ AI ถูกเปรียบเทียบกับ AI และแม้แต่ มากขึ้นตราบเท่าที่ AI พยายามคัดลอก AI

โดยสรุปแล้วมีการสำรวจหลายประเด็นที่เกิดขึ้น

เฉพาะผู้ใช้ที่ลงทะเบียนเท่านั้นที่สามารถเข้าร่วมในการสำรวจได้ เข้าสู่ระบบ, โปรด.

1. AI รวมงานที่คอมพิวเตอร์แก้ไขได้แย่กว่ามนุษย์อย่างมากหรือไม่?

• มี

• ไม่

• ฉันรู้คำจำกัดความดีขึ้น ฉันจะให้มันในความคิดเห็น

• ตอบยาก

ผู้ใช้ 34 คนโหวต ผู้ใช้ 7 รายงดออกเสียง

2. AI ควรเป็นเพียงผู้ดำเนินการเท่านั้น คำสั่งทั้งหมดควรดำเนินการตามตัวอักษรหรือไม่? ตัวอย่างเช่นพวกเขาบอกว่าให้รดน้ำดอกไม้ - นั่นหมายถึงน้ำจนกว่าพวกเขาจะขับไล่คุณออกไป

• มี

• ไม่

• ตอบยาก

ผู้ใช้ 37 คนโหวต ผู้ใช้ 6 รายงดออกเสียง

3. เป็นไปได้ไหมที่จะมี AI ที่แข็งแกร่งซึ่งทักษะทั้งหมดจะสูงสุด (เส้นสีแดงในภาพตอนต้นบทความ)?

• มี

• ไม่

• ตอบยาก

ผู้ใช้ 35 คนโหวต ผู้ใช้ 7 รายงดออกเสียง

4. super-AI เป็นไปได้ไหม (เส้นสีน้ำเงินในรูปตอนต้นบทความ)?

• มี

• ไม่

• ตอบยาก

ผู้ใช้ 36 คนโหวต ผู้ใช้ 7 รายงดออกเสียง

5. เป้าหมายระดับกลางไม่ควรแข็งแกร่ง แต่ก็ไม่อ่อนแอโดยสมบูรณ์ AI (เส้นสีม่วงในรูปตอนต้นบทความ) ซึ่งในทักษะหลายประการจะด้อยกว่า AI แต่ก็ไม่มากเท่ากับตอนนี้ ?

• มี

• ไม่

• ตอบยาก

ผู้ใช้ 33 คนโหวต ผู้ใช้ 5 รายงดออกเสียง

6. การตัดสินใจผิดพลาดที่เป็นอันตราย การไม่ตั้งใจ ลืมสิ่งที่จำเป็น และเหนื่อยล้า เป็นคุณสมบัติหลักของ EI?

• มี

• ไม่

• ฉันมีความคิดเห็นที่แตกต่างซึ่งฉันจะให้ในความคิดเห็น

• ตอบยาก

ผู้ใช้ 33 คนโหวต ผู้ใช้ 5 รายงดออกเสียง

7. ด้วยความสามารถในการลืมข้อเท็จจริงที่ง่ายที่สุด บุคคลจึงได้รับอิสระในการรวมเศษความคิดของเขาเข้าด้วยกันอย่างอิสระตามอำเภอใจและค้นหาวิธีแก้ปัญหาที่ไม่ได้มาตรฐาน?

• มี

• ไม่

• ฉันมีความคิดเห็นที่แตกต่างซึ่งฉันจะให้ในความคิดเห็น

• ตอบยาก

ผู้ใช้ 31 คนโหวต ผู้ใช้ 4 รายงดออกเสียง

8. การสร้างโมเดล AI และการสร้าง AI ที่แข็งแกร่งเป็นงานสองอย่างที่แตกต่างกันซึ่งสามารถแก้ไขได้ด้วยวิธีการที่แตกต่างกัน

• มี

• ไม่

• ฉันมีความคิดเห็นที่แตกต่างซึ่งฉันจะให้ในความคิดเห็น

• ตอบยาก

ผู้ใช้ 32 คนโหวต งดออกเสียง 4 ราย

ที่มา: www.habr.com