איזה סוג של תלמיד צריך מכשף ואיזה סוג של AI אנחנו צריכים?

אזהרה
אם לשפוט לפי יחס השיא בין מספר הבלתי מרוצים בשתיקה למספר הפרשנים שיש להם ממה להתנגד, לא ברור לקוראים רבים ש:
1) זהו מאמר דיון תיאורטי בלבד. לא תהיה כאן עצה מעשית לגבי בחירת כלים לכריית מטבעות קריפטוגרפיים או הרכבת מולטיוויברטור להבהב שתי נורות.
2) זה לא מאמר מדעי פופולרי. לא יהיה הסבר לבובות של עקרון הפעולה של מכונת הטיורינג באמצעות הדוגמה של קופסאות גפרורים.
3) תחשוב טוב לפני שתמשיך לקרוא! האם היציבה של חובבנות אגרסיבית מושכת אותך: אני מינוס כל מה שאני לא מבין?
תודה מראש לכל מי שמחליט לא לקרוא את המאמר הזה!

Damon היא תוכנת מחשב במערכות מסוג UNIX אשר מופעלת על ידי המערכת עצמה ופועלת ברקע ללא אינטראקציה ישירה של המשתמש.

ויקיפדיה

אפילו בגיל הגן שמעתי סיפור אגדה על שוליה של מכשף. אחזור על זה בשחזור שלי:

פעם, אי שם באירופה של ימי הביניים, חי מכשף. היה לו ספר לחשים גדול כרוך בעור עגל שחור עם אבזמי ברזל ופינות. כשהמכשף היה צריך להטיל כישוף, הוא פתח אותו בעזרת מפתח ברזל גדול, שאותו נשא תמיד על חגורתו בתיק מיוחד. למכשף היה גם תלמיד ששירת את המכשף, אך נאסר עליו לעיין בספר הלחשים.

יום אחד עזב המכשף לכל היום לעסקים. מיד עם יציאתו מהבית מיהר התלמיד אל הצינוק, שם הייתה מעבדה אלכימית שבה היה מונח ספר לחשים כבול לשולחן. התלמיד תפס את כור ההיתוך שבהם המיס המכשף עופרת כדי להפוך אותה לזהב, הניח אותם על הפלטה והצית את האש. העופרת נמסה במהירות, אך לא הפכה לזהב. ואז נזכר התלמיד שהמכשף, לאחר שהמיס את העופרת, פתח בכל פעם את הספר במפתח ולחש ממנו לחש במשך זמן רב. התלמיד הביט חסר תקווה בספר הנעול וראה שלידו מונח המפתח, שנשכח על ידי המכשף. אחר כך מיהר אל השולחן, פתח את הספר, פתח אותו וקרא בקול רם את הלחש הראשון, תוך הגיית מילים לא מוכרות בקפידה הברה אחר הברה, מתוך הנחה שכישוף כה חשוב כמו הלחש של הפיכת עופרת לזהב יהיה בהחלט הראשון. .

אבל שום דבר לא קרה: המוביל לא רצה להשתנות. התלמיד רצה לנסות כישוף נוסף, אבל אז רעם רעם הרעיד את הבית, ושד ענק ומצמרר הופיע מול התלמיד, שזומן על ידי הלחש שהתלמיד דיקלם זה עתה.
- להזמין! – נהם השד.
מפחד, כל המחשבות עזבו את ראשו של התלמיד, הוא אפילו לא יכול היה לזוז.
- תן פקודות, או שאני אוכל אותך! - שוב נהם השד והושיט יד ענקית לעבר התלמיד כדי לתפוס אותו.
בייאוש, התלמיד מלמל את הדבר הראשון שעלה בדעתו:
- השקה את הפרח הזה.
והוא הצביע על גרניום שעציץ שלו ניצב על הרצפה בפינת המעבדה: בתקרה שמעל הפרח היה החלון הקטן היחיד בצינוק, שדרכו בקושי פרץ אור השמש. השד נעלם, אך כעבור רגע הופיע שוב עם חבית ענקית של מים, אותה הפך את הפרח, ושפך את המים. הוא נעלם שוב והופיע שוב עם חבית מלאה.
"זה מספיק," צעק התלמיד ועמד עד מותניים במים.
אבל כנראה שהתשוקה לבדה לא הספיקה - השד נשא ונשא מים בחבית, שופך אותם בפינה שבה עמד פעם פרח חבוי מתחת למים. כנראה היה צורך בכישוף מיוחד כדי לגרש את השד. אבל השולחן עם הספר כבר נעלם למים הבוציים, שבהם צפו אפר ופחמים מהפלטה, רטורטים ריקים, צלוחיות, שרפרפים, גלוונומטרים, דוסימטרים, מזרקים חד פעמיים ושאר פסולת, כך שגם אם התלמיד ידע למצוא את הכישוף הנדרש, הוא לא יכול היה לעשות את זה. המים עלו, והתלמיד טיפס על השולחן כדי לא להיחנק. אבל זה לא עזר לאורך זמן - השד המשיך בשיטתיות לשאת מים. התלמיד כבר היה עד צוואר במים כשהמכשף חזר, גילה ששכח את מפתח הספר בבית, וגרש את השד. סוף האגדה.

ישר על המובן מאליו. עם האינטליגנציה הטבעית (NI) של התלמיד, נראה שהכל ברור - מטופש, צריך לחפש הרבה זמן משהו אפילו יותר מטומטם. אבל עם האינטליגנציה של השד - דרך אגב, איזה סוג של אינטליגנציה יש לו: EI או AI? - דו - משמעי. גרסאות שונות הן לגיטימיות (ויעלו גם שאלות לגביהן):

גרסה 1) השד אפילו יותר טיפש מהתלמיד. הוא קיבל פקודה ויבצע אותה ללא הגבלת זמן, גם כאשר כל המשמעות תיעלם: הפרח - מושא ההשקיה - ייעלם, הזווית שאליה מחוברות הקואורדינטות של הפרח תיעלם, כדור הארץ ייעלם, וה שד טיפש ימשיך לספק מים בחביות לנקודה מסוימת בחלל החיצון. ואם סופרנובה פורצת בשלב זה, אז לשד לא אכפת לאן לשאת את המים. יתר על כן: כמה טיפש צריך להיות כדי להשקות פרח קטן מחבית ענקית? זה כבר נקרא לא להשקות את הפרח, אלא להטביע את הפרח. האם הוא בכלל מבין את המשמעות של פקודות?

גרסה 2) השד מבין הכל, אך מחויב בהתחייבויות. אז הוא מנהל משהו כמו שביתה איטלקית. עד שיעיפו אותו רשמית לפי כל הכללים, הוא לא יפסיק.

שאלה 1 לגרסאות 1,2) איך להבחין בין שד טיפש לחלוטין לפי גרסה 1 משד לא טיפש בכלל לפי גרסה 2?
שאלה 2 לגרסאות 1,2) האם השד היה מבצע נכון (מנקודת מבטו של התלמיד) ניסוח מדויק יותר? לדוגמה, אם תלמיד אמר: קח את הבקבוקון הריק של ליטר שנמצא על המדף, מלא אותו במים והשקה את הפרח פעם אחת. או, למשל, אם התלמיד אמר: לך.

גרסה 3) המכשף הטיל כישוף נוסף על השד, לפיו אם מישהו אחר מלבד המכשף משתמש בשירותיו של השד, אזי על השד להודיע ​​מיידית למכשף על עובדה זו.

גרסה 4) השד אינו נוטר טינה למכשף ולתלמידו, לכן, משראה שהמצב יצא משליטה, במהלך תנועותיו עם חבית הופיע מאחורי גבו של המכשף ונובח: "שכחת את המפתח בבית. , יש מבול." אבל המכשף עצמו לא היה זוכר.

הערה 1 לגרסה 4) ראוי במיוחד לציין שלנשאי EI יש זיכרון מאוד לא מושלם.

ניתן להכפיל גרסאות נוספות כמו "ארנבות פיבונאצ'י", כלומר. לא אלגוריתם מורכב במיוחד. לדוגמה:
גרסה 5) השד נוקם בתלמיד על שהפריע לו.
גרסה 6) השד אינו נוטר טינה לתלמיד, אלא נוקם במכשף.
גרסה 6) השד נוקם בכולם.
גרסה 7) השד לא נוקם, אבל נהנה. מסיים כשהוא מתעייף.
וכן הלאה

אז, עם השד ברור ששום דבר לא ברור. לא יותר טוב עם מכשף. אפשר להמציא גרסאות לא פחות: שהוא החליט בכוונה ללמד לקח לתלמיד שדוחף את אפו הסקרן לכל עבר; שרצה להטביע את התלמיד, אבל כשהשד נבח על המבול, הוא נבהל - פתאום שמע אחד העוברים ושבים, אז יפול חשד על המכשף; רצה לעורר את העניין של התלמיד בלחשים וכו'.

כאן תיתכן שאלה ילדותית: איזו מהגרסאות המוצעות נכונה? ככל הנראה, כל. אין מידע שנותר ללא שימוש בסיפור כדי להעדיף גרסה כלשהי על פני האחרות. כאן עסקינן במקרה שכיח למדי של יצירות אמנות עם אפשרות לפרשנות מעורפלת. למשל, אם במאי רוצה להעלות את האגדה הזו בתיאטרון או לעשות סרט על פיה, הוא יכול לבחור את הפרשנות המושכת ביותר מנקודת מבטו. במאי אחר עשוי למצוא פרשנות אחרת מושכת. יחד עם זאת, האטרקטיביות יכולה להיקבע על ידי שיקולים נוספים, למשל, אטרקטיביות לצופים על מנת להבטיח מקסימום קבלות קופות, או אטרקטיביות להפגין איזשהו רעיון-על: הרעיון של ניצחון הטוב על הרע, רעיון של חובה, רעיון מרדני - למשל, לפי דוסטויבסקי: תלמיד, כמו רסקולניקוב, הוא שואל את השאלה "האם הוא יצור רועד או שיש לו זכות" וכו'.

עולה שאלה נוספת.
עוד שאלה אחת). כיצד נוכל ללמד בינה מלאכותית לתת עדיפות לאחת מהגרסאות המושמעות, אם אנו בעצמנו, בעלי AI, לא תמיד יכולים לבחור במודע אחת מהן?

אם נחזור למכשף, הגרסה שהוא רוצה תלמיד מצוות וצייתן, כמו שד, כדי שלא ידחוף את אפו לספרים אסורים ובמקום שלא נשאל, נראית סבירה מאוד. אותו הדבר מבוקש כעת לעתים קרובות מ-AI. במבט ראשון, אלו הן דרישות מסורתיות רגילות לכל מכונה: ציות מוחלט, אי ציות אינו מקובל. אבל במקרה של בינה מלאכותית, עלולה להתעורר סוגיית גרסאות 1,2 (ראה לעיל), כלומר. בינה מלאכותית מתנוונת - החומרה יכולה לחשוב מה שהיא רוצה על יוצריה ובעליה, אבל היא לא תבצע שום פעולות הקשורות לבינה מלאכותית, כלומר. במקום AI נקבל אוטומט פרימיטיבי טיפשי. מכאן מתגנב חשד: אולי המכשף לא רצה להפוך את התלמיד לפרפורמר כל כך טיפש כמו שד? הָהֵן. הרעיון של AI עם מגבלות עולה. כאן הכל קשה עוד יותר אפילו בתחום ה-EI: זכור את הקונפליקטים הנצחיים "אבות ובנים", "מורה ותלמיד", "בוס וכפוף".

מוקדם יותר כשבחרתי הגדרה של AI מבין האפשריות, ציינתי:

המשימה של מיון של כמה עשרות אלפי מילים בסדר אלפביתי תהיה מייגעת עבור אדם, ייקח לו הרבה זמן לעשות אותה, והסבירות לטעויות עבור מבצע ממוצע עם רמת אחריות ממוצעת תהיה משמעותית. מחשב מודרני יבצע משימה זו ללא שגיאות תוך זמן קצר מאוד לאדם (שברירי שנייה).

הסתפקתי בהגדרה הבאה: AI כולל משימות שמחשב פותר בצורה גרועה יותר מאדם.

הגדרה זו לוקחת בחשבון את השיקולים שהובעו לעיל ונוחה לתרגול; יחד עם זאת, היא אינה אידיאלית, ולו רק בגלל שרשימות המשימות "שמחשב פותר בצורה גרועה יותר מאדם" שונות כיום ולפני 20 שנה . אבל, לדעתי, אף אחד עדיין לא מצא הגדרה מושלמת יותר.

האמור לעיל מומחש באופן איכותי גרידא על ידי התרשים בתחילת המאמר. על ציר הקואורדינטות "מיומנויות", מיומנויות באזור האפס (אפס ומעט יותר) תואמות מיומנויות שבהן אדם עדיף על מחשב, למשל, ביכולת לקבל החלטות לא סטנדרטיות. מיומנויות באזור אחד (אחת וקצת פחות) תואמות מיומנויות שבהן מחשב עדיף על אדם: יכולת חישוב, זיכרון. בהצבת העליונות המקסימלית שווה ליחידה קונבנציונלית על ציר הקואורדינטות "העליונות", אנו משיגים את התלות של העליונות במיומנויות של בני אדם ומחשבים בצורה של אלכסונים של ריבוע יחידה. כך נראה המצב כרגע. האם זה אפשרי ל-AI חזק לקבל את כל הכישורים שלו במקסימום (קו אדום)? או אפילו גבוה יותר (סופר-AI - קו כחול)? אולי מטרת הביניים של התקדמות לא צריכה להיות חזקה, אבל לא לגמרי
AI חלש (קו סגול), שיהיה נחות מ-AI במספר מיומנויות, אבל לא כמו שהוא עכשיו.

אם נחזור לדגם האגדות הספרותי שלנו, נוכל לומר שכל גיבוריו לא הופיעו בצורה הטובה ביותר: המכשף המהולל שכח את המפתח וקיבל מבול בצינוק שלו, התלמיד, מתוך טיפשות וחוסר זהירות, קיבל חבורה של רשמים קיצוניים וכמעט טבעו, השד הודח החוצה ללא כל הכרת תודה. לגבי האינטליגנציה של השד, כבר צוין שקשה לסווג אותו בבירור כ-AI או EI, אבל האינטליגנציה (אם כי לא מרשימה) של האחרים שייכת בבירור ל-EI. ניתן לומר עליהם שטעויות מסוכנות בהחלטות, חוסר תשומת לב, שכחת דברים הכרחיים ועייפות הם התכונות הטבועות העיקריות שלהם. למרבה הצער, מאפיינים אלה טבועים בכל שאר הספקים של EI במידה רבה או פחותה. חוסר האמינות של מיון מילים או מספרים של EI כבר צוינה לעיל, אבל זה נראה משימה פשוטה אפילו יותר - פשוט לזכור מספר מתברר כקשה מאוד עבור אנשים. עבור מכונה, היכולת לזכור את הספרות של pi מוגבלת רק על ידי גודל הזיכרון שלה, ורוב האנשים צריכים להשתמש זִכרוֹנִיוּת, כמו "מה אני יודע על מעגלים". נראה שלשורה "3,1416" יש פחות תווים מהזכרון שצוין, אבל מסיבה כלשהי אנשים מעדיפים לזכור בצורה פחות חסכונית. ועוד יותר:

למדו והכרו את המספר מאחורי המספר, כיצד להבחין במזל

כדי שלא נעשה טעויות,
יש לקרוא נכון
שלוש, ארבע עשרה, חמש עשרה
תשעים ושתיים

כדי לזכור את צבעי הקשת:

כל מעצב רוצה לדעת היכן להוריד את פוטושופ

ותחילת הטבלה המחזורית:

מים מקומיים (מימן) עורבבו עם ג'ל (הליום) כדי לשפוך (ליתיום). כן, קח ושפך (בריליום) ליער האורנים (בורון), שם מתחת לפינת הילידים (פחמן) מציץ אסייתי (חנקן), ובפנים חמוצות כל כך (חמצן) שמשני (פלואור) לא עשיתי זאת. רוצה להסתכל. אבל לא היינו צריכים אותו (ניאון), אז התרחקנו שלושה (נתרן) מטרים והגענו למגנוליה (מגנזיום), שם עליה בחצאית מיני (אלומיניום) נמרחה בקרם (סיליקון) המכיל זרחן (זרחן) כדי שהיא תפסיק להיות סרה (סרה). לאחר מכן, עליה לקחה כלור (כלור) ושטפה את ספינת הארגונאוטים (ארגון)

אבל למה חוסר שלמות כל כך ברור ב-EI כל כך מושלם? אולי, הודות ליכולת לשכוח את העובדות הפשוטות ביותר, אדם זוכה בחופש לשלב שברי מחשבותיו בסדר פראי שרירותי ולמצוא פתרונות לא סטנדרטיים? אם כן, אז AI חזק הוא בלתי אפשרי. או שהוא ישכח כמו אדם, או שהוא לא יהיה מסוגל לפתרונות לא סטנדרטיים. בכל מקרה, מההנחות לעיל עולה שיש צורך להבחין בין מטרות הבינה המלאכותית: אחת המטרות היא מודלים של בינה מלאכותית, השנייה היא יצירת בינה מלאכותית חזקה. השגת אחד עשויה לשלול השגת השני.

כפי שאנו יכולים לראות, יש יותר מדי שאלות עם תשובות לא ברורות בתחום ה-AI, כך שלא ברור לאיזה כיוון לנוע. כפי שקורה במקרים כאלה, הם מנסים לנוע לכל הכיוונים בבת אחת. יחד עם זאת, בשל היעדר ניסוחים קפדניים מתמטית, יש לפנות לפילוסופיה ולדוגמנות אמנותית וספרותית. אחת הדוגמאות המפורסמות ביותר בכיוון זה היא הספר "Turing Choice" (1992) מאת אחד ממאורי הבינה המלאכותית, מרווין לי מינסקי, וסופר המדע הבדיוני המפורסם הארי הריסון. אצטט מהספר הזה, אולי אסביר את התופעה שתוארה לעיל של אמנויות:

הזיכרון האנושי הוא לא רשמקול שמתעד הכל בסדר כרונולוגי. הוא בנוי בצורה שונה לחלוטין - ממש כמו מפתח קלפים מתוחזק בצורה מרושלת, מצויד באינדקס מבלבל וסותר. ולא סתם מבלבל – מדי פעם אנו משנים את עקרונות סיווג המושגים.

פרשנות מעניינת למטאפורת הטייפ ביצירה ספרותית אחרת, סיפורו של סטניסלב לם "טרמינוס" (מהסדרה "סיפורים על הטייס פירקס"). הנה המקרה של מעין "רשמקול אינטליגנטי": רובוט ישן בחללית ישנה שעברה פעם תאונה עוסק בעבודות תיקון מתמשכות, מלווה בהקשה. אבל אם תקשיבו היטב, לא מדובר רק ברעש טכנולוגי לבן, אלא בהקלטה של ​​קוד מורס - שיחות בין אנשי צוות של ספינה גוססת. פירקס מתערב במשא ומתן זה ומקבל באופן בלתי צפוי תגובה מהאסטרונאוטים שמתו מזמן. מסתבר שרובוט התיקון הפרימיטיבי אוגר בדרך כלשהי עותקים של התודעה שלהם או שמא מדובר בעיוותים קוגניטיביים של תפיסתו של הטייס פירקס?

בסיפור אחר, "אנאנקה" (מאותה סדרה), עותק של ה-EI במחשב הבקרה של שינוע חלל מוביל לעומס הפרנואידי שלו במשימות בדיקה, שמסתיים באסון.

בסיפור "תאונה", רובוט מתוכנת מדי אנתרופומורפית מת כתוצאה מטיפוס הרים שהחליט לבצע בזמנו הפנוי. האם דרושים מבצעים כאלה? אבל שדים מקובעים על השקיית פרח הם גם לא תמיד הכרחיים.

חלק מהמומחים בתחום הבינה המלאכותית אינם אוהבים "התפלספות" ו"ספרותיות" כאלה, אך ה"התפלספות" ו"הספרותיות" הללו טבועות באופן מסורתי בניתוח הבינה המלאכותית והן בלתי נמנעות כל עוד משווים בינה מלאכותית עם בינה מלאכותית, ואפילו יותר מכך כל עוד AI מנסה להעתיק AI.

לסיכום, סקר על מספר נושאים שעלו.

רק משתמשים רשומים יכולים להשתתף בסקר. להתחברבבקשה.

1. האם AI כולל משימות שמחשב פותר בצורה גרועה יותר מאדם?

• כן

• לא

• אני מכיר את ההגדרה יותר טוב. אני אתן את זה בתגובות.

• קשה לענות

34 משתמשים הצביעו. 7 משתמשים נמנעו.

2. האם ה-AI צריך להיות רק מוציא לפועל, האם יש לקחת את כל הפקודות באופן מילולי? למשל, הם אמרו להשקות פרח - זה אומר מים עד שיבריחו אותך

• כן

• לא

• קשה לענות

37 משתמשים הצביעו. 6 משתמשים נמנעו.

3. האם ניתן לקבל AI חזק, בו כל הכישורים יהיו מקסימליים (קו אדום בתמונה בתחילת הכתבה)?

• כן

• לא

• קשה לענות

35 משתמשים הצביעו. 7 משתמשים נמנעו.

4. האם סופר-AI אפשרי (קו כחול בתמונה בתחילת הכתבה)?

• כן

• לא

• קשה לענות

36 משתמשים הצביעו. 7 משתמשים נמנעו.

5. מטרת הביניים צריכה להיות AI לא חזק, אבל גם לא חלש לחלוטין (קו סגול באיור בתחילת הכתבה), שבמספר כישורים יהיה נחות מ-AI, אבל לא כמו שהוא עכשיו ?

• כן

• לא

• קשה לענות

33 משתמשים הצביעו. 5 משתמשים נמנעו.

6. ביצוע טעויות מסוכנות בהחלטות, חוסר תשומת לב, שוכח דברים נחוצים ועייף הם המאפיינים הטבועים העיקריים של ה-EI?

• כן

• לא

• יש לי דעה אחרת, אותה אתן בהערות.

• קשה לענות

33 משתמשים הצביעו. 5 משתמשים נמנעו.

7. בזכות היכולת לשכוח את העובדות הפשוטות ביותר, אדם זוכה בחופש לשלב רסיסי מחשבותיו בסדר פראי שרירותי ולמצוא פתרונות לא סטנדרטיים?

• כן

• לא

• יש לי דעה אחרת, אותה אתן בהערות.

• קשה לענות

31 משתמשים הצביעו. 4 משתמשים נמנעו.

8. מידול AI ויצירת AI חזק הן שתי משימות שונות שניתן לפתור בשיטות שונות?

• כן

• לא

• יש לי דעה אחרת, אותה אתן בהערות.

• קשה לענות

32 משתמשים הצביעו. 4 משתמשים נמנעו.

מקור: www.habr.com