כנס DEFCON 25. גארי קספרוב. "הקרב האחרון של המוח." חלק 2

כנס DEFCON 25. גארי קספרוב. "הקרב האחרון של המוח." חלק 1

אני חושב שהבעיה היא לא שמכונות יחליפו את בני האדם במקום העבודה שלהם, כולל בתחום האינטלקטואלי, ולא שנראה שמחשבים נטלו נשק נגד אנשים עם השכלה גבוהה וחשבונות טוויטר. הטמעת AI לא מתרחשת מהר, אלא להיפך, היא איטית מדי. למה? כי זהו מחזור נורמלי של התפתחות אנושית, ופשוט איננו מבינים שההרס שאנו רואים פירושו הכנסת טכנולוגיה חדשה, שלפני יצירת מקומות עבודה חדשים הורסת מקומות ישנים.

טכנולוגיות הורסות תעשיות מיושנות ויוצרות חדשות, זה תהליך היצירה, זה מחזור הפיתוח. אם תנסו להאריך את הייסורים על ידי הכנסת טכנולוגיות ישנות לתהליך או יצירת כמה יתרונות לטכנולוגיות מיושנות, פשוט תאטו את התהליך ותהפכו אותו לכאוב יותר. זה יקרה בכל מקרה, אבל הבעיה היא שאנחנו מסדירים את התהליך על ידי יצירת כללים שמאטים אותו בכוונה. אני חושב שזו בעיה גדולה יותר מאלה שאנו מודעים להן בצורה ברורה יותר. זו יותר בעיה פסיכולוגית שבה אנשים שואלים את השאלה: "איך אתה יכול להרגיש בטוח במכונית שנוהגת בעצמך?"

התבוננתי בהיסטוריה ולמדתי שלפני מאה שנים אחד האיגודים החזקים בניו יורק היה איגוד עובדי המעליות, שאיגד 17 אלף עובדים. אגב, באותה תקופה כבר הייתה טכנולוגיה שבה אתה יכול פשוט ללחוץ על כפתור וסיימת, אבל אנשים לא סמכו על זה! זה פשוט נורא ללחוץ על הכפתור בעצמך כדי להתקשר למעלית! אתה יודע למה האיגוד המקצועי הזה "מת" ואנשים התחילו להשתמש בכפתורים בעצמם? כי יום אחד החליטו עובדי המעלית לשבות. הם פתחו בשביתה, ואז האנשים שנאלצו לטפס לראש בניין האמפייר סטייט הסתכנו בלחיצה על הכפתורים במו ידיהם.

זכור מה אמרו לפני 20-30 שנה על ילדים או נכדים כשעלו על ההגה של מכונית: "זה נורא, רק תסתכל על הסטטיסטיקה, כי מכוניות הן אחד הגורמים העיקריים לתמותה אנושית, איך הם יכולים להסתכן החיים שלהם?"

אז כל זה הוא פסיכולוגיה טהורה. אנחנו שמים לב מעט מאוד לכמה אנשים מתים בתאונות דרכים, אבל ברגע שאדם אחד נהרג ממכונית בנהיגה עצמית, האירוע יוצא מפרופורציה. כל תקלה, כל טעות בטכנולוגיות בינה מלאכותית מכוסה מיד בעמודים הראשונים של העיתונים. אבל תסתכל על הסטטיסטיקה, תסתכל על מספר התקריות, ותראה באיזה אחוז זעיר מסך התאונות מדובר. לכן, הקהילה האנושית תנצח רק אם היא תוכל להתקדם בלי להיות משותק מפחדים כאלה.

נושא נוסף עולה כשאנחנו מדברים על חדשות מזויפות או אבטחת סייבר, אלו נושאים מאוד פוליטיים ואני מקבל הרבה שיחות ששואלים איך אני מתמודד עם שונאי בינה מלאכותית. למשל, אני כותב בלוג רגיל, והפוסט החדש שלי, שיראה אור בעוד יומיים, מדבר על שנאה ועל כך שהישועה משנאה טמונה בידע, בלמידה. אנחנו רק צריכים להבין שהבעיה הזו הייתה קיימת הרבה לפני שהמציאו את כל הדברים האלה, רק שחשיבותה גדלה עכשיו בזכות האינטרנט שמגיע למיליוני ומיליארדים של אנשים.

אני חושב שזה למעשה דבר טוב כשמישהו מנסה לעצור את ההתקדמות על ידי ניסיון להוציא AI מחוץ לחוק, ואתה יודע שזה לא יעבוד כי יש לנו פוטין ורעים אחרים, באשר הם, שמשתמשים נגדנו בטכנולוגיות שלנו שנוצרו ב העולם החופשי. אז אני חושב שאנחנו צריכים פשוט לקבל את זה כנתון.

מהות הבעיה טמונה רק בתוכנו, והתשובות לשאלות נמצאות בתוכנו, בכוחנו ובביטחון העצמי שלנו. אני טוען שמכונות חכמות לא יכולות להפוך אותנו ל"מיושנים". עם זאת, יש לזכור שיש מגבלות מסוימות לגבי שיתוף פעולה בין אדם למחשב, ובמידה רבה מדובר בשמועות שהיו קיימות בעבר. כמו תמיד, אלו פשוט הזדמנויות חדשות שהורסות את העולם הישן ויוצרות עולם חדש, וככל שנתקדם, כך יהיה לנו טוב יותר.

כיום זה הכי דומה למעבר לעולם המדע הבדיוני. הפרדוקס הוא שאם נסתכל אחורה 50-60 שנה, נראה שבאותם ימים המדע הבדיוני היה חיובי לחלוטין, זו הייתה אוטופיה מוחלטת. עם זאת, אז היה מעבר הדרגתי מאוטופיה לדיסטופיה, באופן שלא נרצה לשמוע עוד דבר על עתיד האנושות.

זה לא קרה בן לילה. הייתה תקופה שבה אנשים החליטו שחקר החלל מסוכן מדי. זה אכן סיכון גדול, אבל תארו לעצמכם שבשנת 1969, כשהאמריקאים נחתו על הירח, כל כוח המחשוב של נאס"א היה פחות מעוצמתו של כל מכשיר מחשוב מודרני שנכנס לכיס שלכם. המכשיר הזה חזק פי אלף ממחשב העל שהיה קיים לפני 40 שנה. רק דמיינו את כוח המחשוב שיש לכם בכיס! עם זאת, אני לא בטוח שלאייפון 7 של אפל יש את אותו כוח מחשוב שהיה לאפולו 7, כלומר, הוא מסוגל לייצר את אותו אפקט.

עם זאת, מכונות סיפקו לנו התקדמות רבה בחקר החלל או האוקיינוסים, ועלינו להבין שמחשבים מספקים לנו את היכולת לקחת סיכונים גדולים.

אני רוצה לסיים את דברי בנימה חיובית. האם השקף הזה לא מציג תמונות חיוביות? התמונה בפינה הימנית התחתונה לא בפוטושופ, למעשה פגשתי את המחסל ב-2003.

הוא אהב גם שחמט מילדות, אבל הוא לא למד אותו במיוחד, אז הוא הפסיד מהר מאוד. אז הופתעתי מאוד כאשר 6 חודשים לאחר מכן הוא התמודד על מושל קליפורניה וניצח!

למה אני קורא לתמונות האלה חיוביות? כי למרות שבכל הפרקים חוץ מהראשון, ארנולד הזקן תמיד עומד לצד המנצחים ואף פעם לא מתעייף מלהלחם נגד מכונות חדשות, הרי בפרק הראשון רואים את השילוב שעליו דיברתי - זה כאשר אדם פלוס מכונה ישנה פלוס ממשק מושלם מביס את המכונית החדשה ביותר.
אתה יכול לומר: "כן, מכונות חזקות יותר מאנשים כי הן יכולות לחשב הכל!" עם זאת, הנקודה היא לא שהם יכולים לחשב הכל. לדוגמה, בשחמט אנו יכולים לדבר טכנית על האינסוף המתמטי של מספר המהלכים האפשריים, השווה ל-1045, אשר לא קשה לחשב לאף מחשב מודרני. עם זאת, מה שחשוב במשחק זה לא החישובים, אלא העובדה שהמחשב מקדים את האדם, כי הוא תמיד מונחה על ידי הכללים. ואתה יודע את ההשפעה של הכללים האלה ואתה יודע למה המחשב בוחר את המהלך הטוב ביותר מתוך מגוון עצום של מהלכים אפשריים.

אבל אם נפנה לחיים האמיתיים, אני לא בטוח שמחשב תמיד יכול להיות שימושי. בואו נסתכל על המצב האופייני ביותר – יש לכם מחשב שעוקב אחר התקציב שלכם, אתם בחנות ועומדים לקנות מתנה יקרה. המחשב מעריך את הרכישה ואומר, "לא, אתה לא יכול להרשות לעצמך את הפריט הזה כי תהיה מעבר לתקציב." המכונה חישבה הכל, אבל יש ניואנס קטן - הילד שלך עומד לידך, והמתנה הזו מיועדת ליום ההולדת שלו. האם אתה רואה איך זה משנה את תנאי הבעיה? זה משנה הכל כי הילד מחכה למתנה הזו.

אני יכול להתחיל להוסיף את הדברים הקטנים האלה שמשנים הכל, אבל אני לא חושב שאפשר לכלול אותם בהצהרת הבעיה ולקבל את הפתרון הנכון. יש לנו הרבה חוקים, אבל אנחנו עדיין צריכים לשאול שאלות כי דברים משתנים. זה מה שאפשר לכנות מצב רגיל, אבל אם מסתכלים על הסרטים האלה אפשר לומר שהמצב שמוצג כאן יותר דרמטי ויוצא דופן. שקף זה מציג סטילס מתוך פרק V של מלחמת הכוכבים: האימפריה מכה בחזרה.

האן סולו מטיס את הספינה ישר דרך שדה אסטרואידים, ו-C-3PO נכנס לפאניקה, מדווח שהסיכוי לשרוד את השדה הוא 1:3122. האן סולו אומר לו, "אל תגיד לי לעולם מה הסיכויים שלנו!" כאן נשאלת השאלה, מי יותר צודק במצב הזה?

הטכנולוגיה המיוצגת על ידי C-3PO צודקת לחלוטין, מכיוון שהסיכוי להישרדות שואף לאפס. ייתכן שמנקודת המבט של רובוט, לכידה על ידי כוחות אימפריאליים היא בחירה טובה יותר שאדם אפילו לא ישקול מאשר למות בשדה אסטרואידים. אבל אם המחשב יחליט שהכניעה לאימפריה היא האפשרות הטובה ביותר, אז אפשר להניח שלאדם אין אפשרויות כלל. הדבר החשוב ביותר הוא שבשני המקרים, רגילים ויוצאי דופן, יש לנו אפשרות לקבל את ההחלטה הסופית, וכדי לקבל החלטה כזו עדיין נדרשת מנהיגות אנושית.

לפעמים זה אומר שאתה צריך ללכת נגד המלצות המחשב. המטרה של מנהיגות אנושית היא לא לדעת את הסיכויים, אלא לשאול את השאלות החשובות באמת, לא רק היום או מחר, אלא הרחק אל העתיד. תהליך זה יכול להיקרא "הנחיה אנושית" או "התערבות אנושית", משפיע ללא עזרת מכונות חכמות. זה מה שהקורס שלנו צריך להיות במאה הזו.

אנשים מופתעים לפעמים מהאופטימיות שלי לגבי מכונות אינטליגנטיות, לאור הניסיון שלי איתם, אבל אני באמת אופטימי. ואני בטוח שכולכם אופטימיים באותה מידה לגבי עתיד הבינה המלאכותית. אבל עלינו לזכור שהטכנולוגיות שלנו אגנוסטיות. זה לא טוב ולא רע, אבל יכול לשמש גם לטוב וגם לרע. מכונות חייבות להפוך לחכמות ויכולות יותר. ועלינו, בני האדם, לעשות מה שרק בני האדם יכולים לעשות - לחלום, לחלום עד תום, ואז נוכל לחלץ את כל התועלת שהכלים החדשים והמדהימים הללו מביאים.

כמתוכנן, נותרו לנו עוד 10 דקות לענות על שאלות.

שאלה: האם לדעתך ניתן יהיה ליצור מערכת למידת מכונה שתוכל לקבוע אילו מהלכים עולים בקנה אחד עם סגנון המשחק האנושי?

קספרוב: קודם כל, אנחנו לא מצפים שהמחשב יספר לנו את המהלך הראשון ואת 17505 המהלכים הנותרים. אני חושב שעלינו לסמוך על המכונה שתספק את ההמלצות הטובות ביותר למהלכים ייחודיים. אגב, שחקנים מהשורה הראשונה משתמשים במחשבים כמדריך, ועוזרים להם לתפוס את המיקום המתאים ביותר במשחק. אני חוזר שוב - ב-9 מקרים מתוך 10, הערכת המצב של המחשב עדיפה בהרבה מההערכה שאדם יכול לעשות.

שאלה: האם אתה מסכים שאינטליגנציה אמיתית דורשת חופש בחירה, חופש לקבל החלטות שרק אדם יכול לקבל? אחרי הכל, תוכנות כחול עמוק ושאר תוכנות מחשב נכתבות על ידי אנשים, וכשאתה מפסיד ל-Deep Blue, אתה מפסיד לא למחשב, אלא למתכנתים שכתבו את התוכנה. השאלה שלי היא: האם יש סכנה מכל סוג של אינטליגנציה של מכונות כל עוד למחשבים יש חופש בחירה?

קספרוב: כאן אני חייב לעבור ממדע לפילוסופיה. הכל ברור לגבי כחול עמוק - זה תוצאה של כמות עצומה של עבודה אנושית. ברוב המקרים, גם במקרה של AlphaGo של דמיס חסאביס, כל אלה הם תוצרים של אינטליגנציה אנושית. אני לא יודע אם למכונות יכול להיות חופש בחירה, אבל אני מאמין שכל מה שנעשה, אם נדע לעשות את זה, המכונות יעשו את זה טוב יותר. עם זאת, כאשר אנו עושים את רוב הדברים, איננו יודעים כיצד לעשות אותם בצורה הטובה ביותר, ולכן לרוב איננו יכולים להבין מה נצליח. במילים פשוטות, יש לנו מטרה, אבל אנחנו לא יודעים מה היא, ותפקידה של המכונה הוא לעזור לנו לממש את המטרה הזו. לכן, אם אנחנו מדברים על בחירה חופשית של מחשבים, אז זה אמור לעזור לכבול אותנו למטרה זו. אני חושב שזה עתיד רחוק מאוד עבור מחשבים.

שאלה: מה דעתך על מאפיינים אנושיים כמו אומץ ומוסר, ועל ההחלטות שבינה מלאכותית יכולה לקבל על סמך אותם? למשל, מה צריכה לעשות מכונית בנהיגה עצמית - לדרוס ילד או להימנע מפגיעה בו על ידי התנגשות בסלע והרג הנוסע בה?

קספרוב: אלה מה שאנשים מכנים "רגשות", הם לא ניתנים לכימות כי הם חבורה שלמה של מאפיינים אנושיים שונים. אם אנחנו מדברים על אומץ, אז מאפיין זה תמיד נוגד את הסיכויים לבחור באפשרות האופטימלית. אומץ, כמו רגשות אנושיים אחרים, מנוגדת בהגדרה לחישוב מדויק.
שאלה: מר קספרוב, השאלה שלי לא נוגעת למחשבים: מה יש בבקבוק שלך והאם אני יכול לנסות?

קספרוב: למה אתה מתכוון?

מארח: הוא שואל מה יש בכיס שלך!

קספרוב: בכיס שלי? "סטוליכניה"! זו לא פרסומת, אם שמתם לב, זרקתי אותה.

שאלה: מי לדעתך יהיה אלוף העולם הבא בשחמט והאם לשחמטאי הסיני הצעיר ווי יי יש סיכוי להדיח את קרלסן כמלך השחמט?

קספרוב: קרלסן הוא השחקן מספר 1, הוא לא אלוף עולם, אלא פשוט שחמטאי הטוב בעולם לפי הדירוג. השנה הוא בן 27, אז הוא עדיין צעיר, אבל לא צעיר במיוחד בסטנדרטים של היום. אני חושב שוויי יי הוא בן 18 או 19 עכשיו. מגנוס מקדים שחקנים צעירים כמו ווסלי סו ופביאנו קרואנה האמריקאים, ו-Wei Yi יכול להיות יריבו. עם זאת, כדי להפוך לאלוף עולם, אתה צריך כישרון, אתה לא צריך להיות צעיר ונמרץ, רק שיהיה לך קצת מזל. אז, כדי לענות על השאלה, אני יכול לומר - כן, יש לו סיכוי לנצח את מגנוס קרלסן.
שאלה: כשדיברת על אלגוריתמים דטרמיניסטיים ולמידת מכונה, הזכרת את האפשרות להשתמש במכונות ככלים להשלמת האינטליגנציה שלנו. מה לגבי האפשרות למקסם משאבים לפני יצירת AI רב עוצמה, או אפילו הכנסת מוח אנושי למחשב?

קספרוב: אני לא מתבייש להודות בבורות שלי כשאני לא בטוח שאני לא מסוגל לענות נכון על שאלה. אני מנסה כמיטב יכולתי להבין מהו המוח האנושי, אם נתייחס אליו בנפרד מגוף האדם, אילו פונקציות הוא מבצע. כי קשה לדמיין איך המוח יתנהג בנפרד מהגוף. אולי ניסוי כזה יכול להיעשות בעתיד, אבל אני סמוך ובטוח שהשילוב של המוח האנושי, הרגשות והרגשות האנושיים עם מחשב יצור "מוח" שיהיה הרבה יותר יעיל מאשר מוח שנשלף והוקפא, בשימוש כמכשיר מלא בנוירונים.

שאלה: האם יש גישה בסיסית אוניברסלית לבעיית החלפת משרות אנושיות במחשבים?

קספרוב: אני חושב שזו שאלה מאוד חשובה, כי ברור שאנחנו מתקרבים לנקודה שבה אנשים רבים עלולים להיות מובטלים. זהו הפרדוקס של הקידמה הטכנולוגית: מצד אחד, יש לנו את הטכנולוגיות החדישות ביותר המעניקות יתרונות תחרותיים עצומים לדור הצעיר שמתעסק במכשירים ובטכנולוגיות אלו. מצד שני, יש לנו התקדמות ברפואה ובתזונה בריאה, המאריכה את חיי האדם ומקנה לאדם יכולת עבודה לאורך שנים רבות. במובן הזה, דור שנות ה-50, ה-60 ואפילו ה-40 לא יכול להתחרות בנוער של היום. עלינו למצוא פתרון למצב הפרדוקסלי הזה שבו הפער בין הדורות כה רחב. הניסיון ההיסטורי אומר שפער כזה תמיד מוביל לפיצוץ גדול. אני מתכוון לפער בין התשתית החברתית הקיימת של החברה לבין הקידמה הטכנולוגית.

זה נושא שפוליטיקאים מעדיפים לדחות לבחירות הבאות. אף אחד לא רוצה לדבר על זה כי זה נושא רגיש. קל מאוד להדפיס כסף ולקוות שמישהו ישלם על זה מתישהו בעתיד. אז יש הרבה פרדוקסים בתחום הזה, למשל, צבירת חובות למתן ערבויות סוציאליות לדור המבוגר מתוך ציפייה שנטל פירעון החובות הללו ייפול על כתפי הדור הצעיר. יש הרבה שאלות שאין לי תשובות עליהן, והרבה שאלות שאני יכול לשאול שאני מקווה ש-AI יכול לעזור לי.
רע מאוד שבמשך עשרות שנים פוליטיקאים מנסים להתעלם מהבעיות שעליהן דיברנו זה עתה. הם תמיד מוכנים להצהיר, תמיד יש להם תוכניות, אבל הם לא רוצים להבין את האפקטיביות שבשתיקה לגבי בעיית הסכסוך בין טכנולוגיה לחברה. תודה לך על תשומת הלב!

תודה שנשארת איתנו. האם אתה אוהב את המאמרים שלנו? רוצים לראות עוד תוכן מעניין? תמכו בנו על ידי ביצוע הזמנה או המלצה לחברים, 30% הנחה למשתמשי Habr על אנלוגי ייחודי של שרתים ברמת הכניסה, שהומצא על ידינו עבורכם: כל האמת על VPS (KVM) E5-2650 v4 (6 ליבות) 10GB DDR4 240GB SSD 1Gbps החל מ-$20 או איך לשתף שרת? (זמין עם RAID1 ו-RAID10, עד 24 ליבות ועד 40GB DDR4).

Dell R730xd זול פי 2? רק כאן 2 x Intel TetraDeca-Core Xeon 2x E5-2697v3 2.6GHz 14C 64GB DDR4 4x960GB SSD 1Gbps 100 TV החל מ-$199 בהולנד! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - החל מ-$99! לקרוא על כיצד לבנות תשתיות קורפ. מחלקה עם שימוש בשרתי Dell R730xd E5-2650 v4 בשווי 9000 יורו עבור אגורה?

מקור: www.habr.com