אנחנו לא יכולים לסמוך על מערכות בינה מלאכותיות הבנויות על למידה עמוקה בלבד

טקסט זה אינו תוצאה של מחקר מדעי, אלא דעה אחת מיני רבות בנוגע להתפתחות הטכנולוגית המיידית שלנו. ובמקביל הזמנה לדיון.

גארי מרקוס, פרופסור באוניברסיטת ניו יורק, מאמין שללמידה עמוקה יש תפקיד חשוב בפיתוח הבינה המלאכותית. אבל הוא גם מאמין שהתלהבות מוגזמת מהטכניקה הזו עלולה להוביל להכפשתה.

בספרו אתחול AI: בניית בינה מלאכותית שאנו יכולים לסמוך עליה מרקוס, מדען מוח בהכשרתו, שבנה קריירה במחקר AI חדשני, מתייחס להיבטים הטכניים והאתיים. מנקודת מבט טכנולוגית, למידה עמוקה יכולה לחקות בהצלחה את המשימות התפיסתיות שהמוח שלנו מבצע, כמו זיהוי תמונה או דיבור. אבל למשימות אחרות, כמו הבנת שיחות או קביעת קשרי סיבה ותוצאה, למידה עמוקה אינה מתאימה. כדי ליצור מכונות אינטליגנטיות מתקדמות יותר שיכולות לפתור מגוון רחב יותר של בעיות - הנקראות לרוב אינטליגנציה כללית מלאכותית - יש לשלב למידה עמוקה עם טכניקות אחרות.

אם מערכת בינה מלאכותית לא מבינה באמת את המשימות שלה או את העולם הסובב אותה, הדבר עלול להוביל לתוצאות מסוכנות. אפילו השינויים הבלתי צפויים הקלים ביותר בסביבת המערכת עלולים להוביל להתנהגות שגויה. כבר היו הרבה דוגמאות כאלה: קובעים לביטויים לא הולמים שקל להטעות אותם; מערכות חיפוש עבודה המפלות באופן עקבי; מכוניות ללא נהג שמתנגשות ולעיתים הורגות את הנהג או הולך הרגל. יצירת בינה כללית מלאכותית היא לא רק בעיה מחקרית מעניינת, יש לה יישומים מעשיים רבים לחלוטין.

בספרם, מרקוס ומחברו ארנסט דייוויס טוענים לדרך אחרת. הם מאמינים שאנחנו עדיין רחוקים מליצור AI כללי, אבל הם בטוחים שבמוקדם או במאוחר יהיה אפשר ליצור אותו.

למה אנחנו צריכים AI כללי? גרסאות מיוחדות כבר נוצרו ומביאות הרבה יתרונות.

זה נכון, ויהיו עוד יתרונות. אבל יש הרבה בעיות שבינה מלאכותית מתמחה פשוט לא יכולה לפתור. למשל, הבנת דיבור רגיל, או סיוע כללי בעולם הוירטואלי, או רובוט שעוזר בניקיון ובבישול. משימות כאלה הן מעבר ליכולות של AI מיוחד. שאלה מעשית מעניינת נוספת: האם ניתן ליצור מכונית בטוחה לנהיגה עצמית באמצעות AI מיוחד? הניסיון מלמד של-AI כזה עדיין יש בעיות רבות בהתנהגות במצבים חריגים, גם בנהיגה, מה שמסבך מאוד את המצב.

אני חושב שכולנו היינו רוצים לקבל בינה מלאכותית שיכולה לעזור לנו למצוא תגליות חדשות גדולות ברפואה. לא ברור אם הטכנולוגיות הנוכחיות מתאימות לכך, שכן ביולוגיה היא תחום מורכב. אתה צריך להיות מוכן לקרוא הרבה ספרים. מדענים מבינים קשרי סיבה ותוצאה באינטראקציה של רשתות ומולקולות, יכולים לפתח תיאוריות לגבי כוכבי לכת וכו'. עם זאת, עם AI מיוחד, איננו יכולים ליצור מכונות המסוגלות לתגליות כאלה. ועם בינה מלאכותית כללית, נוכל לחולל מהפכה במדע, בטכנולוגיה וברפואה. לדעתי, חשוב מאוד להמשיך לעבוד ליצירת AI כללי.

זה נשמע כאילו ב"כללי" אתה מתכוון לבינה מלאכותית חזקה?

ב"כללי" אני מתכוון לכך שבינה מלאכותית תהיה מסוגלת לחשוב ולפתור בעיות חדשות תוך כדי תנועה. שלא כמו, נניח, Go, שם הבעיה לא השתנתה ב-2000 השנים האחרונות.

בינה מלאכותית כללית צריכה להיות מסוגלת לקבל החלטות הן בפוליטיקה והן ברפואה. זה מקביל ליכולת האנושית; כל אדם שפוי יכול לעשות הרבה. אתה לוקח סטודנטים חסרי ניסיון ותוך מספר ימים גורם להם לעבוד כמעט על כל דבר, מבעיה משפטית ועד בעיה רפואית. הסיבה לכך היא שיש להם הבנה כללית של העולם ויכולים לקרוא, ולכן יכולים לתרום למגוון רחב מאוד של פעילויות.

הקשר בין אינטליגנציה כזו לבין אינטליגנציה חזקה הוא שמודיעין לא חזק כנראה לא יוכל לפתור בעיות כלליות. כדי ליצור משהו חזק מספיק כדי להתמודד עם עולם משתנה ללא הרף, ייתכן שתצטרך לגשת לפחות לאינטליגנציה כללית.

אבל עכשיו אנחנו רחוקים מאוד מזה. AlphaGo יכולה לשחק מצוין על לוח בגודל 19x19, אבל צריך להכשיר אותו כדי לשחק על לוח מלבני. או קחו את מערכת הלמידה העמוקה הממוצעת: היא יכולה לזהות פיל אם הוא מואר היטב ומרקם העור שלו נראה לעין. ואם נראית רק צללית של פיל, כנראה שהמערכת לא תוכל לזהות אותה.

בספר שלך אתה מזכיר שלמידה עמוקה לא יכולה להשיג את היכולות של AI כללי מכיוון שהיא לא מסוגלת להבנה עמוקה.

במדעי הקוגניציה מדברים על היווצרות מודלים קוגניטיביים שונים. אני יושב בחדר במלון ואני מבין שיש ארון, יש מיטה, יש טלוויזיה שתלויה בצורה לא רגילה. אני מכיר את כל החפצים האלה, אני לא רק מזהה אותם. אני גם מבין איך הם קשורים זה לזה. יש לי רעיונות לגבי תפקוד העולם סביבי. הם לא מושלמים. הם אולי טועים, אבל הם די טובים. ועל בסיסם, אני מסיק הרבה מסקנות שהופכות לקווים מנחים לפעולות היומיומיות שלי.

הקיצון השני היה משהו כמו מערכת המשחק Atari שנבנתה על ידי DeepMind, שבה היא זכרה מה היא צריכה לעשות כשהיא רואה פיקסלים במקומות מסוימים על המסך. אם אתה מקבל מספיק נתונים, אתה עשוי לחשוב שיש לך הבנה, אבל במציאות זה מאוד שטחי. ההוכחה לכך היא שאם אתה מזיז אובייקטים בשלושה פיקסלים, הבינה המלאכותית משחקת הרבה יותר גרוע. שינויים מביכים אותו. זה ההפך מהבנה עמוקה.

כדי לפתור בעיה זו, אתה מציע לחזור לבינה מלאכותית קלאסית. באילו יתרונות עלינו לנסות להשתמש?

ישנם מספר יתרונות.

ראשית, AI קלאסי הוא למעשה מסגרת ליצירת מודלים קוגניטיביים של העולם, שעל בסיסם ניתן להסיק מסקנות.

שנית, AI קלאסי תואם לחלוטין לכללים. יש מגמה מוזרה בלמידה עמוקה כרגע שבה מומחים מנסים להימנע מכללים. הם רוצים לעשות הכל ברשתות עצביות ולא לעשות שום דבר שנראה כמו תכנות קלאסי. אבל יש בעיות שנפתרו בצורה זו בשלווה, ואף אחד לא שם לב לזה. למשל בניית מסלולים בגוגל מפות.

למעשה, אנו זקוקים לשתי הגישות. למידת מכונה טובה בלמידה מנתונים, אך גרועה מאוד בייצוג ההפשטה שהיא תוכנת מחשב. בינה מלאכותית קלאסית עובדת היטב עם הפשטות, אבל היא חייבת להיות מתוכנתת לחלוטין ביד, ויש יותר מדי ידע בעולם כדי לתכנת את כולן. ברור שאנחנו צריכים לשלב את שתי הגישות.

זה מתקשר לפרק שבו אתה מדבר על מה שאנחנו יכולים ללמוד מהמוח האנושי. וקודם כל, על התפיסה המבוססת על הרעיון שהוזכר לעיל שהתודעה שלנו מורכבת ממערכות רבות ושונות הפועלות בדרכים שונות.

אני חושב שדרך נוספת להסביר זאת היא שכל מערכת קוגניטיבית שיש לנו באמת פותרת בעיה אחרת. חלקים דומים של AI חייבים להיות מתוכננים כדי לפתור בעיות שונות בעלות מאפיינים שונים.

כעת אנו מנסים להשתמש בכמה טכנולוגיות All-in-One כדי לפתור בעיות שונות בתכלית זו מזו. הבנת משפט אינה זהה כלל לזיהוי אובייקט. אבל אנשים מנסים להשתמש בלמידה עמוקה בשני המקרים. מנקודת מבט קוגניטיבית, מדובר במשימות שונות מבחינה איכותית. אני פשוט נדהם עד כמה מעט הערכה יש לבינה מלאכותית קלאסית בקהילת הלמידה העמוקה. למה לחכות שיופיע כדור כסף? זה בלתי ניתן להשגה, וחיפושים עקרים אינם מאפשרים לנו להבין את המורכבות המלאה של משימת יצירת הבינה המלאכותית.

אתה גם מזכיר שמערכות בינה מלאכותיות נחוצות כדי להבין קשרי סיבה ותוצאה. האם אתה חושב שלמידה עמוקה, בינה מלאכותית קלאסית או משהו חדש לגמרי יעזור לנו בזה?

זהו תחום נוסף בו למידה עמוקה אינה מתאימה היטב. הוא אינו מסביר את הסיבות לאירועים מסוימים, אלא מחשב את ההסתברות לאירוע בתנאים נתונים.

על מה אנחנו מדברים? אתה צופה בתרחישים מסוימים, ואתה מבין למה זה קורה ומה יכול לקרות אם נסיבות מסוימות ישתנו. אני יכול להסתכל על המעמד שעליו יושבת הטלוויזיה ולדמיין שאם אני חותך את אחת מרגליו, המעמד יתהפך והטלוויזיה תיפול. זהו קשר של סיבה ותוצאה.

AI קלאסי נותן לנו כמה כלים לכך. הוא יכול לדמיין, למשל, מהי תמיכה ומהי נפילה. אבל אני לא אשבח יותר מדי. הבעיה היא שבינה מלאכותית קלאסית תלויה במידה רבה במידע מלא על מה שקורה, והגעתי למסקנה רק מהסתכלות על הדוכן. אני יכול איכשהו להכליל, לדמיין חלקים מהדוכן שאינם נראים לי. עדיין אין לנו את הכלים ליישם את הנכס הזה.

אתה גם אומר שלאנשים יש ידע מולד. כיצד ניתן ליישם זאת ב-AI?

ברגע הלידה, המוח שלנו הוא כבר מערכת מאוד משוכללת. זה לא קבוע; הטבע יצר את הטיוטה הראשונה, הגסה. ואז הלמידה עוזרת לנו לשנות את הטיוטה הזו לאורך חיינו.

לטיוטה גסה של המוח יש כבר יכולות מסוימות. עז הרים שזה עתה נולד מסוגל לרדת ללא טעות על צלע ההר תוך מספר שעות. ניכר שיש לו כבר הבנה במרחב התלת מימדי, בגופו וביחס ביניהם. מערכת מורכבת מאוד.

זו גם הסיבה שאני מאמין שאנחנו צריכים כלאיים. קשה לדמיין איך אפשר ליצור רובוט שמתפקד היטב בעולם ללא ידע דומה היכן להתחיל, במקום להתחיל עם לוח ריק וללמוד מניסיון רב ועצום.

באשר לבני אדם, הידע המולד שלנו מגיע מהגנום שלנו, שהתפתח לאורך זמן. אבל עם מערכות AI נצטרך ללכת בדרך אחרת. חלק מזה עשויים להיות הכללים לבניית האלגוריתמים שלנו. חלק מזה עשויים להיות הכללים ליצירת מבני הנתונים שהאלגוריתמים האלה מפעילים. וחלק מזה עשוי להיות הידיעה שנשקיע ישירות במכונות.

מעניין שבספר אתה מעלה את הרעיון של אמון ויצירת מערכות אמון. מדוע בחרת בקריטריון הספציפי הזה?

אני מאמין שהיום כל זה משחק כדור. נראה לי שאנחנו חיים ברגע מוזר בהיסטוריה, סומכים על הרבה תוכנות שאינן אמינות. אני חושב שהדאגות שיש לנו היום לא יימשכו לנצח. בעוד מאה שנים, AI תצדיק את האמון שלנו, ואולי מוקדם יותר.

אבל היום AI מסוכן. לא במובן שממנו אילון מאסק חושש, אלא במובן שמערכות ראיונות עבודה מפלות נשים, בלי קשר למה שעושים מתכנתים, כי הכלים שלהן פשוטים מדי.

הלוואי והיה לנו AI טוב יותר. אני לא רוצה לראות "חורף AI" ​​שבו אנשים מבינים שבינה מלאכותית לא עובדת והיא פשוט מסוכנת ולא רוצים לתקן את זה.

במובנים מסוימים, הספר שלך נראה מאוד אופטימי. אתה מניח שאפשר לבנות AI מהימן. אנחנו רק צריכים להסתכל לכיוון אחר.

נכון, הספר מאוד פסימי בטווח הקצר ומאוד אופטימי בטווח הארוך. אנו מאמינים שניתן לפתור את כל הבעיות שתיארנו על ידי הסתכלות רחבה יותר על התשובות הנכונות. ואנחנו חושבים שאם זה יקרה, העולם יהיה מקום טוב יותר.

מקור: www.habr.com