הבלתי נמנע של חדירת FPGA למרכזי נתונים

אתה לא צריך להיות מעצב שבבים כדי לתכנת עבור FPGAs, בדיוק כמו שאתה לא צריך להיות מתכנת C++ כדי לכתוב קוד ב-Java. עם זאת, בשני המקרים זה כנראה יהיה שימושי.

המטרה של מסחור הן טכנולוגיות Java והן FPGA היא להפריך את הטענה האחרונה. חדשות טובות עבור FPGAs - שימוש בשכבות ההפשטה ובערכת הכלים הנכונים, ב-35 השנים האחרונות מאז המצאת התקן הלוגיקה הניתן לתכנות, יצירת אלגוריתמים וזרימות נתונים עבור FPGAs במקום CPUs, DSPs, GPUs או כל צורה אחרת של ASIC מותאמים אישית הפכה יותר ויותר נפוץ. קל יותר.

העדכניות המדהימה של יצירתם ניכרת בעובדה שבדיוק כאשר מעבדי המעבדים כבר לא יכלו להישאר מודול המחשוב היחיד של מרכזי נתונים לביצוע משימות רבות - ממגוון סיבות - רכיבי FPGA השיגו את היעילות שלהם, והציעו מהירות, חביון נמוך ויכולות רשת. וזיכרון - יכולות מחשוב הטרוגניות של רכיבי FPGA מודרניים, שהם מערכות מחשוב כמעט מלאות. עם זאת, FPGAs משולבים בהצלחה גם עם מכשירים אחרים במערכות היברידיות, ולדעתנו, הם רק מתחילים למצוא את מקומם הראוי בהיררכיית המחשוב.

זו הסיבה שארגנו את כנס פלטפורמת FPGA Next בסן חוזה ב-22 בינואר. מטבע הדברים, אחד מספקי ה-FPGA העיקריים בעולם וחלוצה בתחום הוא Xilinx. Ivo Bolsens, סגן נשיא בכיר וקצין טכנולוגיה ראשי ב- Xilinx, נאם בכנס ונתן לנו את מחשבותיו היום על האופן שבו Xilinx עוזרת ליצור מערכות מחשוב הניתנות לשינוי עבור מרכזי נתונים.

לקח לארכיטקטים ומתכנתים של מערכות הרבה זמן להמציא מרכז נתונים הטרוגני, שיכלול סוגים שונים של כוח מחשב שיפתור בעיות במחשוב, אחסון ורשת. זה נראה הכרחי בשל העובדה שנעשה קשה יותר ויותר לבצע את חוק מור באמצעות התקני CMOS שונים. לעת עתה, השפה שלנו עדיין מתמקדת במעבד, ואנחנו עדיין מדברים על "האצת יישומים", כלומר לגרום לתוכניות לפעול טוב יותר ממה שניתן לעשות במעבדים בלבד. עם הזמן, מרכזי נתונים יהפכו לאוספים של כוח מחשוב, אחסון נתונים ופרוטוקולים שקושרים הכל יחד, ונחזור למונחים כמו "מחשוב" ו"יישומים". מחשוב היברידי יהפוך לנורמלי כמו שירותי הענן של היום הפועלים על מחשבים שולחניים או וירטואליים, ובשלב מסוים פשוט נשתמש במילה "מחשוב" כדי לתאר איך הם עובדים. בשלב מסוים - וסביר להניח ש-FPGAs יסייעו לפתח עידן זה - נקרא לזה שוב עיבוד נתונים.

אימוץ FPGAs במרכזי נתונים ידרוש שינוי חשיבה. "כשחושבים על דרכים להאיץ את היישומים של היום, אתה צריך לרדת ליסודות של איך הם פועלים, באילו משאבים משתמשים, איפה הזמן מושקע", מסביר בולנס. - אתה צריך ללמוד את הבעיה הכללית שאתה מנסה לפתור. יישומים רבים הפועלים במרכזי נתונים כיום מתרחבים לצרוך כמויות גדולות של משאבים. קחו למשל למידת מכונה, המשתמשת במספר עצום של צמתי מחשוב. אבל כשאנחנו מדברים על האצה, אנחנו צריכים לחשוב לא רק על האצת המחשוב, אלא גם על האצת התשתיות".

לדוגמה, בסוג של פעולות למידת מכונה שחקר בולסנס בפועל, כ-50% מהזמן מושקע בהעברת נתונים הלוך ושוב בין כוח מחשוב מפוזר, ורק את מחצית הזמן הנותר מושקע בחישובים עצמם.

"זה המקום שבו אני חושב ש-FPGA יכול לעזור, כי אנחנו יכולים להבטיח שגם ההיבטים החישוביים והתקשורתיים של האפליקציה יהיו אופטימליים. ואנחנו יכולים לעשות זאת ברמת התשתית הכוללת, וברמת השבבים. זהו אחד היתרונות הגדולים של FPGAs, המאפשר לך ליצור רשתות תקשורת לצרכי יישומים ספציפיים. בהתבסס על דפוסים טיפוסיים של תנועת נתונים בעומסי עבודה של AI, אני לא רואה צורך בארכיטקטורה מורכבת מבוססת מתגים. אתה יכול לבנות רשת עם זרימת נתונים גדולה. כך גם לגבי משימות אימון ברשת עצבית - ניתן לבנות רשת רשת עם גדלי מנות המותאמים למשימה ספציפית. באמצעות FPGA, פרוטוקולי העברת נתונים וטופולוגיות מעגלים ניתנים לקנה מידה מדויק מאוד ולהתאים ליישום ספציפי. ובמקרה של למידת מכונה, ברור גם שאנחנו לא צריכים מספרי נקודה צפה עם דיוק כפול, ואנחנו יכולים להתאים גם את זה".

ההבדל בין FPGA ל-CPU או ASIC מותאם אישית הוא שהאחרונים מתוכנתים במפעל, ולאחר מכן אינך יכול עוד לשנות את דעתך לגבי סוגי הנתונים המחושבים או האלמנטים המחושבים, או לגבי אופי הנתונים. לזרום דרך המכשיר. FPGAs מאפשרים לך לשנות את דעתך אם תנאי ההפעלה משתנים.

בעבר, היתרון הזה היה בעל מחיר, כאשר תכנות FPGA לא היה לבעלי לב חלש. הצורך הוא לפתוח מהדרים של FPGA כדי להשתלב טוב יותר עם הכלים שמתכנתים משתמשים בהם כדי לכתוב יישומים מקבילים למעבד ב-C, C++ או Python, ולהעביר חלק מהעבודה למיקור חוץ לספריות שמאיצות נהלים ב-FPGA. זה מה שעושה מחסנית הלמידה המכונה של Vitis, המניעה פלטפורמות ML כמו Caffe ו-TensorFlow, עם ספריות להפעלת מודלים AI קונבנציונליים או הוספת יכולות FPGA למשימות כמו המרת קידוד וידאו, זיהוי אובייקטי וידאו וניתוח נתונים. , ניהול סיכונים פיננסיים וכל שלישיה -ספריות מפלגות.

הקונספט הזה אינו שונה בהרבה מפרויקט CUDA של Nvidia, שהושק לפני עשור, אשר מוריד מחשוב מקביל למאיצי GPU, או מערך הכלים ROCm של AMD, או מההבטחה של פרויקט OneAPI של אינטל, שאמור לרוץ על מעבדים, GPUs ו-FPGA שונים.

השאלה היחידה היא כיצד כל הכלים הללו יחוברו יחד כך שכל אדם יוכל לתכנת סט של כוחות מחשוב לפי שיקול דעתו. זה חשוב כי FPGAs הפכו מורכבים יותר, הרבה יותר מורכבים מכל המעבדים הזמינים. הם מיוצרים בתהליכי הייצור המתקדמים ביותר ובטכנולוגיות אריזת השבבים המודרניות ביותר. והם ימצאו את הנישה שלהם, כי אנחנו כבר לא יכולים לבזבז זמן, כסף, אנרגיה ואינטליגנציה - כל אלה הם משאבים יקרים מדי.

"רכיבי FPGA מציעים יתרונות טכנולוגיים", אומר בולסנס. - וזה לא רק הפרסום הרגיל על התאמה והתאמה מחדש. בכל היישומים החשובים - למידת מכונה, ניתוח גרפים, מסחר במהירות גבוהה וכו'. - יש להם את היכולת להתאים למשימה ספציפית לא רק את נתיב הפצת הנתונים, אלא גם את ארכיטקטורת הזיכרון - איך נתונים זזים בתוך השבב. לרכיבי FPGA יש גם הרבה יותר זיכרון מובנה ממכשירים אחרים. כמו כן, יש לקחת בחשבון שאם משימה אינה מתאימה ל-FPGA אחד, אתה יכול לשנות אותה על פני מספר שבבים מבלי להיתקל בחסרונות שמחכים לך בעת שינוי קנה מידה של משימות על פני מספר מעבדים או GPUs."

מקור: www.habr.com