אחסון חפצים בחדר האחורי, או איך להפוך לספק שירות משלך

העולם ראה את אב הטיפוס הראשון של אחסון אובייקטים ב-1996. בעוד 10 שנים, Amazon Web Services תשיק את Amazon S3, והעולם יתחיל להשתגע באופן שיטתי עם מרחב כתובות שטוח. הודות לעבודה עם מטא נתונים והיכולת שלו לבצע קנה מידה מבלי לצנוח תחת עומס, אחסון אובייקטים הפך במהירות לסטנדרט עבור רוב שירותי אחסון הנתונים בענן, ולא רק זה. תכונה חשובה נוספת היא שהיא מתאימה היטב לאחסון ארכיונים וקבצים דומים שבהם נעשה שימוש נדיר. כל מי שעוסק באחסון נתונים שמחו וענדו את הטכנולוגיה החדשה בזרועותיהם.

אבל השמועות של אנשים היו מלאות בשמועות שאחסון חפצים הוא רק בעננים גדולים, ואם אתה לא צריך פתרונות מבעלי ההון הארורים, אז יהיה קשה מאוד ליצור בעצמך. הרבה כבר נכתב על פריסת ענן משלך, אבל אין מספיק מידע זמין על יצירת מה שנקרא פתרונות תואמי S3.

לכן, היום נבין אילו אפשרויות יש "כדי שזה יהיה כמו מבוגרים, לא CEPH וקובץ גדול יותר", נפרוס אחת מהן, ונבדוק שהכל עובד באמצעות Veeam Backup & Replication. הוא מתיימר לתמוך בעבודה עם אחסון תואם S3, ואנחנו נבדוק את הטענה הזו.

מה עם אחרים?

אני מציע להתחיל עם סקירה קטנה של השוק ואפשרויות אחסון חפצים. המוביל והסטנדרט המוכר בדרך כלל הוא Amazon S3. שני הרודפים הקרובים ביותר הם Microsoft Azure Blob Storage ו-IBM Cloud Object Storage.

זה הכל? האם באמת אין מתחרים אחרים? כמובן, יש מתחרים, אבל חלקם הולכים בדרכם, כמו Google Cloud או Oracle Cloud Object Storage, עם תמיכה לא מלאה ב-API S3. חלקם משתמשים בגרסאות ישנות יותר של ה-API, כמו Baidu Cloud. וחלקם, כמו Hitachi Cloud, דורשים היגיון מיוחד, שבוודאי יגרום לקשיים משלו. בכל מקרה, כולם מושווים לאמזון, שיכולה להיחשב כסטנדרט בתעשייה.

אבל בפתרונות On-premise יש הרבה יותר בחירה, אז בואו נתאר את הקריטריונים החשובים לנו. באופן עקרוני, מספיקים רק שניים: תמיכה ב-API S3 ושימוש בחתימה v4. יד על הלב, אנחנו כלקוח עתידי מתעניינים רק בממשקים לאינטראקציה, ולא כל כך מעניין אותנו המטבח הפנימי של מתקן האחסון עצמו.

הרבה פתרונות מתאימים לתנאים הפשוטים האלה. לדוגמה, משקלים כבדים קלאסיים של תאגידים:

• DellEMC ECS
• NetApp S3 StorageGrid
• דליים של נוטניקס
• Pure Storage FlashBlade ו-StorReduce
• Huawei FusionStorage

יש נישה של פתרונות תוכנה גרידא שעובדים מחוץ לקופסה:

• Red Hat Ceph
• SUSE Enterprise Storage
• קלאודיאן

וגם מי שאוהב לתייק בזהירות לאחר ההרכבה לא נעלב:

• CEPH בצורתו הטהורה ביותר
• Minio (גרסת לינוקס, כי יש הרבה שאלות לגבי גרסת Windows)

הרשימה רחוקה מלהיות מלאה, ניתן לדון בה בהערות. רק אל תשכח לבדוק את ביצועי המערכת בנוסף לתאימות API לפני היישום. הדבר האחרון שאתה רוצה הוא לאבד טרה-בייט של נתונים עקב שאילתות תקועים. אז אל תתביישו עם מבחני עומס. באופן כללי, לכל תוכנות למבוגרים שעובדות עם כמויות גדולות של נתונים יש לפחות דוחות תאימות. במקרה ויאם יש תוכנית שלמה על בדיקות הדדיות, המאפשרות לנו להצהיר בביטחון על התאימות המלאה של המוצרים שלנו לציוד ספציפי. זו כבר עבודה דו כיוונית, לא תמיד מהירה, אבל אנחנו כל הזמן מתרחבים список פתרונות בדוקים.

מרכיבים את הדוכן שלנו

אני רוצה לדבר קצת על בחירת נושא מבחן.

ראשית, רציתי למצוא אפשרות שתעבוד ישירות מהקופסה. ובכן, או לפחות עם הסבירות המרבית שזה יעבוד ללא צורך בתנועות מיותרות. לרקוד עם טמבורין ולהתעסק עם הקונסולה בלילה זה מאוד מרגש, אבל לפעמים אתה רוצה שזה יעבוד מיד. והאמינות הכוללת של פתרונות כאלה היא בדרך כלל גבוהה יותר. וכן, נעלמה בנו רוח ההרפתקנות, הפסקנו לטפס לחלונות נשותינו האהובות וכו' (ג).

שנית, למען האמת, הצורך לעבוד עם אחסון אובייקטים מתעורר בחברות גדולות למדי, כך שזהו המקרה כאשר ההסתכלות על פתרונות ברמת הארגון אינה רק שאינה בושה, אלא אפילו מעודדת. בכל מקרה, אני עדיין לא מכיר דוגמאות לכך שמישהו פוטר בגלל רכישת פתרונות כאלה.

בהתבסס על כל האמור לעיל, הבחירה שלי נפלה על Dell EMC ECS Community Edition. זה פרויקט מאוד מעניין, ואני רואה צורך לספר לכם עליו.

הדבר הראשון שעולה לך בראש כשאתה רואה את התוסף מהדורת הקהילה - שזה רק עותק של ECS מלא עם כמה הגבלות שמוסרות על ידי רכישת רישיון. אז לא!

זכור:

!!!Community Edition הוא פרויקט נפרד שנוצר לבדיקה, וללא תמיכה טכנית של Dell!!
ואי אפשר להפוך אותו ל-ECS מלא, גם אם אתה באמת רוצה.

בואו נבין את זה

אנשים רבים מאמינים ש-Dell EMC ECS הוא כמעט הפתרון הטוב ביותר אם יש לך צורך באחסון אובייקטים. כל הפרויקטים תחת המותג ECS, כולל מסחרי וארגוני, מבוססים על github. מעין מחוות רצון טוב של Dell. ובנוסף לתוכנה שפועלת על החומרה הממותגת שלהם, יש גרסת קוד פתוח שניתן לפרוס בענן, במכונה וירטואלית, בקונטיינר או בכל חומרה משלך. במבט קדימה, יש אפילו גרסת OVA, שבה נשתמש.
מהדורת הקהילה של DELL ECS עצמה היא גרסה מינית של תוכנה מלאה הפועלת על שרתי Dell EMC ECS ממותגים.

זיהיתי ארבעה הבדלים עיקריים:

• אין תמיכה בהצפנה. זה חבל, אבל לא קריטי.
• חסרה שכבת בד. הדבר הזה אחראי על בניית אשכולות, ניהול משאבים, עדכונים, ניטור ואחסון תמונות Docker. כאן זה כבר מאוד פוגעני, אבל אפשר גם להבין את Dell.
• התוצאה המגעילה ביותר של הנקודה הקודמת: לא ניתן להרחיב את גודל הצומת לאחר השלמת ההתקנה.
• אין תמיכה טכנית. מדובר במוצר לבדיקה, שאסור להשתמש בו בהתקנות קטנות, אבל אני אישית לא הייתי מעז להעלות לשם פטה-בייט של נתונים חשובים. אבל מבחינה טכנית אף אחד לא יכול למנוע ממך לעשות זאת.

מה יש בגרסה הגדולה?

בואו נדהור ברחבי אירופה ונעבור על פתרונות צמודים על מנת לקבל הבנה מלאה יותר של המערכת האקולוגית.

אני לא אאשר או אפריך איכשהו את ההצהרה ש-DELL ECS הוא אחסון האובייקטים המקומי הטוב ביותר, אבל אם יש לך מה לומר על הנושא הזה, אני אשמח לקרוא אותו בתגובות. לפחות לפי הגרסה IDC MarketScape 2018 Dell EMC היא בביטחון בין חמשת המובילים בשוק OBS. למרות שפתרונות מבוססי ענן לא נלקחים שם בחשבון, מדובר בשיחה נפרדת.

מנקודת מבט טכנית, ECS הוא אחסון אובייקטים המספק גישה לנתונים באמצעות פרוטוקולי אחסון בענן. תומך ב-AWS S3 וב-OpenStack Swift. עבור דליים התומכים בקבצים, ECS תומך ב-NFSv3 לייצוא קובץ אחר קובץ.

תהליך הקלטת המידע הוא די יוצא דופן, במיוחד לאחר מערכות אחסון בלוקים קלאסיות.

• כאשר מגיעים נתונים חדשים, נוצר אובייקט חדש שיש לו שם, הנתונים עצמם ומטא נתונים.
• אובייקטים מחולקים ל-128 מגה-בייט, וכל נתח נכתב לשלושה צמתים בו-זמנית.
• קובץ האינדקס מתעדכן, שבו נרשמים מזהים ומיקומי אחסון.
• קובץ היומן (כניסת יומן) מתעדכן ונכתב גם לשלושה צמתים.
• הודעה על הקלטה מוצלחת נשלחת ללקוח
  כל שלושת העותקים של הנתונים נכתבים במקביל. הכתיבה נחשבת מוצלחת רק אם כל שלושת העותקים נכתבו בהצלחה.

הקריאה קלה יותר:

• הלקוח מבקש נתונים.
• האינדקס מחפש היכן מאוחסנים הנתונים.
• הנתונים נקראים מצומת אחד ונשלחים ללקוח.

ישנם לא מעט שרתים עצמם, אז בואו נסתכל על ה- Dell EMC ECS EX300 הקטן ביותר. זה מתחיל מ-60 טרה-בייט, עם יכולת לגדול עד 1,5 טרה-בייט. ואחיו הגדול, Dell EMC ECS EX3000, מאפשר לך לאחסן עד 8,6PB לכל מתלה.

לפרוס

מבחינה טכנית, ניתן לפרוס את Dell ECS CE בגדול ככל שתרצה. בכל מקרה לא מצאתי הגבלות מפורשות. עם זאת, זה נוח לבצע את כל קנה המידה על ידי שיבוט הצומת הראשון, שעבורו אנו צריכים:

• 8 מעבדי vCPU
• RAM 64GB
• 16GB עבור מערכת הפעלה
• אחסון ישיר של 1TB
• המהדורה האחרונה של CentOS minimal

זוהי אפשרות כאשר אתה רוצה להתקין הכל בעצמך מההתחלה. אפשרות זו אינה רלוונטית עבורנו, כי... אני אשתמש בתמונת OVA לפריסה.

אבל בכל מקרה, הדרישות מאוד רעות אפילו עבור צומת אחד, ואם אתה מקפיד על אות החוק, אז אתה צריך ארבעה צמתים כאלה.

עם זאת, מפתחי ECS CE חיים בעולם האמיתי, וההתקנה מוצלחת אפילו עם צומת אחד, ודרישות המינימום הן:

• 4 מעבדי vCPU
• 16 GB RAM
• 16 GB עבור מערכת הפעלה
• 104 GB אחסון עצמו

אלו הם המשאבים הדרושים לפריסת תמונת OVA. כבר הרבה יותר אנושי ומציאותי.

את צומת ההתקנה עצמו ניתן לקבל מהפקיד GitHub. יש גם תיעוד מפורט על פריסת ה-all-in-one, אבל אתה יכול גם לקרוא על הרשמי קרא את המסמכים. לכן, לא נתעכב בפירוט על התפתחות ה-OVA, אין שם טריקים. העיקר הוא שלפני שתתחיל אותו, אל תשכח להרחיב את הדיסק לנפח הדרוש, או לצרף את הדרושים.
אנו מפעילים את המכונה, פותחים את המסוף ומשתמשים באישורי ברירת המחדל הטובים ביותר:

• כניסה: אדמין
• סיסמה: ChangeMe

לאחר מכן אנו מריצים את sudo nmtui ומגדירים את ממשק הרשת - IP/מסכה, DNS ושער. בהתחשב בכך של-CentOS minimal אין כלי רשת, אנו בודקים את ההגדרות באמצעות כתובת ה-ip.

ומכיוון שרק האמיצים כובשים את הים, אנחנו עושים עדכון יאם, שלאחריו אנחנו מאתחלים. זה למעשה די בטוח כי... כל הפריסה נעשית באמצעות ספרי הפעלה, וכל חבילות הדוקר החשובות נעולות לגרסה הנוכחית.

עכשיו הגיע הזמן לערוך את סקריפט ההתקנה. אין חלונות מפוארים או ממשק משתמש פסאודו בשבילך - הכל נעשה באמצעות עורך הטקסט המועדף עליך. מבחינה טכנית, ישנן שתי דרכים: אתה יכול להפעיל כל פקודה באופן ידני או להפעיל מיד את תצורת ה-videoploy. זה פשוט יפתח את התצורה ב-vim, וביציאה הוא יתחיל לבדוק את זה. אבל זה לא מעניין לפשט את החיים שלך בכוונה, אז בואו נריץ עוד שתי פקודות. למרות שזה לא הגיוני, הזהרתי אותך =)

אז, בואו ניצור vim ECS-CommunityEdition/deploy.xml ונבצע את השינויים המינימליים האופטימליים כדי ש-ECS יפעל. ניתן לקצר את רשימת הפרמטרים, אבל עשיתי זאת כך:

• licensed_accepted: true אתה לא צריך לשנות את זה, ואז בעת הפריסה תתבקש לקבל את זה במפורש ויוצג לך ביטוי נחמד. אולי זו אפילו ביצת פסחא.
  
• בטל את ההערה לשורות autonames: והתאמה אישית: הזן לפחות שם רצוי אחד עבור הצומת - שם המארח יוחלף בו במהלך תהליך ההתקנה.
• install_node: 192.168.1.1 ציין את ה-IP האמיתי של הצומת. במקרה שלנו, אנו מציינים את אותו הדבר כמו ב-nmtui
• dns_domain: הזן את הדומיין שלך.
• dns_servers: הזן את ה-dns שלך.
• ntp_servers: אתה יכול לציין כל אחד. לקחתי את הראשון שנתקלתי בו מהבריכה 0.pool.ntp.org (זה הפך ל-91.216.168.42)
• שמות אוטומטיים: מותאם אישית אם לא תבטל את ההערות, הירח ייקרא לונה.
• ecs_block_devices:
  / dev / sdb
  מסיבה לא ידועה, ייתכן שיש התקן אחסון בלוק לא קיים /dev/vda
• אחסון_בריכות:
  eld you
  192.168.1.1 כאן שוב אנו מציינים את ה-IP האמיתי של הצומת
• ecs_block_devices:
  /dev/sdb אנו חוזרים על הפעולה של ניתוק התקנים לא קיימים.

באופן כללי, הקובץ כולו מתואר בפירוט רב ב תיעוד, אבל מי יקרא אותו בזמן כל כך בעייתי. זה גם אומר שהמינימום המספיק הוא לציין את ה-IP והמסכה, אבל במעבדה שלי סט כזה התחיל די גרוע, והייתי צריך להרחיב אותו לזה שצוין למעלה.

לאחר היציאה מהעורך, עליך להפעיל את update_deploy /home/admin/ECS-CommunityEdition/deploy.yml, ואם הכל נעשה כהלכה, הדבר ידווח במפורש.

אז אתה עדיין צריך להפעיל videoploy, להמתין עד שהסביבה תתעדכן, ותוכל להתחיל את ההתקנה עצמה עם הפקודה ova-step1, ולאחר השלמתה המוצלחת, הפקודה ova-step2. חשוב: אל תעצרו את התסריטים ביד! חלק מהצעדים עשויים להימשך זמן רב, ייתכן שלא יושלמו בניסיון הראשון, ועשויים להיראות כאילו הכל מקולקל. בכל מקרה, עליך להמתין עד שהסקריפט יסתיים באופן טבעי. בסוף אתה אמור לראות הודעה דומה לזה.

כעת נוכל סוף סוף לפתוח את לוח הבקרה של WebUI באמצעות ה-IP המוכר לנו. אם התצורה לא שונתה בשלב, חשבון ברירת המחדל יהיה root/ChangeMe. אתה אפילו יכול להשתמש באחסון התואם S3 שלנו מיד. זה זמין ביציאות 9020 עבור HTTP, ו-9021 עבור HTTPS. שוב, אם שום דבר לא השתנה, אז access_key: object_admin1 ו- secret_key: ChangeMeChangeMeChangeMeChangeMeChangeMe.

אבל בואו לא נקדים את עצמנו יותר מדי ונתחיל לפי הסדר.

כשתתחבר בפעם הראשונה, תיאלץ לשנות את הסיסמה שלך למתאימה, שהיא נכונה לחלוטין. לוח המחוונים הראשי ברור מאוד, אז בואו נעשה משהו מעניין יותר מאשר להסביר את המדדים הברורים. לדוגמה, בואו ניצור משתמש בו נשתמש כדי לגשת לאחסון. בעולם נותני השירות קוראים לאלה שוכרים. זה נעשה בניהול > משתמשים > משתמש אובייקט חדש

בעת יצירת משתמש, אנו מתבקשים לציין מרחב שמות. מבחינה טכנית, שום דבר לא מונע מאיתנו ליצור כמה מהם כמו שיש משתמשים. ולהיפך. זה מאפשר לך לנהל משאבים באופן עצמאי עבור כל דייר.

בהתאם לכך, אנו בוחרים את הפונקציות שאנו צריכים ומייצרים מפתחות משתמש. S3/Atmos יספיק לי. ואל תשכחו לשמור את המפתח 😉

המשתמש נוצר, עכשיו הגיע הזמן להקצות לו דלי. עבור אל ניהול > דלי ומלא את השדות הנדרשים. הכל פשוט כאן.

עכשיו יש לנו הכל מוכן לשימוש קרבי למדי באחסון S3 שלנו.

הגדרת Veeam

אז, כזכור, אחד השימושים העיקריים של אחסון אובייקטים הוא אחסון לטווח ארוך של מידע שאליו נגישות לעיתים רחוקות. דוגמה אידיאלית היא הצורך לאחסן גיבויים באתר מרוחק. ב-Veeam Backup & Replication תכונה זו נקראת Capacity Tier.

בואו נתחיל בהגדרה על ידי הוספת Dell ECS CE שלנו לממשק Veeam. בכרטיסייה גיבוי תשתית, הפעל את אשף הוסף מאגר חדש ובחר אחסון אובייקטים.

בואו לבחור בשביל מה הכל התחיל - תואם S3.

בחלון שמופיע, כתוב את השם הרצוי ועבור לשלב החשבון. כאן עליך לציין את נקודת השירות בטופס https://your_IP:9021, ניתן להשאיר את האזור כפי שהוא וניתן להוסיף את המשתמש שנוצר. יש צורך בשרת שער אם האחסון שלכם ממוקם באתר מרוחק, אבל זה כבר נושא לאופטימיזציה של תשתיות ומאמר נפרד, כך שתוכלו לדלג עליו בבטחה כאן.

אם הכל מצוין ומוגדר נכון, תופיע אזהרה לגבי התעודה ולאחר מכן חלון עם דלי בו ניתן ליצור תיקיה לקבצים שלנו.

אנחנו עוברים על האשף עד הסוף ונהנים מהתוצאה.

השלב הבא הוא יצירת מאגר גיבויים מסוג Scale-out חדש, או להוסיף את ה-S3 שלנו לקיים - הוא ישמש כשכבת קיבולת לאחסון ארכיון. אין פונקציה להשתמש באחסון תואם S3 ישירות, כמו מאגר רגיל, במהדורה הנוכחית. צריך לפתור יותר מדי בעיות די לא ברורות כדי שזה יקרה, אבל הכל אפשרי.
עבור להגדרות המאגר והפעל את שכבת קיבולת. הכל שקוף שם, אבל יש ניואנס מעניין: אם אתה רוצה שכל הנתונים יישלחו לאחסון אובייקטים בהקדם האפשרי, פשוט הגדר אותו ל-0 ימים.

לאחר שעברת את האשף, אם אינך רוצה לחכות, תוכל ללחוץ על ctrl+RMB במאגר, להפעיל בכוח את עבודת ה-Tiering ולראות את הגרפים זוחלים.

זה הכל לעת עתה. אני חושב שהצלחתי במשימה להראות שאחסון בלוקים אינו מפחיד כמו שאנשים חושבים. כן, יש פתרונות ואפשרויות לעגלה ולעגלה קטנה, אבל אי אפשר לכסות הכל במאמר אחד. אז בואו נשתף את החוויה שלנו בתגובות.

מקור: www.habr.com