Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Μην βιάζεστε να βγάλετε συμπεράσματα με βάση τον τίτλο! Έχουμε ισχυρά επιχειρήματα για να το υποστηρίξουμε και τα έχουμε συγκεντρώσει όσο πιο συμπαγή μπορούσαμε. Φέρνουμε στην προσοχή σας μια ανάρτηση σχετικά με την ιδέα και τις αρχές λειτουργίας του νέου μας συστήματος αποθήκευσης δεδομένων, το οποίο κυκλοφόρησε τον Ιανουάριο του 2020.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Κατά τη γνώμη μας, το κύριο ανταγωνιστικό πλεονέκτημα της οικογένειας συστημάτων αποθήκευσης Dorado V6 παρέχεται από την απόδοση και την αξιοπιστία που αναφέρονται στον τίτλο. Ναι, ναι, είναι τόσο απλό, αλλά χάρη σε ποιες πονηρές και όχι τόσο πονηρές λύσεις καταφέραμε να πετύχουμε αυτό το «απλό», θα μιλήσουμε σήμερα.

Για να αποκαλύψουμε καλύτερα τις δυνατότητες των συστημάτων νέας γενιάς, θα μιλήσουμε για τους παλαιότερους εκπροσώπους της γκάμας μοντέλων (μοντέλα 8000, 18000). Εκτός αν αναφέρεται διαφορετικά, αυτοί είναι οι όροι που χρησιμοποιούνται.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Λίγα λόγια για την αγορά

Για να κατανοήσουμε καλύτερα τη θέση των λύσεων της Huawei στην αγορά, ας στραφούμε σε ένα αποδεδειγμένο μέτρο - "μαγικά τεταρτημόρια» Gartner. Πριν από δύο χρόνια, στον τομέα της διάταξης δίσκων γενικής χρήσης, η εταιρεία μας βρισκόταν με σιγουριά μεταξύ των κορυφαίων, δεύτερη μόνο μετά την NetApp και τη Hewlett Packard Enterprise. Η θέση της Huawei στην αγορά αποθήκευσης στερεάς κατάστασης το 2018 χαρακτηρίστηκε από το καθεστώς «αμφισβητίας», αλλά κάτι έλειπε για την επίτευξη ηγετικής θέσης.

Το 2019, η Gartner, στην έρευνά της, συνδύασε και τους δύο προαναφερθέντες τομείς σε έναν - «Αποθήκευση πυρήνα». Ως αποτέλεσμα, η Huawei βρέθηκε ξανά στο τεταρτημόριο των ηγετών, δίπλα σε προμηθευτές όπως η IBM, η Hitachi Vantara και η Infinidat.

Για να συμπληρώσουμε την εικόνα, σημειώνουμε ότι η Gartner συλλέγει το 80% των δεδομένων για ανάλυση στην αμερικανική αγορά και αυτό οδηγεί σε μια αξιοσημείωτη προκατάληψη υπέρ εκείνων των εταιρειών που εκπροσωπούνται καλά στις Ηνωμένες Πολιτείες. Εν τω μεταξύ, οι προμηθευτές που επικεντρώνονται στις ευρωπαϊκές και ασιατικές αγορές βρίσκονται σε σαφώς λιγότερο πλεονεκτική θέση. Και παρόλα αυτά, πέρυσι τα προϊόντα της Huawei κατέλαβαν επάξια θέση στο πάνω δεξί τεταρτημόριο και, σύμφωνα με την ετυμηγορία της Gartner, «μπορούν να προτείνονται για χρήση».

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Τι νέο υπάρχει στο Dorado V6

Η σειρά προϊόντων Dorado V6, συγκεκριμένα, αντιπροσωπεύεται από τα βασικά συστήματα της σειράς 3000. Αρχικά εξοπλισμένα με δύο ελεγκτές, μπορούν να επεκταθούν οριζόντια σε 16 ελεγκτές, 1200 δίσκους και 192 GB κρυφής μνήμης. Το σύστημα θα είναι επίσης εξοπλισμένο με εξωτερικές θύρες Fiber Channel (8/16/32 Gbit/s) και Ethernet (1/10/25/40/100 Gbit/s).

Λάβετε υπόψη ότι η χρήση πρωτοκόλλων που δεν είναι εμπορικά επιτυχημένα τώρα καταργείται σταδιακά, οπότε στην αρχή αποφασίσαμε να εγκαταλείψουμε την υποστήριξη για το Fiber Channel μέσω Ethernet (FCoE) και το Infiniband (IB). Θα προστεθούν σε μεταγενέστερες εκδόσεις υλικολογισμικού. Η υποστήριξη NVMe over Fabric (NVMe-oF) είναι διαθέσιμη από το κουτί μέσω του Fiber Channel. Το επόμενο υλικολογισμικό, που έχει προγραμματιστεί να κυκλοφορήσει τον Ιούνιο, θα υποστηρίζει NVMe μέσω Ethernet. Κατά τη γνώμη μας, το παραπάνω σύνολο θα καλύψει κάτι παραπάνω από τις ανάγκες των περισσότερων πελατών της Huawei.

Η πρόσβαση στο αρχείο δεν είναι διαθέσιμη στην τρέχουσα έκδοση υλικολογισμικού και θα εμφανιστεί σε μία από τις επόμενες ενημερώσεις προς το τέλος του έτους. Η υλοποίηση αναλαμβάνεται σε εγγενές επίπεδο, από τους ίδιους τους ελεγκτές με θύρες Ethernet, χωρίς τη χρήση πρόσθετου εξοπλισμού.

Η κύρια διαφορά μεταξύ της σειράς Dorado V6 3000 και των παλαιότερων μοντέλων είναι ότι υποστηρίζει ένα πρωτόκολλο στο backend - SAS 3.0. Αντίστοιχα, οι μονάδες δίσκου εκεί μπορούν να χρησιμοποιηθούν μόνο με την ονομαζόμενη διεπαφή. Από την άποψή μας, η απόδοση που παρέχει είναι αρκετά επαρκής για μια συσκευή αυτού του τύπου.

Τα συστήματα της σειράς Dorado V6 5000 και 6000 είναι λύσεις μεσαίας κατηγορίας. Είναι επίσης κατασκευασμένα σε παράγοντα 2U και είναι εξοπλισμένα με δύο ελεγκτές. Διαφέρουν μεταξύ τους ως προς την απόδοση, τον αριθμό των επεξεργαστών, τον μέγιστο αριθμό δίσκων και το μέγεθος της κρυφής μνήμης. Ωστόσο, σε αρχιτεκτονικούς και μηχανικούς όρους, τα Dorado V6 5000 και 6000 είναι πανομοιότυπα και μοιάζουν ίδια.

Η κατηγορία hi-end περιλαμβάνει συστήματα Dorado V6 των σειρών 8000 και 18000. Κατασκευασμένα σε τυπικό μέγεθος 4U, έχουν από προεπιλογή ξεχωριστή αρχιτεκτονική στην οποία διαχωρίζονται οι ελεγκτές και οι μονάδες δίσκου. Στην ελάχιστη διαμόρφωση, μπορούν επίσης να εξοπλιστούν με μόνο δύο ελεγκτές, αν και οι πελάτες, κατά κανόνα, ζητούν να εγκαταστήσουν τέσσερις ή περισσότερους.

Το Dorado V6 8000 κλιμακώνεται οριζόντια έως 16 ελεγκτές και το Dorado V6 18000 κλιμακώνεται έως 32. Αυτά τα συστήματα έχουν διαφορετικούς επεξεργαστές με διαφορετικό αριθμό πυρήνων και μεγέθη κρυφής μνήμης. Ταυτόχρονα, διατηρείται η ταυτότητα των λύσεων μηχανικής, όπως στα μοντέλα μεσαίας κατηγορίας.

Τα ράφια 2U με μονάδες δίσκου συνδέονται μέσω RDMA με εύρος ζώνης 100 Gbit/s. Το backend Dorado V6 της παλαιότερης σειράς υποστηρίζει επίσης SAS 3.0, αλλά σε περίπτωση που οι μονάδες SSD με τέτοια διασύνδεση πέφτουν σημαντικά στην τιμή. Τότε θα υπάρχει οικονομική σκοπιμότητα χρήσης τους ακόμη και λαμβάνοντας υπόψη τη χαμηλότερη παραγωγικότητα. Αυτή τη στιγμή, η διαφορά κόστους μεταξύ των SSD με διασυνδέσεις SAS και NVMe είναι τόσο μικρή που δεν είμαστε έτοιμοι να προτείνουμε μια τέτοια λύση.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Μέσα στο χειριστήριο

Τα χειριστήρια Dorado V6 κατασκευάζονται στη δική μας βάση στοιχείων. Χωρίς επεξεργαστές Intel, χωρίς ASIC της Broadcom. Έτσι, κάθε μεμονωμένο στοιχείο της μητρικής πλακέτας, καθώς και η ίδια η μητρική πλακέτα, απομακρύνεται πλήρως από την επιρροή των κινδύνων που συνδέονται με την πίεση των κυρώσεων από τις αμερικανικές εταιρείες. Όσοι έχουν δει οποιονδήποτε από τον εξοπλισμό μας με τα μάτια τους μάλλον έχουν παρατηρήσει ασπίδες με κόκκινη λωρίδα κάτω από το λογότυπο. Σημαίνει ότι το προϊόν δεν περιέχει αμερικανικά συστατικά. Αυτή είναι η επίσημη πορεία της Huawei - η μετάβαση σε εξαρτήματα δικής της παραγωγής ή, σε κάθε περίπτωση, που παράγονται σε χώρες που δεν ακολουθούν την πολιτική των ΗΠΑ.

Δείτε τι μπορείτε να δείτε στον ίδιο τον πίνακα ελέγχου.

  • Καθολική διεπαφή δικτύου (τσιπ Hisilicon 1822), υπεύθυνη για τη σύνδεση με Fiber Channel ή Ethernet.
  • Εξασφαλίζοντας την απομακρυσμένη διαθεσιμότητα του συστήματος, το τσιπ BMC, συγκεκριμένα το Hisilicon 1710, για πλήρη τηλεχειρισμό και παρακολούθηση του συστήματος. Παρόμοια χρησιμοποιούνται επίσης στους διακομιστές μας και σε άλλες λύσεις.
  • Ο κεντρικός επεξεργαστής είναι το τσιπ Kunpeng 920 που κατασκευάζεται από την Huawei και βασίζεται στην αρχιτεκτονική ARM. Αυτός είναι που φαίνεται στο παραπάνω διάγραμμα, αν και άλλοι ελεγκτές μπορεί να έχουν διαφορετικά μοντέλα εγκατεστημένα με διαφορετικό αριθμό πυρήνων, διαφορετική συχνότητα ρολογιού κ.λπ. Ο αριθμός των επεξεργαστών σε έναν ελεγκτή αλλάζει επίσης από μοντέλο σε μοντέλο. Για παράδειγμα, στην παλαιότερη σειρά Dorado V6 υπάρχουν τέσσερα από αυτά σε μία πλακέτα.
  • Ελεγκτής SSD (τσιπ Hisilicon 1812e), που υποστηρίζει τη σύνδεση μονάδων SAS και NVMe. Ας προσθέσουμε ότι η Huawei παράγει ανεξάρτητα SSD, αλλά δεν κατασκευάζει οι ίδιες τις κυψέλες NAND, προτιμώντας να τις αγοράζει από τους τέσσερις μεγαλύτερους κατασκευαστές του κόσμου με τη μορφή άκοπων γκοφρετών πυριτίου. Η Huawei κόβει, δοκιμάζει και συσκευάζει τσιπ ανεξάρτητα, μετά τα οποία τα παράγει με τη δική της επωνυμία.
  • Το τσιπ τεχνητής νοημοσύνης είναι το Ascend 310. Από προεπιλογή, δεν βρίσκεται στον ελεγκτή και τοποθετείται μέσω μιας ξεχωριστής κάρτας, η οποία καταλαμβάνει μία από τις υποδοχές που προορίζονται για προσαρμογείς δικτύου. Το τσιπ χρησιμοποιείται για την παροχή έξυπνης συμπεριφοράς της κρυφής μνήμης, διαχείρισης απόδοσης ή διαδικασιών αφαίρεσης διπλότυπων και συμπίεσης. Όλες αυτές οι εργασίες μπορούν να επιλυθούν από τον κεντρικό επεξεργαστή, αλλά το τσιπ AI σάς επιτρέπει να το κάνετε αυτό πολύ πιο αποτελεσματικά.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Ξεχωριστά για τους επεξεργαστές Kunpeng

Ο επεξεργαστής Kunpeng είναι ένα σύστημα σε ένα τσιπ (SoC), όπου εκτός από την υπολογιστική μονάδα υπάρχουν μονάδες υλικού που επιταχύνουν διάφορες διαδικασίες, όπως τον υπολογισμό αθροίσματος ελέγχου ή την εκτέλεση κωδικοποίησης διαγραφής. Υλοποιεί επίσης υποστήριξη υλικού για SAS, Ethernet, DDR4 (από έξι έως οκτώ κανάλια) κ.λπ. Όλα αυτά επιτρέπουν στην Huawei να δημιουργεί ελεγκτές αποθήκευσης που δεν είναι κατώτερα σε απόδοση από τις κλασικές λύσεις της Intel.

Επιπλέον, οι δικές της λύσεις που βασίζονται στην αρχιτεκτονική ARM δίνουν στην Huawei την ευκαιρία να δημιουργήσει ολοκληρωμένες λύσεις διακομιστή και να τις προσφέρει στους πελάτες της ως εναλλακτική λύση στο x86.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Νέα αρχιτεκτονική Dorado V6…

Η εσωτερική αρχιτεκτονική των συστημάτων αποθήκευσης Dorado V6 της παλαιότερης σειράς αντιπροσωπεύεται από τέσσερις κύριους υποτομείς (factories).

Το πρώτο ύφασμα είναι το κοινό frontend (διεπαφές δικτύου υπεύθυνες για την επικοινωνία με το ύφασμα SAN ή τους κεντρικούς υπολογιστές).

Το δεύτερο είναι ένα σύνολο ελεγκτών, καθένας από τους οποίους μπορεί, μέσω του πρωτοκόλλου RDMA, να «προσεγγίσει» τόσο οποιαδήποτε κάρτα δικτύου front-end όσο και τη γειτονική «μηχανή», που είναι ένα κουτί με τέσσερις ελεγκτές, καθώς και κοινή τροφοδοσία και ψύξη. μονάδες για αυτούς. Τώρα τα hi-end μοντέλα Dorado V6 μπορούν να εξοπλιστούν με δύο τέτοιους «κινητήρες» (αντίστοιχα, οκτώ χειριστήρια).

Το τρίτο ύφασμα είναι υπεύθυνο για το backend και αποτελείται από κάρτες δικτύου RDMA 100G.

Τέλος, το τέταρτο εργοστάσιο «στο υλικό» αντιπροσωπεύεται από συνδεδεμένα έξυπνα ράφια με συσκευές αποθήκευσης.

Αυτή η συμμετρική δομή ξεκλειδώνει το πλήρες δυναμικό της τεχνολογίας NVMe και εγγυάται υψηλή απόδοση και αξιοπιστία. Η διαδικασία I/O παραλληλίζεται στο μέγιστο μεταξύ των επεξεργαστών και των πυρήνων, επιτρέποντας την ταυτόχρονη ανάγνωση και εγγραφή σε πολλαπλά νήματα.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

...και τι μας έδωσε

Η μέγιστη απόδοση των λύσεων Dorado V6 είναι περίπου τρεις φορές υψηλότερη από αυτή των συστημάτων προηγούμενης γενιάς (της ίδιας κατηγορίας) και μπορεί να φτάσει τα 20 εκατομμύρια IOPS.

Αυτό οφείλεται στο γεγονός ότι στην προηγούμενη γενιά συσκευών, η υποστήριξη NVMe επεκτάθηκε μόνο σε συνδεδεμένα ράφια με μονάδες δίσκου. Τώρα είναι παρόν σε όλα τα στάδια, από τον κεντρικό υπολογιστή έως τον SSD. Το δίκτυο υποστήριξης έχει επίσης υποστεί αλλαγές: το SAS/PCIe έχει δώσει τη θέση του στο RoCEv2 με απόδοση 100 Gbps.

Ο ίδιος ο παράγοντας μορφής SSD έχει επίσης αλλάξει. Αν προηγουμένως υπήρχαν 2 μονάδες δίσκου ανά ράφι 25U, τώρα έχει αυξηθεί σε 36 μονάδες φυσικής μορφής μεγέθους παλάμης. Επιπλέον, τα ράφια έχουν γίνει πιο έξυπνα. Κάθε ένα από αυτά διαθέτει πλέον ένα σύστημα ανοχής σε σφάλματα δύο ελεγκτών που βασίζονται σε τσιπ ARM, παρόμοια με αυτά που είναι εγκατεστημένα στους κεντρικούς ελεγκτές.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Προς το παρόν ασχολούνται μόνο με την αναδιοργάνωση δεδομένων, αλλά με την κυκλοφορία νέου υλικολογισμικού, θα προστεθεί κωδικοποίηση συμπίεσης και διαγραφής, γεγονός που θα μειώσει το φορτίο στους κύριους ελεγκτές από 15 σε 5%. Η μετακίνηση ορισμένων εργασιών στο ράφι ελευθερώνει επίσης το εσωτερικό εύρος ζώνης του δικτύου. Και όλα αυτά αυξάνουν σημαντικά τις δυνατότητες επεκτασιμότητας του συστήματος.

Η συμπίεση και η αποδιπλοποίηση στην προηγούμενη γενιά συστημάτων αποθήκευσης πραγματοποιήθηκαν με μπλοκ σταθερού μήκους. Τώρα έχει προστεθεί μια λειτουργία για εργασία με μπλοκ μεταβλητού μήκους, η οποία προς το παρόν πρέπει να ενεργοποιηθεί αναγκαστικά. Οι επόμενες ενημερώσεις υλικολογισμικού ενδέχεται να το αλλάξουν αυτό.

Επίσης εν συντομία για την ανοχή στις αποτυχίες. Το Dorado V3 παρέμενε λειτουργικό εάν ένας από τους δύο ελεγκτές αστοχούσε. Το Dorado V6 θα διασφαλίσει τη διαθεσιμότητα δεδομένων ακόμη και αν επτά στους οκτώ ελεγκτές αποτυγχάνουν διαδοχικά ή τέσσερις από έναν «κινητήρα» αποτυγχάνουν ταυτόχρονα.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Αξιοπιστία από οικονομική άποψη

Πρόσφατα, διεξήχθη έρευνα μεταξύ πελατών της Huawei σχετικά με το είδος του χρόνου διακοπής λειτουργίας μεμονωμένων στοιχείων της υποδομής πληροφορικής η εταιρεία θεωρεί αποδεκτό. Ως επί το πλείστον, οι ερωτηθέντες ήταν ανεκτικοί σε μια υποθετική κατάσταση στην οποία μια εφαρμογή δεν ανταποκρίνεται για αρκετές εκατοντάδες δευτερόλεπτα. Για το λειτουργικό σύστημα ή τον προσαρμογέα διαύλου κεντρικού υπολογιστή, ο κρίσιμος χρόνος διακοπής λειτουργίας ήταν δεκάδες δευτερόλεπτα (ουσιαστικά, χρόνος επανεκκίνησης). Οι πελάτες θέτουν ακόμη μεγαλύτερες απαιτήσεις στο δίκτυο: το εύρος ζώνης του δεν πρέπει να χαθεί για περισσότερο από 10–20 δευτερόλεπτα. Όπως μπορείτε να μαντέψετε, οι ερωτηθέντες θεώρησαν ότι οι αποτυχίες του συστήματος αποθήκευσης είναι οι πιο κρίσιμες. Από την πλευρά των εκπροσώπων των επιχειρήσεων, ο χρόνος διακοπής αποθήκευσης δεν πρέπει να ξεπερνά τα... λίγα δευτερόλεπτα το χρόνο!

Με άλλα λόγια, εάν η αίτηση πελάτη της τράπεζας δεν ανταποκριθεί για 100 δευτερόλεπτα, αυτό πιθανότατα δεν θα προκαλέσει καταστροφικές συνέπειες. Αλλά εάν το σύστημα αποθήκευσης δεν λειτουργεί για το ίδιο χρονικό διάστημα, είναι πιθανή η διακοπή της επιχείρησης και σημαντικές οικονομικές απώλειες.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Το παραπάνω διάγραμμα δείχνει το κόστος μιας ώρας εργασίας για τις δέκα μεγαλύτερες τράπεζες (στοιχεία Forbes για το 2017). Συμφωνώ, εάν η εταιρεία σας είναι κοντά σε μέγεθος με τις κινεζικές τράπεζες, δεν θα είναι τόσο δύσκολο να δικαιολογήσετε την ανάγκη αγοράς συστημάτων αποθήκευσης για πολλά εκατομμύρια δολάρια. Ισχύει επίσης η αντίθετη δήλωση: εάν μια επιχείρηση δεν υποστεί σημαντικές ζημιές λόγω διακοπής λειτουργίας, τότε είναι απίθανο να αγοράσει συστήματα αποθήκευσης υψηλής τεχνολογίας. Σε κάθε περίπτωση, είναι σημαντικό να έχετε μια ιδέα για το μέγεθος της τρύπας που απειλεί να σχηματιστεί στο πορτοφόλι σας, ενώ ο διαχειριστής του συστήματος ασχολείται με το σύστημα αποθήκευσης δεδομένων που αρνήθηκε να λειτουργήσει.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Δευτερόλεπτα για το failover

Στη Λύση Α, στην παραπάνω εικόνα, μπορείτε να αναγνωρίσετε το σύστημα Dorado V3 της προηγούμενης γενιάς. Οι τέσσερις ελεγκτές του λειτουργούν σε ζεύγη και αντίγραφα της κρυφής μνήμης περιέχονται μόνο σε δύο ελεγκτές. Οι ελεγκτές εντός ενός ζεύγους μπορούν να αναδιανείμουν το φορτίο. Ταυτόχρονα, όπως μπορείτε να δείτε, δεν υπάρχουν "εργοστάσια" στο μπροστινό και στο πίσω μέρος, επομένως κάθε ένα από τα ράφια κίνησης συνδέεται με ένα συγκεκριμένο ζεύγος ελεγκτών.

Το διάγραμμα Λύση Β δείχνει μια λύση που κυκλοφορεί αυτή τη στιγμή στην αγορά από άλλον προμηθευτή (το ανακαλύψατε;). Υπάρχουν ήδη εργοστάσια front-end και back-end εδώ και οι μονάδες δίσκου συνδέονται με τέσσερις ελεγκτές ταυτόχρονα. Είναι αλήθεια ότι υπάρχουν αποχρώσεις στη λειτουργία των εσωτερικών αλγορίθμων του συστήματος που δεν είναι άμεσα εμφανείς.

Στα δεξιά βρίσκεται η τρέχουσα αρχιτεκτονική αποθήκευσης Dorado V6 με όλο το σύνολο των εσωτερικών στοιχείων. Ας εξετάσουμε πώς αυτά τα συστήματα επιβιώνουν σε μια τυπική κατάσταση - την αποτυχία ενός ελεγκτή.

Στα κλασικά συστήματα, που περιλαμβάνουν το Dorado V3, η περίοδος που απαιτείται για την ανακατανομή του φορτίου σε περίπτωση βλάβης φτάνει τα τέσσερα δευτερόλεπτα. Κατά τη διάρκεια αυτής της περιόδου, η είσοδος/έξοδος διακόπτεται εντελώς. Στη Λύση Β από τους συναδέλφους μας, παρά την πιο μοντέρνα αρχιτεκτονική, ο χρόνος διακοπής λειτουργίας κατά τη διάρκεια της αστοχίας είναι ακόμη υψηλότερος - έξι δευτερόλεπτα.

Το σύστημα αποθήκευσης Dorado V6 αποκαθιστά τη λειτουργία του σε μόλις ένα δευτερόλεπτο μετά από βλάβη. Αυτό το αποτέλεσμα επιτυγχάνεται χάρη σε ένα ομοιογενές εσωτερικό περιβάλλον RDMA, το οποίο επιτρέπει στον ελεγκτή να έχει πρόσβαση στην «ξένη» μνήμη. Η δεύτερη σημαντική περίσταση είναι η παρουσία ενός εργοστασίου front-end, χάρη στο οποίο η διαδρομή για τον οικοδεσπότη δεν αλλάζει. Η θύρα παραμένει η ίδια και το φορτίο απλώς αποστέλλεται στους ελεγκτές που λειτουργούν με προγράμματα οδήγησης πολλαπλών διέλευσης.

Η αστοχία του δεύτερου ελεγκτή στο Dorado V6 επεξεργάζεται σε ένα δευτερόλεπτο σύμφωνα με το ίδιο σχήμα. Το Dorado V3 διαρκεί περίπου έξι δευτερόλεπτα, ενώ η λύση άλλου προμηθευτή διαρκεί εννέα. Για πολλά DBMS, τέτοια διαστήματα δεν μπορούν πλέον να θεωρηθούν αποδεκτά, καθώς κατά τη διάρκεια αυτής της περιόδου το σύστημα μεταβαίνει σε κατάσταση αναμονής και σταματά να λειτουργεί. Αυτό ισχύει κυρίως για DBMS που αποτελούνται από πολλές ενότητες.

Η λύση Α δεν μπορεί να επιβιώσει από την αποτυχία του τρίτου ελεγκτή. Απλά λόγω του γεγονότος ότι χάνεται η πρόσβαση σε ορισμένους από τους δίσκους με δεδομένα. Με τη σειρά του, η Λύση Β σε μια τέτοια κατάσταση επαναφέρει τη λειτουργικότητα, η οποία απαιτεί, όπως στην προηγούμενη περίπτωση, εννέα δευτερόλεπτα.

Τι έχει το Dorado V6; Ενα δευτερόλεπτο.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Τι μπορείς να κάνεις σε ένα δευτερόλεπτο;

Σχεδόν τίποτα, αλλά δεν το χρειαζόμαστε. Ας επαναλάβουμε για άλλη μια φορά ότι στην κατηγορία Hi-end Dorado V6, το εργοστάσιο του μπροστινού τμήματος είναι αποσυνδεδεμένο από το εργοστάσιο των ελεγκτών. Αυτό σημαίνει ότι δεν υπάρχουν αυστηρά καθορισμένες θύρες που να ανήκουν σε συγκεκριμένο ελεγκτή. Το Failover δεν συνεπάγεται αναζήτηση εναλλακτικών μονοπατιών ή επανεκκίνηση της πολλαπλής διέλευσης. Το σύστημα συνεχίζει να λειτουργεί όπως έκανε.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Αντοχή σε πολλαπλές αστοχίες

Τα παλαιότερα μοντέλα Dorado V6 μπορούν εύκολα να επιβιώσουν από την ταυτόχρονη βλάβη οποιωνδήποτε δύο (!) ελεγκτών από οποιονδήποτε «κινητήρα». Αυτό κατέστη δυνατό λόγω του γεγονότος ότι η λύση τώρα αποθηκεύει τρία αντίγραφα της προσωρινής μνήμης. Επομένως, ακόμη και με διπλή αποτυχία, θα υπάρχει πάντα ένα άθικτο αντίγραφο.

Μια σύγχρονη αποτυχία και των τεσσάρων ελεγκτών σε έναν από τους "κινητήρες" δεν θα προκαλέσει επίσης θανατηφόρες συνέπειες, καθώς και τα τρία αντίγραφα της κρυφής μνήμης διανέμονται μεταξύ των "κινητήρων" ανά πάσα στιγμή. Το ίδιο το σύστημα παρακολουθεί τη συμμόρφωση με αυτήν τη λογική λειτουργίας.

Τέλος, ένα εντελώς απίθανο σενάριο είναι η διαδοχική αποτυχία επτά στους οκτώ ελεγκτές. Επιπλέον, το ελάχιστο αποδεκτό διάστημα μεταξύ μεμονωμένων αστοχιών για τη διατήρηση της λειτουργικότητας είναι 15 λεπτά. Κατά τη διάρκεια αυτής της περιόδου, το σύστημα αποθήκευσης καταφέρνει να ολοκληρώσει τις απαραίτητες λειτουργίες για τη μετεγκατάσταση της κρυφής μνήμης.

Ο τελευταίος ελεγκτής που στέκεται θα τρέξει το χώρο αποθήκευσης δεδομένων και θα διατηρήσει την προσωρινή μνήμη για πέντε ημέρες (η προεπιλεγμένη τιμή, η οποία μπορεί εύκολα να αλλάξει στις ρυθμίσεις). Μετά από αυτό, η προσωρινή μνήμη θα απενεργοποιηθεί, αλλά το σύστημα αποθήκευσης θα συνεχίσει να λειτουργεί.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Μη ενοχλητικές ενημερώσεις

Το νέο Dorado V6 OS σάς επιτρέπει να ενημερώσετε το υλικολογισμικό του συστήματος αποθήκευσης χωρίς να κάνετε επανεκκίνηση των ελεγκτών.

Το λειτουργικό σύστημα, όπως και στην περίπτωση των προηγούμενων λύσεων, βασίζεται στο Linux, αλλά πολλές λειτουργικές διαδικασίες έχουν μετακινηθεί από τον πυρήνα στη λειτουργία χρήστη. Οι περισσότερες συναρτήσεις, όπως αυτές που είναι υπεύθυνες για την αποδιπλασιασμό και τη συμπίεση, είναι πλέον συνηθισμένοι δαίμονες που τρέχουν στο παρασκήνιο. Χάρη σε αυτό, δεν χρειάζεται να αλλάξετε ολόκληρο το λειτουργικό σύστημα για να ενημερώσετε μεμονωμένες μονάδες. Ας πούμε ότι για να προσθέσετε υποστήριξη για ένα νέο πρωτόκολλο, χρειάζεται μόνο να απενεργοποιήσετε την αντίστοιχη λειτουργική μονάδα λογισμικού και να εκκινήσετε τη νέα.

Είναι σαφές ότι το θέμα της ενημέρωσης ολόκληρου του συστήματος παραμένει, γιατί μπορεί να υπάρχουν στοιχεία στον πυρήνα που χρειάζονται ενημέρωση. Όμως, σύμφωνα με τις παρατηρήσεις μας, αυτά είναι λιγότερο από το 6% του συνόλου. Αυτό επιτρέπει στους ελεγκτές να επανεκκινούνται δέκα φορές λιγότερο συχνά από πριν.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Λύσεις ανθεκτικές σε καταστροφές και υψηλής διαθεσιμότητας (HA/DR).

Το Dorado V6 "out of the box" είναι έτοιμο για ενσωμάτωση σε γεωδιανεμημένες λύσεις, cluster σε επίπεδο πόλης (μετρό) και "τριπλά" κέντρα δεδομένων.

Αριστερά στην παραπάνω εικόνα είναι το σύμπλεγμα του μετρό που είναι ήδη γνωστό σε πολλούς. Δύο συστήματα αποθήκευσης λειτουργούν σε ενεργή / ενεργή λειτουργία σε απόσταση έως και 100 km το ένα από το άλλο. Αυτή η υποδομή, με έναν ή περισσότερους διακομιστές απαρτίας, μπορεί να υποστηριχθεί από λύσεις από διάφορες εταιρείες, συμπεριλαμβανομένου του λειτουργικού μας συστήματος FusionSphere cloud. Σε τέτοια έργα, τα χαρακτηριστικά του καναλιού μεταξύ των τοποθεσιών έχουν ιδιαίτερη σημασία· όλες οι άλλες εργασίες στην περίπτωσή μας αναλαμβάνονται από τη συνάρτηση HyperMetro, η οποία είναι και πάλι διαθέσιμη εκτός συσκευασίας. Η ενσωμάτωση μέσω Fiber Channel είναι δυνατή, καθώς και μέσω iSCSI σε δίκτυα IP, εάν προκύψει τέτοια ανάγκη. Δεν υπάρχει πλέον ανάγκη για αποκλειστικά «σκοτεινά» οπτικά, καθώς το σύστημα μπορεί να επικοινωνεί μέσω των υπαρχόντων καναλιών.

Κατά την κατασκευή τέτοιων συστημάτων, η μόνη απαίτηση υλικού για συστήματα αποθήκευσης είναι η κατανομή των θυρών για αναπαραγωγή. Αρκεί να αγοράσετε μια άδεια χρήσης, να εκκινήσετε διακομιστές απαρτίας -φυσικούς ή εικονικούς- και να παρέχετε σύνδεση IP στους ελεγκτές (10 Mbit/s, 50 ms).

Αυτή η αρχιτεκτονική μπορεί εύκολα να μεταφερθεί σε ένα σύστημα με τρία κέντρα δεδομένων (δείτε τη δεξιά πλευρά της εικόνας). Για παράδειγμα, όταν δύο κέντρα δεδομένων λειτουργούν σε λειτουργία συμπλέγματος μετρό και η τρίτη τοποθεσία, που βρίσκεται σε απόσταση μεγαλύτερη των 100 km, χρησιμοποιεί ασύγχρονη αναπαραγωγή.

Το σύστημα υποστηρίζει τεχνολογικά διάφορα επιχειρηματικά σενάρια που θα εφαρμοστούν σε περίπτωση υπέρβασης μεγάλης κλίμακας.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Επιβίωση ενός συμπλέγματος μετρό με πολλαπλές αστοχίες

Πάνω και κάτω φαίνεται επίσης ένα κλασικό σύμπλεγμα μετρό, που αποτελείται από δύο συστήματα αποθήκευσης και έναν διακομιστή απαρτίας. Όπως μπορείτε να δείτε, σε έξι από τα εννέα πιθανά σενάρια πολλαπλών αποτυχιών, η υποδομή μας θα παραμείνει λειτουργική.

Για παράδειγμα, στο δεύτερο σενάριο, εάν ο διακομιστής απαρτίας αποτύχει και ο συγχρονισμός μεταξύ τοποθεσιών, το σύστημα παραμένει παραγωγικό επειδή η δεύτερη τοποθεσία σταματά να λειτουργεί. Αυτή η συμπεριφορά είναι ήδη ενσωματωμένη στους ενσωματωμένους αλγόριθμους.

Ακόμη και μετά από τρεις αποτυχίες, η πρόσβαση στις πληροφορίες μπορεί να διατηρηθεί εάν το διάστημα μεταξύ τους είναι τουλάχιστον 15 δευτερόλεπτα.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Ο συνηθισμένος άσος στο μανίκι

Ας υπενθυμίσουμε ότι η Huawei παράγει όχι μόνο συστήματα αποθήκευσης, αλλά και πλήρη γκάμα εξοπλισμού δικτύου. Όποιο πάροχο αποθήκευσης κι αν επιλέξετε, εάν χρησιμοποιείται δίκτυο WDM μεταξύ των τοποθεσιών, στο 90% των περιπτώσεων θα βασίζεται στις λύσεις της εταιρείας μας. Τίθεται ένα λογικό ερώτημα: γιατί να συναρμολογηθεί ένας ζωολογικός κήπος συστημάτων όταν όλο το υλικό που είναι εγγυημένο ότι είναι συμβατό μεταξύ τους μπορεί να ληφθεί από έναν προμηθευτή;

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Στο θέμα της απόδοσης

Πιθανώς, κανείς δεν χρειάζεται να πειστεί ότι η μετάβαση σε συστήματα αποθήκευσης All-Flash μπορεί να μειώσει σημαντικά το κόστος συντήρησης της υποδομής, καθώς όλες οι συνήθεις λειτουργίες εκτελούνται πολλές φορές πιο γρήγορα. Αυτό αποδεικνύεται από όλους τους προμηθευτές τέτοιου εξοπλισμού. Εν τω μεταξύ, πολλοί προμηθευτές αρχίζουν να απορρίπτονται όταν πρόκειται για μείωση της απόδοσης όταν είναι ενεργοποιημένοι διάφοροι τρόποι λειτουργίας του συστήματος αποθήκευσης.

Στον κλάδο μας, εφαρμόζεται ευρέως η έκδοση συστημάτων αποθήκευσης για δοκιμαστική λειτουργία για μία ή δύο ημέρες. Ο πωλητής εκτελεί μια δοκιμή 20 λεπτών σε ένα άδειο σύστημα, λαμβάνοντας εκπληκτικούς αριθμούς απόδοσης. Αλλά σε πραγματική λειτουργία, οι "υποβρύχιες τσουγκράνες" βγαίνουν γρήγορα. Μέσα σε μια μέρα, οι όμορφες τιμές IOPS μειώνονται κατά το ήμισυ ή τρεις φορές και εάν το σύστημα αποθήκευσης γεμίσει στο 80%, αποδεικνύονται ακόμη λιγότερες. Όταν ενεργοποιείτε το RAID 5 αντί για το RAID 10, χάνεται ένα άλλο 10-15% και στη λειτουργία συμπλέγματος μετρό η απόδοση μειώνεται περαιτέρω στο μισό.

Όλα όσα αναφέρονται παραπάνω δεν αφορούν το Dorado V6. Οι πελάτες μας έχουν την ευκαιρία να πραγματοποιήσουν ένα τεστ απόδοσης το Σαββατοκύριακο ή τουλάχιστον κατά τη διάρκεια της νύχτας. Στη συνέχεια, η συλλογή σκουπιδιών μπαίνει στο παιχνίδι και γίνεται επίσης σαφές πώς η ενεργοποίηση διαφόρων επιλογών - όπως στιγμιότυπα και αναπαραγωγή - επηρεάζει την ποσότητα του IOPS που επιτυγχάνεται.

Στο Dorado V6, τα στιγμιότυπα και το RAID με ισοτιμία δεν έχουν ουσιαστικά καμία επίδραση στην απόδοση (3-5% αντί για 10-15%). Η συλλογή σκουπιδιών (πλήρωση κελιών αποθήκευσης με μηδενικά), η συμπίεση και η αφαίρεση διπλών σε ένα σύστημα αποθήκευσης που είναι γεμάτο κατά 80% θα επηρεάζουν πάντα τη συνολική ταχύτητα επεξεργασίας αιτημάτων. Αλλά είναι το Dorado V6 που είναι ενδιαφέρον στο ότι, ανεξάρτητα από τον συνδυασμό λειτουργιών και μηχανισμών προστασίας που ενεργοποιείτε, η τελική απόδοση αποθήκευσης δεν θα πέσει κάτω από το 80% του αριθμού που επιτυγχάνεται χωρίς φορτίο.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Εξισορρόπηση φορτίου

Η υψηλή απόδοση του Dorado V6 επιτυγχάνεται μέσω της εξισορρόπησης σε κάθε στάδιο, και συγκεκριμένα:

  • multipassing?
  • χρήση πολλαπλών συνδέσεων από έναν κεντρικό υπολογιστή.
  • παρουσία εργοστασίου μπροστινής πλευράς·
  • παραλληλισμός της λειτουργίας των ελεγκτών αποθήκευσης·
  • κατανομή φορτίου σε όλους τους δίσκους σε επίπεδο RAID 2.0+.

Κατ' αρχήν, αυτή είναι κοινή πρακτική. Αυτές τις μέρες, λίγοι άνθρωποι διατηρούν όλα τα δεδομένα τους σε ένα LUN: όλοι προσπαθούν να έχουν οκτώ, σαράντα ή ακόμα περισσότερα. Αυτή είναι μια προφανής και σωστή προσέγγιση που συμμεριζόμαστε. Ωστόσο, εάν η εφαρμογή σας απαιτεί μόνο ένα LUN, το οποίο είναι πιο εύκολο στη συντήρηση, οι αρχιτεκτονικές μας λύσεις της επιτρέπουν να επιτύχει το 80% της απόδοσης που διατίθεται με πολλαπλά LUN.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Δυναμικός Προγραμματισμός Φορτίου CPU

Εφαρμόζουμε την κατανομή φορτίου στους επεξεργαστές όταν χρησιμοποιούμε ένα LUN ως εξής: οι εργασίες σε επίπεδο LUN χωρίζονται σε ξεχωριστά μικρά "θραύσματα", καθένα από τα οποία έχει εκχωρηθεί αυστηρά σε έναν συγκεκριμένο ελεγκτή στον "μηχανή". Αυτό γίνεται έτσι ώστε το σύστημα να μην χάνει την απόδοση ενώ «πηδά» με αυτό το κομμάτι δεδομένων σε διαφορετικούς ελεγκτές.

Ένας άλλος μηχανισμός για τη διατήρηση υψηλής απόδοσης είναι ο δυναμικός προγραμματισμός, στον οποίο ορισμένοι πυρήνες επεξεργαστή μπορούν να εκχωρηθούν σε διαφορετικές ομάδες εργασιών. Για παράδειγμα, εάν το σύστημα είναι επί του παρόντος αδρανές σε επίπεδο αποδιπλασιασμού και συμπίεσης, τότε ορισμένοι από τους πυρήνες ενδέχεται να εμπλέκονται στη διαδικασία εξυπηρέτησης I/O. Ή αντιστρόφως. Όλα αυτά γίνονται αυτόματα και με διαφάνεια στον χρήστη.

Τα δεδομένα σχετικά με το τρέχον φορτίο καθενός από τους πυρήνες Dorado V6 δεν εμφανίζονται στη γραφική διεπαφή, αλλά μέσω της γραμμής εντολών μπορείτε να αποκτήσετε πρόσβαση στο λειτουργικό σύστημα του ελεγκτή και να χρησιμοποιήσετε τη συνηθισμένη εντολή Linux κορυφή.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Υποστήριξη NVMe και RoCE

Όπως ήδη αναφέρθηκε, το Dorado V6 υποστηρίζει επί του παρόντος πλήρως το NVMe μέσω Fiber Channel out of the box και δεν απαιτεί άδειες χρήσης. Στα μέσα του έτους, θα εμφανιστεί η υποστήριξη για NVMe μέσω λειτουργίας Ethernet. Για να το χρησιμοποιήσετε πλήρως, θα χρειαστείτε υποστήριξη για Ethernet με άμεση πρόσβαση μνήμης (DMA) έκδοση v2.0, τόσο από το ίδιο το σύστημα αποθήκευσης όσο και από διακόπτες και προσαρμογείς δικτύου. Για παράδειγμα, όπως το Mellanox ConnectX-4 ή το ConnectX-5. Μπορείτε επίσης να χρησιμοποιήσετε κάρτες δικτύου που κατασκευάζονται με βάση τα μικροκυκλώματά μας. Η υποστήριξη RoCE πρέπει επίσης να υλοποιηθεί σε επίπεδο λειτουργικού συστήματος.

Συνολικά, θεωρούμε ότι το Dorado V6 είναι ένα σύστημα NVMe-κεντρικό. Παρά την υπάρχουσα υποστήριξη για το Fiber Channel και το iSCSI, στο μέλλον σχεδιάζεται η μετάβαση σε Ethernet υψηλής ταχύτητας με RDMA.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Μια πρέζα μάρκετινγκ

Λόγω του γεγονότος ότι το σύστημα Dorado V6 είναι πολύ ανθεκτικό σε αστοχίες, κλιμακώνεται καλά οριζόντια, υποστηρίζει διάφορες τεχνολογίες μετανάστευσης κ.λπ., το οικονομικό αποτέλεσμα της απόκτησής του γίνεται εμφανές μόλις ξεκινήσει η εντατική χρήση συστημάτων αποθήκευσης. Θα συνεχίσουμε να προσπαθούμε να κάνουμε την ιδιοκτησία του συστήματος όσο το δυνατόν πιο κερδοφόρα, ακόμα κι αν αυτό δεν είναι προφανές στο πρώτο στάδιο.

Συγκεκριμένα, δημιουργήσαμε το πρόγραμμα FLASH EVER, που σχετίζεται με την επέκταση του κύκλου ζωής των συστημάτων αποθήκευσης και έχει σχεδιαστεί για να ανακουφίζει όσο το δυνατόν περισσότερο τον πελάτη κατά την πραγματοποίηση αναβαθμίσεων.

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Το πρόγραμμα αυτό περιλαμβάνει μια σειρά από μέτρα:

  • τη δυνατότητα σταδιακής αντικατάστασης ελεγκτών και ραφιών δίσκων με νέες εκδόσεις χωρίς αντικατάσταση ολόκληρου του εξοπλισμού (για συστήματα υψηλής τεχνολογίας Dorado V6).
  • τη δυνατότητα ομοσπονδιακής αποθήκευσης (συνδυάζοντας διαφορετικές εκδόσεις του Dorado ως μέρος ενός υβριδικού συμπλέγματος αποθήκευσης)·
  • έξυπνη εικονικοποίηση (η δυνατότητα χρήσης εξοπλισμού τρίτων ως μέρος της λύσης Dorado).

Γιατί το OceanStor Dorado V6 είναι το ταχύτερο και πιο αξιόπιστο σύστημα αποθήκευσης

Μένει να σημειωθεί ότι η δύσκολη κατάσταση στον κόσμο είχε μικρό αντίκτυπο στις εμπορικές προοπτικές του νέου συστήματος. Παρά το γεγονός ότι η επίσημη κυκλοφορία του Dorado V6 πραγματοποιήθηκε μόλις τον Ιανουάριο, βλέπουμε σημαντική ζήτηση για αυτό στην Κίνα, καθώς και μεγάλο ενδιαφέρον για αυτό από Ρώσους και διεθνείς συνεργάτες από τον χρηματοπιστωτικό τομέα και κρατικούς φορείς.

Μεταξύ άλλων, λόγω της πανδημίας, όσο κι αν διαρκέσει, γίνεται ιδιαίτερα οξύ το θέμα της παροχής εικονικών επιτραπέζιων υπολογιστών σε απομακρυσμένους υπαλλήλους. Σε αυτή τη διαδικασία, το Dorado V6 θα μπορούσε επίσης να λύσει πολλές απορίες. Για να το πετύχουμε αυτό, καταβάλλουμε όλες τις απαραίτητες προσπάθειες, συμπεριλαμβανομένης της ουσιαστικής συμφωνίας να συμπεριλάβουμε το νέο σύστημα στη λίστα συμβατότητας VMware.

***

Παρεμπιπτόντως, μην ξεχνάτε τα πολυάριθμα διαδικτυακά σεμινάρια μας, που πραγματοποιούνται όχι μόνο στο τμήμα της ρωσικής γλώσσας, αλλά και σε παγκόσμιο επίπεδο. Η λίστα των διαδικτυακών σεμιναρίων για τον Απρίλιο είναι διαθέσιμη στη διεύθυνση σύνδεσμος.

Πηγή: www.habr.com

Προσθέστε ένα σχόλιο