Turing Pi — carte de cluster pour applications et services auto-hébergés

Turing Pi est une solution pour les applications auto-hébergées basée sur le principe des racks dans un centre de données, mais sur une carte mère compacte. Cette solution est axée sur la création d'une infrastructure locale pour le développement local et l'hébergement d'applications et de services. En gros, c'est comme AWS EC2 mais pour l'edge.

Nous sommes une petite équipe de développeurs qui a décidé de créer une solution pour construire des clusters bare-metal à l'edge et nous avons nommé le projet Turing Pi. Le produit a commencé de manière artisanale, mais maintenant, pour tester nos concepts, il a été commandé par des départements de développement chez Red Hat, Rancher (SUSE), Toyota Connected, Sony, Electrolux, Facebook, et nous avons près de 10 000 développeurs intéressés.

Mais tout a commencé par une découverte.

Découverte du produit

Un jour, j'ai fait l'idée que nous ne créons rien. Toutes les choses qui existent dans ce monde, nous les découvrons. Nous découvrons que certaines parties peuvent être combinées, créant ainsi de nouvelles propriétés pour les produits, ou découvrons des lois et les combinons à nouveau. On ne peut rien inventer, mais on peut découvrir en enquêtant. À mon avis, une invention est le résultat d'observations constantes, d'expérimentations et de la recherche + combinaison de connaissances.

Au cours de la dernière décennie, j'ai observé comment le mouvement des amateurs de homelab (ressource subreddit), mineurs auto-hébergés (ressources subreddit et awesome-selfhosted), et les ordinateurs monocarte ont pris de l'ampleur, avec un intérêt croissant pour le lancement de conteneurs sur des ordinateurs monocarte comme le Raspberry Pi, et le mouvement des clusters d'ordinateurs monocarte. Petit à petit, l'idée de Kubernetes s'y intègre aussi. Une version légère de Kubernetes, k3s, orientée vers l'Edge/IOT, est déjà apparue. Une grande chaîne de restauration rapide, Chick-fil-A, est l'une des premières au monde à avoir installé des clusters Kubernetes dans ses cuisines. kubectl make me a sandwich.

Je le vois comme une boule de neige, une technologie se superposant à une autre, créant un système plus complexe. Il n'y a pas de chaos, mais plutôt un fraktal technologique. À un moment de ma vie où les choses étaient assez compliquées, j'ai vu la valeur des clusters assemblés par des développeurs amateurs et j'ai commencé à travailler sur la création d'une carte de cluster.

Aujourd'hui, notre carte de cluster est très simple et est principalement destinée à ceux qui aiment les technologies cloud native, à apprendre de nouvelles choses et à expérimenter.

Blocs de construction (Building Blocks)

Alors, que représente cette solution, quelle est son essence. L'essence est de fournir un constructeur, des blocs de construction (Building Blocks) à partir desquels il est possible de constituer une infrastructure edge moins coûteuse que sur des serveurs classiques, mobile sans de volumineux boîtiers métalliques, peu exigeante en conditions d'exploitation spéciales comme celles des serveurs, écoénergétique, standardisée en termes de modules et avec la possibilité d'une montée en charge rapide sur des dizaines et des centaines d'unités de calcul (processeurs).

Carte de cluster (Clusterboard)

La carte Mini ITX relie plusieurs modules de calcul via un réseau intégré, offrant des interfaces périphériques et un contrôle sur les modules

Module de calcul (Compute Module)

Carte au format SO-DIMM contenant un processeur et de la mémoire vive, avec éventuellement de la mémoire flash pour le stockage du système d'exploitation

Une des configurations prévues pour la version Turing V2

En combinant la carte de cluster et les modules de calcul, il est facile de créer une infrastructure par exemple avec 20+ processeurs (exemples ci-dessous), silencieuse et à faible consommation d'énergie. La carte de cluster augmente l'efficacité de l'espace utilisé. Exemples de clusters pour comparaison

Basé sur SBC*

24 CPU’s
Auteur Afkham Azeez

Basé sur Turing Pi

21 CPU’s
Auteur th3st0rmtr00p3r

* SBC — Single Board Computer

Le co-fondateur de Rancher Labs et auteur de k3s n'a pas été indifférent à cette approche

Passons maintenant aux blocs de construction.

Module de Calcul (Compute Module)

Pour vérifier le concept, nous avons choisi le Raspberry Pi Compute Module qui est la configuration idéale pour commencer. La communauté RPi est active, il n'y a pas de problèmes de logiciels, le module lui-même est au format SO-DIMM (6 x 3 cm), à un prix abordable, et possède à bord un processeur 4 cœurs, 1 Go de RAM et éventuellement une mémoire flash de 8, 16 ou 32 Go pour le système d'exploitation et d'autres besoins système. Un tel format est souvent utilisé dans les solutions IoT industrielles.

Raspberry Pi 1/3/3+ Compute Module

Mais le modèle CM3 a de sérieuses limitations — 1 Go de RAM max et l'Ethernet via un HUB USB avec une vitesse maximale de 100 Mbps. C'est pourquoi la deuxième version de Turing va supporter le Raspberry Pi 4 et jusqu'à 8 Go de mémoire vive par module. Voici un exemple de modules Nvidia Jetson pour les tâches de calcul accéléré. Il est possible qu'ils soient pris en charge dans la deuxième version, si nous résolvons certains défis techniques, alors nous pourrons mélanger les modules.

Modules de calcul Nvidia Jetson

Les modules cachent la possibilité la plus importante, qui n'est pas évidente au premier abord. La possibilité de créer d'autres modules dans un format similaire avec différentes configurations de CPU, RAM et eMMC, pour différents types de tâches, allant du calcul général aux calculs intensifs en apprentissage automatique. C'est très semblable aux instances AWS EC2, mais uniquement pour l'edge. De plus, la carte de cluster reste inchangée ou avec des modifications mineures.

Carte de cluster (Clusterboard)

On peut aussi l'appeler carte mère ou carte de base, un domaine encore relativement nouveau et le nombre de fabricants de telles solutions est actuellement limité et au stade initial, parmi lesquels Pine64, MiniNodes, Clover Pi, Bitscope Blade, PicoCluster (clusters SBC). La carte de cluster relie les modules via un réseau, fournit l'alimentation et dégage un bus de gestion de cluster (Cluster Management Bus), en tout cas, nous avons décidé d’ajouter ce bus et il semble qu'il ait été adopté.

Front

Back

Bande passante du Backplane 12 Gbps
Slots SD pour modules sans eMMC, par exemple, il est possible de maintenir quelques modules avec SD pour un accès rapide aux données du nœud

Au cœur de la carte de cluster se trouve une puce switch pour garantir la connexion réseau des modules et l'accès à l'extérieur. Dans la version actuelle, nous utilisons un switch non géré car nous n'avons pas eu le temps de réaliser un R&D complet, mais pour la deuxième version, nous avons choisi un bon switch géré. Une configuration en mode 'nœud maître comme routeur' est possible pour partager le réseau avec la carte, ce qui est nécessaire si un niveau plus élevé de sécurité et d'isolation des travailleurs par rapport à l'accès extérieur est requis ; dans ce cas, il faut également garder un serveur DHCP sur le nœud maître.

Application

La version actuelle est expérimentale et nous la positionnons comme une solution d'entrée de gamme pour découvrir ce que sont les clusters, travailler avec le logiciel ou tester des hypothèses dans les organisations, chercher de nouvelles idées ; en gros, c'est une version Lite.

Pour commencer, nous recommandons la série de l'incroyable Jeff Geerling, qui a entendu parler de nous sur Y Combinator ; il est l'auteur du best-seller Ansible for DevOps. Il a été tellement inspiré qu'il a réalisé une série de 6 épisodes, allant de l'idée de la clustering en général à des exemples pratiques de travail avec la carte, de l'apprentissage de Kubernetes et des logiciels pouvant être installés.

Série sur l'installation de k3s sur le cluster

Je recommande en fait de regarder à partir du premier épisode, où il parle en général de la clustering et de Kubernetes dans un langage accessible. Et il y a aussi quelques images de la communauté.

Et après ?

Tout d'abord, j'espère sincèrement que cela a été intéressant. C'est un contenu entièrement original, une tentative de regarder au-delà de l'horizon. Deuxièmement, je prévois d'écrire une seconde partie sur la conception de Turing V2. Comment s'est déroulée la recherche du produit, les raisonnements logiques, la recherche des principales caractéristiques qui sont importantes. L'article contiendra des croquis du produit du plus ancien au plus final. Le deuxième article sera particulièrement intéressant pour les chefs de produits, ceux qui sont responsables des produits et de leur développement dans les entreprises.

Et il y a de fortes chances que ce soit un véritable long article.

Source : habr.com