我們如何在華為莫斯科辦事處設計和實施新網絡,第 3 部分:伺服器工廠

我們如何在華為莫斯科辦事處設計和實施新網絡,第 3 部分:伺服器工廠

在前兩部分中(時間, )我們研究了新定制工廠的建設原則,並討論了所有工作的遷移。現在是時候談談伺服器工廠了。

以前,我們沒有任何單獨的伺服器基礎設施:伺服器交換器與使用者分發交換器連接到同一核心。使用虛擬網路(VLAN)進行存取控制,VLAN路由在一個點上進行 - 在核心上(根據原則 脊椎塌陷).

我們如何在華為莫斯科辦事處設計和實施新網絡,第 3 部分:伺服器工廠
舊的網路基礎設施

在建立新的辦公室網路的同時,我們決定為其建造一個新的伺服器機房和一個獨立的新工廠。結果證明它很小(三個伺服器機櫃),但符合所有規範:CE8850 交換器上的獨立核心、全網狀(主幹-葉)拓撲、架頂式 (ToR) CE6870 交換器、一對單獨的交換器用於與網路其餘部分(邊界葉)連接的交換器。簡而言之,完整的肉末。

我們如何在華為莫斯科辦事處設計和實施新網絡,第 3 部分:伺服器工廠
新伺服器工廠網絡

我們決定放棄伺服器 SCS,轉而將伺服器直接連接到 ToR 交換器。為什麼?我們已經有兩個使用伺服器SCS建構的伺服器機房,我們意識到這是:

  • 使用不方便(多次重連,需要仔細更新線纜日誌);
  • 配線架佔用的空間昂貴;
  • 當需要提高伺服器的連線速度時(例如,從銅纜上的 1 Gbit/s 連線切換到光纖上的 10 Gbit/s 連線),這是一個障礙。

當搬到新的伺服器工廠時,我們嘗試放棄以 1 Gbit/s 的速度連接伺服器,並將自己限制為 10 Gbit 介面。幾乎所有無法做到這一點的舊伺服器都被虛擬化了,其餘的伺服器透過千兆位元收發器連接到10個千兆位元連接埠。我們計算了一下,認為這比為它們安裝單獨的千兆交換器更便宜。

我們如何在華為莫斯科辦事處設計和實施新網絡,第 3 部分:伺服器工廠
ToR 交換機

同樣在我們的新伺服器機房中,我們安裝了具有 24 個連接埠的獨立帶外管理 (OOM) 交換機,每個機架一個。這個想法結果很好,但是連接埠不夠,下次我們將安裝48埠的OOM交換器。

我們將用於伺服器遠端管理的介面(例如華為術語中的iLO或iBMC)連接到OOM網路。如果伺服器失去了與網路的主要連接,則可以透過此介面存取它。此外,ToR交換器的控制介面、溫度感測器、UPS控制介面和其他類似設備都連接到OOM交換器。 OOM 網路可透過單獨的防火牆介面存取。

我們如何在華為莫斯科辦事處設計和實施新網絡,第 3 部分:伺服器工廠
OOM 網路連接

將伺服器和用戶網路配對

在客製化工廠中,單獨的 VRF 用於不同的目的 - 用於連接使用者工作站、視訊監控系統、會議室中的多媒體系統、用於組織展位和演示區等。

另一組 VRF 已在伺服器工廠中建立:

  • 連接部署企業服務的常規伺服器。
  • 一個單獨的 VRF,其中部署了可存取 Internet 的伺服器。
  • 用於僅由其他伺服器(例如應用程式伺服器)存取的資料庫伺服器的單獨 VRF。
  • 我們的郵件系統(MS Exchange + Skype for Business)有獨立的 VRF。

所以我們在用戶工廠端有一組VRF,在伺服器工廠端有一組VRF。這兩套都安裝在企業防火牆 (FW) 叢集上。 ME 連接到伺服器結構和使用者結構的邊界交換器(邊界葉)。

我們如何在華為莫斯科辦事處設計和實施新網絡,第 3 部分:伺服器工廠
透過 ME 連接工廠 - 物理

我們如何在華為莫斯科辦事處設計和實施新網絡,第 3 部分:伺服器工廠
透過 ME - 邏輯連接工廠

遷移進展如何?

在遷移過程中,我們透過臨時中繼在資料鏈路層級連接新舊伺服器工廠。為了遷移位於特定VLAN中的伺服器,我們建立了一個單獨的橋接域,其中包括舊伺服器工廠的VLAN和新伺服器工廠的VXLAN。

配置看起來像這樣,最後兩行是關鍵:

bridge-domain 22
 vxlan vni 600022
 evpn 
  route-distinguisher 10.xxx.xxx.xxx:60022
  vpn-target 6xxxx:60022 export-extcommunity
  vpn-target 6xxxx:60022 import-extcommunity

interface Eth-Trunk1
 mode lacp-static
 dfs-group 1 m-lag 1

interface Eth-Trunk1.1022 mode l2
 encapsulation dot1q vid 22
 bridge-domain 22

我們如何在華為莫斯科辦事處設計和實施新網絡,第 3 部分:伺服器工廠
虛擬機器遷移

然後,使用 VMware vMotion,將該 VLAN 中的虛擬機器從舊的虛擬機器管理程式(版本 5.5)遷移到新的虛擬機器管理程式(版本 6.5)。同時,硬體伺服器也實現了虛擬化。

當你再次嘗試時事先配置MTU,檢查大包「端到端」的通過情況。

在舊的伺服器網路中,我們使用VMware vShield虛擬防火牆。由於 VMware 不再支援此工具,因此我們在遷移到新虛擬場的同時從 vShield 切換到硬體防火牆。

當舊網路上的特定 VLAN 中沒有伺服器後,我們切換路由。此前,它是在舊核心上進行的,使用Collapsed Backbone技術構建,而在新伺服器工廠中我們使用Anycast Gateway技術。

我們如何在華為莫斯科辦事處設計和實施新網絡,第 3 部分:伺服器工廠
切換路由

對特定VLAN進行路由切換後,與橋域斷開,並排除在新舊網路之間的中繼之外,即完全遷移到新伺服器工廠。因此,我們遷移了大約 20 個 VLAN。

因此,我們創建了一個新的網路、一個新的伺服器和一個新的虛擬化場。在以下一篇文章中,我們將討論我們對 Wi-Fi 所做的事情。

馬克西姆·克洛奇科夫
網路審計及複雜專案小組資深顧問
網路解決方案中心
“噴射資訊系統”


來源: www.habr.com

添加評論