백룸의 객체 스토리지 또는 나만의 서비스 제공자가 되는 방법

1996년에 세계는 객체 스토리지의 첫 번째 프로토타입을 보았습니다. 10년 안에 Amazon Web Services는 Amazon S3를 출시할 것이며 세상은 체계적으로 평면 주소 공간에 열광하기 시작할 것입니다. 메타데이터 작업과 로드 시 성능 저하 없이 확장할 수 있는 기능 덕분에 개체 스토리지는 그뿐만 아니라 대부분의 클라우드 데이터 스토리지 서비스의 표준이 되었습니다. 또 다른 중요한 기능은 아카이브 및 거의 사용되지 않는 유사한 파일을 저장하는 데 매우 적합하다는 것입니다. 데이터 저장에 관련된 모든 사람들은 기뻐하며 새로운 기술을 품에 안았습니다.

하지만 사람들의 소문에는 객체 스토리지는 단지 빅 클라우드에 관한 것이라는 소문이 가득했고, 빌어먹을 자본가들의 솔루션이 필요하지 않다면 스스로 솔루션을 만드는 것이 매우 어려울 것입니다. 자체 클라우드 배포에 관해 이미 많은 내용이 작성되었지만 소위 S3 호환 솔루션 생성에 대한 정보는 충분하지 않습니다.

따라서 오늘은 "CEPH 및 더 큰 파일이 아닌 성인과 같도록" 옵션이 무엇인지 파악하고 그 중 하나를 배포한 다음 Veeam Backup & Replication을 사용하여 모든 것이 작동하는지 확인하겠습니다. 이는 S3 호환 스토리지 작업을 지원한다고 주장하며 우리는 이 주장을 테스트할 것입니다.

다른 사람들은 어떻습니까?

시장 및 개체 스토리지 옵션에 대한 간략한 개요부터 시작하는 것이 좋습니다. 일반적으로 인정받는 리더이자 표준은 Amazon S3입니다. 가장 가까운 두 추적자는 Microsoft Azure Blob Storage와 IBM Cloud Object Storage입니다.

그게 다야? 정말 다른 경쟁자는 없나요? 물론 경쟁업체도 있지만 일부는 S3 API에 대한 불완전한 지원으로 Google Cloud 또는 Oracle Cloud Object Storage와 같이 각자의 길을 가고 있습니다. 일부는 Baidu Cloud와 같은 이전 버전의 API를 사용합니다. 그리고 Hitachi Cloud와 같은 일부에는 특별한 논리가 필요하므로 확실히 그 자체로 어려움을 겪게 됩니다. 어쨌든 모두가 업계 표준이라 할 수 있는 아마존과 비교된다.

하지만 온프레미스 솔루션에는 선택의 폭이 훨씬 더 넓으므로 우리에게 중요한 기준을 개략적으로 설명하겠습니다. 원칙적으로는 S3 API 지원과 v4 서명 사용이라는 두 가지만 있으면 충분합니다. 우리는 미래의 클라이언트로서 상호 작용을 위한 인터페이스에만 관심이 있고, 저장 시설 자체의 내부 주방에는 그다지 관심이 없습니다.

많은 솔루션이 이러한 간단한 조건에 적합합니다. 예를 들어, 고전적인 기업 거물급 기업은 다음과 같습니다.

• 델EMC ECS
• NetApp S3 스토리지 그리드
• 뉴타닉스 버킷
• 퓨어스토리지 플래시블레이드(FlashBlade)와 스토어리듀스(StorReduce)
• 화웨이 퓨전스토리지

즉시 사용할 수 있는 순수 소프트웨어 솔루션의 틈새 시장이 있습니다.

• 레드햇 세프
• SUSE 엔터프라이즈 스토리지
• 구름

그리고 조립 후 조심스럽게 정리하고 싶은 사람들조차도 기분이 상하지 않았습니다.

• 가장 순수한 형태의 CEPH
• 미니오 (리눅스 버전, 윈도우 버전에 대한 문의가 많아서)

목록은 완전하지 않으며 의견에서 논의할 수 있습니다. 구현하기 전에 API 호환성 외에도 시스템 성능을 확인하는 것을 잊지 마십시오. 쿼리 중단으로 인해 테라바이트 규모의 데이터가 손실되는 것을 원하지 않습니다. 따라서 부하 테스트를 부끄러워하지 마십시오. 일반적으로 많은 양의 데이터를 사용하는 모든 성인용 소프트웨어에는 최소한 호환성 보고서가 있습니다. 다음의 경우 빅 이 전체 프로그램 이를 통해 당사 제품과 특정 장비의 완전한 호환성을 자신있게 선언할 수 있습니다. 이는 이미 양방향 작업으로 항상 빠르지는 않지만 지속적으로 확장하고 있습니다. 명부 테스트된 솔루션.

스탠드 조립하기

시험과목 선택에 대해 조금 이야기하고 싶습니다.

첫째, 즉시 사용할 수 있는 옵션을 찾고 싶었습니다. 글쎄, 또는 적어도 불필요한 움직임을 할 필요 없이 작동할 가능성이 최대입니다. 밤에 탬버린과 함께 춤을 추고 콘솔을 만지작거리는 것은 매우 흥미롭지만 때로는 즉시 작동되기를 원할 때도 있습니다. 그리고 그러한 솔루션의 전반적인 신뢰성은 일반적으로 더 높습니다. 그리고 예, 모험주의 정신이 우리 안에서 사라졌고 사랑하는 여성의 창문으로 올라가는 것을 중단했습니다. (c).

둘째, 솔직히 말해서 개체 스토리지 작업의 필요성은 상당히 큰 회사에서 발생하므로 엔터프라이즈 수준의 솔루션을 찾는 것이 부끄러울 뿐만 아니라 권장되는 경우도 있습니다. 어쨌든, 나는 그러한 솔루션을 구매했다는 이유로 해고된 사람의 예를 아직 알지 못합니다.

위의 모든 사항을 바탕으로 내 선택은 다음과 같습니다. Dell EMC ECS 커뮤니티 에디션. 이것은 매우 흥미로운 프로젝트이므로 이에 대해 알려드릴 필요가 있다고 생각합니다.

부가 기능을 볼 때 가장 먼저 떠오르는 것은 Community Edition - 이는 라이센스를 구매하면 일부 제한 사항이 제거된 완전한 ECS의 사본일 뿐입니다. 그래서 아니야!

기억하십시오 :

!!!Community Edition은 테스트용으로 작성된 별도의 프로젝트이며 Dell의 기술 지원이 없습니다!!
그리고 정말로 원하더라도 완전한 ECS로 전환할 수는 없습니다.

이해하자

많은 사람들은 오브젝트 스토리지가 필요한 경우 Dell EMC ECS가 거의 최고의 솔루션이라고 믿습니다. 상업 및 기업을 포함하여 ECS 브랜드의 모든 프로젝트는 다음을 기반으로 합니다. 기타베. Dell의 일종의 선의의 몸짓입니다. 브랜드 하드웨어에서 실행되는 소프트웨어 외에도 클라우드, 가상 머신, 컨테이너 또는 자체 하드웨어에 배포할 수 있는 오픈 소스 버전이 있습니다. 앞으로 우리가 사용할 OVA 버전도 있습니다.
DELL ECS Community Edition 자체는 Dell EMC ECS 브랜드 서버에서 실행되는 완전한 소프트웨어의 미니 버전입니다.

나는 네 가지 주요 차이점을 확인했습니다.

• 암호화를 지원하지 않습니다. 부끄러운 일이지만 중요한 것은 아닙니다.
• 패브릭 레이어가 없습니다. 이는 클러스터 구축, 리소스 관리, 업데이트, 모니터링 및 Docker 이미지 저장을 담당합니다. 이것은 이미 매우 공격적인 부분이지만 Dell도 이해할 수 있습니다.
• 이전 사항의 가장 역겨운 결과는 설치가 완료된 후에 노드 크기를 확장할 수 없다는 것입니다.
• 기술 지원이 없습니다. 이것은 테스트용 제품으로 소규모 설치에 사용하는 것이 금지되지 않지만 개인적으로 거기에 페타바이트급의 중요한 데이터를 감히 업로드하지 않을 것입니다. 하지만 기술적으로는 아무도 당신이 이 일을 하는 것을 막을 수 없습니다.

큰 버전에는 무엇이 있나요?

생태계를 더욱 완벽하게 이해하기 위해 유럽 전역을 질주하며 철통 같은 솔루션을 살펴보겠습니다.

DELL ECS가 최고의 온프레미스 개체 스토리지라는 주장을 어떻게든 확인하거나 반박하지는 않겠습니다. 하지만 이 주제에 관해 하실 말씀이 있으시면 댓글을 통해 기꺼이 읽어 드리겠습니다. 적어도 버전에 따르면 IDC 마켓스케이프 2018 Dell EMC는 자신있게 OBS 시장 선두 XNUMX위 안에 들었습니다. 클라우드 기반 솔루션은 고려되지 않지만 이는 별도의 대화입니다.

기술적 관점에서 ECS는 클라우드 스토리지 프로토콜을 사용하여 데이터에 대한 액세스를 제공하는 객체 스토리지입니다. AWS S3 및 OpenStack Swift를 지원합니다. 파일 지원 버킷의 경우 ECS는 파일별 내보내기를 위해 NFSv3를 지원합니다.

정보를 기록하는 과정은 매우 이례적이며, 특히 기존 블록 스토리지 시스템 이후에는 더욱 그렇습니다.

• 새 데이터가 도착하면 이름, 데이터 자체 및 메타데이터가 포함된 새 개체가 생성됩니다.
• 개체는 128MB 청크로 나누어지고, 각 청크는 한 번에 세 개의 노드에 기록됩니다.
• 식별자와 저장 위치가 기록되는 인덱스 파일이 업데이트됩니다.
• 로그 파일(로그 항목)이 업데이트되고 세 개의 노드에도 기록됩니다.
• 녹음 성공에 대한 메시지가 클라이언트로 전송됩니다.
  세 개의 데이터 복사본이 모두 병렬로 기록됩니다. 세 개의 복사본이 모두 성공적으로 작성된 경우에만 쓰기가 성공한 것으로 간주됩니다.

읽기가 더 쉽습니다.

• 클라이언트가 데이터를 요청합니다.
• 인덱스는 데이터가 저장된 위치를 찾습니다.
• 한 노드에서 데이터를 읽어 클라이언트로 전송합니다.

서버 자체가 꽤 많기 때문에 가장 작은 Dell EMC ECS EX300을 살펴 보겠습니다. 60TB부터 시작하며 최대 1,5PB까지 확장할 수 있습니다. 그리고 그 형인 Dell EMC ECS EX3000을 사용하면 랙당 최대 8,6PB를 저장할 수 있습니다.

배포

기술적으로 Dell ECS CE는 원하는 만큼 대규모로 배포할 수 있습니다. 어쨌든 명시적인 제한 사항은 찾지 못했습니다. 그러나 첫 번째 노드를 복제하여 모든 확장을 수행하는 것이 편리합니다. 이를 위해서는 다음이 필요합니다.

• vCPU 8 개
• RAM 64GB
• OS용 16GB
• 1TB 직접 스토리지
• CentOS 최소의 최신 릴리스

처음부터 모든 것을 직접 설치하고 싶을 때 선택하는 옵션입니다. 이 옵션은 우리와 관련이 없습니다. 왜냐하면... 배포에는 OVA 이미지를 사용하겠습니다.

그러나 어쨌든 요구 사항은 하나의 노드에 대해서도 매우 사악하며 법률 조항을 엄격히 따르면 그러한 노드가 XNUMX개 필요합니다.

그러나 ECS CE 개발자는 현실 세계에 살고 있으며 노드 하나만으로도 설치에 성공하며 최소 요구 사항은 다음과 같습니다.

• vCPU 4 개
• 16 GB RAM
• OS용 16GB
• 104GB 스토리지 자체

이는 OVA 이미지를 배포하는 데 필요한 리소스입니다. 이미 훨씬 더 인간적이고 현실적입니다.

설치 노드 자체는 공식 사이트에서 얻을 수 있습니다. github. 올인원 배포에 대한 자세한 문서도 있지만 공식 문서에서도 읽을 수 있습니다. 문서 읽기. 따라서 우리는 OVA의 전개에 대해 자세히 설명하지 않을 것이며 거기에는 트릭이 없습니다. 가장 중요한 것은 시작하기 전에 디스크를 필요한 볼륨으로 확장하거나 필요한 볼륨을 연결하는 것을 잊지 않는다는 것입니다.
머신을 시작하고 콘솔을 열고 최상의 기본 자격 증명을 사용합니다.

• 로그인: 관리자
• 비밀번호: ChangeMe

그런 다음 sudo nmtui를 실행하고 네트워크 인터페이스(IP/마스크, DNS 및 게이트)를 구성합니다. CentOS mini에는 net-tools가 없다는 점을 염두에 두고 ip addr을 통해 설정을 확인합니다.

그리고 용감한 자만이 바다를 정복할 수 있기 때문에 yum 업데이트를 한 후 재부팅합니다. 사실 꽤 안전하기 때문에... 모든 배포는 플레이북을 통해 이루어지며 모든 중요한 Docker 패키지는 현재 버전으로 잠겨 있습니다.

이제 설치 스크립트를 편집할 차례입니다. 멋진 창이나 유사 UI가 없습니다. 모든 작업은 즐겨 사용하는 텍스트 편집기를 통해 수행됩니다. 기술적으로 두 가지 방법이 있습니다. 각 명령을 수동으로 실행하거나 videoploy 구성기를 즉시 시작할 수 있습니다. vim에서 구성을 열면 종료 시 확인이 시작됩니다. 하지만 의도적으로 삶을 단순화하는 것은 흥미롭지 않으므로 두 가지 명령을 더 실행해 보겠습니다. 말이 안되지만 경고했습니다 =)

따라서 vim ECS-CommunityEdition/deploy.xml을 만들고 ECS가 실행되도록 최적의 최소한의 변경을 해보자. 매개변수 목록을 단축할 수 있지만 저는 다음과 같이 했습니다.

• Licensed_accepted: true 변경할 필요가 없습니다. 배포할 때 명시적으로 수락하라는 메시지가 표시되고 멋진 문구가 표시됩니다. 아마도 이것은 심지어 부활절 달걀일 수도 있습니다.
  
• autonames: 및 custom: 행의 주석 처리를 제거하십시오. 노드에 대해 원하는 이름을 하나 이상 입력하십시오. 설치 프로세스 중에 호스트 이름이 해당 이름으로 대체됩니다.
• install_node: 192.168.1.1 노드의 실제 IP를 지정합니다. 우리의 경우 nmtui와 동일하게 표시합니다.
• dns_domain: 도메인을 입력하세요.
• dns_servers: DNS를 입력하세요.
• ntp_servers: 아무거나 지정할 수 있습니다. 저는 풀에서 처음으로 접한 0.pool.ntp.org(91.216.168.42가 되었습니다)를 선택했습니다.
• autonaming: custom 주석을 해제하지 않으면 달의 이름이 Luna로 지정됩니다.
• ecs_block_devices:
  / dev / sdb
  알 수 없는 이유로 존재하지 않는 블록 저장 장치 /dev/vda가 있을 수 있습니다.
• 스토리지 풀:
  회원 :
  192.168.1.1 여기서 다시 노드의 실제 IP를 나타냅니다.
• ecs_block_devices:
  /dev/sdb 존재하지 않는 장치를 잘라내는 작업을 반복합니다.

일반적으로 전체 파일은 다음에 자세히 설명되어 있습니다. 선적 서류 비치, 하지만 이렇게 어려운 시기에 누가 그것을 읽을 것인가. 또한 최소한의 것은 IP와 마스크를 지정하는 것으로 충분하다고 나와 있지만 내 연구실에서는 그러한 세트가 다소 제대로 시작되지 않았기 때문에 위에 지정된 세트로 확장해야 했습니다.

편집기를 종료한 후 update_deploy /home/admin/ECS-CommunityEdition/deploy.yml을 실행해야 하며, 모든 작업이 올바르게 수행되면 명시적으로 보고됩니다.

그런 다음 videoploy를 시작하고 환경이 업데이트될 때까지 기다려야 하며 ova-step1 명령을 사용하여 설치 자체를 시작할 수 있고 성공적으로 완료되면 ova-step2 명령을 사용할 수 있습니다. 중요: 스크립트를 손으로 중지하지 마십시오! 일부 단계는 상당한 시간이 걸릴 수 있고, 첫 번째 시도에서 완료되지 않을 수 있으며, 모든 것이 손상된 것처럼 보일 수 있습니다. 어쨌든 스크립트가 자연스럽게 완료될 때까지 기다려야 합니다. 마지막에는 이와 유사한 메시지가 표시됩니다.

이제 우리가 알고 있는 IP를 사용하여 마침내 WebUI 제어판을 열 수 있습니다. 단계에서 구성이 변경되지 않은 경우 기본 계정은 root/ChangeMe입니다. S3 호환 스토리지를 바로 사용할 수도 있습니다. HTTP의 경우 포트 9020, HTTPS의 경우 9021 포트에서 사용할 수 있습니다. 다시 말하지만, 아무것도 변경되지 않은 경우 access_key: object_admin1 및 secret_key: ChangeMeChangeMeChangeMeChangeMeChangeMe입니다.

하지만 너무 앞서 나가지 말고 순서대로 시작합시다.

처음으로 로그인하면 비밀번호를 적절한 비밀번호로 변경해야 하는데 이는 완전히 올바른 비밀번호입니다. 기본 대시보드는 매우 명확하므로 뻔한 측정항목을 설명하는 것보다 더 흥미로운 작업을 해보겠습니다. 예를 들어 저장소에 액세스하는 데 사용할 사용자를 생성해 보겠습니다. 서비스 공급자의 세계에서는 이를 테넌트라고 합니다. 이 작업은 관리 > 사용자 > 새 개체 사용자에서 수행됩니다.

사용자를 생성할 때 네임스페이스를 지정하라는 메시지가 표시됩니다. 기술적으로 우리가 사용자 수만큼 많은 것을 생성하는 것을 방해하는 것은 없습니다. 그 반대. 이를 통해 각 테넌트에 대해 독립적으로 리소스를 관리할 수 있습니다.

따라서 필요한 기능을 선택하고 사용자 키를 생성합니다. S3/Atmos이면 충분할 것 같습니다. 그리고 열쇠를 저장하는 것을 잊지 마세요 😉

사용자가 생성되었으니 이제 사용자에게 버킷을 할당할 차례입니다. 관리 > 버킷으로 이동하여 필수 항목을 입력하세요. 여기에서는 모든 것이 간단합니다.

이제 S3 스토리지를 전투적으로 사용할 수 있는 모든 준비가 완료되었습니다.

Veeam 설정

따라서 우리가 기억하는 것처럼 객체 스토리지의 주요 용도 중 하나는 거의 액세스되지 않는 정보를 장기간 저장하는 것입니다. 이상적인 예는 원격 사이트에 백업을 저장해야 하는 경우입니다. Veeam Backup & Replication에서는 이 기능을 용량 계층이라고 합니다.

Dell ECS CE를 Veeam 인터페이스에 추가하여 설정을 시작해 보겠습니다. 백업 인프라 탭에서 새 리포지토리 추가 마법사를 시작하고 개체 스토리지를 선택합니다.

모든 것이 무엇을 위해 시작되었는지 선택해 봅시다 - S3 호환.

나타나는 창에서 원하는 이름을 입력하고 계정 단계로 이동합니다. 여기서는 양식에 서비스 지점을 지정해야 합니다. https://your_IP:9021, 지역은 그대로 두고 생성된 사용자를 추가할 수 있습니다. 스토리지가 원격 사이트에 있는 경우 게이트 서버가 필요하지만 이는 이미 인프라 최적화에 대한 주제이며 별도의 기사이므로 여기에서는 건너뛰어도 됩니다.

모든 것이 올바르게 지정되고 구성되면 인증서에 대한 경고가 나타난 다음 파일용 폴더를 만들 수 있는 버킷이 있는 창이 나타납니다.

우리는 마법사를 끝까지 진행하고 결과를 즐깁니다.

다음 단계는 새로운 스케일 아웃 백업 리포지토리를 생성하거나 S3를 기존 리포지토리에 추가하는 것입니다. 이는 아카이브 스토리지의 용량 계층으로 사용됩니다. 현재 릴리스에는 S3 호환 스토리지를 일반 리포지토리처럼 직접 사용할 수 있는 기능이 없습니다. 이를 위해서는 해결해야 할 명확하지 않은 문제가 너무 많지만 무엇이든 가능합니다.
리포지토리 설정으로 이동하여 용량 계층을 활성화합니다. 모든 것이 투명하지만 흥미로운 뉘앙스가 있습니다. 모든 데이터를 가능한 한 빨리 객체 스토리지로 전송하려면 0일로 설정하면 됩니다.

마법사를 진행한 후 기다리지 않으려면 저장소에서 Ctrl+RMB를 누르고 계층화 작업을 강제로 시작한 다음 그래프 크롤링을 관찰할 수 있습니다.

지금은 여기까지입니다. 블록스토리지가 사람들이 생각하는 것만큼 무섭지 않다는 걸 보여주는 작업에 성공한 것 같아요. 예, 마차와 소형 카트에 대한 솔루션과 옵션이 있지만 하나의 기사에서 모든 것을 다룰 수는 없습니다. 그럼 댓글로 우리의 경험을 공유해 보겠습니다.

출처 : habr.com