Yandex.Cloud에서는 10개의 이벤트를 허용합니다. 000 부

안녕하세요 여러분, 친구들!

* 이 기사는 REBRAIN 및 Yandex.Cloud 공개 워크숍을 기반으로 합니다. 동영상을 보고 싶다면 이 링크에서 찾을 수 있습니다. https://youtu.be/cZLezUm0ekE

최근 Yandex.Cloud를 라이브로 사용해 볼 기회가 있었습니다. 우리는 길고 열심히 조사하고 싶었기 때문에 클라우드 기반으로 간단한 Wordpress 블로그를 시작한다는 아이디어를 즉시 포기했습니다. 너무 지루했습니다. 고민 끝에 우리는 거의 실시간 모드로 이벤트를 수신하고 분석하기 위해 프로덕션 서비스 아키텍처와 유사한 것을 배포하기로 결정했습니다.

나는 (뿐만 아니라) 대다수의 온라인 비즈니스가 어떻게든 사용자와 그들의 행동에 대한 엄청난 양의 정보를 수집한다고 확신합니다. 이는 최소한 특정 결정을 내리는 데 필요합니다. 예를 들어 온라인 게임을 관리하는 경우 사용자가 가장 자주 멈추는 레벨과 장난감을 삭제하는 통계를 볼 수 있습니다. 또는 사용자가 아무것도 구매하지 않고 사이트를 떠나는 이유(안녕하세요, Yandex.Metrica).

그래서 우리의 이야기: golang에서 애플리케이션을 작성하고, kafka와 Rabbitmq와 yqs를 테스트하고, Clickhouse 클러스터에서 데이터 스트리밍을 작성하고, yandex datalens를 사용하여 데이터를 시각화한 방법을 설명합니다. 당연히 이 모든 것은 docker, terraform, gitlab ci 및 prometheus 형태의 인프라 즐거움으로 가득 차 있습니다. 갑시다!

모든 것을 한 번에 구성할 수는 없다는 점을 즉시 예약하고 싶습니다. 이를 위해서는 시리즈의 여러 기사가 필요합니다. 구조에 대해 조금 :

1부(당신은 그것을 읽고 있습니다). 우리는 솔루션의 사양과 아키텍처를 결정하고 golang으로 애플리케이션을 작성할 것입니다.
2 부. 우리는 애플리케이션을 프로덕션 환경에 출시하고 확장 가능하게 만들고 로드를 테스트합니다.
3부. 파일이 아닌 버퍼에 메시지를 저장해야 하는 이유를 알아보고 kafka, Rabbitmq 및 yandex 대기열 서비스도 비교해 보겠습니다.
4부 Clickhouse 클러스터를 배포하고, 버퍼에서 데이터를 전송하기 위한 스트리밍 서비스를 작성하고, datalens에서 시각화를 설정합니다.
5부 전체 인프라를 적절한 형태로 가져오겠습니다. gitlab ci를 사용하여 ci/cd를 설정하고, prometheus 및 consul을 사용하여 모니터링 및 서비스 검색을 연결합니다.

TK

먼저, 우리가 결과적으로 정확히 무엇을 얻고 싶은지 참조 조건을 공식화해 보겠습니다.

1. 우리는 HTTPS를 사용하여 이벤트를 수신해야 하는 events.kis.im(kis.im은 모든 기사에서 사용할 테스트 도메인)과 같은 엔드포인트를 갖고 싶습니다.
2. 이벤트는 {“event”: “view”, “os”: “linux”, “browser”: “chrome”}과 같은 간단한 json입니다. 마지막 단계에서는 필드를 조금 더 추가할 예정이지만 큰 역할을 하지는 않습니다. 원한다면 protobuf로 전환할 수 있습니다.
3. 서비스는 초당 10개의 이벤트를 처리할 수 있어야 합니다.
4. 우리 솔루션에 새로운 인스턴스를 추가하는 것만으로 수평 확장이 가능해야 합니다. 그리고 클라이언트 요청에 대한 대기 시간을 줄이기 위해 앞부분을 다른 지리적 위치로 이동할 수 있다면 좋을 것입니다.
5. 결함 허용. 솔루션은 충분히 안정적이어야 하며 어떤 부품이 떨어져도(물론 특정 개수까지) 견딜 수 있어야 합니다.

구조

일반적으로 이러한 유형의 작업을 위해 효율적인 확장을 허용하는 고전적인 아키텍처가 오랫동안 발명되었습니다. 그림은 우리 솔루션의 예를 보여줍니다.

그래서 우리가 가진 것은:

1. 왼쪽에는 플레이어가 스마트폰으로 장난감 레벨을 완료하거나 일반 브라우저를 통해 온라인 상점에서 주문을 하는 등 다양한 이벤트를 생성하는 장치가 있습니다. 사양에 지정된 대로 이벤트는 엔드포인트인 events.kis.im으로 전송되는 간단한 json입니다.

2. 처음 두 서버는 간단한 밸런서이며 주요 작업은 다음과 같습니다.

• 지속적으로 이용 가능하세요. 이를 위해 문제가 발생할 경우 노드 간에 가상 IP를 전환하는 keepalived 등을 사용할 수 있습니다.
• TLS를 종료합니다. 예, TLS를 종료하겠습니다. 첫째, 당사 솔루션이 기술 사양을 준수하고 둘째, 백엔드 서버에서 암호화된 연결을 설정해야 하는 부담을 완화하기 위해서입니다.
• 사용 가능한 백엔드 서버에 대한 수신 요청의 균형을 유지합니다. 여기서 핵심 단어는 접근 가능합니다. 이를 바탕으로 우리는 로드 밸런서가 애플리케이션을 사용하여 서버를 모니터링하고 실패한 노드에 대한 트래픽 밸런싱을 중지할 수 있어야 한다는 것을 이해하게 되었습니다.

3. 밸런서 다음에는 매우 간단한 애플리케이션을 실행하는 애플리케이션 서버가 있습니다. HTTP를 통해 들어오는 요청을 수락하고, 전송된 json을 검증하고, 데이터를 버퍼에 넣을 수 있어야 합니다.

4. 다이어그램은 kafka를 버퍼로 표시하지만 물론 다른 유사한 서비스도 이 수준에서 사용할 수 있습니다. 세 번째 기사에서는 Kafka, Rabbitmq 및 yqs를 비교해 보겠습니다.

5. 우리 아키텍처의 두 번째 지점은 막대한 양의 데이터를 저장하고 처리할 수 있는 열 형식 데이터베이스인 Clickhouse입니다. 이 수준에서는 버퍼에서 스토리지 시스템 자체로 데이터를 전송해야 합니다(자세한 내용은 기사 4 참조).

이 디자인을 사용하면 각 레이어를 독립적으로 수평으로 확장할 수 있습니다. 백엔드 서버는 이에 대처할 수 없습니다. 한 가지만 더 추가하겠습니다. 결국 백엔드 서버는 상태 비저장 애플리케이션이므로 이 작업은 자동으로 수행될 수도 있습니다. Kafka 스타일 버퍼가 작동하지 않습니다. 서버를 더 추가하고 주제의 일부 파티션을 서버로 전송해 보겠습니다. Clickhouse에서는 처리할 수 없습니다. 불가능합니다 :) 실제로 서버를 연결하고 데이터를 분할할 예정입니다.

그건 그렇고, 기술 사양의 선택적 부분을 구현하고 다양한 지리적 위치로 확장하려는 경우 이보다 더 간단한 것은 없습니다.

각 지리적 위치에 애플리케이션과 Kafka가 포함된 로드 밸런서를 배포합니다. 일반적으로 애플리케이션 서버 2개, kafka 노드 3개 및 클라우드 밸런서(예: cloudflare)이면 충분합니다. 이는 애플리케이션 노드의 가용성을 확인하고 클라이언트의 소스 IP 주소를 기반으로 지리적 위치별로 요청의 균형을 유지합니다. 따라서 미국 클라이언트가 보낸 데이터는 미국 서버에 저장됩니다. 그리고 아프리카의 데이터는 아프리카에 있습니다.

그런 다음 모든 것이 매우 간단합니다. Kafka 세트의 미러 도구를 사용하고 모든 위치의 모든 데이터를 러시아에 있는 중앙 데이터 센터로 복사합니다. 내부적으로 데이터를 구문 분석하고 후속 시각화를 위해 Clickhouse에 기록합니다.

이제 아키텍처를 정리했습니다. Yandex.Cloud를 흔들어 보겠습니다!

애플리케이션 작성

클라우드를 사용하기 전에는 약간의 인내심을 갖고 들어오는 이벤트를 처리하기 위한 상당히 간단한 서비스를 작성해야 합니다. golang은 네트워크 애플리케이션 작성을 위한 언어로서 매우 잘 입증되었기 때문에 사용할 것입니다.

한 시간(어쩌면 몇 시간)을 소비한 후 다음과 같은 결과를 얻습니다. https://github.com/RebrainMe/yandex-cloud-events/blob/master/app/main.go.

여기서 주목하고 싶은 주요 사항은 무엇입니까?

1. 애플리케이션을 시작할 때 두 개의 플래그를 지정할 수 있습니다. 하나는 들어오는 http 요청(-addr)을 수신할 포트를 담당합니다. 두 번째는 이벤트를 기록할 kafka 서버 주소입니다(-kafka).

addr     = flag.String("addr", ":8080", "TCP address to listen to")
kafka    = flag.String("kafka", "127.0.0.1:9092", "Kafka endpoints”)

2. 애플리케이션은 사라마 라이브러리([] github.com/Shopify/sarama) kafka 클러스터에 메시지를 보냅니다. 최대 처리 속도를 목표로 즉시 설정을 지정했습니다.

config := sarama.NewConfig()
config.Producer.RequiredAcks = sarama.WaitForLocal
config.Producer.Compression = sarama.CompressionSnappy
config.Producer.Return.Successes = true

3. 우리 애플리케이션에는 다음과 같은 다양한 측정항목을 수집하는 Prometheus 클라이언트도 내장되어 있습니다.

• 애플리케이션에 대한 요청 수
• 요청 실행 시 오류 수(포스트 요청 읽기 불가능, json 깨짐, Kafka 쓰기 불가능)
• Kafka에 메시지를 쓰는 시간을 포함하여 클라이언트의 한 요청에 대한 처리 시간입니다.

4. 애플리케이션이 처리하는 세 가지 엔드포인트:

• /status - ok를 반환하여 우리가 살아 있음을 보여줍니다. Kafka 클러스터의 가용성과 같은 몇 가지 검사를 추가할 수 있습니다.
• /metrics - 이 URL에 따라 prometheus 클라이언트는 수집한 측정항목을 반환합니다.
• /post는 json이 포함된 POST 요청이 전송되는 기본 엔드포인트입니다. 우리 애플리케이션은 json의 유효성을 확인하고 모든 것이 정상이면 Kafka 클러스터에 데이터를 씁니다.

코드가 완벽하지 않다는 점을 예약하겠습니다. 완료할 수 있습니다(그리고 그래야 합니다!). 예를 들어 내장된 net/http 사용을 중단하고 더 빠른 fasthttp로 전환할 수 있습니다. 또는 데이터가 버퍼에서 클릭하우스 클러스터로 전송될 때 json 유효성 검사를 이후 단계로 이동하여 처리 시간과 CPU 리소스를 얻을 수 있습니다.

문제의 개발 측면 외에도 우리는 즉시 미래 인프라에 대해 생각하고 Docker를 통해 애플리케이션을 배포하기로 결정했습니다. 애플리케이션 빌드를 위한 최종 Dockerfile은 다음과 같습니다. https://github.com/RebrainMe/yandex-cloud-events/blob/master/app/Dockerfile. 일반적으로 이는 매우 간단합니다. 제가 주목하고 싶은 유일한 점은 컨테이너의 최종 이미지를 줄일 수 있는 다단계 어셈블리입니다.

클라우드의 첫 번째 단계

우선 회원가입을 하세요 cloud.yandex.ru. 필요한 모든 항목을 입력한 후 계정이 생성되고 클라우드 서비스를 테스트하는 데 사용할 수 있는 일정 금액의 보조금이 제공됩니다. 우리 기사의 모든 단계를 반복하고 싶다면 이 보조금이면 충분합니다.

등록 후에는 별도의 클라우드와 기본 디렉터리가 생성되며, 여기에서 클라우드 리소스 생성을 시작할 수 있습니다. 일반적으로 Yandex.Cloud에서 리소스 관계는 다음과 같습니다.

하나의 계정에 여러 개의 클라우드를 생성할 수 있습니다. 그리고 클라우드 내부에서 회사 프로젝트마다 다른 디렉터리를 만드세요. 이에 대한 자세한 내용은 설명서에서 확인할 수 있습니다. https://cloud.yandex.ru/docs/resource-manager/concepts/resources-hierarchy. 그런데 아래 본문에서 자주 언급하겠습니다. 전체 인프라를 처음부터 설정할 때 문서가 여러 번 도움이 되었기 때문에 문서를 공부하는 것이 좋습니다.

클라우드를 관리하려면 웹 인터페이스와 콘솔 유틸리티인 yc를 모두 사용할 수 있습니다. 하나의 명령으로 설치가 수행됩니다(Linux 및 Mac OS의 경우).

curl https://storage.yandexcloud.net/yandexcloud-yc/install.sh | bash

내부 보안 전문가가 인터넷에서 스크립트를 실행하는 것에 대해 격노하는 경우 먼저 스크립트를 열고 읽을 수 있으며 두 번째로 루트 권한 없이 사용자로 실행합니다.

Windows용 클라이언트를 설치하려면 다음 지침을 따르세요. 여기에 그런 다음 실행 yc init완전히 사용자 정의하려면 다음을 수행하십시오.

vozerov@mba:~ $ yc init
Welcome! This command will take you through the configuration process.
Please go to https://oauth.yandex.ru/authorize?response_type=token&client_id= in order to obtain OAuth token.

Please enter OAuth token:
Please select cloud to use:
 [1] cloud-b1gv67ihgfu3bp (id = b1gv67ihgfu3bpt24o0q)
 [2] fevlake-cloud (id = b1g6bvup3toribomnh30)
Please enter your numeric choice: 2
Your current cloud has been set to 'fevlake-cloud' (id = b1g6bvup3toribomnh30).
Please choose folder to use:
 [1] default (id = b1g5r6h11knotfr8vjp7)
 [2] Create a new folder
Please enter your numeric choice: 1
Your current folder has been set to 'default' (id = b1g5r6h11knotfr8vjp7).
Do you want to configure a default Compute zone? [Y/n]
Which zone do you want to use as a profile default?
 [1] ru-central1-a
 [2] ru-central1-b
 [3] ru-central1-c
 [4] Don't set default zone
Please enter your numeric choice: 1
Your profile default Compute zone has been set to 'ru-central1-a'.
vozerov@mba:~ $

원칙적으로 프로세스는 간단합니다. 먼저 클라우드를 관리하려면 oauth 토큰을 가져와서 사용할 클라우드와 폴더를 선택해야 합니다.

동일한 클라우드 내에 여러 계정이나 폴더가 있는 경우 yc config profile create를 통해 별도의 설정으로 추가 프로필을 만들고 프로필 간에 전환할 수 있습니다.

위의 방법 외에도 Yandex.Cloud 팀은 매우 좋은 글을 썼습니다. Terraform용 플러그인 클라우드 리소스를 관리하기 위한 것입니다. 저는 기사의 일부로 생성될 모든 리소스를 설명하는 git 저장소를 준비했습니다. https://github.com/rebrainme/yandex-cloud-events/. 마스터 브랜치에 관심이 있으므로 로컬로 복제해 보겠습니다.

vozerov@mba:~ $ git clone https://github.com/rebrainme/yandex-cloud-events/ events
Cloning into 'events'...
remote: Enumerating objects: 100, done.
remote: Counting objects: 100% (100/100), done.
remote: Compressing objects: 100% (68/68), done.
remote: Total 100 (delta 37), reused 89 (delta 26), pack-reused 0
Receiving objects: 100% (100/100), 25.65 KiB | 168.00 KiB/s, done.
Resolving deltas: 100% (37/37), done.
vozerov@mba:~ $ cd events/terraform/

Terraform에서 사용되는 모든 주요 변수는 main.tf 파일에 기록됩니다. 시작하려면 다음 내용으로 terraform 폴더에 private.auto.tfvars 파일을 만듭니다.

# Yandex Cloud Oauth token
yc_token = ""
# Yandex Cloud ID
yc_cloud_id = ""
# Yandex Cloud folder ID
yc_folder_id = ""
# Default Yandex Cloud Region
yc_region = "ru-central1-a"
# Cloudflare email
cf_email = ""
# Cloudflare token
cf_token = ""
# Cloudflare zone id
cf_zone_id = ""

콘솔 유틸리티를 이미 구성했으므로 모든 변수는 yc 구성 목록에서 가져올 수 있습니다. 실수로 개인 데이터를 게시하지 않도록 private.auto.tfvars를 .gitignore에 즉시 추가하는 것이 좋습니다.

private.auto.tfvars에서는 DNS 레코드를 생성하고 기본 도메인 events.kis.im을 서버로 프록시하기 위해 Cloudflare의 데이터도 지정했습니다. cloudflare를 사용하지 않으려면 main.tf와 필요한 dns 레코드 생성을 담당하는 dns.tf 파일에서 cloudflare 공급자의 초기화를 제거하세요.

우리 작업에서는 웹 인터페이스, 콘솔 유틸리티, Terraform이라는 세 가지 방법을 모두 결합할 것입니다.

가상 네트워크

솔직히 말하면, 새 클라우드를 생성할 때 자동으로 별도의 네트워크와 3개의 서브넷(가용 영역마다 하나씩)이 생성되므로 이 단계를 건너뛸 수 있습니다. 하지만 우리는 여전히 자체 주소를 사용하여 프로젝트를 위한 별도의 네트워크를 만들고 싶습니다. Yandex.Cloud에서 네트워크가 작동하는 방식에 대한 일반적인 다이어그램은 아래 그림에 나와 있습니다(솔직히 다음에서 가져옴). https://cloud.yandex.ru/docs/vpc/concepts/)

따라서 리소스가 서로 통신할 수 있는 공통 네트워크를 만듭니다. 각 가용성 영역에 대해 자체 주소 지정을 사용하여 서브넷이 생성되고 일반 네트워크에 연결됩니다. 결과적으로, 그 안에 있는 모든 클라우드 리소스는 서로 다른 가용성 영역에 있더라도 통신할 수 있습니다. 서로 다른 클라우드 네트워크에 연결된 리소스는 외부 주소를 통해서만 서로 볼 수 있습니다. 그건 그렇고, 이 마법은 내부에서 어떻게 작동합니까? Habré에 대해 잘 설명되어 있습니다..

네트워크 생성은 저장소의 network.tf 파일에 설명되어 있습니다. 여기에서 하나의 공통 사설 네트워크 내부를 생성하고 내부-a(172.16.1.0/24), 내부-b(172.16.2.0/24), 내부-c(172.16.3.0/24)의 서로 다른 가용성 영역에 XNUMX개의 서브넷을 연결합니다. ).

Terraform을 초기화하고 네트워크를 만듭니다.

vozerov@mba:~/events/terraform (master) $ terraform init
... skipped ..

vozerov@mba:~/events/terraform (master) $ terraform apply -target yandex_vpc_subnet.internal-a -target yandex_vpc_subnet.internal-b -target yandex_vpc_subnet.internal-c

... skipped ...

Plan: 4 to add, 0 to change, 0 to destroy.

Do you want to perform these actions?
  Terraform will perform the actions described above.
  Only 'yes' will be accepted to approve.

  Enter a value: yes

yandex_vpc_network.internal: Creating...
yandex_vpc_network.internal: Creation complete after 3s [id=enp2g2rhile7gbqlbrkr]
yandex_vpc_subnet.internal-a: Creating...
yandex_vpc_subnet.internal-b: Creating...
yandex_vpc_subnet.internal-c: Creating...
yandex_vpc_subnet.internal-a: Creation complete after 6s [id=e9b1dad6mgoj2v4funog]
yandex_vpc_subnet.internal-b: Creation complete after 7s [id=e2liv5i4amu52p64ac9p]
yandex_vpc_subnet.internal-c: Still creating... [10s elapsed]
yandex_vpc_subnet.internal-c: Creation complete after 10s [id=b0c2qhsj2vranoc9vhcq]

Apply complete! Resources: 4 added, 0 changed, 0 destroyed.

엄청난! 네트워크를 만들었고 이제 내부 서비스를 만들 준비가 되었습니다.

가상 머신 생성

애플리케이션을 테스트하려면 두 개의 가상 머신만 생성하면 됩니다. 첫 번째는 애플리케이션을 구축하고 실행하는 데 필요하고, 두 번째는 수신 메시지를 저장하는 데 사용할 kafka를 실행하는 데 필요합니다. 그리고 애플리케이션을 모니터링하기 위해 prometheus를 구성할 또 다른 머신을 생성하겠습니다.

가상 머신은 ansible을 사용하여 구성되므로 Terraform을 시작하기 전에 최신 버전의 ansible 중 하나가 있는지 확인하세요. 그리고 ansible galaxy를 사용하여 필요한 역할을 설치합니다.

vozerov@mba:~/events/terraform (master) $ cd ../ansible/
vozerov@mba:~/events/ansible (master) $ ansible-galaxy install -r requirements.yml
- cloudalchemy-prometheus (master) is already installed, skipping.
- cloudalchemy-grafana (master) is already installed, skipping.
- sansible.kafka (master) is already installed, skipping.
- sansible.zookeeper (master) is already installed, skipping.
- geerlingguy.docker (master) is already installed, skipping.
vozerov@mba:~/events/ansible (master) $

ansible 폴더 안에는 제가 사용하는 예제 .ansible.cfg 구성 파일이 있습니다. 도움이 될 수도 있습니다.

가상 머신을 생성하기 전에 ssh-agent가 실행 중이고 SSH 키가 추가되었는지 확인하세요. 그렇지 않으면 Terraform이 생성된 머신에 연결할 수 없습니다. 물론 나는 OS X에서 버그를 발견했습니다. https://github.com/ansible/ansible/issues/32499#issuecomment-341578864. 이런 일이 다시 발생하지 않도록 하려면 Terraform을 시작하기 전에 env에 작은 변수를 추가하세요.

vozerov@mba:~/events/terraform (master) $ export OBJC_DISABLE_INITIALIZE_FORK_SAFETY=YES

Terraform이 있는 폴더에서 필요한 리소스를 만듭니다.

vozerov@mba:~/events/terraform (master) $ terraform apply -target yandex_compute_instance.build -target yandex_compute_instance.monitoring -target yandex_compute_instance.kafka
yandex_vpc_network.internal: Refreshing state... [id=enp2g2rhile7gbqlbrkr]
data.yandex_compute_image.ubuntu_image: Refreshing state...
yandex_vpc_subnet.internal-a: Refreshing state... [id=e9b1dad6mgoj2v4funog]

An execution plan has been generated and is shown below.
Resource actions are indicated with the following symbols:
  + create

... skipped ...

Plan: 3 to add, 0 to change, 0 to destroy.

... skipped ...

모든 것이 성공적으로 종료되면(그리고 그래야만 함) 세 개의 가상 머신이 있게 됩니다.

1. build - 애플리케이션을 테스트하고 구축하기 위한 머신입니다. Docker는 Ansible에 의해 자동으로 설치되었습니다.
2. 모니터링 - 모니터링 머신 - 프로메테우스와 그라파나가 설치되어 있습니다. 로그인/비밀번호 기준: admin/admin
3. kafka는 kafka가 설치된 작은 시스템으로 포트 9092에서 액세스할 수 있습니다.

모두 제자리에 있는지 확인하세요.

vozerov@mba:~/events (master) $ yc compute instance list
+----------------------+------------+---------------+---------+---------------+-------------+
|          ID          |    NAME    |    ZONE ID    | STATUS  |  EXTERNAL IP  | INTERNAL IP |
+----------------------+------------+---------------+---------+---------------+-------------+
| fhm081u8bkbqf1pa5kgj | monitoring | ru-central1-a | RUNNING | 84.201.159.71 | 172.16.1.35 |
| fhmf37k03oobgu9jmd7p | kafka      | ru-central1-a | RUNNING | 84.201.173.41 | 172.16.1.31 |
| fhmt9pl1i8sf7ga6flgp | build      | ru-central1-a | RUNNING | 84.201.132.3  | 172.16.1.26 |
+----------------------+------------+---------------+---------+---------------+-------------+

리소스가 준비되어 있으며 여기에서 IP 주소를 얻을 수 있습니다. 다음에서는 IP 주소를 사용하여 SSH를 통해 연결하고 애플리케이션을 테스트하겠습니다. Terraform에 연결된 cloudflare 계정이 있는 경우 새로 생성된 DNS 이름을 자유롭게 사용하세요.
그런데 가상 머신을 생성할 때 내부 IP와 내부 DNS 이름이 제공되므로 이름으로 네트워크 내의 서버에 액세스할 수 있습니다.

ubuntu@build:~$ ping kafka.ru-central1.internal
PING kafka.ru-central1.internal (172.16.1.31) 56(84) bytes of data.
64 bytes from kafka.ru-central1.internal (172.16.1.31): icmp_seq=1 ttl=63 time=1.23 ms
64 bytes from kafka.ru-central1.internal (172.16.1.31): icmp_seq=2 ttl=63 time=0.625 ms
^C
--- kafka.ru-central1.internal ping statistics ---
2 packets transmitted, 2 received, 0% packet loss, time 1001ms
rtt min/avg/max/mdev = 0.625/0.931/1.238/0.308 ms

이는 kafk를 사용하여 애플리케이션에 엔드포인트를 나타내는 데 유용합니다.

애플리케이션 조립

훌륭합니다. 서버도 있고 애플리케이션도 있습니다. 이제 남은 것은 이를 조립하고 게시하는 것뿐입니다. 빌드에는 일반적인 Docker 빌드를 사용하지만 이미지 저장소로는 Yandex-컨테이너 레지스트리의 서비스를 사용합니다. 하지만 가장 먼저 해야 할 일이 있습니다.

애플리케이션을 빌드 머신에 복사하고 SSH를 통해 로그인한 후 이미지를 어셈블합니다.

vozerov@mba:~/events/terraform (master) $ cd ..
vozerov@mba:~/events (master) $ rsync -av app/ [email protected]:app/

... skipped ...

sent 3849 bytes  received 70 bytes  7838.00 bytes/sec
total size is 3644  speedup is 0.93

vozerov@mba:~/events (master) $ ssh 84.201.132.3 -l ubuntu
ubuntu@build:~$ cd app
ubuntu@build:~/app$ sudo docker build -t app .
Sending build context to Docker daemon  6.144kB
Step 1/9 : FROM golang:latest AS build
... skipped ...

Successfully built 9760afd8ef65
Successfully tagged app:latest

절반의 전투가 완료되었습니다. 이제 애플리케이션을 실행하고 kafka로 전송하여 애플리케이션의 기능을 확인할 수 있습니다.

ubuntu@build:~/app$ sudo docker run --name app -d -p 8080:8080 app /app/app -kafka=kafka.ru-central1.internal:9092</code>

С локальной машинки можно отправить тестовый event и посмотреть на ответ:

<code>vozerov@mba:~/events (master) $ curl -D - -s -X POST -d '{"key1":"data1"}' http://84.201.132.3:8080/post
HTTP/1.1 200 OK
Content-Type: application/json
Date: Mon, 13 Apr 2020 13:53:54 GMT
Content-Length: 41

{"status":"ok","partition":0,"Offset":0}
vozerov@mba:~/events (master) $

애플리케이션은 녹음 성공과 메시지가 포함된 파티션의 ID 및 오프셋을 나타내는 응답을 했습니다. 이제 해야 할 일은 Yandex.Cloud에 레지스트리를 생성하고 거기에 이미지를 업로드하는 것입니다. 세 줄을 사용하여 이 작업을 수행하는 방법은 Registry.tf 파일에 설명되어 있습니다. 저장소를 만듭니다.

vozerov@mba:~/events/terraform (master) $ terraform apply -target yandex_container_registry.events

... skipped ...

Plan: 1 to add, 0 to change, 0 to destroy.

... skipped ...

Apply complete! Resources: 1 added, 0 changed, 0 destroyed.

oauth 토큰, iam 토큰 또는 서비스 계정 키를 사용하여 컨테이너 레지스트리에서 인증하는 방법에는 여러 가지가 있습니다. 이러한 방법에 대한 자세한 내용은 설명서에서 확인할 수 있습니다. https://cloud.yandex.ru/docs/container-registry/operations/authentication. 서비스 계정 키를 사용하므로 계정을 만듭니다.

vozerov@mba:~/events/terraform (master) $ terraform apply -target yandex_iam_service_account.docker -target yandex_resourcemanager_folder_iam_binding.puller -target yandex_resourcemanager_folder_iam_binding.pusher

... skipped ...

Apply complete! Resources: 3 added, 0 changed, 0 destroyed.

이제 남은 것은 이에 대한 키를 만드는 것입니다.

vozerov@mba:~/events/terraform (master) $ yc iam key create --service-account-name docker -o key.json
id: ajej8a06kdfbehbrh91p
service_account_id: ajep6d38k895srp9osij
created_at: "2020-04-13T14:00:30Z"
key_algorithm: RSA_2048

저장소 ID에 대한 정보를 받고 키를 전송한 후 로그인합니다.

vozerov@mba:~/events/terraform (master) $ scp key.json [email protected]:
key.json                                                                                                                    100% 2392   215.1KB/s   00:00

vozerov@mba:~/events/terraform (master) $ ssh 84.201.132.3 -l ubuntu

ubuntu@build:~$ cat key.json | sudo docker login --username json_key --password-stdin cr.yandex
WARNING! Your password will be stored unencrypted in /home/ubuntu/.docker/config.json.
Configure a credential helper to remove this warning. See
https://docs.docker.com/engine/reference/commandline/login/#credentials-store

Login Succeeded
ubuntu@build:~$

이미지를 레지스트리에 업로드하려면 컨테이너 레지스트리 ID가 필요하며 yc 유틸리티에서 가져옵니다.

vozerov@mba:~ $ yc container registry get events
id: crpdgj6c9umdhgaqjfmm
folder_id:
name: events
status: ACTIVE
created_at: "2020-04-13T13:56:41.914Z"

그런 다음 이미지에 새 이름을 태그하고 업로드합니다.

ubuntu@build:~$ sudo docker tag app cr.yandex/crpdgj6c9umdhgaqjfmm/events:v1
ubuntu@build:~$ sudo docker push cr.yandex/crpdgj6c9umdhgaqjfmm/events:v1
The push refers to repository [cr.yandex/crpdgj6c9umdhgaqjfmm/events]
8c286e154c6e: Pushed
477c318b05cb: Pushed
beee9f30bc1f: Pushed
v1: digest: sha256:1dd5aaa9dbdde2f60d833be0bed1c352724be3ea3158bcac3cdee41d47c5e380 size: 946

이미지가 성공적으로 로드되었는지 확인할 수 있습니다.

vozerov@mba:~/events/terraform (master) $ yc container repository list
+----------------------+-----------------------------+
|          ID          |            NAME             |
+----------------------+-----------------------------+
| crpe8mqtrgmuq07accvn | crpdgj6c9umdhgaqjfmm/events |
+----------------------+-----------------------------+

그런데 Linux 시스템에 yc 유틸리티를 설치하면 다음 명령을 사용할 수 있습니다.

yc container registry configure-docker

도커를 구성합니다.

결론

우리는 많은 노력을 기울였으며 그 결과는 다음과 같습니다.

1. 우리는 미래 서비스의 아키텍처를 생각해냈습니다.
2. 우리는 비즈니스 로직을 구현하는 golang으로 애플리케이션을 작성했습니다.
3. 우리는 그것을 수집하여 개인 컨테이너 레지스트리에 부었습니다.

다음 부분에서는 흥미로운 내용으로 넘어갈 것입니다. 애플리케이션을 프로덕션 환경으로 출시하고 마지막으로 로드를 시작하겠습니다. 전환하지 마십시오!

이 자료는 공개 워크숍 REBRAIN 및 Yandex.Cloud의 비디오 녹화에 있습니다. Yandex Cloud에서는 초당 10개의 요청을 수락합니다. https://youtu.be/cZLezUm0ekE

이러한 이벤트에 온라인으로 참여하고 실시간으로 질문하고 싶다면 다음 페이지로 연결하세요. REBRAIN의 채널 DevOps.

이러한 이벤트를 주최할 수 있는 기회를 주신 Yandex.Cloud에 특별히 감사의 말씀을 전하고 싶습니다. 그들에게 링크 - https://cloud.yandex.ru/prices

클라우드로 전환해야 하거나 인프라에 대한 질문이 있는 경우 자유롭게 요청을 남겨주세요.

추신: 우리는 한 달에 2번의 무료 감사를 갖고 있으며, 아마도 귀하의 프로젝트도 그 중 하나일 것입니다.

출처 : habr.com