🥇빅데이터와 스몰데이터 테스터: 트렌드, 이론, 나의 이야기

안녕하세요 여러분, 저는 알렉산더입니다. 데이터 품질 엔지니어로서 데이터 품질을 검사합니다. 이 글에서는 제가 이 일을 시작하게 된 계기와 2020년 이 테스트 분야가 어떻게 최고의 자리에 올랐는지에 대해 이야기해 보겠습니다.

글로벌 트렌드

오늘날 세상은 또 다른 기술 혁명을 겪고 있으며, 그 중 하나는 온갖 기업들이 축적된 데이터를 활용하여 자체적인 매출, 수익, 홍보 효과를 창출하는 것입니다. 오늘날 많은 사람들에게 성공의 열쇠는 양질의 데이터와 이를 바탕으로 수익을 창출할 수 있는 숙련된 인재(데이터를 정확하게 처리하고, 시각화하고, 머신러닝 모델을 구축하는 등)의 가용성에 있는 것으로 보입니다. 15~20년 전에는 주로 대기업들이 데이터 축적 및 수익화에 집중적으로 투자했지만, 오늘날에는 거의 모든 현명한 사람들이 이러한 전략을 취하고 있습니다.

이와 관련하여, 몇 년 전, 전 세계 모든 구직 포털은 데이터 과학자 채용 공고로 가득 차기 시작했습니다. 모두가 데이터 과학자를 고용하면 머신러닝 슈퍼모델을 구축하고 미래를 예측하며 회사의 "퀀텀 도약"을 이룰 수 있을 것이라고 확신했기 때문입니다. 시간이 흐르면서 사람들은 이러한 접근 방식이 거의 효과가 없다는 것을 깨달았습니다. 이러한 전문가의 손에 들어간 모든 데이터가 모델 학습에 적합한 것은 아니기 때문입니다.

데이터 과학자들의 요청은 다음과 같이 시작되었습니다. "이런 데이터와 저런 데이터에서 더 많은 데이터를 구매합시다...", "데이터가 충분하지 않습니다...", "더 많은 데이터가 필요하고, 특히 고품질 데이터가 필요합니다..." 이러한 요청을 바탕으로 특정 데이터 세트를 소유한 기업들 간에 수많은 상호작용이 이루어지기 시작했습니다. 자연스럽게 데이터 소스에 연결하고, 데이터를 다운로드하고, 완전히 로드되었는지 확인하는 등 프로세스의 기술적 구성이 필요했습니다. 이러한 프로세스의 수가 증가하기 시작했고, 오늘날 우리는 또 다른 종류의 전문가, 즉 데이터 품질 엔지니어에 대한 엄청난 수요를 겪고 있습니다. 이들은 시스템 내 데이터 흐름(데이터 파이프라인)과 입력 및 출력 데이터의 품질을 모니터링하고, 데이터의 충분성, 무결성 및 기타 특성에 대한 결론을 도출합니다.

데이터 품질 엔지니어에 대한 트렌드는 미국에서 시작되었습니다. 자본주의가 맹위를 떨치는 시대에, 누구도 데이터 전쟁에서 패배할 준비가 되어 있지 않습니다. 아래에 미국에서 가장 인기 있는 두 구직 사이트의 스크린샷을 첨부했습니다. www.monster.com и www.dice.com — 17년 2020월 XNUMX일 기준, 데이터 품질 및 데이터 과학자라는 키워드를 기준으로 공석에 대한 게시된 공석 수에 대한 데이터를 표시합니다.

www.monster.com

데이터 과학자 – 21416개 공석
데이터 품질 – 41104개 공석

www.dice.com

데이터 과학자 – 404개 공석
데이터 품질 – 2020년 공석

물론, 이 직업들은 어떤 식으로든 서로 경쟁하지 않습니다. 저는 단지 스크린샷을 통해 데이터 품질 엔지니어에 대한 수요를 보여주는 현재 노동 시장 상황을 보여주고 싶었을 뿐입니다. 데이터 품질 엔지니어는 현재 데이터 과학자보다 훨씬 더 수요가 많습니다.

2019년 XNUMX월, EPAM은 현대 IT 시장의 요구에 부응하여 데이터 품질을 별도의 업무로 지정했습니다. 데이터 품질 엔지니어는 일상 업무에서 데이터를 관리하고, 새로운 조건 및 시스템에서 데이터의 동작을 확인하고, 데이터의 관련성, 충분성 및 관련성을 제어합니다. 이러한 모든 측면에서, 실질적으로 데이터 품질 엔지니어는 기존 기능 테스트에 거의 시간을 투자하지 않습니다. 하지만 이는 프로젝트에 따라 크게 달라집니다(아래에 예를 들어 설명하겠습니다).

데이터 품질 엔지니어의 책임은 데이터베이스 테이블에서 "null, count 및 sum"을 수동으로/자동으로 정기적으로 검사하는 데 국한되지 않고, 고객의 비즈니스 요구 사항에 대한 심층적인 이해와 그에 따라 기존 데이터를 유용한 비즈니스 정보로 변환하는 능력이 필요합니다.

데이터 품질 이론

이러한 엔지니어의 역할을 충분히 이해하기 위해 데이터 품질이 이론상으로 무엇인지 알아보겠습니다.

데이터 품질 — 데이터 관리(스스로 탐색할 수 있는 완전한 세계)의 단계 중 하나이며 다음 기준에 따라 데이터를 분석하는 역할을 합니다.

각 항목(이론적으로는 "데이터 차원"이라고 함)을 일일이 설명할 필요는 없다고 생각합니다. 그림에 잘 설명되어 있으니까요. 하지만 테스트 프로세스 자체는 이러한 기능을 테스트 케이스에 그대로 복사하여 검증하는 것을 의미하지 않습니다. 다른 유형의 테스트와 마찬가지로 데이터 품질 테스트에서도 프로젝트 참여자들이 비즈니스 의사 결정을 내릴 때 합의한 데이터 품질 요구 사항부터 먼저 시작해야 합니다.

프로젝트에 따라 데이터 품질 엔지니어는 다양한 기능을 수행할 수 있습니다. 데이터 품질을 피상적으로 평가하는 일반 자동화 테스터부터 위에 언급한 기능에 따라 심층 프로파일링을 수행하는 사람까지 다양합니다.

데이터 관리, 데이터 품질 및 관련 프로세스에 대한 매우 자세한 설명은 다음 책에 훌륭하게 설명되어 있습니다. "DAMA-DMBOK: 데이터 관리 지식 체계: 2판"이 주제를 소개하는 책으로 이 책을 적극 추천합니다(기사의 마지막 부분에서 이 책에 대한 링크를 찾을 수 있습니다).

내 역사

IT 업계에서 저는 제품 회사의 주니어 테스터에서 EPAM의 수석 데이터 품질 엔지니어로 승진했습니다. 테스터로 약 2년간 근무한 후, 저는 회귀, 기능 테스트, 스트레스 테스트, 안정성 테스트, 보안 테스트, UI 테스트 등 모든 유형의 테스트를 완벽하게 수행해 보았다는 확신을 갖게 되었습니다. 또한 Java, Scala, Python 등 세 가지 프로그래밍 언어를 사용하면서 다양한 테스트 도구를 사용해 보았습니다.

돌이켜보면, 제 기술이 왜 그렇게 다양했는지 알 수 있습니다. 크고 작은 데이터 기반 프로젝트에 참여했으니까요. 덕분에 저는 성장할 수 있는 다양한 도구와 기회를 접할 수 있었습니다.

새로운 지식과 기술을 습득하기 위한 다양한 도구와 기회를 알아보려면 아래 그림을 보세요. 이 그림은 "데이터 및 AI" 분야에서 가장 인기 있는 도구를 보여줍니다.

이런 종류의 삽화는 소프트웨어 개발 출신의 유명 벤처 캐피털리스트 맷 터크가 매년 수집합니다. 여기 링크 그의 블로그와 벤처 캐피털 회사그는 파트너로 일하고 있습니다.

특히 프로젝트에서 유일한 테스터였을 때, 혹은 적어도 프로젝트 초기에는 빠르게 전문적으로 성장했습니다. 바로 이 시점에서 전체 테스트 과정을 책임져야 하며, 후퇴할 기회는 없고 오직 앞으로 나아갈 기회만 있습니다. 처음에는 두려웠지만, 이제는 이러한 도전의 모든 장점이 명확해졌습니다.

소통을 대신할 사람이 없기 때문에, 테스트 관리자도 없고, 테스터 동료도 없기 때문에 그 어느 때보다 전체 팀과 소통을 하게 됩니다.
프로젝트에 대한 몰입도가 엄청나게 높아지고, 모든 구성 요소에 대한 일반적, 세부적 정보를 모두 얻을 수 있습니다.
개발자들은 당신을 "무슨 일을 하는지 모르는 테스트 담당자"로 보지 않고, 자동화된 테스트와 제품의 특정 부분에서의 버그 예측을 통해 팀에 엄청난 가치를 가져다주는 동등한 사람으로 봅니다.
결과적으로 당신은 더 효율적이고, 더 자격을 갖추게 되며, 더 많은 수요를 가지게 됩니다.

프로젝트가 성장함에 따라, 저는 100%의 사례에서 새로 합류한 테스터들의 멘토가 되어 그들을 교육하고, 제가 직접 익힌 지식을 전수했습니다. 동시에, 프로젝트에 따라 경영진으로부터 항상 최고 수준의 자동화 테스트 전문가를 확보할 수 있었던 것은 아니었습니다. 따라서 자동화 교육을 원하는 테스터들을 위해 자동화 관련 교육을 제공하거나, 그들이 일상 업무에 활용할 수 있는 도구(데이터를 생성하여 시스템에 로드하는 도구, 부하 테스트/안정성 테스트를 "신속하게" 수행하는 도구 등)를 개발해야 할 필요성이 있었습니다.

특정 프로젝트의 예

불행히도, 비밀 유지 의무로 인해 제가 작업한 프로젝트에 대해 자세히 말씀드릴 수는 없지만, 프로젝트 중 하나에서 데이터 품질 엔지니어가 수행하는 일반적인 업무에 대한 예를 들어보겠습니다.

이 프로젝트의 핵심은 머신러닝 모델을 학습하기 위한 데이터 준비 플랫폼을 구축하는 것입니다. 고객은 미국의 대형 제약 회사였습니다. 기술적으로 보면, 클러스터 Kubernetes, 상승 중 AWS EC2 EPAM의 여러 마이크로 서비스와 기본 오픈 소스 프로젝트가 포함된 인스턴스 군단, 특정 고객의 요구 사항에 맞게 조정되었습니다(이제 프로젝트는 다음과 같이 다시 태어났습니다. 오다후). ETL 프로세스는 다음의 도움으로 구성되었습니다. 아파치 에어 플로우 그리고 데이터를 옮겼습니다 세일즈 포스 고객 시스템 AWS S3 버킷. 다음으로, 머신 러닝 모델의 Docker 이미지가 플랫폼에 배포되었습니다. 이 이미지는 최신 데이터로 학습되었으며, REST API 인터페이스를 통해 비즈니스에 도움이 되는 예측을 실행하고 특정 문제를 해결했습니다.

시각적으로 모든 것이 다음과 같이 보였습니다.

이 프로젝트에는 기능 테스트가 많이 진행되었고, 기능 개발 속도와 2주 스프린트 주기를 유지해야 하는 필요성을 고려할 때 가장 중요한 시스템 노드의 테스트 자동화를 즉시 고려해야 했습니다. 쿠버네티스 기반 플랫폼 자체의 대부분은 쿠버네티스에 구현된 자동화 테스트로 처리되었습니다. 로봇 프레임 워크 + Python을 사용했지만, 지원 및 확장도 필요했습니다. 또한 고객 편의를 위해 클러스터에 배포된 머신 러닝 모델을 관리하고 모델 학습을 위해 데이터를 전송할 위치를 지정하는 GUI를 개발했습니다. 이러한 광범위한 추가 작업에는 주로 REST API 호출과 소수의 엔드투엔드 UI 테스트를 통해 수행되던 자동화된 기능 검사의 확장이 수반되었습니다. 이러한 모든 변화의 중심에는 수동 테스터가 합류하여 제품 버전을 승인하고 고객과 다음 릴리스 승인에 대해 소통하는 훌륭한 업무를 수행했습니다. 또한, 새로운 전문가의 등장 덕분에 작업을 문서화하고 즉시 자동화하기 어려웠던 몇 가지 매우 중요한 수동 검사를 추가할 수 있었습니다.

마지막으로 플랫폼과 GUI 애드온의 안정성을 확보한 후, Apache Airflow DAG를 활용한 ETL 파이프라인 구축을 시작했습니다. ETL 프로세스 결과에 따라 데이터를 검사하는 특수 Airflow DAG를 작성하여 자동화된 데이터 품질 검사를 수행했습니다. 이 프로젝트에서는 다행히 고객사에서 익명화된 데이터 세트에 대한 접근 권한을 제공해 주셔서 테스트를 진행할 수 있었습니다. 데이터 유형 준수 여부, 손상된 데이터 존재 여부, 이전과 이후의 총 레코드 수, ETL 프로세스에서 수행된 변환 결과의 집계 비교, 열 이름 변경 등을 확인하기 위해 데이터를 한 줄씩 검사했습니다. 또한, 이러한 검사는 SalesForce뿐 아니라 MySQL 등 다양한 데이터 소스로 확장되었습니다.

최종 데이터 품질 검사는 S3 수준에서 수행되었으며, 데이터는 S3에 저장되어 머신 러닝 모델 학습에 즉시 사용할 수 있도록 준비되었습니다. SXNUMX 버킷에 있는 최종 CSV 파일에서 데이터를 가져와 검증하기 위해 다음 코드를 작성했습니다. boto3 클라이언트.

고객은 일부 데이터를 한 S3 버킷에 저장하고 다른 일부 데이터는 다른 버킷에 저장해야 했습니다. 또한 이러한 정렬의 안정성을 제어하기 위한 추가 검사도 작성해야 했습니다.

다른 프로젝트에서 얻은 일반화된 경험

데이터 품질 엔지니어의 가장 일반적인 활동 목록의 예:

자동화된 도구를 통해 테스트 데이터(validinvalidlargesmall)를 준비합니다.
준비된 데이터 세트를 원본 소스에 로드하고 사용할 준비가 되었는지 확인합니다.
특정 설정 집합을 사용하여 소스 저장소에서 최종 또는 중간 저장소로 데이터 세트를 처리하기 위해 ETL 프로세스를 실행합니다(ETL 작업에 대해 구성 가능한 매개변수를 설정할 수 있는 경우).
ETL 프로세스에서 처리된 데이터의 품질과 비즈니스 요구 사항 준수 여부를 확인합니다.

이 경우, 점검의 주된 초점은 시스템 내의 데이터 흐름이 기본적으로 작동하고 끝에 도달했는지(기능 테스트의 일부)에만 맞춰져야 하는 것이 아니라, 주로 예상 요구 사항을 준수하는지 데이터를 검사하고 검증하고, 이상을 식별하는 데 맞춰져야 합니다.

도구

이러한 데이터 제어 기법 중 하나는 데이터 처리의 각 단계에서 체인 검사를 구성하는 것인데, 문헌에서는 이를 "데이터 체인"이라고 합니다. 이는 소스에서 최종 사용 시점까지 데이터를 제어하는 것을 의미합니다. 이러한 검사는 대부분 SQL 검사 쿼리를 작성하여 구현됩니다. 이러한 쿼리는 가능한 한 가볍고 개별 데이터 품질(테이블 메타데이터, 빈 줄, NULL, 구문 오류 등 검사에 필요한 기타 속성)을 검사해야 함은 분명합니다.

기성(변경 불가능/약간 변경 가능) 데이터 세트를 사용하는 회귀 테스트의 경우, 자동 테스트 코드는 품질 준수 여부를 확인하기 위한 데이터 검사를 위한 기성 템플릿(예상 테이블 메타데이터에 대한 설명, 테스트 중에 선택할 수 있는 무작위로 선택된 문자열 객체 등)을 저장할 수 있습니다.

테스트 중에도 Apache Airflow와 같은 프레임워크를 사용하여 테스트 ETL 프로세스를 작성해야 합니다. 아파치 스파크 또는 다음과 같은 블랙박스 클라우드 도구 GCP 데이터프렙, GCP 데이터 흐름 등등. 이러한 상황은 테스트 엔지니어가 위에 언급된 도구의 작동 원리를 깊이 파고들어 기능 테스트(예: 프로젝트의 기존 ETL 프로세스)를 더욱 효과적으로 수행하고 이를 활용하여 데이터를 검증하도록 만듭니다. 특히 Apache Airflow는 이미 널리 사용되는 분석 데이터베이스(예: GCP 빅쿼리가장 기본적인 사용 예는 이미 설명되었습니다. 여기에그러니 반복하지 않겠습니다.

기성 솔루션 외에도, 직접 기술과 도구를 구현하는 것을 아무도 금지하지 않습니다. 이는 프로젝트뿐만 아니라 데이터 품질 엔지니어 자신에게도 유익하며, 이를 통해 기술적 시야와 코딩 능력을 향상시킬 수 있습니다.

실제 프로젝트에서 작동하는 방식

"데이터 체인", ETL 및 유비쿼터스 검사에 대한 마지막 문단의 좋은 예는 실제 프로젝트 중 하나의 다음 프로세스입니다.

여기서는 (당연히 저희가 준비한) 다양한 데이터가 유효, 무효, 혼합 등 시스템의 입력 "퍼널"로 유입됩니다. 이후 필터링을 거쳐 중간 저장소로 이동하고, 다시 일련의 변환 과정을 거쳐 최종 저장소에 저장됩니다. 최종 저장소에서 분석, 데이터 마트, 그리고 비즈니스 인사이트가 도출됩니다. 이러한 시스템에서는 ETL 프로세스의 작동 방식을 기능적으로 점검하지 않고, 변환 전후의 데이터 품질과 분석 결과 도출에 집중합니다.

위의 내용을 요약하자면, 제가 어떤 곳에서 일하든 항상 다음과 같은 공통점을 가진 데이터 프로젝트에 참여했습니다.

자동화를 통해서만 일부 사례를 테스트하고 비즈니스에 적합한 릴리스 주기를 달성할 수 있습니다.
이러한 프로젝트의 테스터는 팀에서 가장 존경받는 멤버 중 한 명이며, 각 참여자에게 큰 혜택(테스트 속도 향상, 데이터 과학자를 위한 양질의 데이터 제공, 초기 단계에서 결함 식별)을 제공합니다.
자체 하드웨어에서 작업하든 클라우드에서 작업하든 모든 리소스는 Hortonworks, Cloudera, Mesos, Kubernetes 등과 같은 클러스터로 추상화됩니다.
프로젝트는 분산 및 병렬 컴퓨팅이 우세한 마이크로서비스 접근 방식을 기반으로 구축됩니다.

데이터 품질 분야에서 테스트를 수행할 때 테스트 전문가는 자신의 전문적 초점을 제품 코드와 사용된 도구로 옮긴다는 점을 지적하고 싶습니다.

데이터 품질 테스트의 특징

또한, 저는 데이터(빅 데이터) 프로젝트(시스템) 및 기타 분야에서 테스트의 다음과 같은 독특한 특징을 확인했습니다. (이러한 특징은 매우 일반적이고 순전히 주관적이라는 점을 즉시 지적하겠습니다.)

유용한 링크

결론

데이터 품질 — 매우 젊고 유망한 분야로, 그 분야에 참여한다는 것은 곧 스타트업의 일원이 된다는 것을 의미합니다. 데이터 품질 분야에 종사하게 되면, 수요가 많은 다양한 최신 기술을 접하게 될 뿐만 아니라, 무엇보다도 아이디어를 구상하고 구현할 수 있는 엄청난 기회를 얻게 됩니다. 프로젝트뿐만 아니라 자신을 위해서도 지속적인 개선을 통해 전문가로서 끊임없이 성장할 수 있는 방법을 터득하게 될 것입니다.

출처 : habr.com

빅 및 스몰 데이터 테스터: 트렌드, 이론, 나의 이야기