안녕하세요 여러분! 제 이름은 Sasha이고 LoyaltyLab의 CTO이자 공동 창립자입니다. XNUMX년 전, 저와 친구들은 가난한 학생들처럼 저녁에 집 근처에 있는 가장 가까운 가게에 맥주를 사러 갔습니다. 우리는 우리가 맥주를 사러 올 것이라는 것을 알고 있는 소매업체가 칩이나 크래커에 대한 할인을 제공하지 않는다는 사실에 매우 화가 났습니다. 우리는 왜 이런 상황이 발생하는지 이해하지 못하고 자체 회사를 시작하기로 결정했습니다. 음, 보너스로 매주 금요일마다 동일한 칩에 대해 할인 혜택을 누리세요.

그리고 이 모든 것은 제가 제품의 기술적인 측면에 대한 자료를 발표하는 지점까지 이르렀습니다. 엔비디아 GTC. 우리의 작업을 커뮤니티와 공유하게 되어 기쁘게 생각하여 보고서를 기사 형식으로 게시하게 되었습니다.

소개

여정을 시작할 때 다른 모든 사람들과 마찬가지로 추천 시스템이 어떻게 만들어지는지에 대한 개요부터 시작했습니다. 가장 널리 사용되는 아키텍처는 다음과 같은 유형이었습니다.

이는 두 부분으로 구성됩니다.

1. 일반적으로 협업 모델인 간단하고 빠른 모델을 사용하여 추천 후보를 샘플링합니다.
2. 데이터의 가능한 모든 기능을 고려하여 더 복잡하고 느린 콘텐츠 모델을 사용하는 후보자의 순위를 매깁니다.

이하에서는 다음 용어를 사용하겠습니다.

• 추천 대상자/후보자 — 잠재적으로 프로덕션 추천에 포함될 수 있는 사용자-제품 쌍입니다.
• 후보자 추출/추출자/후보 추출 방법 — 사용 가능한 데이터에서 "추천 후보"를 추출하는 프로세스 또는 방법.

첫 번째 단계에는 일반적으로 다양한 협업 필터링 변형을 사용하는 작업이 포함됩니다. 가장 인기있는 - ALS. 추천 시스템에 관한 대부분의 기사가 첫 번째 단계에서 협업 모델의 다양한 개선 사항만 공개하고 다른 샘플링 방법에 대해서는 아무도 많이 언급하지 않는다는 것은 놀라운 일입니다. 우리의 경우, 협업 모델과 이를 이용한 다양한 최적화만을 사용하는 접근 방식이 기대한 품질에 미치지 못했기 때문에 이 부분에 대해 구체적으로 연구를 진행했습니다. 그리고 기사 마지막 부분에서는 우리의 기준이었던 ALS를 얼마나 개선할 수 있었는지 보여드리겠습니다.

우리의 접근 방식을 설명하기 전에 실시간 추천에서 30분 전에 발생한 데이터를 고려하는 것이 중요할 때 필요한 시간에 작동할 수 있는 접근 방식이 실제로 많지 않다는 점에 유의하는 것이 중요합니다. 그러나 우리의 경우 하루에 한 번, 대부분의 경우 일주일에 한 번 권장 사항을 수집해야 합니다. 이를 통해 복잡한 모델을 사용하고 품질을 몇 배로 향상할 수 있는 기회를 얻을 수 있습니다.

후보자 추출 작업에 대해 ALS만이 보여주는 지표가 무엇인지 기준으로 살펴보겠습니다. 우리가 모니터링하는 주요 지표는 다음과 같습니다.

• 정밀도 - 샘플링된 후보 중에서 올바르게 선택된 후보의 비율입니다.
• 재현율은 실제로 목표 구간에 있었던 후보 중 발생한 후보의 비율입니다.
• F1-점수 - 이전 두 지점에서 계산된 F-측정값입니다.

또한 추가 콘텐츠 기능을 사용하여 그라디언트 부스팅을 학습한 후 최종 모델의 메트릭을 살펴보겠습니다. 여기에는 3가지 주요 측정항목도 있습니다.

• 정밀도@5 - 각 구매자의 확률 측면에서 상위 5개 제품의 평균 비율입니다.
• response-rate@5 - 매장 방문에서 최소 하나의 개인 제안(하나의 제안에 5개 제품) 구매로 고객 전환.
• 사용자당 평균 roc-auc - 평균 로크-오크 각 구매자마다.

이러한 모든 지표는 다음과 같이 측정된다는 점에 유의하는 것이 중요합니다. 시계열 교차 검증즉 처음 k주 동안 훈련이 이루어지며, k+1주를 테스트 데이터로 취한다. 따라서 계절적 변동은 모델의 품질 해석에 최소한의 영향을 미쳤습니다. 또한 모든 그래프에서 가로축은 교차 검증의 주 수를 나타내고 세로축은 지정된 측정항목의 값을 나타냅니다. 모든 그래프는 한 클라이언트의 거래 데이터를 기반으로 하므로 서로 간의 비교가 정확합니다.

접근 방식을 설명하기 전에 먼저 ALS 학습 모델인 기준선을 살펴보겠습니다.
후보자 검색 측정항목:

최종 측정항목:

나는 모든 알고리즘 구현을 일종의 비즈니스 가설로 취급합니다. 따라서 대략적으로 모든 협력 모델은 "사람들은 자신과 유사한 사람들이 구매하는 것을 구매하는 경향이 있다"는 가설로 간주될 수 있습니다. 이미 말했듯이 우리는 그러한 의미론에만 국한되지 않으며 다음은 오프라인 소매업의 데이터에 대해 잘 작동하는 몇 가지 가설입니다.

1. 나는 이미 전에 구입했습니다.
2. 예전에 구매한거랑 비슷해요.
3. 오래전에 구매한 기간입니다.
4. 카테고리/브랜드별로 인기가 높습니다.
5. 매주 다양한 상품을 대체 구매합니다(마르코프 체인).
6. 다양한 모델(Word2Vec, DSSM 등)로 구축된 특성에 따라 구매자와 유사한 제품.

이전에 무엇을 샀나요?

식료품 소매업에서 매우 잘 작동하는 가장 확실한 경험적 방법입니다. 여기에서는 로열티 카드 소지자가 지난 K일(보통 1~3주) 또는 XNUMX년 전 K일 동안 구매한 모든 상품을 가져옵니다. 이 방법만 적용하면 다음 측정항목을 얻을 수 있습니다.

여기서는 기간이 길어질수록 재현율이 높아지고 정밀도가 낮아지며 그 반대의 경우도 마찬가지라는 것이 매우 분명합니다. 평균적으로 '지난 2주'는 고객에게 더 나은 결과를 제공합니다.

예전에 샀던거랑 비슷해요

식료품 소매점의 경우 "이전에 구입한 것"이 잘 작동한다는 것은 놀라운 일이 아니지만 사용자가 이미 구입한 것에서만 후보를 추출하는 것은 그다지 멋지지 않습니다. 왜냐하면 새로운 제품으로 구매자를 놀라게 할 가능성이 낮기 때문입니다. 따라서 우리는 동일한 협업 모델을 사용하여 이 경험적 방법을 약간 개선할 것을 제안합니다. ALS 훈련 중에 받은 벡터에서 사용자가 이미 구매한 것과 유사한 제품을 얻을 수 있습니다. 이 아이디어는 동영상 콘텐츠를 시청하는 서비스의 '유사 동영상'과 매우 유사하지만, 사용자가 특정 순간에 무엇을 먹고/사는지 알 수 없기 때문에 이미 구매한 것과 유사한 동영상만 찾을 수 있습니다. 왜냐하면 우리는 그것이 얼마나 잘 작동하는지 이미 알고 있기 때문입니다. 지난 2주 동안의 사용자 거래에 이 방법을 적용하면 다음 측정항목을 얻을 수 있습니다.

여기에 k — 지난 14일 동안 구매자가 구매한 각 제품에 대해 검색된 유사 제품의 수입니다.
이 접근 방식은 이미 사용자의 구매 내역에 있는 어떤 것도 추천하지 않는 것이 중요한 우리 고객에게 특히 효과적이었습니다.

구매기간이 늦었습니다

우리가 이미 알고 있듯이 상품 구매 빈도가 높기 때문에 첫 번째 접근 방식은 우리의 특정 요구에 적합합니다. 하지만 세제/샴푸 등의 상품은 어떻습니까? 즉, 매주 또는 XNUMX주마다 필요하지 않고 이전 방법으로 추출할 수 없는 제품을 사용하는 것입니다. 이는 다음과 같은 생각으로 이어진다. 각 제품을 더 많이 구매한 고객에 대해 평균적으로 각 제품의 구매 기간을 계산하는 것이 제안되었다. k 한 번. 그런 다음 구매자가 이미 부족할 가능성이 가장 높은 항목을 추출합니다. 상품에 대해 계산된 기간이 적절한지 눈으로 확인할 수 있습니다.

그런 다음 제품 기간 종료가 권장 사항이 생산되는 시간 간격 내에 속하는지 살펴보고 어떤 일이 발생하는지 샘플링합니다. 접근 방식은 다음과 같이 설명할 수 있습니다.

여기에는 고려할 수 있는 2가지 주요 사례가 있습니다.

1. K회 미만으로 제품을 구매한 고객으로부터 제품을 샘플링해야 합니까?
2. 기간 종료가 목표 간격 시작 전인 경우 제품을 샘플링해야 합니까?

다음 그래프는 다양한 하이퍼파라미터를 사용하여 이 방법이 달성하는 결과를 보여줍니다.

ft — 제품을 최소 K(여기서는 K=5) 번 구매한 고객만 선택합니다.
tm — 목표 구간에 속하는 후보만 선택

그가 능력이 있다는 것은 놀라운 일이 아니다 (0, 0) 가장 큰 소환 그리고 가장 작은 정확, 이 조건에서 가장 많은 후보자가 검색되기 때문입니다. 그러나 특정 제품을 XNUMX% 미만으로 구매한 고객에게는 제품 샘플을 제공하지 않을 때 가장 좋은 결과를 얻을 수 있습니다. k 상품을 포함한 기간의 끝이 목표 간격 이전에 해당하는 횟수 및 추출물.

카테고리별 인기

또 다른 매우 분명한 아이디어는 다양한 카테고리나 브랜드에서 인기 있는 제품을 샘플링하는 것입니다. 여기서는 각 구매자에 대해 계산합니다. 탑케이 "선호하는" 카테고리/브랜드를 선택하고 이 카테고리/브랜드에서 "인기 있는"을 추출합니다. 우리의 경우에는 상품 구매 횟수에 따라 '좋아요'와 '인기'를 결정합니다. 이 접근 방식의 또 다른 장점은 콜드 스타트 ​​사례에 적용할 수 있다는 것입니다. 즉, 구매 횟수가 매우 적거나, 오랫동안 매장을 방문하지 않았거나, 방금 로열티 카드를 발급한 고객을 위한 것입니다. 그들에게는 고객에게 인기 있고 역사가 있는 품목을 재고로 확보하는 것이 더 쉽고 좋습니다. 결과 측정항목은 다음과 같습니다.

여기서 '카테고리'라는 단어 뒤의 숫자는 해당 카테고리의 중첩 수준을 의미합니다.

전반적으로, 카테고리가 좁을수록 쇼핑객이 "좋아하는" 제품을 더 정확하게 추출하므로 더 나은 결과를 얻을 수 있다는 것도 놀라운 일이 아닙니다.

매주 다양한 상품을 대체 구매

추천 시스템에 관한 기사에서 본 적이 없는 흥미로운 접근 방식은 상당히 간단하면서도 동시에 작동하는 Markov 체인의 통계 방법입니다. 여기서는 2주가 소요되며 각 고객에 대해 제품 쌍을 만듭니다. [i주차에 구입]-[j주차에 구입], 여기서 j > i, 여기에서 각 제품에 대해 다음 주에 다른 제품으로 전환할 확률을 계산합니다. 즉, 각 상품 쌍에 대해 producti-productj 우리는 발견된 쌍의 수를 세고 쌍의 수로 나눕니다. 제품 첫 주에 있었어요. 후보자를 추출하기 위해 구매자의 마지막 영수증을 받아 추출합니다. 탑케이 우리가 받은 전환 매트릭스에서 가장 가능성이 높은 다음 제품입니다. 전환 행렬을 구성하는 과정은 다음과 같습니다.

전환 확률 행렬의 실제 예에서 다음과 같은 흥미로운 현상을 볼 수 있습니다.

여기서는 소비자 행동에서 드러나는 흥미로운 종속성을 확인할 수 있습니다. 예를 들어 감귤류를 좋아하거나 다른 브랜드로 전환할 가능성이 있는 우유 브랜드를 좋아합니다. 버터처럼 반복 구매 빈도가 높은 제품도 여기에 속한다는 것도 놀라운 일이 아닙니다.

Markov 체인을 사용하는 방법의 측정항목은 다음과 같습니다.

k — 구매자의 마지막 거래에서 구매한 각 제품에 대해 검색된 제품 수입니다.
보시다시피, k=4인 구성에서 가장 좋은 결과가 나타납니다. 4주차의 급증은 연휴 기간의 계절적 행동으로 설명할 수 있습니다. 

다른 모델의 특성에 따라 구매자와 유사한 제품

이제 가장 어렵고 흥미로운 부분인 고객 벡터와 다양한 모델에 따라 제작된 제품을 기반으로 가장 가까운 이웃을 검색하는 단계에 이르렀습니다. 우리 작업에서는 다음과 같은 3가지 모델을 사용합니다.

• ALS
• Word2Vec(이러한 작업을 위한 Item2Vec)
• DSSM

우리는 이미 ALS를 다루었습니다. 학습 방법에 대해 읽을 수 있습니다. 여기에. Word2Vec의 경우, 우리는 잘 알려진 모델 구현을 사용합니다. Gensim. 텍스트와 유사하게 제안을 구매 영수증으로 정의합니다. 따라서 제품 벡터를 구성할 때 모델은 영수증의 "컨텍스트"(영수증에 남아 있는 제품)의 제품을 예측하는 방법을 학습합니다. 전자상거래 데이터에서는 영수증 대신 구매자 세션을 사용하는 것이 더 좋습니다. 오존. 그리고 DSSM은 분석하기에 더 흥미롭습니다. 처음에는 Microsoft 직원이 검색 모델로 작성했습니다. 여기에서 원본 연구 논문을 읽을 수 있습니다.. 모델의 아키텍처는 다음과 같습니다.

여기에 Q — 쿼리, 사용자 검색 쿼리, 디[i] — 문서, 인터넷 페이지. 모델에 대한 입력은 각각 요청 및 페이지의 속성입니다. 각 입력 레이어 뒤에는 완전히 연결된 여러 레이어(다층 퍼셉트론)가 있습니다. 다음으로, 모델은 모델의 마지막 레이어에서 얻은 벡터 간의 코사인을 최소화하는 방법을 학습합니다.
추천 작업은 정확히 동일한 아키텍처를 사용합니다. 요청 대신 사용자가 있고 페이지 대신 제품이 있습니다. 그리고 우리의 경우 이 아키텍처는 다음과 같이 변환됩니다.

이제 결과를 확인하기 위해 마지막 요점을 다루어야 합니다. ALS 및 DSSM의 경우 명시적으로 정의된 사용자 벡터가 있는 경우 Word2Vec의 경우 제품 벡터만 있습니다. 여기서는 사용자 벡터를 구축하기 위해 3가지 주요 접근 방식을 정의했습니다.

1. 벡터를 추가하면 코사인 거리에 대해 구매 내역에 있는 제품의 평균을 구한 것으로 나타났습니다.
2. 시간 가중치를 적용한 벡터 합입니다.
3. TF-IDF 계수를 사용하여 상품의 무게를 측정합니다.

구매자 벡터의 선형 가중치의 경우 사용자가 어제 구입한 제품이 1개월 전에 구입한 제품보다 사용자의 행동에 더 큰 영향을 미친다는 가설에서 출발합니다. 따라서 우리는 구매자의 이전 주에 대한 배당률을 XNUMX로 고려하고 그 다음에는 ½, ⅓ 등의 배당률로 무슨 일이 일어났는지 고려합니다.

TF-IDF 계수의 경우 텍스트의 TF-IDF와 정확히 동일하게 수행하지만 구매자를 문서로 간주하고 수표를 제안으로 간주하며 단어는 제품입니다. 이렇게 하면 사용자의 벡터는 희귀한 상품 쪽으로 더 많이 이동하는 반면, 구매자에게 자주 사용되는 친숙한 상품은 크게 변하지 않습니다. 접근 방식은 다음과 같이 설명할 수 있습니다.

이제 측정항목을 살펴보겠습니다. ALS 결과는 다음과 같습니다.

구매자 벡터 구성의 다양한 변형이 포함된 Item2Vec에 대한 메트릭:

이 경우 기준선과 정확히 동일한 모델이 사용됩니다. 유일한 차이점은 우리가 사용할 k입니다. 협업 모델만 사용하려면 각 고객별로 가장 가까운 제품을 50~70개 정도 가져와야 합니다.

DSSM에 따른 측정항목은 다음과 같습니다.

모든 방법을 결합하는 방법은 무엇입니까?

멋지네요. 그런데 그렇게 많은 후보 추출 도구 세트를 어떻게 처리해야 할까요? 데이터에 대한 최적의 구성을 선택하는 방법은 무엇입니까? 여기에는 몇 가지 문제가 있습니다.

1. 각 방법에서 하이퍼파라미터에 대한 검색 공간을 어떻게든 제한해야 합니다. 물론 모든 곳에서 이산적이지만 가능한 점의 수는 매우 많습니다.
2. 특정 하이퍼파라미터와 함께 특정 방법의 소수의 제한된 샘플을 사용하여 측정항목에 가장 적합한 구성을 어떻게 선택할 수 있습니까?

첫 번째 질문에 대한 정확한 답을 아직 찾지 못했기 때문에 다음과 같이 진행합니다. 각 방법에 대해 우리가 보유한 데이터에 대한 일부 통계에 따라 하이퍼파라미터 검색 공간 제한기가 작성됩니다. 따라서 사람들의 평균 구매 기간을 알면 "이미 구매한 것"과 "오래된 구매 기간" 방법을 어느 기간에 사용해야 하는지 추측할 수 있습니다.

그리고 다양한 방법의 적절한 수의 변형을 거친 후 다음 사항에 주목합니다. 각 구현은 특정 수의 후보를 추출하고 우리를 위한 특정 핵심 측정항목 값을 갖습니다(회상). 우리는 허용 가능한 컴퓨팅 성능에 따라 가능한 가장 높은 측정 기준을 사용하여 특정 수의 후보자 총계를 얻고 싶습니다. 여기서 문제는 배낭 문제로 아름답게 축소됩니다.

여기서 후보의 수는 잉곳의 무게이고, 회수 방법은 그 값입니다. 그러나 알고리즘을 구현할 때 고려해야 할 두 가지 사항이 더 있습니다.

• 메소드는 검색하는 후보에서 중복될 수 있습니다.
• 어떤 경우에는 서로 다른 매개변수를 사용하여 하나의 방법을 두 번 사용하는 것이 옳을 수 있으며 첫 번째의 후보 출력은 두 번째의 하위 집합이 아닙니다.

예를 들어, 검색 간격을 달리하여 "이미 구매한 것" 방법을 구현하는 경우 해당 후보 집합이 서로 중첩됩니다. 동시에 출구에서 "정기 구매"의 다양한 매개변수는 완전한 교차점을 제공하지 않습니다. 따라서 우리는 서로 다른 매개변수를 사용하는 샘플링 접근 방식을 블록으로 나누어 각 블록에서 특정 하이퍼 매개변수를 사용하여 최대 하나의 추출 접근 방식을 취하려고 합니다. 이렇게 하려면 배낭 문제를 구현하는 데 약간의 영리함이 필요하지만 점근법과 결과는 변하지 않습니다.

이 현명한 조합을 통해 단순한 협업 모델과 비교하여 다음과 같은 측정항목을 얻을 수 있습니다.

최종 측정항목에서 다음 그림을 볼 수 있습니다.

그러나 여기에서 비즈니스에 유용한 권장 사항에 대해 밝혀지지 않은 점이 하나 있음을 알 수 있습니다. 이제 우리는 예를 들어 다음 주에 사용자가 무엇을 구매할지 예측하는 훌륭한 작업을 수행하는 방법을 배웠습니다. 하지만 그가 이미 구매할 물건에 대해 단순히 할인을 제공하는 것은 그다지 멋진 일이 아닙니다. 하지만 예를 들어 다음 지표에 대한 기대치를 최대화하는 것이 좋습니다.

1. 개인 추천에 따른 마진/회전율.
2. 평균 고객 확인.
3. 방문 빈도.

따라서 얻은 확률에 다양한 계수를 곱하고 위의 측정항목에 영향을 미치는 제품이 상위에 오도록 순위를 다시 매깁니다. 어떤 접근 방식을 사용하는 것이 가장 좋은지 미리 만들어진 솔루션은 없습니다. 우리는 이러한 계수를 생산 과정에서 직접 실험하기도 합니다. 그러나 가장 좋은 결과를 제공하는 흥미로운 기술은 다음과 같습니다.

1. 제품의 가격/마진을 곱합니다.
2. 제품이 표시된 평균 영수증을 곱합니다. 그래서 그들은 보통 다른 것을 가져가는 상품이 나올 것입니다.
3. 이 제품이 사람들을 더 자주 재방문하도록 유도한다는 가설을 바탕으로 이 제품 구매자의 평균 방문 빈도를 곱합니다.

계수에 대한 실험을 수행한 후 프로덕션에서 다음 측정항목을 얻었습니다.

여기에 전체 제품 전환 — 우리가 생성한 권장 사항의 모든 제품 중에서 구매한 제품의 비율입니다.

주의 깊은 독자라면 오프라인 지표와 온라인 지표 사이의 상당한 차이를 발견할 것입니다. 이 동작은 모델 학습 시 추천할 수 있는 제품에 대한 모든 동적 필터를 고려할 수 없다는 사실로 설명됩니다. 우리에게는 검색된 후보자 중 절반이 필터링될 수 있는 것이 일반적인 이야기입니다. 이러한 특이성은 우리 업계에서 일반적입니다.

수익 측면에서 다음과 같은 이야기가 나옵니다. 권장 사항 출시 후 테스트 그룹의 수익이 크게 증가하고 있으며 이제 권장 사항에 따른 평균 수익 증가율은 3-4%입니다.

결론적으로, 실시간이 아닌 추천이 필요한 경우 추천 후보를 추출하는 실험에서 품질이 매우 크게 향상될 수 있다고 말씀드리고 싶습니다. 세대에 많은 시간을 투자하면 여러 가지 좋은 방법을 결합할 수 있어 전체적으로 비즈니스에 큰 결과를 가져올 수 있습니다.

해당 자료에 흥미가 있다고 생각하는 분들과 댓글을 통해 기꺼이 대화를 나누겠습니다. 저에게 개인적으로 질문하실 수 있습니다. 전보. AI/스타트업에 대한 생각도 공유합니다. 전보 채널 - 환영 :)

출처 : habr.com