こんにちは、みんな！ 私の名前はサーシャです。LoyaltyLab の CTO 兼共同創設者です。 XNUMX年前、他の貧しい学生と同じように、友人と私は夕方、家の近くの最も近い店にビールを買いに行きました。 私たちは、その小売店が、私たちがビールを飲みに来ることを知っていて、ポテトチップスやクラッカーの割引を提供しなかったことに非常に腹を立てました。それは当然のことだったのですが。 私たちはなぜこのような状況が起こっているのか理解できず、自分たちの会社を立ち上げることにしました。 おまけに、毎週金曜日には同じチップを割引してもらえます。

そして、私が製品の技術面に関する資料を次の場所で紹介するところまで行き着きました。 NVIDIA GTC。 私たちは自分たちの成果をコミュニティと共有できることを嬉しく思い、記事の形でレポートを公開します。

導入

旅の初めに他の皆さんと同じように、私たちもレコメンダー システムがどのように作られているかの概要から始めました。 そして、最も人気のあるアーキテクチャは次のタイプであることが判明しました。

これは XNUMX つの部分で構成されます。

1. シンプルで高速なモデル (通常は協調的なモデル) を使用して、推奨事項の候補をサンプリングします。
2. データ内の考えられるすべての特徴を考慮して、より複雑で低速なコンテンツ モデルを使用して候補をランク付けします。

以下、以下の用語を使用します。

• 候補者/推薦候補者 — 本番環境での推奨事項に含まれる可能性があるユーザーと製品のペア。
• 候補抽出/抽出器/候補抽出方法 — 利用可能なデータから「推奨候補」を抽出するプロセスまたは方法。

通常、最初のステップでは、さまざまなバリエーションの協調フィルタリングを使用します。 最もポピュラーな - ALS。 驚くべきことに、レコメンダー システムに関するほとんどの記事は、最初の段階での協調モデルに対するさまざまな改善点のみを明らかにしており、他のサンプリング方法については誰もあまり言及していません。 私たちにとって、協調モデルとそれによるさまざまな最適化のみを使用するアプローチは、期待した品質で機能しませんでした。そのため、この部分について特に調査を進めました。 そして記事の最後では、ベースラインである ALS をどの程度改善できたかを示します。

私たちのアプローチの説明に移る前に、リアルタイムのレコメンデーションでは、30 分前に発生したデータを考慮することが重要であるが、必要な時間内に機能するアプローチは実際にはそれほど多くないことに注意することが重要です。 ただし、私たちの場合、推奨事項を収集する必要があるのは XNUMX 日に XNUMX 回だけで、ほとんどの場合は XNUMX 週間に XNUMX 回です。これにより、複雑なモデルを使用して品質を数倍向上させる機会が得られます。

候補を抽出するタスクに関して ALS のみが示す指標をベースラインとして考えてみましょう。 私たちが監視する主な指標は次のとおりです。

• 精度 - サンプリングされた候補の中から正しく選択された候補の割合。
• 再現率は、ターゲット区間内に実際に存在した候補のうち、出現した候補の割合です。
• F1 スコア - 前の XNUMX つのポイントに基づいて計算された F 値。

また、追加のコンテンツ機能を使用して勾配ブースティングをトレーニングした後の最終モデルのメトリクスも見ていきます。 ここには 3 つの主要な指標もあります。

• precision@5 - 各購入者の確率に関する上位 5 位の製品の平均パーセンテージ。
• response-rate@5 - 顧客の来店から少なくとも 5 つの個人オファーの購入までのコンバージョン (XNUMX つのオファーで XNUMX 製品)。
• ユーザーあたりの平均 roc-auc - 平均 ロクオーク 各購入者にとって。

これらの指標はすべて、次の点で測定されることに注意することが重要です。 時系列相互検証つまり、トレーニングは最初の k 週間に行われ、k+1 週間がテスト データとして取得されます。 したがって、季節の浮き沈みはモデルの品質の解釈に最小限の影響を与えました。 さらに、すべてのグラフで、横軸は相互検証の週番号を示し、縦軸は指定されたメトリックの値を示します。 すべてのグラフは XNUMX つのクライアントからのトランザクション データに基づいているため、相互の比較は正確です。

私たちのアプローチの説明を始める前に、まずベースライン、つまり ALS で訓練されたモデルを見ていきます。
候補取得メトリクス:

最終的な指標:

私はアルゴリズムのすべての実装をある種のビジネス仮説として扱います。 したがって、非常に大まかに言うと、どのようなコラボレーション モデルも、「人々は自分に似た人が買うものを買う傾向がある」という仮説として考えることができます。 すでに述べたように、私たちはそのようなセマンティクスに限定されませんでした。ここでは、オフライン小売のデータにうまく機能するいくつかの仮説を示します。

1. 以前にすでに購入したもの。
2. 以前購入したものと同じものです。
3. かなり昔に購入した期間。
4. カテゴリ別・ブランド別の人気商品。
5. 週ごとに異なる商品を交互に購入する (マルコフ連鎖)。
6. さまざまなモデル (Word2Vec、DSSM など) によって構築された特性に応じて、購入者に同様の製品を提供します。

前に何を買いましたか？

食料品小売業で非常にうまく機能する最も明白なヒューリスティックです。 ここでは、ポイントカード所有者が過去 K 日間 (通常は 1 ～ 3 週間)、または XNUMX 年前の K 日間に購入したすべての商品を取り上げます。 この方法のみを適用すると、次のメトリクスが得られます。

ここで、期間が長くなるほど、再現率が高くなり、精度が低下し、その逆も同様であることは明らかです。 平均して、「過去 2 週間」はクライアントにとってより良い結果をもたらします。

以前購入したものと同じもの

食料品小売りの場合、「以前に購入したもの」がうまく機能することは驚くべきことではありませんが、ユーザーがすでに購入したものだけから候補を抽出することはあまりクールではありません。新製品で購入者を驚かせる可能性は低いからです。 したがって、同じ協調モデルを使用してこのヒューリスティックをわずかに改善することを提案します。 ALS トレーニング中に受け取ったベクトルから、ユーザーが既に購入したものと同様の製品を入手できます。 この考え方は、ビデオコンテンツを視聴するサービスにおける「類似ビデオ」に非常に似ていますが、ユーザーが特定の瞬間に何を食べているか、何を買っているかがわからないため、ユーザーがすでに購入したものと類似したものしか探すことができません。なぜなら、私たちはそれがどれほどうまく機能するかをすでに知っているからです。 このメソッドを過去 2 週間のユーザー トランザクションに適用すると、次のメトリクスが得られます。

それは k — 過去 14 日間に購入者が購入した製品ごとに取得された類似製品の数。
このアプローチは、ユーザーの購入履歴にすでにあるものを推奨しないことが重要だったクライアントにとって特にうまくいきました。

後期購入期間

すでにわかったように、商品の購入頻度が高いため、最初のアプローチは特定のニーズにうまく機能します。 しかし、洗剤やシャンプーなどの商品はどうでしょうか。 つまり、XNUMX ～ XNUMX 週間ごとに必要になる可能性が低く、従来の方法では抽出できない製品の場合です。 これは次のアイデアにつながります。製品をより多く購入した顧客の平均購入期間を計算することを提案します。 k 一度。 そして、購入者がすでに使い果たしている可能性が高いものを抽出します。 商品の計算された期間が適切かどうかを目で確認できます。

次に、製品期間の終了が、推奨事項が運用される期間内にあるかどうかを確認し、何が起こるかをサンプルします。 このアプローチは次のように図示できます。

ここでは、主に 2 つのケースが考えられます。

1. 製品購入回数が K 回未満の顧客から製品をサンプルする必要がありますか。
2. 期間の終了日が対象期間の開始日より前にある場合、製品をサンプリングする必要がありますか。

次のグラフは、このメソッドがさまざまなハイパーパラメーターでどのような結果を達成するかを示しています。

ft — 製品を少なくとも K (ここでは K=5) 回購入した顧客のみを対象とします
tm — ターゲット間隔内に該当する候補のみを採用します

彼に能力があるのは驚くべきことではない （0、0） 最大の リコール そして最小の 精度, この条件では、最も多くの候補が取得されるためです。 ただし、特定の製品を購入した金額が XNUMX 未満の顧客に対して製品のサンプルを提供しない場合に、最良の結果が得られます。 k 対象期間よりも前に期間終了が到来する商品を含む抽出物。

カテゴリ別の人気

もう XNUMX つの非常に明白なアイデアは、さまざまなカテゴリまたはブランドにわたって人気のある製品をサンプリングすることです。 ここでは購入者ごとに計算します トップ-k カテゴリ/ブランドを「お気に入り」にし、そのカテゴリ/ブランドから「人気」を抽出します。 今回の場合、商品の購入数によって「お気に入り」と「人気」を判断します。 このアプローチのさらなる利点は、コールド スタートの場合にも適用できることです。 つまり、ほとんど買い物をしていない顧客、長期間店舗に行っていない顧客、またはポイント カードを発行したばかりの顧客が対象です。 彼らにとっては、顧客に人気があり、歴史のある商品を在庫する方が簡単で良いのです。 結果のメトリクスは次のとおりです。

ここで、「カテゴリ」という単語の後の数字は、カテゴリのネストのレベルを意味します。

全体として、より狭いカテゴリの方が買い物客にとってより正確な「お気に入り」商品を抽出するため、より良い結果が得られることも驚くべきことではありません。

週ごとに異なる商品を交互に購入する

レコメンダー システムに関する記事で見たことのない興味深いアプローチは、マルコフ連鎖の非常にシンプルでありながら同時に機能する統計手法です。 ここでは 2 週間かけて、顧客ごとに製品のペアを構築します。 [i 週に購入したもの]-[j 週に購入したもの]、j > i, ここから各製品について、来週別の製品に切り替える確率を計算します。 つまり、商品のペアごとに、 製品-製品j 見つかったペアの数を数え、ペアの数で割ります。 製品 最初の週にありました。 候補者を抽出するには、購入者の最後のレシートを取得して抽出します。 トップ-k 私たちが受け取った遷移マトリックスから最も可能性の高い次の製品。 遷移行列を構築するプロセスは次のようになります。

遷移確率行列の実際の例から、次の興味深い現象がわかります。

ここでは、消費者行動で明らかになった興味深い依存関係に気づくことができます。たとえば、柑橘類の愛好家や牛乳のブランドが好きで、別のブランドに切り替える可能性があります。 バターのようにリピート購入の頻度が高い商品もここに来るのも不思議ではありません。

マルコフ連鎖を使用したメソッドのメトリクスは次のとおりです。

k — 購入者の最後の取引から購入された製品ごとに取得された製品の数。
ご覧のとおり、k=4 の構成で最良の結果が得られます。 第 4 週の急増は、休日前後の季節的な行動によって説明できます。 

さまざまなモデルによって構築された特性に応じて、購入者に類似した製品を提供

ここで、最も困難で興味深い部分、つまり顧客とさまざまなモデルに従って構築された製品のベクトルに基づいて最近傍を検索する部分に来ました。 私たちの作業では、次の 3 つのモデルを使用します。

• ALS
• Word2Vec (このようなタスクにはItem2Vec)
• DSSM

ALS についてはすでに取り上げました。ALS がどのように学習するかについては、こちらをお読みください。 ここで。 Word2Vec の場合、よく知られているモデルの実装を使用します。 ゲンシム。 テキストから類推して、オファーを購入レシートとして定義します。 したがって、製品ベクトルを構築するとき、モデルはレシート内の製品の「コンテキスト」(レシート内の残りの製品) を予測することを学習します。 e コマース データでは、領収書ではなく購入者のセッションを使用する方が良いです。 オゾン。 DSSM は解析するのがさらに興味深いです。 当初、これは Microsoft の人たちによって検索用のモデルとして書かれましたが、 元の研究論文はここで読むことができます。 モデルのアーキテクチャは次のようになります。

それは Q — クエリ、ユーザー検索クエリ、 ディ[イ] — 文書、インターネットページ。 モデルへの入力は、それぞれリクエストとページの属性です。 各入力層の後には、完全に接続された多数の層 (多層パーセプトロン) が存在します。 次に、モデルは、モデルの最後の層で取得されたベクトル間のコサインを最小化することを学習します。
レコメンデーション タスクはまったく同じアーキテクチャを使用します。ただし、リクエストの代わりにユーザーが存在し、ページの代わりに製品が存在します。 そして私たちの場合、このアーキテクチャは次のように変換されます。

さて、結果を確認するには、最後の点をカバーする必要があります。ALS と DSSM の場​​合にユーザー ベクトルを明示的に定義した場合、Word2Vec の場合は積ベクトルのみが存在します。 ここでは、ユーザー ベクトルを構築するために、3 つの主要なアプローチを定義しました。

1. ベクトルを加算するだけで、コサイン距離については、購入履歴内の製品を単純に平均したことがわかります。
2. 時間重み付けを伴うベクトルの合計。
3. TF-IDF係数を使用した計量品。

購入者ベクトルの線形重み付けの場合、ユーザーが 1 か月前に購入した製品よりも昨日購入した製品の方がユーザーの行動に大きな影響を与えるという仮説に基づいて進めます。 したがって、購入者の前週をオッズ XNUMX で検討し、次に何が起こったかをオッズ XNUMX/XNUMX、XNUMX/XNUMX などで検討します。

TF-IDF 係数の場合、テキストの TF-IDF とまったく同じことを行います。ただし、購入者を文書として、小切手をオファーとしてそれぞれ考慮するだけです。単語は商品です。 こうすることで、ユーザーのベクトルはレアな商品へとさらにシフトしていきますが、購入者にとって頻繁に見慣れた商品はそのベクトルをあまり変えることはありません。 このアプローチは次のように図示できます。

次に、指標を見てみましょう。 ALS の結果は次のようになります。

購入者ベクトルを構築するさまざまなバリエーションを含む、Item2Vec のメトリクス:

この場合、ベースラインとまったく同じモデルが使用されます。 唯一の違いは、どの k を使用するかです。 コラボレーションモデルのみを使用するには、顧客ごとに最も近い製品を約 50 ～ 70 個用意する必要があります。

DSSM によるメトリクス:

すべての方法を組み合わせるにはどうすればよいでしょうか?

クールだとあなたは言いますが、これほど大量の候補抽出ツールのセットをどうすればよいでしょうか? データに最適な構成を選択するにはどうすればよいですか? ここにはいくつかの問題があります。

1. 各メソッドのハイパーパラメータの検索空間を何らかの方法で制限する必要があります。 もちろん、どこでも離散的ですが、可能な点の数は非常に多くなります。
2. 特定のハイパーパラメータを備えた特定のメソッドの少数の限られたサンプルを使用して、メトリクスに最適な構成を選択するにはどうすればよいでしょうか?

最初の質問に対する決定的に正しい答えはまだ見つかっていないため、次の手順に進みます。メソッドごとに、持っているデータの統計に応じて、ハイパーパラメーター検索スペース リミッターが書き込まれます。 したがって、人々が購入するまでの平均期間がわかれば、「すでに購入されたもの」と「過去に購入した期間」の方法をどの期間で使用するかを推測できます。

そして、さまざまなメソッドの一定の適切な数のバリエーションを実行した後、次のことに注意します。各実装は一定数の候補を抽出し、私たちにとって重要なメトリクスの特定の値を持っています (思い出してください)。 許容されるコンピューティング能力に応じて、可能な限り最高のメトリックを使用して、一定数の候補の合計を取得したいと考えています。 ここで問題は見事にバックパックの問題に崩壊します。

ここで、候補の数はインゴットの重量、再現方法はその値です。 ただし、アルゴリズムを実装する際に考慮すべき点がさらに 2 つあります。

• メソッドは、取得する候補に重複がある可能性があります。
• 場合によっては、XNUMX つのメソッドを異なるパラメーターで XNUMX 回実行することが正しく、XNUMX 回目の候補出力が XNUMX 回目のサブセットにならないことがあります。

たとえば、「すでに購入したもの」メソッドをさまざまな検索間隔で実装すると、候補のセットが相互にネストされます。 同時に、出口での「定期購入」のさまざまなパラメータは完全な交差を提供しません。 したがって、さまざまなパラメーターを使用したサンプリング アプローチをブロックに分割し、各ブロックから特定のハイパーパラメーターを使用した抽出アプローチを XNUMX つだけ実行するようにします。 これを行うには、ナップザック問題の実装に少し賢くなる必要がありますが、漸近線と結果は変わりません。

この賢い組み合わせにより、単純な協調モデルと比較して次の指標を取得できます。

最終的なメトリクスには、次の図が表示されます。

ただし、ここでビジネスに役立つ推奨事項について未解明な点が XNUMX つあることに気づきます。 これで、たとえばユーザーが来週何を買うかをうまく予測する方法を学びました。 しかし、すでに購入する予定の商品を単純に割引するのは、あまりクールではありません。 ただし、たとえば次の指標の期待を最大化するのは素晴らしいことです。

1. 個人的な推奨に基づいたマージン/売上高。
2. 平均的な顧客チェック。
3. 訪問頻度。

そこで、取得した確率にさまざまな係数を掛けて、上記の指標に影響を与える製品が上位になるように再ランク付けします。 どのアプローチを使用するのが最適であるか、既製のソリューションはありません。 私たちはそのような係数を本番環境で直接実験することもあります。 ただし、ほとんどの場合最良の結果が得られる興味深いテクニックを次に示します。

1. 商品の価格/マージンを掛けます。
2. 製品が掲載されている平均レシートを掛けます。 したがって、通常は他のものを使用する商品が登場します。
3. この商品が人々をより頻繁にリピートさせるという仮説に基づいて、この商品の購入者による平均訪問頻度を掛けます。

係数を使用して実験を行った後、本番環境で次の指標が得られました。

それは 全体的な製品の変換 — 当社が生成した推奨事項内の全製品のうち、購入された製品の割合。

注意深い読者は、オフラインとオンラインの指標の大きな違いに気づくでしょう。 この動作は、モデルのトレーニング時に、推奨できる製品のすべての動的フィルターを考慮できるわけではないという事実によって説明されます。 私たちにとって、取得された候補者の半分が除外されることは通常の話であり、この特異性は私たちの業界では一般的です。

収益に関しては、次のようなストーリーが得られます。推奨事項の開始後、テスト グループの収益が大幅に増加していることは明らかです。現在、推奨事項による収益の平均増加率は 3 ～ 4% です。

結論として、非リアルタイムのレコメンデーションが必要な場合は、レコメンデーションの候補を抽出する実験で非常に大きな品質の向上が見られると言いたいのです。 生成に多くの時間を費やすことで、多くの優れた方法を組み合わせることが可能になり、全体としてビジネスに大きな成果をもたらします。

この資料が興味深いと思った方とコメント欄で喜んでチャットします。 で個人的に質問することができます 電報。 AI/スタートアップについての私の考えも私の記事で共有しています 電報チャンネル - いらっしゃいませ ：）

出所： habr.com