Joint optimization of bid and budget allocation in sponsored search

Joint optimization of bid and budget Joint optimization of bid and budget Joint optimization of bid and budget Joint optimization of bid and budget allocation in sponsored searchallocation in sponsored searchallocation in sponsored searchallocation in sponsored search

Weinan ZhangƗ, Ying ZhangƗƗ, Bin GaoƗƗƗ, Yong YuƗ, Xiaojie YuanƗƗ, Tie-Yan LiuƗƗƗ

Ɨ Shanghai Jiao Tong University, Shanghai, 200240, P. R. ChinaƗƗ Nankai University, Tianjin, 300071, P. R. China

ƗƗƗ Microsoft Research Asia, Beijing, China(KDD 2012)

@shima_x

モチベーション

◆メディア＋広告主　－収益を最大化したい　　⇒ keyword毎の入札金額最適化とaccount毎の予算最適化を同時に行う

◆課題　－ keywordによって入札額が低すぎるものや、不必要に高すぎるものがる　　⇒ keyword毎の最適化を行うことで解決　－機会損失を防ぎたい　　⇒ 予算配分の最適化を行う事で解決

入札金額最適化と予算配分の最適化を合わせることで課題解決プラスアルファの効果を上げる手法を提案

Contributions

◆本論文の貢献　－入札金額最適化とキャンペーン最適化を同時に行うアルゴリズムを提案

DATA ANALYSIS ON SPONSORED SEARCH

- campaign budget -◆ キャンペーン中に予算が枯渇したaccountの統計

キャンペーン数が2,000を超えるようなaccountもあり、手動での最適化は難しい


- 入札額 -◆ 入札額の増加割合とランキング（position）上昇との関係

10%10%10%10%上昇させれば、57.36%57.36%57.36%57.36%の広告が上昇した

10%10%10%10%上昇させれば、57.36%57.36%57.36%57.36%の広告が上昇した


- Bid Price -◆ 各広告スロットの相対CTR　－ rankingが高ければCTRも高い　－ Figure 1の内容と合わせると、入札額の増加がCTRの増加につながる

ことを意味している　－有用なkeywordのみ入札額を増加させる


- Joint Optimization -◆ 本稿の最適化の考え方　－予算がすぐに枯渇しそうなキャンペーンもあれば全く消費されていないモノ

もある　－消費額が少ないキャンペーンの予算を消費の早いキャンペーンに移せば

よいが、それだと前者に機会損失が生じる　－これをうまく解決するようなアルゴリズムを提案する

JOINT OPTIMIZATION OF BID ANDJOINT OPTIMIZATION OF BID ANDJOINT OPTIMIZATION OF BID ANDJOINT OPTIMIZATION OF BID ANDBUDGET ALLOCATIONBUDGET ALLOCATIONBUDGET ALLOCATIONBUDGET ALLOCATION

- Probabilistic Model for Ad RankingProbabilistic Model for Ad RankingProbabilistic Model for Ad RankingProbabilistic Model for Ad Ranking -◆ 分布のフィッティング（bid priceとrankingの関係）　－ ranking position ρφでの勝利金額の間隔の算出に使用する　－正規分布である必要はない


- Probabilistic Model for Ad RankingProbabilistic Model for Ad RankingProbabilistic Model for Ad RankingProbabilistic Model for Ad Ranking -◆ 入札金額とranking positionに関する定義

入札額

ranking positionranking positionranking positionranking position

入札金額の確率分布 ρΦ+1+1+1+1で勝つ確率

((((ρΦよりも低いランクだと負ける確率))))

position position position position ρΦに表示される確率（ヒストリカルデータからの経験分布）

入札条件ω, auction , auction , auction , auction θ, position , position , position , position ρΦ で勝利する入札金額


- Probabilistic Model for Ad RankingProbabilistic Model for Ad RankingProbabilistic Model for Ad RankingProbabilistic Model for Ad Ranking -◆ 正規分布による入札金額の上下限の設定

winning price

勝利入札金額の下限値

勝利入札金額の上限値


- Probabilistic Model for Ad RankingProbabilistic Model for Ad RankingProbabilistic Model for Ad RankingProbabilistic Model for Ad Ranking -◆ position ρΦにおけるwinning priceの再定義

標準正規分布に従う

＝

quality score:quality score:quality score:quality score:ユーザが広告に気付いた後にクリックされる確率(query-ad similarity, semantic similaryty, taxonomy,(query-ad similarity, semantic similaryty, taxonomy,(query-ad similarity, semantic similaryty, taxonomy,(query-ad similarity, semantic similaryty, taxonomy, user query time, user query location user query time, user query location user query time, user query location user query time, user query location などから決まる))))

winnig scorewinnig scorewinnig scorewinnig score


- Probabilistic Model for Ad RankingProbabilistic Model for Ad RankingProbabilistic Model for Ad RankingProbabilistic Model for Ad Ranking -◆ 入札額の確率分布

入札額の確率は下側確率分布の累積値（ピンク色部分）＋上側確率分布の累積値（水色部分）


- Optimization ProblemOptimization ProblemOptimization ProblemOptimization Problem -

positionpositionpositionpositionρΦにおけるクリックされる確率

positionpositionpositionpositionρΦにおけるposition biasposition biasposition biasposition bias入札額bbbbωの時の条件ωにおけるclickclickclickclick確率

トータル見積クリック数

◆ クリック数の推定

nnnniiii個ある内のtttt番目の入札キーワード

kkkki,ti,ti,ti,tの元の入札額 kkkki,ti,ti,ti,tのVPCVPCVPCVPC

キャンペーン内のssss番目の広告

キャンペーン数


- Optimization ProblemOptimization ProblemOptimization ProblemOptimization Problem -

コスト※ω’’’’はωの1111ランク下のスロットにおける入札条件アイテム群

◆ 広告主の収益推定

広告主の見積収益


- Optimization ProblemOptimization ProblemOptimization ProblemOptimization Problem -◆ 最適化問題の定義

キャンペーン予算

最小キャンペーン予算

JOINT OPTIMIZATION OF BID ANDJOINT OPTIMIZATION OF BID ANDJOINT OPTIMIZATION OF BID ANDJOINT OPTIMIZATION OF BID ANDBUDGET ALLOCATIONBUDGET ALLOCATIONBUDGET ALLOCATIONBUDGET ALLOCATION- Efficient SolutionEfficient SolutionEfficient SolutionEfficient Solution -

◆ 最適化問題の再定義

広告主のaccountaccountaccountaccount内の入札金額ベクトル：

キャンペーン予算ベクトル：

※詳細は次シートに記載

JOINT OPTIMIZATION OF BID ANDJOINT OPTIMIZATION OF BID ANDJOINT OPTIMIZATION OF BID ANDJOINT OPTIMIZATION OF BID ANDBUDGET ALLOCATIONBUDGET ALLOCATIONBUDGET ALLOCATIONBUDGET ALLOCATION- Efficient SolutionEfficient SolutionEfficient SolutionEfficient Solution -

◆ 最適化問題の再定義


- Optimization ProblemOptimization ProblemOptimization ProblemOptimization Problem -◆ QP下位問題（ニュートン法の直線探索(?)）

Lagrangian functionLagrangian functionLagrangian functionLagrangian function

Lagrangian multipliersLagrangian multipliersLagrangian multipliersLagrangian multipliers

Hessian of the Lagrangian functionHessian of the Lagrangian functionHessian of the Lagrangian functionHessian of the Lagrangian function

gradient calculusgradient calculusgradient calculusgradient calculus


- Optimization ProblemOptimization ProblemOptimization ProblemOptimization Problem -◆ 変数のupdate

QPQPQPQPの下位問題に付随する乗数（????）

QPQPQPQP下位問題の解

参考）共役勾配法の直線探索

EXPERIMENTAL EVALUATIONEXPERIMENTAL EVALUATIONEXPERIMENTAL EVALUATIONEXPERIMENTAL EVALUATION- Experimental SettingsExperimental SettingsExperimental SettingsExperimental Settings -

◆ 実験に使用したデータ　－入札ログとadvertiser databaseのデータを利用している　－ 1か月分の入札ログ　－ 10億のオークションイベント　－これをtraining dataとtest dataに分割している　－ 400のp-accounts（キャンペーン中に予算が枯渇したアカウント）をサンプリ

ング　－ 120万の関連する入札ログを抽出


◆ 比較手法（baseline algorithms）　－ Original Bid Price and Campaign Budget(ORI)　　　元々使っていた手法　－ Joint Optimization of Bid and Budget(JO)　　　提案手法　－ Bid Price Only(BID)　　　提案手法の入札額最適化に関する部分のみ使用　－ Campaign Budget Only(BGT)　　　提案手法のキャンペーン予算最適化に関する部分のみ使用　－ Knapsack Problem(KS)　　　keywordの入札額についてmulti-choice knapsack problemを使用したモノ　－ Market Optimal Bid(MOB)　　　広告主の収益を最大にしようとするアルゴリズム.BIDとJOモデルの中間.　－ Joint Optimization with Advertiser Modeling(JOAM)　　　onlineモデル.各キャンペーンの動向を考慮した最適化モデル


◆ 評価指標　－ Ad Impressions　－ Expected Clicks　－ Advertiser Revenue　－ Search Engine Revenue

EXPERIMENTAL EVALUATIONEXPERIMENTAL EVALUATIONEXPERIMENTAL EVALUATIONEXPERIMENTAL EVALUATION- Experimental ResultsExperimental ResultsExperimental ResultsExperimental Results -

◆ Ad Impression　－すべての手法でORIを上回っている　－ BID,BGTよりもJOの方が効果が高い → 単独の最適化よりも2つを同時に

考慮した方が効果が大きい


◆ Expected Clicks　－すべての手法でORIを上回っている　－ impの増加は広告主の収益増大につながる　－にも関わらずMOBよりもBIDの結果の方が良い（提案手法が優れている）


◆ Advertiser Revenue　－すべての手法でORIを上回っている　－ JOはMOBを上回った　－ JO-AMはMOBを上回ったが、動的に広告主の動きを考慮したことが利い

ている


◆ Search Engine Revenue　－ BIDはimpもclickも改善効果が高かったため、検索エンジンの収益に関し

ても高い効果がみられた　－キャンペーン予算の最適は入札額最適化より効果が低い　－ JOが最も高い改善効果を示した

Conclusion

◆結論　－キャンペーン予算配分と入札額の両者を結びつけた最適化手法を提案した　－広告ランキングに対する確率モデルと広告主の予想収益を最大化する整数

最適化問題に関する手法を提案した

◆感想　－アカウント単位で最適化を行っている数少ない論文

　　　その点で有用であると感じた　－最適化の線形探索部分の記載が無いため、不明な点が残る

Technology

Joint optimization of bid and budget allocation in sponsored search