bilzard

<p>NN用のLambdaRankの公式実装は見つからなかったが、LightGBMの実装<sup class="footnote-ref"><a href="#fn-061c-1" id="fnref-061c-1">[1]</a></sup>は参考になる。</p>
<p>といっても、勾配更新の計算式は論文<sup class="footnote-ref"><a href="#fn-061c-2" id="fnref-061c-2">[2]</a></sup>の(6)式と全く同じである。<br>
</p><section class="zenn-katex"><embed-katex display-mode="1"><eqn>\lambda_{ij}=-\frac{\sigma}{1 + e^{\sigma(s_i - s_j)}}|\Delta_\text{NDCG}| \tag{6}</eqn></embed-katex></section><p></p>
<p>計算上の工夫として、</p>
<ul>
<li>損失関数の対象性を考慮して<embed-katex><eq class="zenn-katex">l_i&gt;l_j</eq></embed-katex>のケースのみ計算</li>
<li>sigmoid関数などの関数をテーブル化</li>
<li>sigmoid関数を<embed-katex><eq class="zenn-katex">[-50, 50]</eq></embed-katex>の区間でクリッピング</li>
<li><embed-katex><eq class="zenn-katex">|\Delta_{NDCG}| = | 2^{l_i} - 2^{l_j} | \cdot | \frac{1}{\log(2 + i)} - \frac{1}{\log(2 + j)}| \cdot \frac{1}{\text{NDCG}_{\max}}</eq></embed-katex></li>
</ul>
<section class="footnotes">
<span class="footnotes-title">脚注</span>
<ol class="footnotes-list">
<li id="fn-061c-1" class="footnote-item">
<p><a href="https://github.com/microsoft/LightGBM/blob/master/src/objective/rank_objective.hpp" target="_blank" rel="nofollow noopener noreferrer">https://github.com/microsoft/LightGBM/blob/master/src/objective/rank_objective.hpp</a> <a href="#fnref-061c-1" class="footnote-backref">↩︎</a></p>
</li>
<li id="fn-061c-2" class="footnote-item">
<p><a href="https://www.microsoft.com/en-us/research/publication/from-ranknet-to-lambdarank-to-lambdamart-an-overview/" target="_blank" rel="nofollow noopener noreferrer">https://www.microsoft.com/en-us/research/publication/from-ranknet-to-lambdarank-to-lambdamart-an-overview/</a> <a href="#fnref-061c-2" class="footnote-backref">↩︎</a></p>
</li>
</ol>
</section>
