色々なプーリングを思いついてみた

はじめに

プーリングは，畳み込みニューラルネットワークにおいて，特徴マップを空間的な局所ごとに代表値に集約することにより，特徴マップの空間的な解像度を1段階下げる(ダウンサンプリング)操作です．本記事では，私が思いついたプーリングのアイデアをいくつか示します．プーリング単体で閉じていない手法もありますがご了承ください．

アイデアの一覧 （2023/3/14 時点）

各アイデアの詳細は後日追記します

1. $L_p$ Norm Pooling（$p → ∞$で Max プーリングに等しい）
2. 外周成分から矩形状にプーリング
3. （左上，左下，右上，右下）の点から反対側へ円形波状にプーリング
4. 算術（幾何，調和）平均プーリング
5. 中央値プーリング
6. 行列の定値性を用いたスレッショルディング：ReLUに似せた形式
7. 遅延埋め込み → Max プーリング
8. 水平（垂直）方向微分 → Max プーリング
9. T字，L字プーリング

補足

以下は各手法を手書きで説明したものです．これらは記事としてまとめる予定です．