ちくわぶ

再現性確保をしたいときは，Lightning の <code>seed_everything()</code> と <code>Trainer</code> の <code>deterministic=True</code> を指定する．
<div class="code-block-container"><pre class="language-python"><code class="language-python code-line" data-line="2">from lightning.pytorch import Trainer, seed_everything

seed_everything(42, workers=True)
# sets seeds for numpy, torch and python.random.
model = Model()
trainer = Trainer(deterministic=True)
</code></pre></div><aside class="msg message">!<div class="msg-content">
<code>seed_everything()</code> で <code>workers=True</code> を設定することで, Lightning はすべての dataloader ワーカーと <code>torch</code>, <code>numpy</code>, <code>stdlib</code> の乱数生成器のプロセスで一意なシードを生成する. これをオンにすると, 例えば Data Augumentations がワーカー間で繰り返されないようになる.
</div></aside>
<iframe id="zenn-embedded__0b713a8778c5" src="https://embed.zenn.studio/card#zenn-embedded__0b713a8778c5" data-content="https%3A%2F%2Flightning.ai%2Fdocs%2Fpytorch%2Flatest%2Fcommon%2Ftrainer.html%23reproducibility" frameborder="0" scrolling="no" loading="lazy"></iframe><a href="https://lightning.ai/docs/pytorch/latest/common/trainer.html#reproducibility" style="display:none" target="_blank" rel="nofollow noopener noreferrer">https://lightning.ai/docs/pytorch/latest/common/trainer.html#reproducibility</a>

PyTorch Lightning の忘れがちな Tips