🐙
登壇記録：NVIDIA NIMとNVIDAI NeMo Guardrailsの紹介
今回は本日以下のイベントで登壇しましたので、そちらの資料の共有と簡単な概要の共有になります。
登壇資料の共有
今回の登壇資料は以下のspeackerdeckにアップロードしておりますのでぜひご覧ください。
登壇内容
今回の登壇では主に以下のトピックについて取り扱いました。
- NVIDIA NIMを用いた最適化された環境でのモデルのサービングについて
- garakを用いたLLMの脆弱性診断
- NeMo Guardrailsを用いたLLMに対するガードレールの設定
LLMをアプリケーションを組み込む際に、その入出力の安全性は注意深く取り扱われるべき内容ではあるものの、まだまだ積極的に利用されていない印象です。どのような脆弱性があるかを把握し適切なガードレールを敷くことは、LLMがアプリケーションの中核を担う上で重要な要素になるので、ぜひみなさんも利用を検討してみてください。
garakやNeMo Guardrailsについては私の過去の記事でも取り扱っていますので、合わせてご覧いただければと思います。
今後の目標
NVIDIA製品だけでなく機械学習に関するソフトウェア、ハードウェア両方の面からアプローチをし、MLといえばこの人！と言うポジションを確立できるように頑張ろうと思います。
Discussion