Open4
Azure Content Safety のプロダクト調査
yudai yamamoto根拠性の検出 (Groundedness detection)
Groundedness detection は、大規模言語モデル (LLM) によって生成された grounded でないコンテンツを、 grounding sources と比較してチェックします。推論機能はコンテンツが grounded である理由を説明し、修正機能は grounded でないコンテンツを修正するための提案を提供します。
yudai yamamoto根拠のないコンテンツに対する推論や修正の提案を得るかどうか選択できる
選択肢は３つ。
- 理由を受けない
- 理由を受ける
- 修正提案を受ける
2, 3 を選択する場合、マネージド ID を使用して、コンテンツ セーフティ リソースが Azure OpenAI リソースにアクセスできるようにする必要あり
yudai yamamotoコード用の保護されたマテリアルの検出 (Protected material detection for code)
「保護されたマテリアルの検出 (コード)」機能を利用して、モデルが生成したコードが Github リポジトリに既に存在するかどうかを確認し、存在する場合はそれらのリポジトリと関連ライセンスへの直接リンクを取得することで、コンプライアンスを確保します。
yudai yamamoto試しにサンプルコードで試すと以下のような出力
ヒットしたコードのリポジトリ一覧とそのリポジトリのライセンス情報が表示される
