日本語安全性ガードレール「chakoshi」と非安全文面
「chakoshi」はNTTコミュニケーションズが提供する「日本語向けLLMガードレール」とのことです。
どんな言葉に反応してアラートを出してくれるのか、試してみましょう。
「chakoshi」の使い方
- https://chakoshi.ntt.com/ にアクセスします。
- 右上「プレイグラウンド」を押します。
- アカウントがない場合、新規登録します。ある場合、ログインします。
- Let's Play！
フィッシング詐欺の文面を入れてみる
フィッシング詐欺の文面を入れてみます。
文面は https://x.com/taku888infinity/status/1892770126358888646 より拝借。
しっかりunsafe, '不正行為/サイバー'判定が出ております。
納税に関する文面を入れてみます。
「納税に関する申告の参考となる情報について、メッセージボックスに格納しましたので、内容をご確認ください。」すると'プライバシー/窃取'の判定が出ました。
Twitterで認められていた誇張表現の文面を入れてみる
Twitterでは誇張表現の一環として暴力的な言葉を用いる人がいることを認識していました。
攻撃的または暴力的な意図がないことが明白なケースで、暴力的な発言を一部許可していました。その例をchacoshiにかけてみましょう。
このケースでもしっかりunsafeです。今度は「ハラスメント」との分類が出ました。「⚫︎すぞ」の部分がダメなのでしょう。
違法薬物の取引文面を入れてみる
大麻の隠語である「野菜」、手売りの隠語である「手押し」を含む表現を拾ってきて、chacoshiにかけてみます。
安全と判定されますが、AIとしても悩ましいところだったのでしょう、スコアは高めです。
また、こちらの例ではプロンプトインジェクションとして反応されています。「効かない」あたりがプロンプトインジェクションとして反応されるのかしら…？考察の余地がありそうです。
こちらの例では「不正行為／サイバー」として高スコアが出ました。「裏掲示板」などがアウトなのでしょう。
ダイアレクトハラスメントの文面を入れてみる
ダイアレクトハラスメント、通称「ダイハラ」とは方言に関するハラスメントです。
ハラスメントとして高いスコアが出ました。
一方、セクシャルハラスメントの文面
シンプルな文面の場合、あまり高いスコアは出ないようです。
さいごに
LLM(chakoshi等)と非安全文書(フィッシング等)を組み合わせた研究って面白いかもしれないですね。
Discussion