プロンプトエンジニアリングガイド

プロンプトエンジニアリングガイドの雑読メモ
初めに
プロンプトエンジニアリングは、言語モデル(LM)を効率的に使用するためのプロンプトの開発と最適化のための比較的新しい学問分野
これ読むことによってプロンプトエンジニアリングについて理解し、効果的なプロンプティング技術を身につけることができるらしい。
llmの設定
llm(large language model)にはいくつかのパラメータがあり、うまく使ったら異なる回答を得れてコントロールできる。
temperature-:
決定論的回答の度合い。この値を低くすればするほど決定論的になる。
デフォルトでは1, 通常では0.5~1にすることが多い。
極限まで小さくすると0になる。
top_p:
確率性の度合い。この値を低くすればするほど確率の高い回答が得れれる傾向にある。
なのでtemperatureはテキストの創造性、top_pは正確性を高めるためのパラメータ。

プロンプトの要素
プロンプトには主に以下のコンポーネントが含まれることが主。
・命令:モデルに実行してほしい命令
・文脈:モデルをより良い応答に導くために用いる付加情報
・入力データ:応用を見つけたい入力または質問
・出力指示子:出力タイプ、形式
指示
指示はプロンプトの最初に配置、指示と文脈を区切るために「###」のような記号を使うのがいい。
と書いてあるが、gptに聞いてみると重要なのはどうやら指示の具体性らしい
特異性
モデルに実行してほしい指示について具体的に伝えることによって結果がよくなる。
不正確さを避ける
入力が不正確であるよりも具体的かつ明確、的をえたプロンプトの方が良い。
するかしないか?
「しないこと」を言わず、することをいう。
このことを心がけることで具体的になり、モデルから良い回答を得るための詳細に焦点が当てられる。
以下の例でもある通り、大体の人は後者の回答を求めて質問しているのでこれは大事そう。(知らんけど)

プロンプトの例
テキスト要約
出力の長さや粒度をコントロールしたいときに用いる。
どのような長さや粒度で説明してほしいかを指定することで出力をコントロールすることができる。
## フレンチブルドックについて説明してください。
フレンチブルドッグは、コンパクトで筋肉質の体型と、大きな丸い耳、短い鼻、折り曲がった尾、短いコートを持つ犬種です。原産国はフランスで、19世紀にパリで開発されました。元々はラットやカエルを追いかけるために使用されていた犬種ですが、今では愛情深いペットとして人気があります。
フレンチブルドッグは、小型犬でありながら筋肉質で頑丈な体格を持ち、短い散歩や室内での運動に適しています。また、人懐っこく社交的な性格で、家族や子供たちとの時間を楽しむことができます。ただし、短い鼻のために呼吸に問題がある個体も多く、飼い主は健康管理に注意する必要があります。
フレンチブルドッグは、その独特の外見や性格から、世界中で人気のある犬種の一つとなっています。
## フレンチブルドックについて1文で要約して説明してください。
フレンチブルドッグは、フランス原産の小型犬種で、コンパクトな体型と鼻筋のない短い顔が特徴的な、人懐っこく愛らしい性格の犬種です。

情報抽出、質問応答、テキスト分類
言語モデルは分類や情報を抽出するタスクの実行も既に有用だとされている。
精度を上げるためには単純な指示のほかにデータを入力することや、例示を行うことなどが挙げられる。