Open6
OpenAI APIを使うときに思ったことメモ
systemロール効いてる???
なんとなく触っていると1往復(旧completionといえばよいのか)の場合だとuserロールで質問の前にcontextやらルールやらを記載したほうがうまくいく気がしている。チャット再現の場合だと使ったほうがいいが、そうでない場合はuserロールですべて記載したほうがいい気がする。これは要検証
自動化に組み込む際の話
tempuretureを0にしたとて同じ出力にならないことのほうが多い認識。DevOpsの文脈とかでの利用を考えるとパイプラインに組み込むと変更がないのに変更されるってことが起きてしまうのでそのへんはどう受け止めていくべきなのか。まぁドキュメントを勝手に作るとするとコード変更時以外はAIのジョブも通らないようにすればいいか、、、とはいえコレまで良かった部分が悪くなることは多々ありそう
検証に使っていたのがgoのライブラリで0値のときにデフォルトバリューになるバグがあったため。playgroundで試していて想像よりも再現性が高かったので発覚
Promptは日本語?英語?
英語のほうがいいと思い日本語で出力してくださいと記載の上英語で書いていたが時折英語がでてくる不安定さを感じる。
いい情報ないか
markdownの入れ子箇条書きは出力できなそう
␣を2つ入れるとか書いても無理だったので無理なんだろうなーという
と思ったが、ChatGPT UI上では入れ子のmarkdown箇条書きが実現できている模様。promptが悪そうだなぁ。。。
これも自分の実装ミスでAPIのレスポンスはちゃんと入れ子になってた。ばかーーー!!!