Open6

OpenAI APIを使うときに思ったことメモ

hashimoto genkihashimoto genki

systemロール効いてる???

なんとなく触っていると1往復(旧completionといえばよいのか)の場合だとuserロールで質問の前にcontextやらルールやらを記載したほうがうまくいく気がしている。チャット再現の場合だと使ったほうがいいが、そうでない場合はuserロールですべて記載したほうがいい気がする。これは要検証

hashimoto genkihashimoto genki

自動化に組み込む際の話

tempuretureを0にしたとて同じ出力にならないことのほうが多い認識。DevOpsの文脈とかでの利用を考えるとパイプラインに組み込むと変更がないのに変更されるってことが起きてしまうのでそのへんはどう受け止めていくべきなのか。まぁドキュメントを勝手に作るとするとコード変更時以外はAIのジョブも通らないようにすればいいか、、、とはいえコレまで良かった部分が悪くなることは多々ありそう

hashimoto genkihashimoto genki

検証に使っていたのがgoのライブラリで0値のときにデフォルトバリューになるバグがあったため。playgroundで試していて想像よりも再現性が高かったので発覚

hashimoto genkihashimoto genki

Promptは日本語?英語?

英語のほうがいいと思い日本語で出力してくださいと記載の上英語で書いていたが時折英語がでてくる不安定さを感じる。
いい情報ないか

hashimoto genkihashimoto genki

markdownの入れ子箇条書きは出力できなそう

␣を2つ入れるとか書いても無理だったので無理なんだろうなーという

と思ったが、ChatGPT UI上では入れ子のmarkdown箇条書きが実現できている模様。promptが悪そうだなぁ。。。

hashimoto genkihashimoto genki

これも自分の実装ミスでAPIのレスポンスはちゃんと入れ子になってた。ばかーーー!!!