Closed1
ChatGPTでトークンの上限を超えて要約したい
harrythecodeやりたい事
タイトルの通りです。
結論
トークンの上限は現時点での暫定的な制約なので時間が解決します。がそれでもどうしてもトークン数を超えて何かゴニョゴニョしたい人向けにメモを書き残しておきます。
具体的な方法
現時点の最適解は以下を繰り返します。
- 長文をトークン範囲内になるよう何分割かに分ける (例えば1000文字単位で10チャンク)
- 分割したものを小さく要約 (例えば200文字程度)
- 次のチャンク + 2の結果を元に小さく要約
最終的な結果を元に文字数指定をして要約文を返す。
このスクラップは2023/06/16にクローズされました