Zenn
Open2

synthetic.new と AI Agent (VSCode拡張機能) ついて

ほのぼのほのぼの

synthetic.new とは

OSSなLLMをOpenAI互換API経由で使わせてくれるサービス

料金体系はサブスクリプション（20usd, 60usd）と従量制になっています。

ほのぼのほのぼの

Continue

VSCode 向けの拡張機能で、Chat/Plan/Agent + autocomplete/codebase/Rerank ができます。

synthetic.new の OpenAI互換APIでモデルを登録すれば、各種機能が利用できます。

設定

モデルの設定ファイルは ~/.continue/config.yamlに保存されます。

synthetic.newにログイン後、API Setting 画面で API Details の Base URL と、API Key を控えておきます。

プロンプトキャッシュが使用できるか分かりませんが、節約できたらいいなぁの気持ちでキャッシュを使用するに設定しています。

config.yaml
name: Local Agent
version: 1.0.0
schema: v1
models:
  - name: synthetic.new
    provider: openai
    model: AUTODETECT
    apiBase: <syntheticのBase URL>
    apiKey: <syntheticのAPI Key>
    roles:
      - chat
      - autocomplete
      - edit
    defaultCompletionOptions:
      promptCaching: true

model を AUTODETECT にすると、Continue が利用可能なモデルを自動で取得してくれます。

autocomplete

roles に autocomplete を設定すると、そのモデルはオートコンプリートに利用できるようになります。

オートコンプリートを設定すると、GitHub Copilot並に効くので、その分APIを使います。幾ら使ったかは synthetic.newのbillingで閲覧できるので、問題ないかこまめに確認することをお勧めします。

Apply

config.yaml の続き
  - name: hf:openai/gpt-oss-120b
    provider: openai
    apiBase: <syntheticのBase URL>
    apiKey: <syntheticのAPI Key>
    model: hf:openai/gpt-oss-120b
    promptTemplates:
      apply: |
        Original: {{{original_code}}}
        New: {{{new_code}}}

        Please generate the final code without any markers or explanations.