Zenn
Open1

GPT 4o を Gradio で使う

Python
GPT-4
OpenAI
Gradio
超Ｌチカ団編集局超Ｌチカ団編集局

GPT4o を OpenAI API + Gradio で使う

ただのメモです。公式以上の情報はないです。.env ファイルに API_KEY を設定している前提です。

環境構築 (Anacondaの場合)

$ conda create -n finetuning python=3.12
$ conda activate finetuning
$ pip install openai python-dotenv

コード

GPT4o がマークダウン形式で出力してくる場合に一応対応したつもり。

import os
from dotenv import load_dotenv
from openai import OpenAI
import gradio as gr

load_dotenv()
client = OpenAI(api_key=os.environ['OPENAI_API_KEY'])

def chat( prompt ):
  completion = client.chat.completions.create(
    model="gpt-4o",
    messages=[
      {"role": "system", "content": "あなたは日本語の助言者です。"},
      {"role": "user", "content": prompt }
    ]
  )
  return completion.choices[0].message.content

with gr.Blocks() as demo:
    prompt = gr.Textbox(label="Prompt")
    output = gr.Markdown(label="Output Box")
    greet_btn = gr.Button("Send")

    greet_btn.click(fn=chat, inputs=prompt, outputs=output)


# 起動
#demo.launch(server_port=80) # ポートを指定する場合
demo.launch()

実行画面