rinnaのllmに献立を考えてもらう

前回はCyber AgentのLLMに献立を考えてもらいましたが、今回は同じことをrinna/japanese-gpt-neox-3.6bでやってみようと思います。

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("rinna/japanese-gpt-neox-3.6b", use_fast=False)
model = AutoModelForCausalLM.from_pretrained("rinna/japanese-gpt-neox-3.6b")

if torch.cuda.is_available():
    model = model.to("cuda")

text = "今日の献立は"
token_ids = tokenizer.encode(text, add_special_tokens=False, return_tensors="pt")

with torch.no_grad():
    output_ids = model.generate(
        token_ids.to(model.device),
        max_new_tokens=100,
        min_new_tokens=100,
        do_sample=True,
        temperature=0.8,
        pad_token_id=tokenizer.pad_token_id,
        bos_token_id=tokenizer.bos_token_id,
        eos_token_id=tokenizer.eos_token_id
    )

output = tokenizer.decode(output_ids.tolist()[0])
print(output)

として、出力は

今日の献立は、鶏ささみと小松菜の和風パスタです。鶏ささみは低脂肪で良質なたんぱく質やコラーゲンが豊富に含まれています。ビタミンや
ミネラルも豊富で、特にカルシウムがたっぷり入っています。小松菜はビタミンCやカロテンが豊富で、カルシウムや鉄分も含まれています。ほうれん草よりも栄養価が高いんです。鶏ささみと小松菜のパスタは、和風だしの

こんな感じでした。鶏ささみと小松菜の和風パスタはおいしそう。
（ちなみに今日はあさりと水菜のパスタを作りました。おいしかった。）
もう1回まわしておくと

今日の献立は「ごはん、和食」でした。 今日のメニューは、ご飯、鶏の照焼き、春雨サラダ、もやしのスープ、牛乳です。 鶏の照焼きはしょうゆ・みりん・砂糖でシンプルに味付けをした鶏のもも肉を、野菜と一緒に炒めたもの。さっぱりと食べられます。 もやしのスープは、もやし、人参、わかめ、豆腐、ねぎをとろみ

鶏の照焼きはいつ食べてもおいしい！もやしのスープもいいですね。牛乳はいらないかな
Stable Diffusion回し過ぎで暑くなってきたのでまた明日！