🤖

ネット接続なしで動く Chrome Built-in AI

2024/07/02に公開

ネット接続なしで動く Chrome Built-in AI

Chrome Dev もしくは Canary の v127 +で Built-in AI が動くらしいという事で試してみました。
https://developer.chrome.com/docs/ai/built-in

flag を有効にする

chrome://flags/

Prompt API for Gemini Nano:  enable
Enables optimization guide on device: enable BypassPrefRequirements

model をダウンロードする

chrome://components/

上記のフラグが有効になってブラウザを再起動して、components にアクセスすると、モデルのダウンロードができます。

モデルのダウンロード自体はちょっと時間が掛かります。(1分-2分くらい掛かりました。)

console から試してみる。

window.ai
const ts = ai.createTextSession()
const gemi = await ts
const output = gemi.prompt('can you tell me the capital of Japan?')

output

日本語もいけましたw

https://x.com/0xkoji/status/1807976909847818477

Discussion