GroqChatがChatGPTより速さがすごいので使ってみた

個人開発で調べてるときにGroqChatというものがでてたので、ちょっとさわってみた。

対象読者

ChatGPTを無料でも有料でも使ったことがある人

Groq とは？

ざっくりまとめると次のような感じ。

• LPU推論エンジンを使用(計算密度とメモリ帯域幅を克服するように設計)
• LPU(Language Processing Unit™)
• GPUやCPUの弱点を克服(計算処理能力が格段に早くなっている)
• Playgroundなら無料でAPIのお試しができる
• OpenAI APIからGroqには3箇所変えるだけで利用できそう

https://groq.com/
https://wow.groq.com/why-groq/

Groqの使いかた

1. Sign in to Groqをクリック

2. アカウントを登録(無料)

3. 登録が完了するとmodelが選択できる

4.Message欄にgroqって何？全て日本語で回答して。と入力してみる

すると、以下のように出力される。

5.〇〇.〇〇 T/sのところにカーソル合わせて処理の詳細が見れる

Input、Outoutトータルで0.22秒という速さ。

以下GroqCloudではAPI使用可能。
https://console.groq.com/playground

まとめ

正確性などは検証する必要があるけど、レスポンスが爆速になるというメリットは大きい。今後、ChatGPTからGroqに乗り換えを検討するのも近いかもしれない。