🐲

生成AIを用いて企業の独自情報にも回答してくれるシステムを出来る限り簡単に実装する方法

2024/01/10に公開

Azure

import { FC, ReactNode } from 'react'
import Head from 'next/head'

type Props = {
  title: string
  children: ReactNode
}

export const Layout: FC<Props> = ({ children, title = 'T3 Stack' }) => {
  return (
    <>
      <Head>
        <title>{title}</title>
        <meta name="description" content="Generated by create-t3-app" />
        <link rel="icon" href="/favicon.ico" />
      </Head>
      <main className="container mx-auto flex min-h-screen flex-col items-center justify-center p-4">
        {children}
      </main>
    </>
  )
}

components/Auth.tsx

components/Auth.tsx

import { signIn } from 'next-auth/react'

export const Auth = () => {
  return (
    <div>
      <button
        className="rounded bg-blue-600 py-2 px-4 font-bold text-white hover:bg-blue-800"
        onClick={() => signIn('github')}
      >
        GitHub Auth
      </button>
    </div>
  )
}

そして、今回は使用しませんが、環境構築の練習がてら、Docker を使って postgresql のコンテナを作成してみましょう。

ルート階層へ docker-compose.yml ファイルを作成してください。

docker-compose.yml

docker-compose.yml

version: "3.8"
services:
  dev-postgres:
    image: postgres:14.4-alpine
    ports:
      - 5434:5432
    environment:
      POSTGRES_USER: yujiro
      POSTGRES_PASSWORD: yujiro
      POSTGRES_DB: yujiro
    restart: always
    networks:
      - lesson
networks:
  lesson:

これで OK です。
では、以下のコマンドを実行してください。

docker compose up -d

docker が起動し、postgresql のコンテナが起動していることを確認してください。

その後、Prisma を使用して DB を構築 + 環境変数の設定をします。

.env ファイルへ以下の記載を追記してください。

# AOAI
AZURE_OPENAI_ENDPOINT="https://xxxxxxxx.azure.com/"
AZURE_OPENAI_API_KEY="xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx"
AZURE_OPENAI_DEPLOYMENT_ID="gpt-35-turbo-16k"

そして、src/env.js の runtimeEnv と server の箇所に以下の記載を追記してください。

src/env.js

runtimeEnv: {
    ...
    AZURE_OPENAI_ENDPOINT: process.env.AZURE_OPENAI_ENDPOINT,
    AZURE_OPENAI_API_KEY: process.env.AZURE_OPENAI_API_KEY,
    AZURE_OPENAI_DEPLOYMENT_ID: process.env.AZURE_OPENAI_DEPLOYMENT_ID,
  },

src/env.js

server: {
    ...
    AZURE_OPENAI_ENDPOINT: z.string(),
    AZURE_OPENAI_API_KEY: z.string(),
    AZURE_OPENAI_DEPLOYMENT_ID: z.string(),
  },

npx prisma migrate dev

上記コマンドでこちらの入力が必要になった時は init と入力してください。

npx prisma generate

そして上記コマンドで、Prisma のコードを生成し、

npx prisma studio

上記コマンドで、Prisma の管理画面を起動してください。
以下のような画面が起動したら OK です。

Azure

これで DB の構築も OK です。

ではここから、Azure OpenAI Service へアクセスするためのコードを作成します。
まずはサーバサイドから実装していきます。

まずは使用するライブラリをインストールします。

npm install @azure/openai

そして src/schema/addyourdata.ts というファイルを作成してください。

src/schema/addyourdata.ts

src/schema/addyourdata.ts

import z from 'zod'

export const getAddYourDataSchema = z.object({
  content: z.string(),
})

export type GetAddYourDataType = z.TypeOf<typeof getAddYourDataSchema>

次に、server/api/routers/addyourdata.ts というファイルを作成してください。

server/api/routers/addyourdata.ts

server/api/routers/addyourdata.ts


import {
  getAddYourDataSchema,
} from '../../../schema/addyourdata'

import { AzureKeyCredential, OpenAIClient } from '@azure/openai';

import axios from 'axios';

import {
  createTRPCRouter,
  protectedProcedure,
  publicProcedure,
} from "~/server/api/trpc";

import { env } from '~/env'

export const addYourDataRouter = createTRPCRouter({
  getAddYourData: protectedProcedure
    .input(getAddYourDataSchema)
    .mutation(async ({ ctx, input }) => {

      const endpoint = env.AZURE_OPENAI_ENDPOINT!;
      const azureApiKey = env.AZURE_OPENAI_API_KEY!;
      const deploymentId = env.AZURE_OPENAI_DEPLOYMENT_ID!;

      console.log('🚀 ~ Add your data start ~ 🚀')

      const apiUrl = 'https://[先ほどのWebAppのURL]/conversation';

      const requestData = {
        messages: [
          { role: 'user', content: input.content }
        ]
      };

      const res = await axios.post(apiUrl, requestData);

      const content = `
      # 質問
      ${input.content}
      # 回答
      ${res.data}

      回答を質問に対して要約してください。
      `;
      const messages: any[] = [
        {
          role: 'system',
          content: 'You are a helpful assistant.'
        },
        {
          role: 'user',
          content,
        },
      ];
      const client = new OpenAIClient(
        endpoint,
        new AzureKeyCredential(azureApiKey)
      );

      const result = await client.getChatCompletions(deploymentId, messages);
      console.log("🚀 ~ .mutation ~ result:", result.choices)
      return result.choices;
    }),
})

URLをhttps://[先ほどのWebAppのURL]/conversation と/conversationとするところがPoint。

Router を作成したら、server/api/root.ts へ addyourdataRouter を追記してください。

server/api/root.ts

import { addYourDataRouter } from "~/server/api/routers/addyourdata";
import { postRouter } from "~/server/api/routers/post";
import { createTRPCRouter } from "~/server/api/trpc";

/**
 * This is the primary router for your server.
 *
 * All routers added in /api/routers should be manually added here.
 */
export const appRouter = createTRPCRouter({
  post: postRouter,
  addyourdata: addYourDataRouter,
});

// export type definition of API
export type AppRouter = typeof appRouter;

最後にフロントサイドの実装です。

src/pages/index.tsx へ以下の記載を追記してください。

src/pages/index.tsx

import type { NextPage } from "next";
import { signOut, useSession } from "next-auth/react";
import { useState } from "react";
import { Auth } from "../components/Auth";
import { Layout } from "../components/Layout";
import { api } from "../utils/api";

const Home: NextPage = () => {
  const { data: session } = useSession();
  const [isLoading, setIsLoading] = useState<boolean>(false);
  const [content, setContent] = useState<string>("");
  const [message, setMessage] = useState<string>("");
  const getAddyourdataQuery = api.addyourdata.getAddYourData.useMutation();

  const getAddyourdata = async () => {
    setIsLoading(true);
    try {
      console.log("🚀 ~ getAddyourdata ~ message:", message);
      const res = await getAddyourdataQuery.mutateAsync({ content: message });
      const resMessage =
        res[0]?.message?.content !== undefined ? res[0]?.message?.content! : "";
      setContent(resMessage);
    } catch (err) {
      console.log("🚀 ~ file: index.tsx:40 ~ getCogsrchData ~ err:", err);
    }
    setIsLoading(false);
  };

  if (!session) {
    return (
      <Layout title="Login">
        <Auth />
      </Layout>
    );
  }
  return (
    <Layout title="Todo App">
      <div className="pt-12">
        <main className="my-12 mt-10 grid w-full md:grid-cols-1 md:gap-6">
          <div>
            <div className="mb-5">
              <p>🔸概要</p>
              <p>
                このサイトは、Azure OpenAI Service + Add your data
                Searchを使った回答を返すサイトです。
              </p>
            </div>
            <div className="mb-5">
              <button onClick={() => signOut()}>sign out</button>
              <p className="my-3 text-xl text-blue-600">
                👍Hello {session?.user?.name}
              </p>
            </div>
          </div>
          <label htmlFor="message" className="block font-medium text-gray-900">
            🔸PDFにて取り込んだ独自情報に関する質問をしてみてください。
          </label>
          <textarea
            id="message"
            onChange={(e) => setMessage(e.target.value)}
            rows={4}
            className="block w-full rounded-lg border border-gray-300 bg-gray-50 p-2.5 text-sm text-gray-900 focus:border-blue-500 focus:ring-blue-500"
            placeholder="Write your thoughts here..."
          ></textarea>
          <div className="flex items-center">
            <button
              onClick={getAddyourdata}
              type="button"
              className="my-5 mb-2 mr-2 rounded-lg border border-gray-200 bg-white px-5 py-2.5 text-sm font-medium text-gray-900 hover:bg-gray-100 hover:text-blue-700 focus:z-10 focus:outline-none focus:ring-4 focus:ring-gray-200"
            >
              get Addyourdata
            </button>
          </div>
          {isLoading ? (
            <div role="status">
              <svg
                aria-hidden="true"
                className="mr-2 h-8 w-8 animate-spin fill-blue-600 text-gray-200 dark:text-gray-600"
                viewBox="0 0 100 101"
                fill="none"
                xmlns="http://www.w3.org/2000/svg"
              >
                <path
                  d="M100 50.5908C100 78.2051 77.6142 100.591 50 100.591C22.3858 100.591 0 78.2051 0 50.5908C0 22.9766 22.3858 0.59082 50 0.59082C77.6142 0.59082 100 22.9766 100 50.5908ZM9.08144 50.5908C9.08144 73.1895 27.4013 91.5094 50 91.5094C72.5987 91.5094 90.9186 73.1895 90.9186 50.5908C90.9186 27.9921 72.5987 9.67226 50 9.67226C27.4013 9.67226 9.08144 27.9921 9.08144 50.5908Z"
                  fill="currentColor"
                />
                <path
                  d="M93.9676 39.0409C96.393 38.4038 97.8624 35.9116 97.0079 33.5539C95.2932 28.8227 92.871 24.3692 89.8167 20.348C85.8452 15.1192 80.8826 10.7238 75.2124 7.41289C69.5422 4.10194 63.2754 1.94025 56.7698 1.05124C51.7666 0.367541 46.6976 0.446843 41.7345 1.27873C39.2613 1.69328 37.813 4.19778 38.4501 6.62326C39.0873 9.04874 41.5694 10.4717 44.0505 10.1071C47.8511 9.54855 51.7191 9.52689 55.5402 10.0491C60.8642 10.7766 65.9928 12.5457 70.6331 15.2552C75.2735 17.9648 79.3347 21.5619 82.5849 25.841C84.9175 28.9121 86.7997 32.2913 88.1811 35.8758C89.083 38.2158 91.5421 39.6781 93.9676 39.0409Z"
                  fill="currentFill"
                />
              </svg>
              <span className="sr-only">Loading...</span>
            </div>
          ) : (
            <div>
              {content === "" ? (
                <div></div>
              ) : (
                <div className="block w-full rounded-lg border border-gray-200 bg-white p-6 shadow hover:bg-gray-100">
                  <p className="font-normal text-gray-700">{content}</p>
                </div>
              )}
            </div>
          )}
        </main>
      </div>
    </Layout>
  );
};

export default Home;

動作確認

では動作確認していきましょう。
Azure

以下の画面の PDF にて取り込んだ独自情報に関する質問をしてみてください。

取り込んだ PDF に沿った回答を返してくれるはずです。
Azure

できましたか？
こんなに簡単に企業の独自情報がAIで活用出来るようになるとは驚きです！

皆さまも是非ハンズオンしてみてくださいね！

なかなか盛りだくさんの内容なので、詰まっちゃった方はぜひコメント欄にてどしどし質問してくださいね！

お片付け

最後にずっと残してて課金されないようにお片付けです。

以下、2 つの操作を実行すれば OK です。

Azure OpenAI Studio からデプロイの削除
Azure よりリソースグループの削除

しっかりお片付けして本日は終わりです。

お疲れ様でした。

GitHubで編集を提案

生成AIを用いて企業の独自情報にも回答してくれるシステムを出来る限り簡単に実装する方法

目次

はじめに

では、Let's ハンズオン！

今回作成するシステムの概要

Azure OpenAI セットアップ

Azure AI Search セットアップ

Azure Blob Storage セットアップ

Add your data で AI Search にインデックスを作成

アプリケーションを作成

動作確認

お片付け

Discussion