Docker＋streamlit + AWS で会社リソースを参照できるセキュアで軽量なchatアプリを作る

進捗

streamlitで実装したWEBアプリケーションをECR経由でデプロイする。
環境変数を安全に管理する。
Amazon Elasticsearchで検索した結果を渡して推論できるようにLangChainを改造する。
チャットのログや返答のフィードバックをS３に保管する。
MLOpsに必要な諸々の処理をつける。CICD.デプロイの自動化etc...

Nista

秘匿データをdockerで扱う。

纏めると

EC２コンソールからべた書き
ｓ３からインポート
amazon secret managerから取得

複数の秘匿情報を管理するなら２，３の選択肢もあるが一旦１で行う。

Nista

Docker imgaeの軽量化

Nista

distrolesscは本番向けじゃないらしい。。。。

The following images are also published on gcr.io, but are considered experimental and not recommended for production usage: ...
今回は内部向けのサービスだったため踏み切ったが、外部向けに展開するサービスには向いていないかも
今回のサービスはパッケージも少なめだったが、複雑なサービスになったときに動作がどこまで保証されるか未検証

Nista

dockerでstreamlitが動かん。
パスが通ってなさそう。