Dify 0.6.12がリリース！ LangSmith, Claude 3.5 Sonnet

注目され続けているDifyですが、昨晩アップデートがありました！
https://github.com/langgenius/dify/releases/tag/0.6.12

気になった変更点を共有します！

Anthropic Claude 3.5 Sonnet

Claude 3.5 Sonnetが使えるようになりました！
用途によってはGPT-4oより納得感がある回答を生成すると言われており、より精度が高い生成AIアプリを構築できる可能性が高まりましたね！

LangSmith, Langfuse

生成AIアプリの監視ソリューションが利用できるようになりました。
下記はLang Smithの画面ですが、Difyの挙動を監視してくれます。（要Lang SmithのAPIキー発行＋Difyでの設定）

下記キャプチャは、Difyで作った簡易なチャットボットをLang Smithで監視してみた様子。

PerplexityにLangSmithについて聞きました。

LangSmithは、LLM（大規模言語モデル）アプリケーションの開発と運用を支援するプラットフォームです。以下にLangSmithの主な特徴と機能をまとめます：
1.ロギングと監視: LLMの実行結果や出力、さらにAgentの処理履歴を記録し確認することができます。
2.デバッグとテスト: LLMアプリケーションのプロトタイプを本番環境で使用できるレベルまで改善するためのツールを提供します。
3.プロンプト管理: プロンプトのチューニングや評価を効率的に行うための機能があります。
4.評価基準の設定: プロンプトの評価基準を設定し、逐次改善していくことができます。
5.データセット管理: RAG（Retrieval-Augmented Generation）などで使用する文脈情報の管理をサポートします。
6.複数環境での比較: 異なる環境（使用するモデルなど）での結果を比較し、リグレッションを防ぐことができます。

LangSmithは、LangChainの開発元が提供しているサービスであり、LangChainと組み合わせて使用することで、LLMアプリケーションの開発から運用までをカバーする包括的なソリューションとなっています。このツールを使用することで、LLMアプリケーションの品質向上と効率的な運用が可能になります。

ショートカットキー ワークフローノード変更を戻す

Ctrl+z or command+zで変更と取り消せて
Ctrl+Shift+z or command+shift+zでやり直せる
ことができるようになりました。
これは地味に使い勝手が良くなりますね。

Webアプリ公開後にワークフローステップを非表示にできるようになった

これも、隠したいユースケースが普通にあると思っていて、使い勝手が良くなりますね。

生成AI界隈は日々進化していますが、Difyも進化していますね！