生成AIを運用する場合、自社データの保護が重要となります。Dify（OSS版）を利用のケースでは、OSS版のLLMを利用することにより、外部へデータを出すことなく閉域網での運用が可能となります。

OSSのLLM		商用のLLM
GPT-OSS / Gemma / Llama		chatGPT / gemini / Copilot

 

オープンソースで利用が出来るLLMとしては

• GPT-OSS（ 開発元・米国・OpenAI）
• Gemma（ 開発元・米国・Google）
• Llama（ 開発元・米国・Meta）

などがあります。

 

クローズドネットワークでの構成例

1. OSSのLMM
2. OSSのDify

 

 

 

 

 

インターネットへ接続することなしに、閉域網での構築＆運用が可能です。

 

セルフホスト対応のDify

セルフホストでDifyを運用する場合には、

「Powered BLUE Dify comminuty 版」

を利用できます。

オンプレやAWS環境での運用をはじめ、無償のLLMも一体で運用することでクローズドネットワークでの運用にも対応しています。

 

 

 

認証対応のリバースプロキシ経由で社内のDifyへアクセス

LAN側に設置のDify-OSS版に、各種の認証対応のリバースプロキシ経由でアクセスさせる運用が可能です。

➡「Powered BLUE リバースプロキシ」

 

 

 

 

認証方式としては

1. Passkey認証
2. SSLクライアント認証
3. SAML認証
4. OIDC認証
5. OTP認証

などに対応しています。