生成AI / Dify-コミニュティ版をクローズドネットワーク内で運用する

生成AIを運用する場合、自社データの保護が重要となります。Dify(OSS版)を利用のケースでは、OSS版のLLMを利用することにより、外部へデータを出すことなく閉域網での運用が可能となります。

OSSのLLM 商用のLLM
Gemma / Llama / MIstral chatGPT / gemini / Copilot

 

クローズドネットワークでの構成例

  1. OSSのLMM
  2. OSSのDify

 

 

 

 

 

インターネットへ接続することなしに、閉域網での構築&運用が可能です。

 

認証対応のリバースプロキシ経由で社内のDifyへアクセス

LAN側に設置のDify-OSS版に、各種の認証対応のリバースプロキシ経由でアクセスさせる運用が可能です。

➡「Powered BLUE リバースプロキシ

 

 

 

 

認証方式としては

  1. Passkey認証
  2. SSLクライアント認証
  3. SAML認証
  4. OIDC認証
  5. OTP認証

などに対応しています。