生成AIのデータ保護 / セルフホストDify+OSSのLLMでデータ保全

Difyにはクラウド利用の他にOSSで提供されるセルフホスト版(community edition)もあります。自社管理のDifyとOSSのLLMを組み合わせることで、自社データの保全を行いながら運生成AIの運用が可能です。セキュリティ要件の厳しい金融や医療機関、自治体での導入に最適です。

 

DifyとLLMをセルフホストで動かすメリット

  1. OSSのLLMと組み合わせで生成AIのデータを保護
  2. OSS版のDIfyとOSS版のLLMは無料で利用

 

高速処理

  1. ローカル環境上で運用のLLMで高速処理
LLM GPT-OSS Gemma Llama Mistral
無償

 

自社運用の生成AI構成パターン

  • Dify+LLMをオールインワンで運用
  • 運用先は、オンプレミスやawsなどに対応

 

 

 

 

 

➡ オールインワンのDify community版アプライアンス

 

 

閉域網での運用

  • 生成AIのクローズドネットワークでの運用に対応
  • 自社データの保護