生成AIの自社運用 / Dify-OSS版をMicrosoft EntraID連携でSSO運用する

Dify（ディフィ）は、プログラミングの知識がなくても、大規模言語モデル（LLM）を活用したAIアプリケーションを簡単に開発・運用できるオープンソースのプラットフォームです。

 

 

 

  • AIアプリケーションの作成（ノーコード / ローコード）
  • 高度なAI機能の利用
  • 直感的なUI/UX
  • 各種のLLMとの連携

により簡単にAI環境を利用できるツールです。

 

Difyはオープンソースとして公開されおり

  1. クラウド版での利用
  2. OSS版（コミニュティ版）でセルフホスティングで構築運用

などの利用方法があります。

 

OSSのLLM

オープンソースや無償で利用が出来るLLMとしては

OSS

  • GPT-OSS（ 開発元・米国・OpenAI）
  • Phi（ 開発元・米国・Microsoft）
  • Mistral（開発元・フランス・Mistral AI）

無償で利用（独自ライセンス）

  • Gemma（ 開発元・米国・Google）
  • Llama（ 開発元・米国・Meta）

などがあります。

 

 

 

生成AIのデータ保護

生成AIを運用や利用をする場合、データの保護が最重要ポイントになります。

 

 

 

DifyとLLMの組み合わせ

  1. Dify-OSS版を利用してセルフホスティングで構築
  2. OSSや無償のLLMを利用

の構成では

Difyを自社管理のネットワークに設置して、セルフホスティングにより

  1. データの機密確保
  2. 無償での利用

が可能であり、コストを抑えたい場合やセキュリティ要件が厳しい場合の運用ができます。

アプリ Dify-OSS OSS-LLM
自社管理 ＆ 自社運用 ✅ ✅
データアクセス ＆ 保存先 ローカル　*1 ローカル　*1
費用 無償 無償

*1 自社データは外出し不要

 

 

idP連携のSSO

Difyのクラウド版などはSAML認証などもサポートしていますが、OSS版はID/パスワード認証のみであり実際の運用時には、セキュリティ面に懸念があります。

 

 

DifyのOSS版でMicrosoft EntraIDなどのidPと連携の場合には、

 

 

 

 

➡「Powered BLUE リバースプロキシ」

との組み合わせにより、idP連携対応の運用が可能となります。

 

 

 

 

 

 

 

アクセスコントロール

  • 公開するアプリへのアクセス認証
  • APIへの認証
  • SSO対応