生成AI」カテゴリーアーカイブ

生成AIの自社運用 / セルフホスト版のDifyをパスキー認証で利用する

Difyは、プログラミング不要で生成AIアプリを開発できるオープンソースのプラットフォームです。

ChatGPTなどの大規模言語モデル(LLM)を活用し、チャットボットやコンテンツ生成ツールなどを直感的な操作で構築・運用できます。

RAG(検索拡張生成)や外部ツール連携などの機能も持ち、非エンジニアでも高性能なAI活用を可能にします。

Difyの特徴

  • プログラミング不要で生成AIアプリを開発
  • 各種LLMとの連携
  • 直観的なUI
  • オールインワンでの運用にも対応

 

利用形態

Difyはオープンソースとして公開されおり

  • クラウド版での利用
  • セルフホストでの運用

の方法があります。

 

自社データの保護

各種のLLMと連携が出来るため、

  1. セルフホスティングで構築運用
  2. OSSのLLMを利用

の構成では

Difyを自社管理のネットワーク環境に設置して、セルフホスティング+OSSのLLM で運用により

自社データを保護しての運用

が可能となります。

 

OSS版のLLM

OSSで利用が出来るLLMとしては

  • Llama 3
  • Mistral
  • Gemma

などがあります。

OSS版のDify +OSS版のLLM の組合せにより

  • 自社専用のAIとして自社環境内での構築運用

に対応します。自社内設置のOSSのLLMとローカルで通信することで自社のデータを保護できます。

 

パスキー認証経由でのDifyの利用

Difyのクラウド版はSAML認証などもサポートしています。DifyのOSS版(コミニュティ版)は

  • ID/パスワード認証

のみであり実際の運用時には、セキュリティ面に懸念があります。

DifyのOSS版で認証を強化する方法としては

 

 

 

 

➡「Powered BLUE リバースプロキシ

との組み合わせにより

  1. Passkey認証
  2. ワンタイムパスワード認証
  3. SSLクライアント認証
  4. SAML認証
  5. OIDC認証

などの各種の認証経由での運用が可能となります。