Difyで複数LLMの合議制システムを構築する方法

「1つのAIモデルの回答だけでは不安がある」
「重要な意思決定には、複数の視点を取り入れたい」

そんな悩みをお持ちの起業家や開発者の方へ。

今回は、ノーコードAI開発プラットフォーム「Dify」を使って、複数の大規模言語モデル（LLM）が互いの回答を評価し、投票によって最適な答えを導き出す「合議制システム」の構築方法をご紹介します。

いわゆるエヴァンゲリオンの「MAGIシステム」のような、AIによる多角的な意思決定支援システムを、Difyなら手軽に実装可能です。

合議制（投票）システムの仕組み

従来の「複数のAIを使う」アプローチは、単に複数の回答を並べるか、1つのAIがそれらを要約する形が一般的でした。

今回構築するシステムは、さらに一歩踏み込み、「AI自身が審査員となり、他のAIの回答を評価して投票する」というプロセスを導入します。

処理の流れ

1. 回答生成フェーズ： ユーザーの質問に対し、複数の異なるLLM（例：GPT-4o, Claude 3.5 Sonnet, Gemini 1.5 Proなど）がそれぞれ回答を作成します。
2. 評価・投票フェーズ： 各LLMは、自分以外のモデルが生成した回答を読み、「論理性」や「正確性」などの観点で評価し、最も優れているものに投票します。
3. 集計・最終判断フェーズ： 投票結果を集計し、最も支持を集めた回答を最終的な結論として採用（または統合）します。

この仕組みにより、単一モデルのハルシネーション（嘘）を防ぎ、より客観的で精度の高い回答を得ることが期待できます。

Difyでのワークフロー構築

Difyの「ワークフロー」機能を使えば、この複雑な処理を視覚的に組み立てることができます。

1. 回答生成ブロックの配置

まずは「開始」ノードから分岐させ、複数の「LLM」ノードを並列に配置します。

それぞれ異なるモデル（Model）を選択し、同じプロンプトを入力として渡します。

2. 評価・投票ブロックの配置

次に、生成された各回答をコンテキストとして受け取り、評価を行うLLMノードを配置します。

ここでは、「あなたは審査員です。以下の回答案の中から、最も優れたものを選び、その理由を述べてください」といったシステムプロンプトを設定します。

3. 集計と最終出力

最後に、各審査員AIの投票コメントをまとめ、最終的な回答を出力するノードを配置します。

ここで「コード実行」ブロックを使って多数決のロジックを組むことも可能ですが、さらにLLMを使って「投票結果を踏まえた最終回答」を生成させるのも効果的です。

実際の動作イメージ

ユーザーが質問を投げかけると、システム内部で「AI会議」が開催されます。

「回答案Aは論理的ですが具体性に欠けます」「回答案Bはデータに基づいています」といった議論を経て、洗練された回答が出力されます。

まとめ：AIの「質」を高める新しいアプローチ

Difyを活用することで、このような高度なマルチエージェントシステムも、コードを書かずに構築できます。

重要な判断を伴う業務や、多角的な視点が必要なアイデア出しの場面で、ぜひこの「AI合議制システム」を活用してみてください。