検索拡張生成（RAG）

RAGとは

検索拡張生成（Retrieval-Augmented Generation、RAG）は、大規模言語モデル（LLM）の生成能力を外部知識源からの情報検索と組み合わせるAIフレームワークです。RAGは、モデルが応答を生成する前に関連情報を検索して取り込むことで、より正確で最新の情報に基づいた回答を提供します。

RAGの目的

RAGの主な目的は以下の通りです：

• LLMの知識を外部データソースで拡張し、最新かつ正確な情報を提供する
• モデルの「幻覚」（事実と異なる情報の生成）を減少させる
• モデルのトレーニングデータに含まれていない専門知識や最新情報へのアクセスを可能にする
• 生成された回答の透明性と検証可能性を向上させる
• 特定のドメインや組織固有の知識をAIシステムに統合する
• モデルの再トレーニングなしで知識ベースを更新・拡張できるようにする

RAGのアーキテクチャ

RAGは主に以下の2つの主要コンポーネントで構成されています：

RAGの基本的なワークフロー

1. ユーザーがクエリを入力
2. 検索器がクエリに関連する情報を知識ベースから検索
3. 検索結果がLLMのプロンプトに組み込まれる
4. LLMが検索結果とクエリを考慮して応答を生成
5. 生成された応答がユーザーに返される

RAGの主要コンポーネント詳細

1. 知識ベース（Knowledge Base）

RAGシステムの情報源となるデータリポジトリです。以下のような形態があります：

• ドキュメントコレクション： PDF、Word文書、Webページなど
• 構造化データベース： SQL、NoSQLデータベース
• ベクトルデータベース： Pinecone、Weaviate、Milvus、Qdrantなど
• 社内ナレッジベース： Wiki、イントラネット、技術文書
• 公開APIやデータソース： Wikipedia、ニュースAPI、専門データベースなど

2. インデクシングパイプライン

知識ベースを検索可能な形式に変換するプロセスです：

• ドキュメント処理： テキスト抽出、クリーニング、正規化
• チャンキング： 大きなドキュメントを検索可能な小さなセグメントに分割
• 埋め込み生成： テキストチャンクをベクトル表現に変換
• メタデータ付与： ソース情報、タイムスタンプ、カテゴリなどの追加情報
• インデックス構築： 高速検索のためのデータ構造の作成

3. 検索コンポーネント

ユーザークエリに関連する情報を効率的に取得するシステムです：

• セマンティック検索： 意味的類似性に基づく検索（ベクトル検索）
• キーワード検索： BM25などの伝統的な検索アルゴリズム
• ハイブリッド検索： セマンティック検索とキーワード検索の組み合わせ
• 再ランキング： 検索結果の関連性に基づく並べ替え
• フィルタリング： メタデータに基づく検索結果の絞り込み

4. プロンプトエンジニアリング

検索結果をLLMのプロンプトに効果的に組み込む技術です：

• コンテキスト構築： 検索結果を構造化された形でプロンプトに挿入
• 指示の明確化： LLMに検索結果の使用方法を指示
• 引用の促進： ソース情報の引用を促すプロンプト設計
• 不確実性の表現： 情報が不足している場合の適切な対応の指示

5. 応答生成と後処理

最終的な出力を生成し、品質を向上させるプロセスです：

• 応答生成： LLMによる検索結果とクエリに基づく回答の生成
• 引用管理： 情報源の適切な引用と参照
• 事実確認： 生成された応答の検証
• フォーマット調整： ユーザーフレンドリーな形式への変換

RAGの実装パターン

RAGを実装する際の一般的なパターンには以下のようなものがあります：

1. 基本的なRAG

最もシンプルなRAG実装で、クエリに基づいて関連ドキュメントを検索し、それをLLMのプロンプトに追加します。

async function basicRAG(query) {
    // 1. クエリをベクトルに変換
    const queryEmbedding = await embedder.embed(query);
    
    // 2. ベクトルデータベースから関連ドキュメントを検索
    const relevantDocs = await vectorDB.similaritySearch(queryEmbedding, 3);
    
    // 3. 検索結果をプロンプトに組み込む
    const prompt = `
以下の情報を参考にして、質問に答えてください。
情報源:
${relevantDocs.map(doc => doc.content).join('\n\n')}

質問: ${query}
回答:`;
    
    // 4. LLMで応答を生成
    const response = await llm.generate(prompt);
    
    return response;
}
    

2. マルチステップRAG

複数のステップで検索と生成を行い、より複雑なクエリに対応します。

async function multiStepRAG(query) {
    // 1. クエリを分解して検索サブクエリを生成
    const prompt = `
以下の質問を検索するための具体的なサブクエリに分解してください。
各サブクエリは異なる側面に焦点を当てるべきです。
3つのサブクエリをJSON形式で返してください。

質問: ${query}`;
    
    const subQueriesResponse = await llm.generate(prompt);
    const subQueries = JSON.parse(subQueriesResponse).subQueries;
    
    // 2. 各サブクエリで検索を実行
    let allRelevantDocs = [];
    for (const subQuery of subQueries) {
        const queryEmbedding = await embedder.embed(subQuery);
        const docs = await vectorDB.similaritySearch(queryEmbedding, 2);
        allRelevantDocs = [...allRelevantDocs, ...docs];
    }
    
    // 3. 重複を除去し、関連性でランク付け
    const uniqueDocs = removeDuplicates(allRelevantDocs);
    const rankedDocs = rankByRelevance(uniqueDocs, query);
    
    // 4. 最終的な応答を生成
    const finalPrompt = `
以下の情報を参考にして、質問に答えてください。
情報源:
${rankedDocs.map(doc => doc.content).join('\n\n')}

質問: ${query}
回答:`;
    
    const response = await llm.generate(finalPrompt);
    
    return response;
}
    

3. 反復的RAG

初期の検索結果に基づいて追加の検索を行い、情報を段階的に収集します。

async function iterativeRAG(query) {
    // 1. 初期検索
    const queryEmbedding = await embedder.embed(query);
    const initialDocs = await vectorDB.similaritySearch(queryEmbedding, 3);
    
    // 2. 初期情報を分析して追加クエリを生成
    const analysisPrompt = `
以下の情報を分析し、質問に完全に答えるために必要な追加情報を特定してください。
追加で検索すべき3つのクエリをJSON形式で返してください。

既存の情報:
${initialDocs.map(doc => doc.content).join('\n\n')}

質問: ${query}`;
    
    const analysisResponse = await llm.generate(analysisPrompt);
    const additionalQueries = JSON.parse(analysisResponse).queries;
    
    // 3. 追加検索を実行
    let additionalDocs = [];
    for (const additionalQuery of additionalQueries) {
        const additionalEmbedding = await embedder.embed(additionalQuery);
        const docs = await vectorDB.similaritySearch(additionalEmbedding, 2);
        additionalDocs = [...additionalDocs, ...docs];
    }
    
    // 4. すべての情報を統合して最終応答を生成
    const allDocs = [...initialDocs, ...additionalDocs];
    const uniqueDocs = removeDuplicates(allDocs);
    
    const finalPrompt = `
以下の情報を参考にして、質問に包括的に答えてください。
情報源:
${uniqueDocs.map(doc => doc.content).join('\n\n')}

質問: ${query}
回答:`;
    
    const response = await llm.generate(finalPrompt);
    
    return response;
}
    

RAGの実装例

class DocumentIndexer {
    constructor(embeddingModel, vectorDB) {
        this.embeddingModel = embeddingModel;
        this.vectorDB = vectorDB;
        this.chunkSize = 500;
        this.chunkOverlap = 50;
    }
    
    async indexDocument(document, metadata) {
        // ドキュメントからテキストを抽出
        const text = await this.extractText(document);
        
        // テキストをチャンクに分割
        const chunks = this.splitIntoChunks(text);
        
        // 各チャンクを処理
        for (let i = 0; i < chunks.length; i++) {
            const chunk = chunks[i];
            
            // チャンク固有のメタデータを作成
            const chunkMetadata = {
                ...metadata,
                chunkIndex: i,
                totalChunks: chunks.length,
                documentId: metadata.id,
                chunkText: chunk.substring(0, 100) + "..."
            };
            
            // チャンクの埋め込みベクトルを生成
            const embedding = await this.embeddingModel.embed(chunk);
            
            // ベクトルデータベースに保存
            await this.vectorDB.addItem({
                id: `${metadata.id}-chunk-${i}`,
                vector: embedding,
                metadata: chunkMetadata,
                content: chunk
            });
        }
        
        console.log(`Indexed document ${metadata.id} with ${chunks.length} chunks`);
    }
    
    splitIntoChunks(text) {
        // テキストを適切なサイズのチャンクに分割
        const chunks = [];
        let startIndex = 0;
        
        while (startIndex < text.length) {
            // チャンクの終了位置を計算
            let endIndex = Math.min(startIndex + this.chunkSize, text.length);
            
            // 文の途中で切らないように調整
            if (endIndex < text.length) {
                // 次のピリオド、疑問符、感嘆符を探す
                const nextSentenceEnd = text.indexOf('.', endIndex);
                const nextQuestionEnd = text.indexOf('?', endIndex);
                const nextExclamationEnd = text.indexOf('!', endIndex);
                
                // 最も近い文末を見つける
                const sentenceEnds = [nextSentenceEnd, nextQuestionEnd, nextExclamationEnd]
                    .filter(pos => pos !== -1)
                    .map(pos => pos + 1);
                
                if (sentenceEnds.length > 0) {
                    endIndex = Math.min(...sentenceEnds);
                }
            }
            
            // チャンクを追加
            chunks.push(text.substring(startIndex, endIndex));
            
            // 次のチャンクの開始位置を計算（オーバーラップを考慮）
            startIndex = endIndex - this.chunkOverlap;
        }
        
        return chunks;
    }
    
    async extractText(document) {
        // ドキュメントの種類に応じてテキスト抽出ロジックを実装
        // PDF、Word、HTML等の処理
        // ...
        
        return extractedText;
    }
}
        

class DocumentRAG {
    constructor(embeddingModel, vectorDB, llm) {
        this.embeddingModel = embeddingModel;
        this.vectorDB = vectorDB;
        this.llm = llm;
        this.topK = 5;
    }
    
    async query(userQuery) {
        try {
            // クエリの埋め込みを生成
            const queryEmbedding = await this.embeddingModel.embed(userQuery);
            
            // 関連ドキュメントを検索
            const searchResults = await this.vectorDB.search(
                queryEmbedding,
                this.topK,
                { includeMetadata: true }
            );
            
            // 検索結果がない場合
            if (searchResults.length === 0) {
                return {
                    answer: "申し訳ありませんが、この質問に関連する情報が見つかりませんでした。",
                    sources: []
                };
            }
            
            // 検索結果をプロンプトに組み込む
            const contextText = searchResults
                .map(result => `[ドキュメント: ${result.metadata.title}]\n${result.content}`)
                .join('\n\n');
            
            const prompt = `
あなたは社内ドキュメント検索アシスタントです。
以下の社内ドキュメントから抽出された情報を使用して、ユーザーの質問に答えてください。
情報が不足している場合は、正直に「この情報からは回答できません」と伝えてください。
回答には、使用した情報源のドキュメントタイトルを引用してください。

社内ドキュメント情報:
${contextText}

ユーザーの質問: ${userQuery}

回答:`;
            
            // LLMで応答を生成
            const response = await this.llm.generate(prompt);
            
            // 使用したソース情報を収集
            const sources = searchResults.map(result => ({
                title: result.metadata.title,
                url: result.metadata.url,
                lastUpdated: result.metadata.lastUpdated
            }));
            
            return {
                answer: response,
                sources: sources
            };
        } catch (error) {
            console.error("RAG query error:", error);
            return {
                answer: "検索処理中にエラーが発生しました。後でもう一度お試しください。",
                sources: []
            };
        }
    }
}
        

RAGの利点

RAGを導入することで得られる主な利点は以下の通りです：

• 最新情報へのアクセス： モデルのトレーニング後に生成された情報にアクセスできる
• 事実の正確性向上： 外部ソースからの検証可能な情報に基づいて応答を生成
• 幻覚の削減： 事実に基づかない情報の生成を減少させる
• ドメイン特化： 特定の分野や組織固有の知識を容易に統合できる
• 透明性： 情報源を引用することで、応答の根拠を明確にできる
• 柔軟な更新： モデルの再トレーニングなしで知識ベースを更新できる
• コスト効率： 大規模なモデルの再トレーニングよりも効率的
• プライバシー保護： 機密情報をモデルのパラメータに組み込まずに利用できる

RAGの課題と考慮事項

RAGを実装する際に考慮すべき課題には以下のようなものがあります：

• 検索品質： 関連性の高い情報を正確に検索できるかどうかがシステムの性能を左右する
• コンテキストウィンドウの制限： LLMに提供できるコンテキスト量に制限がある
• レイテンシ： 検索ステップが追加されることによる応答時間の増加
• 情報の鮮度： 知識ベースの定期的な更新が必要
• 情報の矛盾： 異なるソースからの矛盾する情報の処理
• 引用の正確性： LLMが検索結果を正確に引用するとは限らない
• インデックス管理： 大規模なデータセットのインデックス作成と維持のコスト
• マルチモーダルコンテンツ： 画像や音声などのテキスト以外のコンテンツの処理

RAGの応用例

RAGは以下のようなさまざまな応用例があります：

• 企業内ナレッジベース： 社内文書、マニュアル、ポリシーに基づく質問応答システム
• カスタマーサポート： 製品マニュアルや過去のサポートケースに基づく自動応答
• 法律・医療アシスタント： 専門文献や判例、医学文献に基づく専門的なアドバイス
• 研究支援： 学術論文や研究データに基づく情報提供と分析
• 教育システム： 教材や参考資料に基づくパーソナライズされた学習支援
• コンテンツ作成： 最新の情報や参考資料に基づく記事やレポートの作成
• 個人的な知識管理： 個人のノートやドキュメントに基づくパーソナルアシスタント

RAGの発展と将来動向

RAG技術は急速に発展しており、以下のような方向性が見られます：

• マルチモーダルRAG： テキストだけでなく、画像、音声、動画などの情報を統合
• 適応型RAG： ユーザーの意図や文脈に応じて検索戦略を動的に調整
• 自己反省型RAG： 生成した応答を自己評価し、必要に応じて修正や追加検索を行う
• 協調型RAG： 複数のエージェントが協力して情報収集と応答生成を行う
• 継続学習型RAG： ユーザーとのインタラクションから学習し、検索と生成の精度を向上
• 効率化技術： 検索と生成のレイテンシを削減するための最適化技術

まとめ

検索拡張生成（RAG）は、大規模言語モデルの生成能力と外部知識源からの情報検索を組み合わせることで、より正確で最新の情報に基づいた応答を提供するAIフレームワークです。RAGは、モデルの幻覚を減少させ、特定ドメインの専門知識を統合し、透明性と検証可能性を向上させるなど、多くの利点を提供します。適切に実装されたRAGシステムは、企業内ナレッジベース、カスタマーサポート、専門分野のアシスタントなど、様々な応用分野で価値を発揮します。技術の発展に伴い、マルチモーダル対応や自己反省機能など、より高度なRAGシステムが今後も登場していくでしょう。