RAG（検索拡張生成）を自社に導入する方法は、大きく「SaaS型」「クラウド開発型」「オープンソース型」の3つに分かれる。専任のAIエンジニアがいない中堅企業であれば、まずSaaS型で一つの業務に絞って試し、閉域網や独自の業務システム連携が必須になった段階でクラウド開発型やオープンソース型を検討する、という順番が現実的である。
本記事では、3つの構築方法を初期費用・立ち上げ期間・必要な体制・データの置き場所で比較し、自社に合う方法を判断するための質問と、構築方法を問わず共通する手順を整理した。後半では、SaaS型RAG「chai+」を9業種で実運用した7,246件の実測データも紹介する。製品ごとの比較は「中堅企業向けRAGツール比較」、製品選定の評価ポイントは「中堅企業の法人向けRAG導入ガイド」で解説している。
この記事の要点
RAG構築の3つの方法を比較表で整理
RAGは、生成AIが回答する前に社内文書を検索し、その内容を根拠に回答を組み立てる仕組みである。この仕組みを「誰が・どこに」作るかによって、構築方法は次の3つに分かれる。
| 比較項目 | SaaS型 | クラウド開発型 | オープンソース型 |
|---|---|---|---|
| 作り方 | 完成したサービスに資料を登録する | AWS・Azure・Google Cloudの部品を組み合わせて開発する | DifyやLangChainなどを自社環境に導入して組み立てる |
| 立ち上げの速さ | 速い（数日〜で試せる） | 遅い（設計・開発・テストが必要） | 中〜遅い（試作は速いが本番化に時間がかかる） |
| 初期費用 | 小さい | 大きい（開発費） | ライセンスは小さいが、構築の人件費がかかる |
| 必要な体制 | 現場の担当者で運用できる | クラウドエンジニア、または開発会社 | AI・インフラに詳しいエンジニア |
| 自由度 | 提供される機能の範囲内 | 高い | 高い |
| データの置き場所 | 提供会社のクラウド | 自社のクラウド契約内 | 自社クラウド、またはオンプレミス（閉域も可） |
| 保守・アップデート | 提供会社が行う | 自社または開発会社 | 自社 |
| 向いている企業 | 専任エンジニアがおらず、まず一つの業務で効果を出したい | 既存の業務システムと深く連携させたい | 社内に技術者がいて、データを社外に出せない |
期間や費用は、対象業務の範囲や登録する資料の量で大きく変わる。上の表は3つの方法の相対的な違いとして読んでほしい。
SaaS型のRAGとは？資料を登録するだけで使い始められる方法
SaaS型は、検索・回答の仕組みがすでに完成しているサービスに、自社の資料をアップロードして使う方法である。サーバー構築やプログラミングは不要で、ブラウザの管理画面から資料の登録・差し替えを行う。
｜ SaaS型が向いているケース
社内問い合わせ対応、マニュアル検索、顧客からの定型的な質問への回答など、「正解が資料の中にある業務」から始めたい企業に向いている。保守やモデルのアップデートは提供会社が行うため、運用は現場の担当者が資料を更新するだけで済む。
｜ SaaS型で確認しておきたい注意点
データは提供会社のクラウドに保存されるため、保存場所（国内か海外か）、入力したデータがAIの学習に使われないか、生成AIの推論処理でデータがどこに送られるかを確認する。セキュリティの確認項目は「社内AIチャットボットのセキュリティ要件チェックリスト」にまとめている。また、提供されている機能の範囲を超える独自の処理は組み込めない。
クラウド開発型のRAGとは？AWS・Azure・Google Cloudで作る方法
クラウド開発型は、各クラウドが提供する検索サービスと生成AIサービスを組み合わせ、自社用のRAGを開発する方法である。代表的な部品として、AWSのAmazon Bedrock Knowledge Bases、MicrosoftのAzure AI SearchとAzure OpenAI、Google CloudのVertex AI Searchがある。
｜ クラウド開発型が向いているケース
すでに特定のクラウドを全社で契約しており、基幹システムや社内ポータルと深く連携させたい企業に向いている。検索の仕組みや画面、権限の扱いを自社の要件に合わせて設計できる。AWSが公開している生成AIアプリのひな形については「AWS公式オープンソース「GenU」とは」で紹介している。
｜ クラウド開発型で確認しておきたい注意点
設計・開発・テストの期間と開発費が必要になる。加えて、公開後も検索精度の調整、生成AIモデルの切り替え、障害対応を自社または開発会社が担い続けることになる。外注する場合は、構築費だけでなく保守契約の範囲と費用まで見積もりに含めておく。
オープンソース型のRAGとは？DifyやLangChainで自社構築する方法
オープンソース型は、DifyやLangChainなどの公開されたソフトウェアを使い、RAGを自社で組み立てる方法である。社内サーバーで動く生成AI（ローカルLLM）と組み合わせれば、データを社外に一切出さない構成も取れる。
｜ オープンソース型が向いているケース
金融・医療・製造の設計情報など、データを社外のクラウドに送れない業務に向いている。社内にAIやインフラに詳しいエンジニアがいれば、ライセンス費用を抑えながら自由に作り込める。社内環境で生成AIを動かす方法と費用は「ローカルLLMとは？」「ローカルLLMの構築費用」で解説している。
｜ オープンソース型で確認しておきたい注意点
試作品は短期間で作れても、権限管理、利用ログ、障害時の復旧、ソフトウェアの更新対応まで整えて本番運用にするには相応の工数がかかる。担当エンジニアが異動・退職すると保守が止まるリスクもあるため、「誰が保守し続けるか」を最初に決めておく。
自社に合うRAG構築方法はどれ？5つの質問で判断する
次の5つの質問に上から順に答えると、検討すべき構築方法が絞り込める。
| 質問 | 「はい」の場合に検討する方法 |
|---|---|
| 1. データを社外のクラウドに一切送れない（規程・契約で禁止されている） | オープンソース型＋ローカルLLM |
| 2. 基幹システムや独自の社内ポータルの中にAIを組み込む必要がある | クラウド開発型 |
| 3. 社内にAI・クラウドの専任エンジニアがいない | SaaS型 |
| 4. 数か月以内に、一つの業務で効果を数字で示したい | SaaS型 |
| 5. Teamsなど普段使うツールから質問できれば十分 | SaaS型（連携先のツールを確認する） |
質問1・2が「いいえ」で、質問3〜5のどれかが「はい」なら、SaaS型で一つの業務から試すのが最も早い。SaaS型で効果と要件がはっきりしてから、必要に応じて開発型へ移る順番でも遅くはない。
RAG構築の手順：どの方法でも共通する5ステップ
構築方法が違っても、成果を出すための進め方は変わらない。RAGの導入は「製品を入れる」プロジェクトではなく、「一つの業務で正確に答えさせる」プロジェクトとして設計する。
｜ ステップ1：対象業務を一つに絞る
「正解が資料の中にあり、間違えても取り返しがつく業務」から着手する。総務・人事への定型的な問い合わせ、製品仕様に関する社内FAQ、業務マニュアルの検索などが候補になりやすい。
｜ ステップ2：登録する資料を棚卸しして整える
古い版や重複した資料をそのまま登録すると、矛盾した回答の原因になる。最新版の特定、更新日の確認、資料ごとの管理責任者の明確化を、構築を始める前に済ませておく。資料の整え方は「社内FAQ自動化のナレッジベース完全ガイド」で詳しく解説している。
｜ ステップ3：成功の基準を数字で決める
「AIが回答できた割合（回答率）」「担当者への問い合わせ件数」「回答の正しさ」など、試験運用の合否を判断する指標を事前に決める。基準がないまま試すと、成果を社内に説明できず次の段階に進めない。
｜ ステップ4：一部署で試験運用（PoC）する
特定の部署に限定して使ってもらい、回答できなかった質問や評価の低い回答を集める。ここで集めた質問が、資料の追加や検索設定の調整の材料になる。
｜ ステップ5：更新ルールを決めて対象を広げる
「誰が・いつ・どの資料を更新するか」を決めてから、部署や業務を段階的に広げる。全社の文書を一度に検索できる基盤から作り始めると、効果が出る前に予算と社内の推進力が尽きやすい。
RAG構築の費用はどこで差がつくのか
RAGの費用は、月額料金だけを比べると判断を誤りやすい。3つの方法で差が出るのは、次の内訳である。
| 費用の内訳 | SaaS型 | クラウド開発型 | オープンソース型 |
|---|---|---|---|
| 構築費 | 初期費用のみ、またはなし | 開発費が発生 | 社内エンジニアの工数 |
| 毎月の利用料 | 月額料金（プランで定額） | クラウド利用料＋生成AIの従量課金 | サーバー費（ローカルLLMならGPUの費用） |
| 保守・改修 | 月額に含まれることが多い | 保守契約、または社内工数 | 社内工数 |
| ナレッジ更新 | 現場担当者が管理画面で更新 | 作り方次第（更新画面も開発が必要） | 作り方次第 |
見落とされやすいのは、構築後に毎年かかる保守と更新の人件費である。「導入費用が安い」ことと「数年間の総額が低い」ことは一致しない。試験運用の段階で年間の総額を試算し、3つの方法を同じ条件で比べる。AIチャットボット全体の費用相場は「AIチャットボットの費用相場」で解説している。
実測データ：SaaS型RAGを9業種で運用した回答率
SaaS型でどこまで回答できるのかを示すため、chai+を実運用している9業種のデータを紹介する。合計7,246件の問い合わせのうち、AIが回答できたのは6,589件で、総合回答率は90.9％だった。
| 業種 | 主な用途 | 問い合わせ数 | 回答数 | 回答率 |
|---|---|---|---|---|
| コールセンター・BPO | ECサイトの24時間問い合わせ対応 | 892件 | 858件 | 96％ |
| 紙・木製品／機械器具 | 製品情報の案内・検索 | 748件 | 710件 | 95％ |
| エンタメ・娯楽 | アルバイト・契約社員向けの教育、業務オペレーション | 663件 | 629件 | 95％ |
| レジャー・旅行／観光・イベント | 社内業務の問い合わせ、来場者からの問い合わせ | 752件 | 706件 | 94％ |
| 建設・不動産 | Teamsを使った社内外ヘルプデスク | 614件 | 563件 | 92％ |
| 大学・教育機関 | 在学生向けの問い合わせ窓口など | 2,090件 | 1,885件 | 90％ |
| ソフトウェア | 製品の問い合わせ、操作方法の案内 | 441件 | 384件 | 87％ |
| 食品・飲料 | 製造工場のトラブル対応、部品に関する質問 | 400件 | 331件 | 83％ |
| 結婚式場・婚礼 | 新郎新婦・ゲストからの問い合わせ | 646件 | 523件 | 81％ |
| 合計 | ― | 7,246件 | 6,589件 | 90.9％ |
出典：chai+公開情報（業種別の実運用データ）。回答率は、問い合わせ数のうちAIが回答した件数の割合。学習データの整備状況によって変動する。
｜ データから読み取れること
9業種のうち回答率が最も低かった婚礼（81％）では、「親族の席次をどうするか」のような、ふたりの事情に合わせた個別の相談が多く含まれる。chai+は根拠となる資料が見つからない質問には答えず人へ引き継ぐ設計のため、こうした相談は担当プランナーへ渡される（詳細は婚礼の事例）。回答率は、問い合わせの中身と登録した資料の整備状況に左右される。構築方法を選ぶ前に、自社の問い合わせのうち資料に答えがあるものがどれだけあるかを確認しておくと、効果の見込みを立てやすい。
なお、chai+が品質指標として掲げる98％以上の精度は、学習データが十分に整備された条件下でのベンチマークスコアであり、上の表の実運用の数値とは別のものである。
SaaS型RAG「chai+」でできること・できないこと
chai+は、デフィデ株式会社が提供するSaaS型のRAGである。構築方法を比較する材料として、できることと、できないことを整理する。
｜ できること
- PowerPoint・Excel・Word・PDF・TXTなどの資料をアップロードするだけでAIチャットボットを作成できる。グラフや図、画像もOCRとセマンティック解析で学習データにできる
- 業務別のテンプレートから選んで資料を登録でき、最短3営業日でプロトタイプを作成できる
- 回答には根拠となった資料名と該当箇所が併記される
- 資料を差し替えるだけで回答内容が更新される
- 部門別・用途別に複数のボットを作り、参照するナレッジと回答方針を分けて管理できる
- 社内の略語や製品名を辞書登録できる。日本語で登録したナレッジに外国語で質問しても、質問された言語で回答する
- MS Teams、LINE、Slack、Chatwork、LINE WORKSなどから質問できる
- 導入前の初期設計から運用まで、無償のサポートと伴走支援を受けられる
｜ データの扱い
預かったデータはAWSの日本国内リージョンのみに保存され、AIモデルの学習には利用されない。元の資料に設定されたアクセス権限は、chai+上の検索・回答でも引き継がれる。SSO（SAML／OIDC）、多要素認証、IPアドレス制限にも対応している（Professional版以上）。提供元のデフィデ株式会社は、ISO/IEC 27001（ISMS）とJIS Q 15001（プライバシーマーク）の認証を取得している。詳細はchai+のセキュリティ・トラストページで公開している。
｜ 向いていないケース
chai+は外部の生成AIエンジンをAPI経由で利用しており、推論処理の際にはデータが一時的に米国などの海外サーバーへ送信される（推論目的のみに使われ、学習や二次利用はされない）。そのため、規程や契約で「データを社外・海外に一切送れない」業務には向かない。その場合は、前述のオープンソース型とローカルLLMの組み合わせを検討してほしい。
まとめ：RAG構築は「速く試せる方法」から始めて、要件で選び直す
RAGの構築方法は、SaaS型・クラウド開発型・オープンソース型の3つである。データを社外に出せない、または基幹システムに深く組み込む必要がある場合を除けば、SaaS型で一つの業務から試すのが最も早く、費用の見通しも立てやすい。
どの方法を選んでも、成果を決めるのは対象業務の絞り込み、資料の整備、成功基準の設定である。IPAが国内1,799社を対象に行った「DX動向2026」でも、AI導入は広がっている一方で、期待どおり以上の効果を得ている企業の割合は限定的とされている。構築方法の議論の前に、「どの業務で、何を、どれだけ減らすか」を決めることが近道である。
chai+の機能と導入の流れは、資料ダウンロードページから確認できる。
RAG構築に関するよくある質問
Q. RAGを構築する方法にはどんな種類がありますか？
A. 大きく3つあります。完成したサービスに資料を登録する「SaaS型」、AWS・Azure・Google Cloudの部品を組み合わせて開発する「クラウド開発型」、DifyやLangChainなどを自社環境に導入する「オープンソース型」です。専任エンジニアがいない企業はSaaS型、データを社外に出せない企業はオープンソース型が候補になります。
Q. RAGは自社で構築すべきですか？外注やSaaSを使うべきですか？
A. 構築後の保守を誰が担えるかで決めます。社内にAI・インフラのエンジニアがいて保守し続けられるなら自社構築、いなければSaaS型か、保守契約まで含めた外注が現実的です。自社構築は試作までは速くても、権限管理や障害対応まで含めた本番運用に工数がかかります。
Q. RAGの構築にはどのくらいの期間がかかりますか？
A. 方法と対象範囲によって変わります。SaaS型は資料を登録すればすぐ試せるため最も速く、chai+の場合は最短3営業日でプロトタイプを作成できます。クラウド開発型とオープンソース型は、設計・開発・テストの期間が別途必要です。
Q. SaaS型のRAGで、社内の資料はAIの学習に使われませんか？
A. サービスによって異なるため、利用規約やセキュリティの公開情報で確認してください。chai+では、預かったデータをAIモデルの学習に利用することはなく、データはAWSの日本国内リージョンのみに保存されます。ただし推論処理の際は、外部の生成AIエンジンを利用するため、データが一時的に海外サーバーへ送信されます。
Q. RAGを導入すれば誤回答（ハルシネーション）はなくなりますか？
A. なくなりはしませんが、減らせます。RAGは資料を根拠に回答するため、一般的な生成AIより誤回答が起きにくくなります。回答に根拠の資料名と該当箇所を表示する仕組みを選び、利用者が原典を確認できるようにしておくことが有効です。
Q. RAGの回答率はどのくらいが目安ですか？
A. 問い合わせの内容と資料の整備状況によって変わります。chai+を9業種で実運用したデータでは、業種別の回答率は81〜96％、合計7,246件での総合回答率は90.9％でした。個別の事情に合わせた相談が多い業務では、資料に根拠がない質問を人へ引き継ぐため、回答率は低めになります。
［無料相談を申し込む ］
提供：デフィデ株式会社｜戦略AIコンサルティング
media
