RAGってどんな技術｜社内ナレッジ活用を加速する検索と生成の仕組みを解説

「その手順、どこかに書いてあったはず」

共有フォルダを探し、チャットをさかのぼり、最後は詳しい人に聞く。資料はあるのに、必要なときに使えない。そんな場面はありませんか。

たとえば、故障したPCの借り換えについて質問すると、自分の勤務先に合う申請手順と、その根拠がまとまって返ってくる。同じ仕事をするほかの社員も、共通の資料をもとに案内を受けられる。RAGを使うと、こうした仕組み構築を目指せます。

RAGは、個人の文章作成を助ける使い方から、会社にある知識をみんなで使う活用へと、AIの用途を広げる一つの方法です。

RAGの意味と特徴

RAGは「Retrieval-Augmented Generation」の略で、日本語では「検索拡張生成」と呼ばれます。少し難しく見えますが、押さえたいのは、必要な情報を探す仕組みと、その情報から回答をつくる生成AIを組み合わせるという点です。[1]

生成AIの土台になるのが、大量の文章などから言語の使い方を学んだ大規模言語モデル（LLM）です。ただし、社内資料と接続していないAIに質問しても、自社独自の申請手順や、先週改訂したマニュアルまで知っているとは限りません。

そこでRAGでは、質問に関連する社内資料を探し、その内容を質問と一緒にAIへ渡します。AIは、渡された情報を手がかりに回答します。

資料を開きながら答える、持ち込み資料ありの試験を想像すると分かりやすいかもしれません。

一般的な知識だけでは、AIは自社の申請方法を答えられません。申請の共通手順と、拠点ごとの補足を参照できれば、その社員に合う手順をまとめて案内できる可能性が生まれます。

社内検索との違い

従来の社内検索でも、資料を見つけることはできます。その後に、複数のファイルを開き、必要な箇所を読み、質問への答えを組み立てるのは社員の仕事でした。

RAGでは、その「探した後」の整理もAIが支援します。

使い方	社員が得られるもの	社員に残る確認
社内資料と接続していない生成AI	一般的な説明や文章案	自社のルールに合うかを別途確認する
従来の社内検索	関連しそうな資料の一覧	資料を読み、答えを組み立てる
RAGを組み込んだ仕組み	検索した資料をもとに整理した回答	根拠の箇所や、回答の条件を確認する

RAGは、特定の製品名ではありません。社内向けのチャットや、業務システムの案内機能などに組み込める技術です。最近のChatGPTなどの製品の多くはRAGの手法を取り入れてWeb上から情報収集をして回答してくれるようになってきていますが。実際はAIが検索を行うツールを操作しているため処理自体は自前の知識＋Web情報というRAGに近い状態に進化してきています。

追加学習との違い

「社内の情報を使わせるには、AIを一から学習し直すのでは？」と思うかもしれません。

RAGでは、モデルを追加学習しなくても、検索した資料を回答時に参照させられます。追加のデータでモデルを調整する「ファインチューニング」とは、情報を取り込む方法が異なります。両者を組み合わせることも可能です。[2]

マニュアルの改訂に合わせて検索に使う情報も更新する運用を整えれば、変化する社内情報を回答へ反映しやすくなります。ただし、ファイルを直しただけで即座に反映されるとは限りません。更新した資料が、いつ、どのように検索対象へ取り込まれるかを確認する必要があります。

検索から回答までの3ステップ

実際に、RAGはどのように動くのでしょうか。

貸出PCの申請で見ていきましょう。この記事の業務場面、資料の記述、回答例、試行用の質問は、説明のためにつくった例です。

まず準備として、AIに参照させる資料を選び、検索できる状態にします。資料によっては、文字を取り出したり、長い文書を意味のまとまりごとに分けたりします。この文書の小さなまとまりを「チャンク」と呼びます。[3]

準備ができたら、質問のたびに次の流れで動きます。

1．質問に関連する情報を探す

社員が「営業所のPCが故障したら、代わりのPCはどう借りればいい？」と入力します。

検索する仕組みが、登録された資料から関係する箇所を探します。この会社では、申請の共通手順と、営業所向けの補足が別の文書に書かれているとしましょう。

資料	原本にある記述の例
資料A：代替機貸与の申請手順・申請と受取の節	故障時は、社内の貸出申請フォームに所属拠点と希望する利用期間を入力し、送信する。本社勤務者は本社窓口でPCを受け取る
資料B：営業所向け貸出案内・受取手順の節	営業所勤務者は、フォーム送信後に受付番号を営業所の管理担当者へ連絡する。PCは営業所で受け取る

ファイルが一つ見つかれば十分、とは限りません。質問に答えるための情報がそろっているかが大切です。

2．見つけた情報をAIへ渡す

次に、見つかった箇所を質問と一緒にAIへ渡します。会社中の資料を毎回すべて読ませるのではなく、回答に必要な情報を選んで渡すのが基本です。[1]

この例では、資料Aの申請方法と、資料Bの営業所向けの連絡・受取方法を渡します。資料名や該当する節も一緒に扱えば、回答がどの記述に基づくかを確かめやすくなります。

3．資料をもとに回答をつくる

AIが情報を整理し、たとえば次のような回答をつくります。

営業所にお勤めの場合、故障したPCの代替機は、次の手順で申し込みます。

1. 社内の貸出申請フォームに、所属拠点と希望する利用期間を入力して送信します。（資料A）
2. 受付番号を営業所の管理担当者へ連絡します。（資料B）
3. PCは営業所で受け取ります。（資料B）

参照箇所：資料A「代替機貸与の申請手順」の「申請と受取」、資料B「営業所向け貸出案内」の「受取手順」

二つの資料を開いて答えを組み立てる作業を、AIが支援しています。営業所向けの条件も含めて、次に何をすればよいかが分かる形です。

社員は、資料の正式名称を知らなくても、普段の言葉で質問できます。さらに、回答から原本へ戻れるように設計すれば、自分のケースに当てはまるかも確かめられます。

検索精度と生成精度の違い

RAGの回答が間違っていたとき、「もっと賢いAIに替えればよい」と考えたくなるかもしれません。

その前に、どこでつまずいたかを見てみましょう。

必要な情報を見つけることと、見つけた情報を正しく使うことは、別の仕事です。MicrosoftのRAG評価の解説でも、検索結果の品質と、最終回答の品質を分けて扱っています。最終回答については、根拠に沿っているか、質問に合っているか、必要な情報を含んでいるかを確認します。[4]

見るところ	確かめたいこと	貸出PCの例での失敗
検索精度	答えに必要な情報が、AIへ渡す検索結果に含まれているか	資料Aだけを渡し、営業所向けの資料Bを取り逃がす
生成精度	渡された情報に沿って、質問へ正しく、必要十分に答えているか	営業所の補足も渡されているのに、本社の受取窓口を案内する

ここでいう検索精度と生成精度は、二つの仕事を分けて理解するための整理です。検索ではどの情報を見つけたか、生成では重要な条件を回答から落としていないかなど、確認する点は複数あります。

同じ「受け取り方法が違う」という誤りでも、直す場所は変わります。

検索で補足を取り逃がしていたなら、資料の分け方や検索方法を見直します。補足が渡されているのに回答へ反映できなかったなら、AIへの指示や渡す情報の構成、モデルの選び方などを検討します。

なお、原本の手順自体が古ければ、検索も生成もうまく動いたのに、現実には使えない回答になることがあります。「資料に忠実」と「現在の業務で正しい」は、併せて確かめる必要があります。

原因を分けて見れば、「AIの回答がいまひとつ」で止まらず、次に何を直すかを考えられます。

検索精度を高める3つの工夫

検索精度を考えるとき、専門的な設定だけを想像する必要はありません。「社員がどんな言葉で聞くか」「どの資料が正しいか」は、現場を知る人にこそ分かることです。

意味とキーワードの使い分け

資料には「代替機貸与」と書いてある。でも、社員は「代わりのパソコンを借りたい」と聞く。

こうした言い方の違いに対応する方法の一つが、文章の意味の近さで探す「ベクトル検索」です。文章の特徴を数値で表し、質問に近い内容を探します。

一方、製品コードや申請書の番号のように、文字の一致が大切な情報もあります。そこで、キーワード検索とベクトル検索を組み合わせる「ハイブリッド検索」が使われます。検索候補を、質問への関連度で並べ直す方法もあります。[5]

意味が近い資料を集めるだけで、必ず正解になるわけではありません。自社でよく使われる言い回し、略称、正式名称を質問例として集めると、検索が合っているかを確かめやすくなります。

手順と例外を保つ文書分割

資料を小さく分ければ、欲しい箇所を見つけやすくなることがあります。ただし、細かく切りすぎると、回答に必要な前提や例外が抜けてしまいます。

たとえば、資料Aから「本社窓口でPCを受け取る」だけを取り出し、その前の「本社勤務者は」が欠けてしまうと、営業所の社員にも同じ窓口を案内しかねません。共通手順と拠点別の補足を一緒に探す工夫に加えて、一つの記述の中でも条件を保つ必要があります。

文書を分けるときは、見出しや文のつながりを保ち、周辺の説明も含めるなど、文脈を残す工夫が必要です。[3]

現場の担当者なら、「この一文だけを読むと、いつも誤解が起きる」と気づけるかもしれません。その気づきが、資料の整備や分割方法の見直しにつながります。

現行版と対象者の整理

旧版と現行版、本社向けと営業所向けなど、似た資料が並んでいると、人でも迷いますよね。

文書に適用日、対象部署、版、管理担当者などの情報を付け、検索対象を絞れるようにします。RAGでも、資料の準備や検索条件の設計が品質を左右します。[6]

「一番新しいファイル」だけで決められない場合もあります。来月から有効になる手順と、今日使う手順を区別するには、更新日だけでなく適用日も確認したいところです。

生成精度を高める回答設計

検索で必要な情報を集めたら、その情報からどう答えるかを決めます。

たとえば、貸出PCの案内なら、回答を「申請先」「入力する内容」「受け取り方法」「参照資料」の順に整理すると、回答を確認する人も情報の不足に気づきやすくなります。流暢な長文より、次の行動が分かる回答のほうが、現場では役立つことも多いでしょう。

また、AIへの指示には、次のような方針を含めます。これは、本記事で提案する設計例です。

• 回答の根拠にした資料と、該当する箇所を示す。
• 資料にない手順や条件を推測で補わない。
• 資料同士で内容が食い違う場合は、食い違いを伝える。
• 所属拠点などの条件が足りない場合は、先に聞き返す。
• 必要な情報が見つからなければ、その旨と確認先を案内する。

何でも回答させようとしないことが大切です。

「貸出PCは今日中に届きますか？」と聞かれても、配送日数の資料や在庫情報を参照できないなら、答えを確定することはできません。回答では、申請方法を案内し、到着日は担当者に確認するよう伝えます。そこまで含めて、仕事に使える回答を設計します。

RAGを使っても、もっともらしい誤情報をつくる「ハルシネーション」がなくなるわけではありません。また、出典が表示されていても、その出典が回答を裏付けているかは別に確認します。根拠に沿っているか、質問へ答えているか、重要な条件を落としていないかを見ていきましょう。[4]

一度の指示で完成を目指すより、よくある質問と回答を確かめ、誤りの原因に応じて調整していくほうが、改善点を見つけやすくなります。

社内ナレッジが仕事に生きる場面

RAGで広がる可能性は、社内向けの質問窓口だけではありません。検索する情報と、生成する成果物を変えると、さまざまな業務へ応用できます。

参照する資料と使い道は、たとえば次のように組み合わせられます。実現できる範囲は、資料の状態や利用する仕組みによって変わります。

業務	参照する社内ナレッジ	仕事で使える形
新人の業務習得	操作マニュアル、社内用語集、よくある質問	分からない言葉を補いながら、必要な手順を案内する
商品の問い合わせ対応	製品仕様、現行のサポート方針、確認済みのFAQ	問い合わせ内容に合う回答案と根拠をまとめる
店舗の運営支援	売場変更の手順、販促物の設置基準、拠点ごとの補足	自店舗に関係する手順と注意点を整理する

共通の資料から回答案をつくる

商品の問い合わせ対応を想像してみてください。

お客様から「この製品は屋外で使えますか。設置するときに気をつけることは？」と質問された。担当者は仕様書を開き、過去の案内を探し、判断がつかずに詳しい同僚の返事を待っている。そんな場面です。

現行の製品仕様と確認済みの設置FAQを検索できるRAGなら、「屋外利用の可否」「設置条件」「回答の根拠」をまとめた回答案づくりに使えます。担当者は、参照先と回答を確かめ、お客様の設置環境が条件に合うかを確認して返信します。

新人にもベテランにも、同じ原本を確認する入口ができます。慣れている人だけが知っていた資料の場所を共有するだけでなく、回答案を確認するところまで進められますね。

もちろん、資料にない設置環境まで判断できるわけではありません。その場合は、足りない条件をお客様へ聞くか、専門の担当者へ相談します。RAGが定型的な確認を支え、人は個別の事情に集中するという役割分担を設計できます。

日々の質問を原本の改善へ

さらに、答えられなかった質問は、社内資料の不足を見つける材料にもなります。

たとえば、回答できなかった設置条件を文書の管理者へ伝え、製品担当者が確認した内容をFAQへ追加します。その更新を検索へ反映すれば、次に同じ質問を受けた社員も参照できます。

AIが会話から自動で正解を覚える、という意味ではありません。人が原本を確認・更新し、仕組みに反映する流れをつくることが大切です。一人が聞いて分かったことを、ほかの社員も使える知識へ変えていけます。

ただし、ベテランの頭の中にしかない判断基準は、そのままでは検索できません。まだ言葉になっていない知識については、先に聞き取りや整理が必要です。具体的な進め方は、「暗黙知」をAIに教えるには？｜熟練者の判断を言語化する方法で解説しています。

社員が一人ずつAIを使う工夫を、会社にある知識を共有して使う仕組みへ育てていくことに、RAGを社内で活用する大きな魅力があります。

一つの業務で試すための準備

RAGの導入を考えたとき、最初から全社の文書を集める必要はありません。

貸出PCの案内なら、対象を申請と受け取りの説明に絞り、実際に質問する社員にも参加してもらいます。次の流れは、取り組み方の一例です。

担当する人と範囲の設定

まず、誰が何を確かめるかをそろえます。

• 業務担当者は、質問に対する正解と、省いてはいけない案内条件を確認する。
• 文書の管理者は、原本の内容、適用日、更新を確認する。
• 導入・運用の担当者は、資料との接続、検索設定、閲覧権限を整える。

小さな会社では、同じ人が兼任しても構いません。回答の誤りと原本の不足が見つかったときに、誰へ修正を依頼するかを決めておくことが大切です。

質問と正解を先に用意する

「何を聞けると助かるか」から始めます。

よくある質問に加えて、例外条件のある質問、情報不足で聞き返す質問、資料に答えがない質問も用意します。先ほどの資料A・Bなら、次のように期待する応答を整理できます。

試す質問の例	確認する原本・条件	期待する応答
本社勤務です。故障したPCの代替機はどう借りますか	資料Aの申請と、本社勤務者の受取方法	フォームへの入力事項と、本社窓口での受け取りを案内する
営業所勤務です。申請後はどうすればよいですか	資料Bの連絡先と受取場所	受付番号を営業所の管理担当者へ連絡し、営業所で受け取ると案内する
故障したPCの代替機は、どこで受け取りますか	資料A・Bで受取場所が異なり、質問に勤務先がない	本社勤務か営業所勤務かを聞き返す
代替PCは今日中に届きますか	資料A・Bに到着日の記載はない	資料では確認できないと伝え、担当者への確認を案内する

答えを出したかだけでなく、必要な聞き返しや、分からないと伝える対応も確かめます。この表は試行の準備例で、実際の回答や正答率を示すものではありません。

質問を用意する段階で、「この手順は担当者によって説明が違う」と分かることもあります。AIに答えさせる前に、社内で正解をそろえる機会にもなります。

検索結果と回答の確認

試したら、最終回答だけでなく、AIにどの情報が渡されたかも確認します。導入する仕組みを選ぶ際には、検索結果を確認できるかも見ておきたい点です。

各質問について、検索で得た箇所と実際の回答を、用意した原本・期待する応答と比べます。

営業所向けの質問で資料BがAIに渡されていなければ、検索を改善します。資料Bが渡されているのに本社窓口を案内したなら、回答のつくり方を見直します。原本自体に必要な説明がないなら、文書を整備します。

設定を調整するために使った質問とは別の質問でも確かめます。同じ質問に正しく答えられるようになっただけで、実務全体の精度が上がったと判断しないためです。

効果と運用の継続判断

品質に加えて、資料を探してから回答を確認し終えるまでの時間や、担当者へ聞き直した件数も見ます。AIの回答が速くても、確認や修正に手間がかかれば、現場の負担は減りません。

試行後は、業務担当者と導入・運用の担当者が一緒に、利用を広げるか、対象を絞ったまま改善するかを判断します。

あらかじめ決めた重要な案内条件を守れているか、確認と修正を含む総作業時間に改善があるか、その両方を確認します。受取場所の誤案内などが残るなら、原因を直して再試行します。

決まった質問件数や一律の合格点に合わせる必要はありません。間違えたときの影響も踏まえ、自社の業務に必要な条件を決めます。回答の待ち時間、利用費用、文書を更新する担当者の作業も含めて、続けられるかを確かめましょう。

利用者ごとの閲覧権限も欠かせません。RAGを入れただけで、全員がすべての資料を見てよくなるわけではありません。本人が閲覧できる情報だけを検索・参照させる仕組みが必要です。[6]

権限を超えた情報が参照される状態では、利用範囲を広げられません。回答内容の評価とは分けて、権限の異なる利用者でも確認します。

データの扱い方や利用条件など、社内で決める事項は、生成AI社内ガイドラインの作り方｜攻めと守りのガバナンス構築も参考にしてください。

社内ナレッジの活用に向けて

RAGは、社内に眠っていた資料を、社員が普段の言葉で引き出すための技術です。検索精度と生成精度を分けて確かめれば、「回答がいまひとつ」で止まらず、改善すべき場所を考えられます。

そのために必要なのは、技術の知識だけではありません。

社員がどこで困るのか。どの資料を正解にするのか。どんな条件は省けないのか。こうした判断には、日々の業務を知る人の力が欠かせません。

まずは、社内で繰り返される質問を一つ思い出してみてください。その答えが書かれた資料と、質問に答えている担当者が、最初の相談相手です。

一人が資料を探す手間を減らし、ほかの社員も同じ知識を使えるようにする。そして、日々の質問から資料そのものを育てていく。RAGをきっかけに、そんなAI活用を始めてみませんか。