- ソフトバンクが全社員1万9000人向けの「全社RAG基盤」を構築した背景がわかります
- 部門ごとにAIが乱立した「泥臭い」課題と、その解決策がわかります
- ガバナンスと使いやすさを両立させる承認ワークフローの仕組みがわかります
- 2.5カ月で約2800時間を生み出した具体的な成果がわかります
- パナソニックやイオンなど他社事例との違いと、あなたの会社への活かし方がわかります
「社内の規程を探すだけで15分もかかる」。そんな悩みを持ったことはありませんか？
ソフトバンクは、この地味だけど大きな問題をAIで解決しました。全社員1万9000人が使う「全社RAG基盤」です。この記事では、その裏側にあった泥臭い苦労と、たった2.5カ月で2800時間を生み出した成果をやさしく解説します。
ソフトバンクの「全社RAG基盤」とは？
まず「RAG」という言葉から説明します。
RAG（検索拡張生成）とは、AIが社内の資料を検索してから答えを作る仕組みのことです。ふつうのChatGPTは学習した知識だけで答えます。でもRAGなら、会社の規程やマニュアルを見ながら答えてくれます。
ソフトバンクが作ったのは、この仕組みを全社で1つに統合した基盤です。2026年7月、IT専門メディア「＠IT」の連載で、その構築の舞台裏が明かされました。
いま利用しているのは約1万9000人。社員が「この経費は精算できる？」「この手続きのルールは？」と聞くと、AIが関係する規程を探して答えてくれます。
つまり、分厚い社内ルールブックが「話しかけられる相棒」に変わったのです。
なぜ全社で1つに？部門ごとRAG乱立という落とし穴
実は、ソフトバンクでも最初から1つにまとまっていたわけではありません。
生成AIが話題になると、社内の熱量が一気に高まりました。各部署が競うように、自分たちだけのRAG環境を作り始めたのです。
これは前向きな動きに見えます。でも、大きな落とし穴がありました。
「誰が、どこに、どんな情報を置いたのか」が全社でわからなくなったのです。
とくに問題なのは、機密情報や個人情報の扱いです。あちこちのAIツールに社員が勝手にデータを入れると、管理の目が届きません。これは会社にとって大きなリスクになります。
そこでソフトバンクは決断します。バラバラのRAGをやめて、安全に管理できる「全社共通の1つの基盤」に統合する方針に切り替えたのです。
「泥臭い舞台裏」承認ワークフローの中身
統合で一番むずかしかったのは、「使いやすさ」と「安全さ」の両立でした。
安全にしすぎると使いにくくなります。逆に使いやすくしすぎると危険な情報が漏れます。このバランス取りこそが、記事で「泥臭い」と表現された部分です。
2段階のチェックでデータを守る
ソフトバンクが選んだのは、データを登録する前に人の目でチェックする承認ワークフローです。
流れはこうです。
まず、データ管理者がファイルを登録します。このとき「個人情報が入っていないか」などのルールを自分で確認します。
次に、部門の責任者が登録内容をチェックします。「この目的で、この情報を出して本当に大丈夫か」を判断して承認します。
この2段階を通らないと、AIはそのデータを使えません。手間はかかりますが、危険なデータの混入を防げます。
誰でも見られるわけではない
利用者の管理も工夫されています。OAuth認証（本人確認の仕組み）を使い、許可された社員だけがアクセスできます。
しかも、すでに社内で使われているChatGPT Enterpriseの画面から、そのまま呼び出せます。新しいアプリを覚える必要がありません。この「いつもの場所で使える」工夫が、利用者を増やしました。
表形式データという難関
技術面でも苦労がありました。社内の規程は約150件以上。しかもPDF、Excel、Wordとバラバラの形式でした。
とくにExcelの表は、AIが読み取るのが苦手です。最初は回答の精度がなかなか上がりませんでした。
そこで「TASUKI Annotation」というデータ整理ツールを使い、表もAIが理解できる形に構造化しました。この地道な作業で、文章も表も実務レベルの精度にたどり着いたのです。
どれだけ効果があった？数字で見る成果
では、実際にどれだけ役立ったのでしょうか。
ある社員が、月末に新しい業務を任された場面を想像してみてください。関係する規程を探し、読み込み、他のルールとの矛盾がないか確認する。以前はこれに1回あたり約15分かかっていました。
それがAIに聞くだけで、関係する複数の規程をまとめて提示してくれます。
成果は数字にはっきり出ました。
- リリースから2.5カ月で約1.1万回利用された
- 合計で約2800時間の業務時間を生み出した
- 1回あたり約15分の確認作業を短縮した
ちなみに、これは単なる時短だけではありません。AIが業務の背景をふまえて「関係するルール」をまとめて出すので、確認漏れを防ぐ効果もあります。人間なら見落としがちな細かい規程も、拾ってくれるのです。
他社の社内AIとどう違う？比較でわかる特徴
社内にRAGを入れる会社は、ソフトバンクだけではありません。他社と比べると、特徴が見えてきます。
パナソニックグループは2023年に汎用のRAG環境「PX-AI Plus」を作りました。ただ、提供から半年で50件対応したものの、精度が低く準備の手間も多く、実利用は数件にとどまったと報告されています。汎用のまま広げる難しさを示す例です。
LINEヤフーは「SeekAI」という独自ツールを開発し、カスタマーサポート業務で約98%の正答率を出しています。特定業務にしぼって精度を高めた例です。
イオンはグループ約1000人に導入し、トップ利用者は月に約130時間もの業務削減を実現しました。
この中でソフトバンクが目立つのは、「全社の統制」と「現場の使いやすさ」を同時に狙った点です。多くの会社が「精度」か「広さ」のどちらかに寄るなか、承認ワークフローで安全を担保しつつ、いつものChatGPT画面から使える手軽さを両立させました。
従来の「部門ごとに勝手に作る」やり方と比べると、管理のしやすさが段違いです。
日本企業にとって何が参考になる？
この話は、大企業だけのものではありません。日本の多くの会社に当てはまるヒントがあります。
日本企業の資料は、PDFやExcelがとても多いのが特徴です。ソフトバンクが苦労した「表形式データの読み取り」は、まさに日本のオフィスあるあるの課題です。
また、日本企業は情報管理やガバナンスをとても重視します。「便利だけど危ない」ツールは、なかなか全社に広がりません。ソフトバンクの承認ワークフローという型は、慎重な日本企業でもAIを安全に広げるお手本になります。
さらに、日立ソリューションズは「競争軸が単体機能から、複数のAIを安全に回す統制基盤へ移った」と指摘しています。これからは「派手な新機能」より「安全に運用する土台」が勝負を分けるということです。
あなたの会社でも、まず社内規程やマニュアルの検索から始めるのは、現実的な第一歩と言えるでしょう。
よくある質問（FAQ）
Q1. RAGとふつうのChatGPTは何が違うの？
ふつうのChatGPTは学習済みの知識だけで答えます。RAGは会社の資料を検索してから答えるので、社内ルールなど「その会社だけの情報」に正確に答えられます。
Q2. 中小企業でも同じことができますか？
できます。規模は小さくても、社内マニュアルや規程をAIに読ませる仕組みは作れます。まずは1つの業務にしぼって試すのがおすすめです。
Q3. 情報が漏れる心配はないの？
ソフトバンクは承認ワークフローとOAuth認証で対策しています。誰がどんなデータを入れるかを人がチェックし、許可された社員だけが使える仕組みです。
Q4. なぜExcelの表はAIが苦手なのですか？
表はセルの位置に意味があり、文章のように順番に読めないからです。ソフトバンクはデータを構造化するツールで、AIが表を理解できるように整えました。
Q5. どれくらいで効果が出ますか？
ソフトバンクの場合はリリースから2.5カ月で約1.1万回使われ、約2800時間を生み出しました。使う場面を絞れば、比較的早く効果が見えます。
まとめ
ソフトバンクの全社RAG基盤から学べるポイントを整理します。
- 全社員1万9000人が使う社内AI基盤を構築した
- 部門ごとのRAG乱立というリスクを、全社統合で解決した
- 承認ワークフローで「使いやすさ」と「安全さ」を両立させた
- 2.5カ月で約2800時間の業務時間を生み出した
- 日本企業に多いPDF・Excel資料の課題にも通じる実践例である
まずは自社の「探すのに時間がかかる資料」を1つ選び、AIに読ませる実験から始めてみてください。
参考文献
- 1万9000人が利用するソフトバンクの「全社RAG基盤」 構築の泥臭い舞台裏 – ＠IT
- RAG×データ構造化による「社内規程・ルール確認の高度化」 – ソフトバンク
- 「250万超AIエージェント作成」の裏で同時多発する課題を回し切ったIT部門の運用術 – ＠IT
- パナソニックグループ、生成AI導入の2年間 「RAG」の精度を高めた工夫 – 日経クロステック
- TASUKI Annotation RAGデータ作成ツール – ソフトバンク
こんな時代だから遊んで学びたい
AIを学ぶオンラインサロン「AIフレンズ」では、生成AIを楽しく、どこよりも優しく学べる環境をご用意しております。
毎週開催されるオンラインセッションでは、リアルタイムで学び合える機会を提供しています。 さらに、月に一度のオフラインイベントでは、メンバー同士が直接交流し、アイデアや知識を深めることができます。
「AIフレンズ」の仲間とともに、新しい価値を創造し、可能性を広げてみませんか？
一緒に学び、成長しながら、生成AIを使いこなす力を身につけましょう！
