シャドーAI対策にLibreChatが向く理由｜安全な社内生成AI環境のつくり方

目次

1. シャドーAIが生まれる職場
2. 無料AIサービス利用のリスク
3. LibreChatで整える社内の利用環境
4. 導入メリットとコストの考え方
5. 導入手順とよくある失敗
6. 向いている企業、向いていない企業

お問い合わせはこちら

シャドーAIが生まれる職場

シャドーAIとは、社員が会社の承認や管理を受けずに生成AIを業務利用する状態です。個人のメールアドレスでChatGPTなどに登録し、議事録の要約、メールの推敲、コード作成、顧客向け提案の下書きに使う。会社は誰がどのサービスへ何を入力したか把握できません。

こうした利用は、社員の悪意から始まるとは限りません。生成AIを使えば20分かかる作業が数分で済むと知れば、忙しい現場ほど手近なサービスを選びます。会社が「AIは禁止」と通知しても、代わりになる正式な道具がなければ、利用は見えない場所へ移るだけです。

問題は、AIを使ったことより管理できないこと

会社が困るのは、生成AIの利用そのものではなく、業務データの行き先と利用条件を説明できないことです。事故が起きたときに利用者を特定できず、入力内容も確認できず、サービス提供者との契約関係もない。この状態では、取引先からデータ管理について聞かれても答えに詰まります。

シャドーAIの兆候

• 生成AIの社内アカウントはないのに、AIで作ったらしい文書が増えている
• 部署ごとに異なる無料サービスを使っている
• 入力してよい情報と禁止情報の区別が社員任せになっている
• 会社が利用人数、利用量、接続先を答えられない

生成AIを使うな、とだけ言う運用はかなり厳しいものがあります。必要なのは、仕事で使える環境を先に出し、その範囲から外れる利用を禁止する順番です。

無料AIサービス利用のリスク

無料版だから必ず情報が漏れる、という理解は正確ではありません。問題は、社員個人の契約と設定に会社が関与できず、規約変更、学習利用の設定、保存期間、データの保管場所を統一できないことです。無料アカウントでは、法人向けの管理機能や組織単位の契約条件が使えないこともあります。

入力した情報は社外サービスへ送信される

プロンプトには、顧客名、問い合わせ履歴、見積金額、未公開の製品情報、ソースコードなどが入り込みます。社員は「質問しただけ」と考えがちですが、外部のAIサービスを利用する場合、入力した情報は社外のサービスへ送信されます。個人情報保護委員会は、個人データを含むプロンプトを入力する場合、提供者がそのデータを機械学習に使わないことなどを十分に確認するよう注意喚起しています。

学習に使われないことと、データが一切保存されないことも別です。たとえばOpenAIは、APIの入出力を既定ではモデル学習に使わないと案内しています。一方で、不正利用監視用ログや機能ごとのアプリケーションデータには別の保持条件があります。会社は学習利用の有無だけを見ず、保持期間、利用地域、削除方法、委託先まで確認する必要があります。

LibreChatで整える社内の利用環境

LibreChatは、自社環境や契約したクラウド上に設置するWeb型の生成AIチャットです。複数のAI提供者やローカルモデルを一つの画面から利用できます。オープンソースで公開されており、会社が運用主体になります。

LibreChat自体が大規模言語モデルを提供するわけではありません。利用者の画面と、会社が認めたAIモデルの間に置く共通の入口です。この構成なら、社員が個別に外部サービスへ登録する必要を減らせます。

図1：LibreChatを共通窓口にすると、社員の利用経路と接続先を会社が揃えやすくなる

利用者を社内アカウントへ集約

LibreChatはメール認証のほか、OpenID Connect、SAML、LDAPなどの認証方式に対応しています。登録を止め、管理者が作成した利用者だけに限定する運用も可能です。会社は少なくとも、誰に利用資格を与えたかをアカウント単位で把握できます。

権限管理では、利用者、グループ、ロールごとにエージェント、プロンプト、MCPサーバーなどの利用や共有を制御できます。ただし、認証を有効にしただけで監査が完成するわけではありません。どのログを残すか、管理者が何を閲覧できるか、保存期間をどうするかは社内規程と実装で決めます。

学習に使われない接続先を選ぶ

AIへの入力をモデル学習に利用させない環境は構築できます。方法は、入力・出力をモデル学習に利用しないことが契約条件や設定で確認できるAPIを接続するか、社内または専用クラウドで動かすローカルモデルへ接続することです。LibreChatはOpenAI、Azure OpenAI、AWS Bedrock、Google系サービス、Ollamaなど複数の接続先に対応しています。

誤解しやすい点

LibreChatを自社環境に構築しただけで、すべてのデータが社内に閉じるわけではありません。OpenAIやAzure OpenAIなど外部のAIサービスへ接続する場合、プロンプトや添付データなどは接続先のサービスへ送信されます。また、LibreChatを導入しただけでは入力データの学習利用も止まりません。実際のデータ取扱条件は、接続先のAI提供者、契約プラン、設定などによって決まります。APIキー、データ共有設定、リージョン、ログ保持、ローカル保存先などを確認したうえで、会社として利用条件を整理する必要があります。

社内プロンプトの共有

総務部が作った議事録要約、営業部が整えた提案書レビュー、情シスが用意した問い合わせ分類など、よく使う指示文を共有プロンプトとして再利用できます。LibreChatのアクセス制御は、プロンプトを特定の利用者やグループへ共有する構成に対応しています。

これは小さく見えて、運用では効きます。社員全員にプロンプト研修をしても、数週間後には書き方がばらばらになります。実績のあるプロンプトを業務別に配布し、担当部署が更新したほうが、出力のばらつきを抑えやすく、新しい社員もすぐ使えます。

導入メリット

セキュリティとコンプライアンス

会社が接続先を限定し、認証を必須にし、入力禁止情報を定めれば、シャドーAIより説明可能な状態に近づきます。事故を完全になくす仕組みではありませんが、利用経路や接続先を会社として把握・管理しやすくなります。

特に、個人情報や顧客の秘密情報を扱う会社では、利用規約を社員一人ひとりに読ませる方法は現実的ではありません。情シスや管理部門が接続先を審査し、社員は承認済みの画面だけを使う。その分担のほうが運用できます。

SaaS型AIサービスとのコスト比較

LibreChatはオープンソースなので、ソフトウェアの利用人数に応じたライセンス料は基本的にありません。ただし無料運用ではなく、サーバー、AI API、保守、バックアップ、セキュリティ対応の費用がかかります。

コストメリットが出やすいのは、利用者は多いが、一人あたりの利用量には差がある会社です。全員分の有料席を買うと使わない社員にも固定費がかかります。LibreChatでAPIを従量課金にすれば、実際の利用量に寄せられます。

逆に、数名だけで使う会社やサーバー運用を任せられる人がいない会社では、SaaSのほうが安く済むことがあります。比較式は単純です。

年間総費用の見方

SaaS型：月額単価 × 利用者数 × 12か月 ＋ オプション費

LibreChat：構築費 ＋ サーバー費 ＋ AI API費 ＋ 保守費 ＋ 社内運用工数

同じ利用人数と想定質問数を置き、3年間で比べると判断しやすくなります。

運用と生産性

画面を一つに揃えると、モデルを変更しても社員の入口は変わりません。文章の要約は低コストのモデル、複雑な分析は高性能モデル、といった使い分けも検討できます。さらに共有プロンプトを配れば、各部署が同じ作業を毎回ゼロから試す必要がありません。

生産性向上は、AIの回答速度だけで測らないほうがよいでしょう。作業時間、やり直し回数、プロンプト作成時間、問い合わせ件数を導入前後で比べます。共有プロンプトの利用回数も取れれば、個人の工夫が社内で再利用されているかを確認できます。

120名の製造業で考える導入例

ここでは実在の導入事例ではなく、従業員120名の部品メーカーを想定します。営業は提案メールの下書き、品質管理は報告書の要約、開発はコードの確認に個人の無料AIを使い始めていました。会社は利用を黙認していましたが、顧客名や図面情報が入力されているかまでは把握できていません。

20名の試験利用

この会社なら、最初に営業と管理部門から20名を選びます。LibreChatの自由登録は止め、社内アカウントでログインできるようにします。接続先は、入力を学習に使わない契約条件を確認したAPIだけ。試験中は個人情報、顧客の秘密情報、図面、未公開の価格表を入力禁止にします。

共有プロンプトは二つで十分です。営業メールの推敲と、社内会議メモの要約から始めます。担当部署がサンプル入力で回答を確認し、使ってよい場面と人の確認が必要な箇所をプロンプトの説明欄へ書きます。いきなり十数種類を配ると、どれを使えばよいか迷います。

試験後の判断

1〜2か月後に見るのは、利用回数だけではありません。対象業務にかかった時間、出力の修正回数、API費、社員からの質問、禁止情報の入力事例を確認します。正式ルートを用意しても個人AIの利用が残るなら、理由を聞きます。使いたいモデルがない、画面が遅い、対象業務が狭すぎる、といった不満を放置したまま禁止を強めても隠れるだけです。

評価後、問題の少ない部署から利用者を増やします。品質管理の報告書を扱う段階では、入力情報を匿名化するか、ローカルモデルへ切り替えるかを改めて判断します。同じ設定で全社展開しないことが、この例の要点です。

入力ルールの作り方

利用規程に「機密情報を入力しない」とだけ書いても、現場は何が機密か判断できません。業務で実際に扱う情報を挙げ、入力可、加工後に可、入力禁止の三段階に分けます。部署ごとに一枚の表へまとめ、LibreChatのログイン画面や社内ポータルから読めるようにします。

禁止情報を入力してしまった場合の連絡先も必要です。社員が隠すと初動が遅れます。誤入力を責めるより、サービス名、時刻、入力内容をすぐ報告してもらい、削除可否と影響範囲を確認できる手順を用意します。

導入手順とよくある失敗

最初の対象業務

最初から全社のあらゆる業務を対象にすると、ルールも権限も複雑になります。まずは、顧客の個人情報を扱わず、効果を測りやすい業務を選びます。社内文書の要約、公開情報を使った調査、文章の校正あたりが始めやすい候補です。

1. 現状を調べる：匿名アンケートで、利用中のAI、用途、困りごとを聞く。処罰目的に見えると実態が出てきません。
2. 接続先とデータ条件を決める：学習利用、保持期間、リージョン、契約条件を確認し、承認モデルを絞る。
3. 小規模に構築する：対象部署を限定し、認証、登録制限、権限、バックアップ、更新手順を試す。
4. 正式ルートを周知する：利用禁止事項と同時に、代わりに使える社内URLと問い合わせ先を示す。
5. 利用状況を見直す：費用、利用者、代表的な用途、事故や誤回答を月次で確認し、モデルとプロンプトを更新する。

つまずきやすいところ

登録画面を公開したままにする。 社内向けのつもりでも、外部から登録できれば管理外アカウントが増えます。登録を制限し、社内の認証基盤と結び付けます。

APIキーを部署や利用者へ配る。 キーが漏れると、第三者に使われて費用が膨らむおそれがあります。キーはサーバー側で管理し、定期変更と利用上限を設定します。

アップデート担当を決めない。 自社運用のソフトウェアは、脆弱性対応や依存部品の更新を会社側で行います。構築した人しか分からない状態は危険です。保守担当、更新頻度、障害時の連絡先を導入前に決めます。

全会話を管理者が読めると思い込む。 利用者管理と会話監査は同じ機能ではありません。監査目的、閲覧権限、社員への通知、保存期間を定め、必要なログを別途設計します。むやみに会話を収集すると、今度は社内プライバシーの問題が出ます。

LibreChatが向いている企業

LibreChatは、ソフトウェア費を抑えながら自由度を確保できます。その代わり、会社が運用責任を持ちます。ここを軽く見ると、シャドーAI対策のために入れた基盤が、更新されない新しいリスクになります。

まとめ

シャドーAIは、社員の利用を見つけて止めるだけでは解消しません。仕事で使える正式な生成AI環境を会社が用意し、承認済みの経路へ利用を集める必要があります。

• LibreChatを社内共通の入口にし、利用者を認証済みアカウントへ集約する
• 学習利用を行わないAPIまたはローカルモデルを選び、保存条件まで確認する
• プロンプトを部署単位で共有し、社員ごとの試行錯誤を減らす
• SaaSの席数課金と、LibreChatの構築・API・保守を3年間の総費用で比べる
• 登録制限、APIキー、ログ、更新、障害対応の担当を決めてから公開する

禁止通知を出す前に、まず10〜20名で正式ルートを試してください。利用される環境を作れた企業から、シャドーAIを管理可能な業務利用へ移していけます。

社内生成AI環境の検討を始めませんか

LibreChatの構築範囲、接続するAI、認証方法、運用体制は会社ごとに変わります。現状のシャドーAI利用を確認し、小規模な試験導入から始めたい企業はご相談ください。自社運用とSaaSのどちらが合うかを含めて整理します。

お問い合わせはこちら

参考情報

• LibreChat公式ドキュメント
• LibreChat Authentication
• LibreChat Access Control
• LibreChat公式GitHubリポジトリ
• 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」
• 経済産業省「AI事業者ガイドライン」
• OpenAI API Data controls