生成AIを業務で使い始めると、まず気になるのが「どんなセキュリティリスクがあるのか」という点です。情報システムやセキュリティの担当者、総務や管理部門でIT運用を兼ねる方からは、現場や経営から利用を求められる一方で、何が危ないのかを自分の言葉で説明できずに判断を迷う、という声をよく聞きます。
この記事では、生成AIを業務で使うときのセキュリティリスクを8種類に整理し、実際に起きた情報漏えいの事例と、リスクごとの具体的な備えまでをまとめました。入力した情報の扱い、ハルシネーション、プロンプトインジェクション、シャドーAIといった個別のリスクを一つずつ確認できます。
読み終えたときに、「一律に禁止する」のではなく「安全に使わせる」ために社内で何をすればよいかを、根拠とともに示せる状態を目指します。シャドーAIの可視化や生成AI・LLMの脆弱性診断といった具体的な対策の選択肢も、あわせて紹介します。
目次
一括ダウンロードする
生成AIのセキュリティリスク8種類【一覧】
ここでは、生成AIを業務で使うときに押さえておきたいセキュリティリスクを8種類に整理します。それぞれ「何が起きるのか」「なぜ問題なのか」を結論から確認できるようにしました。
これらのリスクのうち、入力情報の漏えい・プロンプトインジェクション・誤情報の生成などは、アプリケーションセキュリティの国際コミュニティOWASPが公開する「OWASP Top 10 for LLM Applications 2025」にも挙げられています。これは、大規模言語モデル（LLM：人間の言葉を学習した生成AIの中核技術）を使うアプリケーションの代表的なリスクを整理した指標です。
生成AIのリスクは、個々の企業の主観ではなく国際的な整理の対象になっているものだと捉えておくと、社内での説明がしやすくなります。
公的機関も同じ方向を向いています。情報処理推進機構（IPA）が2026年1月に公表した「情報セキュリティ10大脅威 2026」では、組織向けの脅威として「AIの利用をめぐるサイバーリスク」が初めて選出され、3位に入りました。生成AIのリスクへの備えは、もはや一部の企業だけの課題ではありません。
出典・参考資料（2件）
| リスク | 何が起きる・なぜ問題か |
|---|---|
| 1. 入力した情報の漏えい | 入力した社内資料・顧客情報が提供者側に渡り、学習や保存に使われる。最も起こりやすい |
| 2. ハルシネーション | 事実と異なる内容をもっともらしく出力し、誤った情報が業務に紛れ込む |
| 3. プロンプトインジェクション | 指示への細工で制御を無視させ、社内データの読み出しや想定外の処理を実行させる |
| 4. シャドーAI | 会社が把握しない生成AI利用が広がり、何がどこに渡ったか追えなくなる |
| 5. 著作権・知的財産権の侵害 | 出力が既存の著作物に似た表現を含み、公開物に使うと権利侵害につながる |
| 6. AIバイアス | 偏った・差別的な出力を無自覚に使い、公平性を欠いた判断や発信になる |
| 7. 生成AI搭載SaaSの死角 | 既存SaaSへのAI機能追加で、審査済みのはずのサービスのデータの扱いが変わる |
| 8. 提供側の脆弱性・不正アクセス | 提供者側の不具合・攻撃で、他ユーザーの情報まで漏れることがある |
1. 入力した情報の漏えい・学習データへの流用
最初に押さえたいのが、入力した情報が外部に出てしまうリスクです。生成AIに社内の資料や顧客情報を貼り付けると、その内容がAIサービス提供者側に渡り、場合によってはモデルの学習に使われたり、提供者のシステムに保存されたりします。
個人向けの生成AIサービスの多くは、入力した内容を既定でモデルの改善に利用する設定になっています。従業員が気軽に議事録の要約やコード生成を頼んだ結果、機密情報が社外に渡ってしまう、という最も起こりやすいリスクです。顧客の個人データを外部の生成AIに入力する行為は、個人情報の保護に関する法律が定める利用目的や安全管理措置、第三者提供の論点に触れる可能性もあります。
2. ハルシネーション（誤った出力）
ハルシネーションとは、生成AIが事実と異なる内容を、もっともらしい文章でつくり出してしまう現象です。生成AIは入力に対して自然な応答を返しますが、その内容の正しさまでは保証しません。
誤った出力をそのまま業務資料や顧客対応に使うと、取引先への誤案内や意思決定の誤りにつながります。OWASPのLLM向けリスク一覧でも「Misinformation（誤情報）」が項目として挙げられており、出力を人の目で確認する運用が欠かせません。
3. プロンプトインジェクション
プロンプトインジェクションとは、攻撃者が生成AIへの指示（プロンプト）に細工をして、本来の制御を無視した動作をさせる攻撃です。OWASPのLLM向けリスク一覧では「LLM01：Prompt Injection」として最上位に位置づけられています。
たとえば、生成AIが読み込む外部の文書やWebページに不正な指示を仕込み、社内データの読み出しや想定外の処理を実行させる、といった手口が考えられます。生成AIを社内システムやデータと連携させるほど、この種の攻撃が及ぶ範囲は広がります。
4. シャドーAI（把握されていない生成AI利用）
シャドーAIとは、情報システム部門が把握・許可していないまま、従業員が個人の判断で使っている生成AIのことです。無料で手軽に使えるサービスが増えたことで、会社が気づかないうちに業務データが入力されている状態が生まれやすくなっています。
管理されていない利用は、どんな情報が・どのサービスに渡っているかを会社が追えないため、情報漏えいが起きても検知も原因究明も難しくなります。後述するように、シャドーAIの可視化は生成AIリスク対策の出発点になります。
5. 著作権・知的財産権の侵害
生成AIの出力が、既存の著作物に似た表現を含むことがあります。それをそのまま公開物や制作物に使うと、著作権・商標権の侵害につながるおそれがあります。
また、AIの学習のために著作物を利用する行為自体は、著作権法第30条の4によって一定の範囲で認められています。ただし同条には、著作権者の利益を不当に害する場合は除く、というただし書きがある点をあわせて押さえておく必要があります。
著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる。ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。
出典：著作権法（昭和四十五年法律第四十八号）第三十条の四｜e-Gov法令検索
二 情報解析（多数の著作物その他の大量の情報から、当該情報を構成する言語、音、影像その他の要素に係る情報を抽出し、比較、分類その他の解析を行うことをいう。第四十七条の五第一項第二号において同じ。）の用に供する場合
6. AIバイアス（偏った・差別的な出力）
生成AIは学習したデータの傾向を反映するため、性別・国籍・年齢などに関して偏った、あるいは差別的な表現を出力することがあります。採用や評価、顧客対応といった場面で偏った出力を無自覚に使うと、公平性を欠いた判断や不適切な発信につながりかねません。
出力をそのまま正解として扱わず、人が内容を点検する前提で使うことが、このリスクへの基本的な向き合い方になります。
7. 生成AI搭載SaaSの死角（既存サービスへのAI機能追加）
見落としやすいのが、すでに使っているSaaS（クラウド型の業務サービス）に、後から生成AI機能が追加されるケースです。導入時の審査を通ったサービスでも、AI機能が有効になった時点で、扱うデータの範囲や外部への送信のされ方が変わることがあります。
「既存のサービスだから審査済み」と考えて追加機能を素通りさせると、気づかないうちに業務データが生成AIの処理に回る状態になりかねません。AI機能が追加されたときは、学習利用の有無・参照範囲・データの保存先を改めて確認する必要があります。
8. 提供側の脆弱性・不正アクセス
自社の使い方に問題がなくても、生成AIサービスの提供者側の不具合や、提供者が攻撃を受けることで情報が漏れることがあります。実際に、プログラムの不具合で他のユーザーの会話や個人情報の一部が見えてしまった事例も報告されています。
提供者側のリスクは自社だけでは防ぎきれませんが、入力する情報を絞る・重要な情報は入れないという運用で、万一のときの被害を小さくできます。具体的な事例は次の章で見ていきます。
実際に起きた生成AIの情報漏えい・インシデント事例
ここからは、生成AIをめぐって実際に起きた情報漏えい・インシデントの事例を見ていきます。自社でも起こりうる形を具体的に知っておくと、リスクへの備えの優先順位を付けやすくなります。
従業員が機密情報を入力した事例（サムスン電子・2023年）
2023年、韓国のサムスン電子で、社内での生成AI利用を認めた直後に、従業員が機密情報を生成AIに入力していたと報じられました。半導体設備に関するソースコードや不具合検出用のプログラム、会議の内容など、少なくとも3件の機密情報の入力が発生したとされています。
悪意のある持ち出しではなく、業務効率化のつもりの入力が機密の社外流出につながった点が、この事例の重要なところです。誰にでも起こりうる「入力した情報の漏えい」の典型といえます。
共有した会話が検索結果に表示された事例（ChatGPT・2025年）
2025年7月から8月にかけて、ChatGPTで共有したチャットの内容が、Google検索の結果に表示される状態になっていたことが報じられました。これは、共有した会話を検索エンジンから見つけられるようにする任意の設定を有効にした場合に起きたもので、OpenAIはこの機能を取りやめ、検索インデックスからの削除を各社と進めたとされています。
勝手に公開されたわけではなく、利用者が「共有＋検索可」を有効にした会話が外から見える状態になった、という点がポイントです。便利な共有機能でも、設定の意味を理解せずに使うと情報が広く露出しうることを示しています。
提供側の不具合で他ユーザーの情報が見えた事例（ChatGPT・2023年）
2023年3月には、ChatGPTで使われていたオープンソースのライブラリに不具合が見つかりました。これにより、他のユーザーの会話のタイトルや、一部の利用者の氏名・メールアドレス・支払い情報の一部が、別のユーザーから見えうる状態になったと、OpenAIが説明しています。
これは利用者側の操作ミスではなく、提供者側のシステムの不具合によるものです。どれだけ自社で注意しても、提供側のリスクはゼロにはできないという前提で、入力する情報を絞る判断が重要になります。
出典・参考資料（5件）
- 出典：Samsung bans employees from using generative AI like ChatGPT｜The Korea Economic Daily（2023年5月2日）
- 出典：サムスンの従業員が機密情報をChatGPTに入力して情報漏えいが発生したとの報道｜GIGAZINE（2023年4月10日）
- 出典：OpenAI is removing ChatGPT conversations from Google Search results｜Engadget（2025年）
- 出典：March 20 ChatGPT outage: Here’s what happened｜OpenAI（公式・2023年3月）
- 出典：ChatGPT bug leaked users’ conversation histories｜BBC News（2023年3月）
こうした情報漏えいは、生成AIに特有のものばかりではありません。生成AIに限らず社内の情報漏えいを技術・運用の両面でどう防ぐかは、以下の記事で体系的に整理しています。次章で見る生成AI特有の備えとあわせて読むと、対策の全体像をつかみやすくなります。
リスクごとの具体的な備え
ここからは、これまで挙げたリスクに対して、企業として何をすればよいかを具体的に見ていきます。運用・人的な備え（線引き・ガイドライン・教育・出力の確認）を固めたうえで、技術的な備え（設定・ログ）を重ねる順で整理します。
入力してはいけない情報をどこで線引きするか
最初に決めたいのが、生成AIに入力してよい情報と、入れてはいけない情報の線引きです。これが曖昧なままだと、従業員は判断できず、結果として機密情報の入力が起きます。
実務では、情報を「公開してよい情報」「社内一般の情報」「機密情報」「個人情報・要保護情報」などに区分し、どの区分までなら入力してよいかを明示すると、現場が迷いません。目安としては、次のように区分ごとの入力可否を定めておくと、現場が判断に迷わずに済みます。
| 情報の区分 | 生成AIへの入力の目安 |
|---|---|
| 公開してよい情報（公表済みの資料・Webサイト掲載情報など） | 入力可 |
| 社内一般の情報（公開前提ではないが機密性の低い社内文書など） | 条件付きで可（学習させない設定・法人向け環境で） |
| 機密情報（未公開の技術・経営情報、ソースコードなど） | 原則入力しない |
| 個人情報・要保護情報（顧客の個人データ、マイナンバーなど） | 原則入力しない |
とくに顧客の個人データは、外部サービスへの入力が第三者提供や安全管理措置の論点に触れうるため、原則として入力しない情報として扱うのが安全です。
出典・参考資料（1件）
利用ガイドラインに書くべき項目
線引きを決めたら、社内の利用ガイドラインとして明文化しておくことが大切です。ガイドラインに盛り込みたいのは、入力してよい情報の範囲、利用を許可するサービスとその申請手順、出力を利用するときの確認責任の3点です。
総務省・経済産業省の「AI事業者ガイドライン」も、関連法令の遵守とセキュリティの確保を事業者が守るべき原則として示しています。自社のガイドラインは、こうした公的な指針に沿って、現場が具体的に動ける粒度まで落とし込むことが大切です。
各主体は、AI システム・サービスの開発・提供・利用において、不正操作によって AI の振る舞いに意図せぬ変更又は停止が生じることのないように、セキュリティを確保することが重要である。
出典：AI事業者ガイドライン（第1.1版）本編｜総務省・経済産業省（2025年3月）
海外に目を向けると、EUのAI規制「EU AI Act」が2024年8月に発効しました。許容できないリスクのAIの禁止が2025年2月から、汎用AIモデルへの義務が2025年8月からと、規制は段階的に適用されています。EU域内の市場や利用者に関わる事業者は対象になり得るため、海外展開する企業は、EU域内での利用可否もガイドラインの確認事項に含めておくと安全です。
出典・参考資料（2件）
従業員教育とAIリテラシーの底上げ
ガイドラインを作っても、その存在と理由が従業員に伝わっていなければ守られません。なぜ機密情報を入力してはいけないのか、ハルシネーションとは何か、といった点を、業務の具体例に沿って周知することが効果的です。
生成AIの機能やリスクは短期間で変わるため、教育は一度きりにせず、定期的に見直す前提で設計します。従業員のAIリテラシーが上がるほど、禁止に頼らずに安全な利用を広げやすくなります。
出力の誤り・著作権・バイアスへの備え（人による確認）
ハルシネーション（誤った出力）・著作権侵害・AIバイアスといった出力側のリスクは、設定だけでは防げません。共通する備えは、生成AIの出力をそのまま使わず、人が内容を確認する運用を定着させることです。
重要な数値や事実は一次情報で裏取りする、社外に出す文章や公開物は著作権・表現の偏りの観点で点検する、といったチェックを業務フローに組み込むことが重要です。誰が最終確認の責任を持つかを利用ガイドラインで明示しておくと、確認が形骸化しにくくなります。
学習させない設定（オプトアウト）とエンタープライズ版の選択
技術面の基本は、入力した情報を学習に使わせない設定にすることです。個人向けの生成AIサービスは既定で入力内容を学習に利用することが多いため、データ利用の設定からオプトアウト（学習への利用を無効化）する必要があります。たとえばChatGPTの個人向けプランでは、設定のデータコントロールから学習への利用をオフにできます。
より確実なのは、法人向け・エンタープライズ版の採用です。たとえばOpenAIは、ChatGPT Enterpriseや法人向けプラン、APIで扱う入力・出力を既定でモデルの学習に使わないと公式に説明しています。会社が管理するアカウントを配布し、学習に使われない環境で使わせることが、入力情報の漏えいへの現実的な備えになります。
利用ログの取得と監査
誰が・どの生成AIを・どう使っているかのログを取得しておくと、問題が起きたときの原因究明と、ルールが守られているかの点検ができます。あわせて、サービスの利用申請や例外対応の記録を残しておくと、監査にも対応しやすくなります。
ログの取得は、次に述べるシャドーAIの可視化とも密接に関わります。そもそも把握できていない利用はログも取れないため、まず「どこで何が使われているか」を見える状態にすることが前提になります。
シャドーAI（把握されていない生成AI利用）の見つけ方と統制
ここからは、把握されていないシャドーAIをどう見つけ、どう統制するかを見ていきます。ルールを整えても、会社が知らないところで使われている生成AIがあれば、リスクは残り続けます。
シャドーAIを見つける現実的な手段のひとつが、SaaS管理ツール（社内で使われているクラウドサービスを可視化・棚卸しするツール）の活用です。従業員が使っているサービスやアクセス先を自動で収集し、情報システム部門が把握していない利用を検知できます。ブラウザ経由の利用だけでなく、パソコンにインストールして使うツールまで対象にできる製品も登場しています。
可視化できれば、未許可の利用に対して、正式なサービスへの切り替えを促したり、アクセス権を見直したりといった統制が取れます。「見えないものは管理できない」という前提に立ち、まず利用実態を見える化することが、シャドーAI対策の第一歩です。具体的なツールは後述します。
シャドーAIの可視化から統制までを担う製品は「AIガバナンスツール」として整理が進んでいます。本記事でも代表的なサービスを後述しますが、タイプごとの違いや選び方から比較検討したい場合は、以下の記事が参考になります。
生成AI・LLM固有の脆弱性への技術的な備え
自社で生成AIを組み込んだアプリケーションやサービスを開発・提供する場合は、プロンプトインジェクションのような生成AI・LLM固有の脆弱性への技術的な備えが必要になります。従来のWebアプリケーションやAPIの脆弱性とは異なる観点が求められる領域です。
この領域では、OWASPが公開する「OWASP Top 10 for LLM Applications」が、LLMを使うアプリケーションの代表的なリスクを整理した指標として広く参照されています。プロンプトインジェクション、機密情報の開示、出力の不適切な取り扱いなどが挙げられており、自社のAIシステムがこれらにどう備えているかを点検する観点になります。
具体的な備え方としては、こうした観点に沿ってAIシステムの脆弱性を診断するサービスを利用する方法があります。生成AI・LLMに特化した脆弱性診断を提供する事業者も出てきており、自社開発のAIサービスを公開する前の確認手段として検討する価値があります。こちらも具体的なサービスは後述します。
「一律禁止」ではなく「安全に使わせる」ための方針
最後に、ここまでの備えを踏まえて、会社としての方針の立て方を整理します。リスクを恐れて生成AIを一律に禁止する、という判断は一見安全に見えますが、実際には逆効果になりやすいという点に注意が必要です。
禁止しても現場の「使いたい」ニーズは消えず、従業員が個人のアカウントでこっそり使うシャドーAIを増やす結果になりがちです。会社が把握できない利用が広がれば、かえってリスクは見えなくなります。だからこそ、禁止ではなく許可した範囲で安全に使わせる方向へ切り替える企業が増えています。
現実的な方針は、入力してよい情報を線引きし、会社が管理するアカウントや環境を用意して、許可した範囲で使わせることです。総務省・経済産業省の「AI事業者ガイドライン」も、禁止ではなくセキュリティを確保しながら適切に管理する方向性を示しています。
リスクマネジメントの枠組みとしては、NIST（米国国立標準技術研究所）のAIリスクマネジメントフレームワーク（AI RMF）が、統治・把握・測定・管理のサイクルでリスクを継続的に扱う考え方を示しており、参考になります。
「禁止」か「全面解禁」かの二択ではなく、見える化・線引き・管理された環境の提供によって安全に使わせる。これが、生成AIのリスクと向き合ううえでの基本的な考え方です。
出典・参考資料（2件）
一括ダウンロードする
生成AIのリスク対策に役立つサービス
ここからは、ここまで述べたリスク対策を具体的に進めるためのサービスを紹介します。生成AIリスク対策は論点が広いため、ここでは「シャドーAIの可視化」と「生成AI・LLMの脆弱性診断」という2つの方向から、代表的なサービスを取り上げます。
従業員の生成AI利用を把握・統制したい場合はシャドーAIの可視化を、自社でAIサービスを開発・提供する場合は脆弱性診断を中心に見ていくと、自社に必要なものを選びやすくなります。
生成AIのリスク対策に限らず、社内のセキュリティ対策全般のサービスを守る対象別に見渡したい場合は、以下の比較記事が出発点になります。導入を検討する際にあわせてご覧ください。
| サービス名 | CoWorker 脆弱性診断サービス | マネーフォワード Admina |
|---|---|---|
| 対応するリスク | 生成AI・LLM固有の脆弱性 （プロンプトインジェクション等） | シャドーAI・シャドーIT （把握されていない生成AI・SaaS利用） |
| 主な機能 | 生成AI・LLM脆弱性診断（OWASP LLM Top 10準拠） AI「Red Agent」の自動解析＋専門家の最終確認 ソースコードAI診断・動的診断・ペネトレーションテスト | SaaS・生成AI利用の可視化と棚卸し シャドーIT／AI検知、入退社時のアカウント管理 PCエージェント「Admina Tracker」でデスクトップツールも検知 |
| 向いている企業 | 自社でAIシステム・サービスを開発し、 公開前に技術的な弱点を点検したい | 社員が使う生成AI・SaaSの 利用実態を把握し、統制したい |
| 料金の目安 | ソースコードAI診断 15万円〜 動的診断 30万円〜 （生成AI・LLM脆弱性診断は個別見積） | 50IDまで無料 51ID以上は1IDあたり月額300円 |
| 詳細情報 | 公式資料を見る | オンライン相談を予約 |
1. CoWorker 脆弱性診断サービス（CoWorker株式会社）
CoWorker 脆弱性診断サービスは、自社開発のAI「Red Agent」による自動解析と、社内のセキュリティ専門家による最終確認を組み合わせた脆弱性診断です。ソースコードをAIが解析する診断、稼働中のWebアプリケーション・APIを対象にした動的診断、実際の攻撃を想定した実践攻撃シミュレーション診断（ペネトレーションテスト）という段階的なメニューが用意されています。
同社は、攻撃する側も生成AIを使うようになり手口が速くなっているとして、脆弱性診断を一度きりにせず続ける必要があると指摘しています。
一方で、攻撃者側もAIを活用するようになり、新しく、しかもスピード感の早い攻撃が増えてきています。これまでは年に1回、あるいはサービスをリリースした直後にだけ脆弱性診断を行うという企業が多かったのですが、AIの発達によって攻撃側のスピードが上がっている以上、定期的に診断をしないと危険だという状況になってきました。
生成AIのリスク対策という文脈では、OWASP Top 10 for LLM Applicationsへの準拠をうたう生成AI・LLM脆弱性診断の専門メニューがある点が特徴です。自社でAIシステムを公開する前の技術的な確認手段として位置づけられます。AIの自動解析で診断スピードを高めつつ、最終的に人の目で確認するフローをとっている点も、ハルシネーションを踏まえた設計といえます。
このハルシネーションへの向き合い方について、同社は次のように説明しています。
精度については、ハルシネーションが心配だというお声もいただきますが、ハルシネーションを完全に防ぐとAIの強みが損なわれてしまいますので、そこは防ぎきることはしていません。その代わり、ハルシネーションが起きた可能性がある箇所については明確に示すようにしていて、最終的に人の目で見て正しいかどうかを承認するフローを取っています。
料金は、ソースコードを解析する診断が15万円から、動的診断が30万円からなど、診断の種類と対象の規模に応じた設定です。生成AI・LLM脆弱性診断の詳細な料金・範囲は個別の確認が必要になります。
2. マネーフォワード Admina（マネーフォワードｉ株式会社）
従業員を軸に、SaaSアカウントの可視化・棚卸しや入退社時のアカウント管理を一元化するのが、SaaS管理・IT資産管理プラットフォームのマネーフォワード Adminaです。情報システム部門が把握できていないSaaSを検知して管理者に通知する、シャドーIT検知の機能を標準で備えています。
シャドーAIの可視化という点では、ブラウザ拡張機能やIdP（ID管理基盤）連携に加え、2026年10月に提供を開始したパソコン向けのエージェント「Admina Tracker」によって、ブラウザを経由しないデスクトップツールの利用まで検知できるようになっています。
公式ブログによれば、生成AIサービスの利用をブラウザアクセス単位で可視化できるとされています。会社が把握していない生成AIの利用を見つける出発点として活用できます。
料金は、50IDまでは無料で全機能を利用でき、51ID以上は1IDあたり月額300円という体系です。まず無料の範囲でシャドーAIやシャドーITの可視化を試せる点も、導入のハードルを下げています。
まとめ
生成AIを業務で使うときのセキュリティリスクは、入力した情報の漏えい、ハルシネーション、プロンプトインジェクション、シャドーAIなど多岐にわたります。まずはリスクの種類を把握し、実際の事例から自社でも起こりうる形を押さえることが出発点になります。
そのうえで、入力してよい情報の線引き、利用ガイドライン、従業員教育、学習させない設定、ログの取得といった備えを重ね、把握されていないシャドーAIは可視化によって見える状態にします。自社でAIシステムを公開するなら、生成AI・LLM固有の脆弱性への技術的な備えも必要です。
大切なのは、リスクを理由に一律で禁止するのではなく、見える化・線引き・管理された環境の提供によって安全に使わせる方針を取ることです。本記事で紹介したサービスの資料も活用しながら、自社に合った対策を検討してみてください。
一括ダウンロードする
よくある質問（FAQ）
Q. プロンプトインジェクションとは何ですか？
A. プロンプトインジェクションとは、攻撃者が生成AIへの指示（プロンプト）に細工をして、開発者が設定した制御を無視させ、本来は許されない動作をさせる攻撃です。生成AIが読み込む外部のWebページや文書に不正な指示を仕込み、社内データの読み出しや想定外の処理を実行させる手口が代表例です。
OWASPが公開する「OWASP Top 10 for LLM Applications」でも最上位（LLM01）に位置づけられており、生成AIを社内システムやデータと連携させるほど、この種の攻撃が及ぶ範囲は広がります。
Q. 生成AIの業務利用は禁止すべきですか？
A. 生成AIの業務利用は、一律に禁止するよりも、入力してよい情報を線引きしたうえで、許可した範囲で使わせる方針が現実的です。禁止しても現場の「使いたい」ニーズは消えず、従業員が個人アカウントでこっそり使うシャドーAIを増やす結果になりがちだからです。
会社が把握できない利用が広がれば、かえってリスクは見えなくなります。総務省・経済産業省の「AI事業者ガイドライン」も、禁止ではなくセキュリティを確保しながら適切に管理する方向性を示しています。
Q. ChatGPTのエンタープライズ版（法人向け）と通常版は何が違いますか？
A. 最も大きな違いは、エンタープライズ版や法人向けプランでは入力した内容が既定でモデルの学習に使われないこと、そして管理者がアカウントや利用状況を一元管理できることです。
OpenAIは、ChatGPT Enterpriseや法人向けプラン、APIで扱う入力・出力を既定でモデルの学習に使わないと公式に説明しています。加えて、法人向けではSSO（シングルサインオン）や利用ログ、データ保持期間の管理といった統制機能が使えます。
個人向けの通常版は既定で入力が学習に利用されることが多く、こうした管理機能もないため、業務利用では会社が管理する法人向けアカウントを配布するのが安全です。
Q. 生成AIに入力した情報を学習に使わせないようにするには？
A. 個人向けの生成AIを使う場合は、データ利用の設定画面から、入力内容を学習に使わせない「オプトアウト」を有効にすることが基本です。個人向けサービスの多くは、既定で入力内容をモデルの改善に利用する設定になっているため、見直さないまま使うと機密情報が学習に回るおそれがあります。
ただし、設定項目の有無や名称はサービスによって異なります。より確実なのは、入力を既定で学習に使わない法人向け・エンタープライズ版を会社として採用し、管理されたアカウントで使わせることです。
Q. 生成AIに個人情報や顧客情報を入力してもよいですか？
A. 顧客の個人データは、原則として外部の生成AIには入力しない情報として扱うのが安全です。顧客の個人データを外部サービスに入力する行為は、個人情報の保護に関する法律が定める利用目的の範囲や安全管理措置、第三者提供の論点に触れる可能性があるためです。
実務では、情報を「公開してよい情報」「社内一般の情報」「機密情報」「個人情報・要保護情報」などに区分し、どの区分までなら入力してよいかを社内で明示しておくと、現場が迷いません。入力を学習に使わない法人向け環境を使う場合でも、何を入力してよいかの線引きは別途必要です。
出典・参考資料（1件）
Q. 生成AIのハルシネーション（誤った出力）を防ぐ方法はありますか？
A. ハルシネーションを完全になくすことはできませんが、出力を鵜呑みにせず、出典の確認と人による最終チェックを運用に組み込むことで、業務への影響を抑えられます。
具体的には、信頼できる社内文書を参照させて回答させる仕組み（RAG：検索で集めた根拠をもとに回答を生成させる方式）を使う、複数の生成AIの回答を突き合わせる、重要な数値や事実は一次情報で裏取りする、といった方法があります。OWASPのLLM向けリスク一覧でも「Misinformation（誤情報）」が項目に挙げられており、出力を人の目で確認する運用が欠かせません。
Q. 中小企業でも生成AIのセキュリティ対策やガバナンスは必要ですか？
A. 生成AIのセキュリティ対策は、企業の規模に関係なく必要です。入力した情報の漏えいやハルシネーションといったリスクは、従業員数や売上に比例して小さくなるものではありません。
むしろ、専任の情報システム担当を置けない中小企業ほど、シャドーAIが把握されないまま広がりやすい傾向があります。大がかりな仕組みを一度に整える必要はなく、まずは入力してよい情報の線引きと、会社が管理するアカウントの配布といった軽い一歩から始めるのが現実的です。
Q. すでに使っているSaaSに生成AI機能が追加された場合も、改めて審査は必要ですか？
A. 導入時に審査済みのSaaSでも、生成AI機能が追加・有効化された時点で、改めて確認が必要です。AI機能が有効になると、扱うデータの範囲や外部への送信のされ方が変わることがあるためです。
具体的には、入力データが学習に使われないか、AIがどこまでのデータを参照するか、データの保存先（外部委託先を含む）はどこか、利用の監査ログが取れるか、の4点を確認しておくことが大切です。「既存のサービスだから審査済み」と素通りさせると、気づかないうちに業務データが生成AIの処理に回る状態になりかねません。
Q. 生成AIが生成したプログラムコードは、そのまま使っても安全ですか？
A. 生成AIが出力したコードは、そのまま使わず、脆弱性やライセンス上の問題がないかを人がレビュー・テストしてから利用する必要があります。生成AIは自然なコードを返しますが、その安全性までは保証しないためです。
出力されたコードは、脆弱性を含んでいたり、既存の著作物に似た表現が含まれていたりする可能性があります。とくに外部に公開するアプリケーションに組み込む場合は、通常のコードレビューに加えて、プロンプトインジェクションなど生成AI・LLM固有の観点での点検も検討するとよいでしょう。
社内セキュリティソリューションの資料をまとめてチェック
MCB FinTechカタログでは、シャドーAIの可視化や脆弱性診断など、生成AIのリスク対策に役立つ法人向けサービスの資料を無料で一括請求できます。機能や料金を見比べながら、自社に合うサービスを探せます。
一括ダウンロードする
MCB FinTechカタログに掲載しませんか？
MCB FinTechカタログでは、掲載企業様を募集しています。マネックスグループの金融実務ノウハウを活かした独自の評価軸と検索設計により、導入検討者が最適なサービスを効率的に発見できる法人向け比較プラットフォームです。掲載後は管理画面から料金表や導入事例を随時更新でき、常に最新の情報を訴求可能。まずは下記フォームより、お気軽にお問い合わせください。
マネックス証券 フィナンシャル・インテリジェンス部 暗号資産アナリスト
松嶋真倫
監修の範囲は記事の一般的な解説部分であり、比較表および各製品・サービスの紹介内容は監修の対象外です。
