生成AIを業務に取り入れる企業が急速に増える一方で、「社員が勝手にChatGPTへ社内情報を入力していないか」「自社サービスに組み込んだAIが攻撃を受けないか」といった不安を抱える情報システム・セキュリティ担当者も少なくありません。
独立行政法人情報処理推進機構（IPA）が公表した「情報セキュリティ10大脅威 2026」でも、「AIの利用をめぐるサイバーリスク」が組織向けの脅威として初めて選出されました。
今回、初めて脅威候補となった「AIの利用をめぐるサイバーリスク」が3位にランクインしました。
出典：「情報セキュリティ10大脅威 2026」を決定｜IPA
生成AIのセキュリティリスクは、大きく「社員が生成AIを使うことで生じるリスク」と「自社のサービスに生成AIを組み込むことで生じるリスク」の2つに分かれます。情報漏えいやプロンプトインジェクションといった言葉は聞いたことがあっても、どんな種類のリスクがあり、何から対策すればよいのかを漏れなく整理できている担当者は多くありません。
本記事では、生成AIに特有のセキュリティリスクの全体像を名前付きで一覧にしたうえで、会社として取り組むべき対策を利用ルールの整備・社員教育・技術的対策の3つに分けて解説します。あわせて、自社だけでは対応が難しい領域をどう補うか、何から着手すべきかの進め方まで整理します。
生成AIに特有のセキュリティリスクは、大きく次の3つの切り口で整理できます。まず全体像を一覧で押さえてから、各リスクの詳細と対策へ読み進めてください。
- 社員が生成AIを使う側のリスク：機密情報・個人情報の漏えい／入力内容の学習利用／シャドーAI（会社が把握しない無断利用）／ハルシネーション（誤情報の生成）／著作権・権利侵害
- 攻撃の高度化・サプライチェーン：攻撃者による生成AIの悪用、利用するツールの脆弱性（多くは従来のセキュリティ対策の延長で対応）
- 自社サービスに生成AIを組み込む側のリスク：プロンプトインジェクション／機密情報の漏洩／不適切な出力処理／システムプロンプトの漏洩（OWASP Top 10 for LLM Applications）
目次
一括ダウンロードする
生成AIのセキュリティリスク【社員が利用する側】
ここからは、社員が業務で生成AIを使うことで生じるリスクを、種類ごとに整理します。いずれも従来のITツールにはなかった、生成AI特有の仕組みから生まれるものです。まずは自社で何に備えるべきかを一覧で把握してください。
機密情報・個人情報の漏えい
最も身近なリスクが、プロンプト（AIへの指示文）に社内情報を貼り付けてしまうことによる漏えいです。顧客リスト、契約書の文面、未公開の財務情報などを入力すると、その内容が外部のAIサービス側に送信されます。社員に悪気がなくても、「議事録を要約させたい」「メールの下書きを作りたい」といった日常業務の中で、気づかないうちに機密情報を外部へ渡してしまう点が危険です。
何を「入力してはいけない情報」と見なすべきかは、個人を特定できる情報（PII）、財務情報、健康情報、機密性の高い業務データ、認証情報（IDやパスワード）、法的文書などが目安になります。これはLLMアプリの国際的なリスク基準であるOWASPが、機密情報の例として挙げている分類です。
入力内容がAIの学習に使われる
無料版や個人向けプランの生成AIでは、ユーザーが入力した内容がサービス側のモデル改善（学習）に使われる場合があります。学習に取り込まれた情報は、別の利用者への回答に間接的に表れる可能性も否定できません。入力した瞬間に外部へ出るという前述の漏えいとは別に、「入れた情報が将来にわたって残り、使われ続ける」という点が、この学習利用のリスクです。
対策としては、入力内容を学習に使わない設定（オプトアウト）がある法人向けプランやAPI利用を選ぶことが基本になります。契約時には、学習利用の可否だけでなく、入力データの保持期間や第三者提供の有無まで確認しておくと安全です。
シャドーAI（会社が把握していない無断利用）
シャドーAIとは、情報システム部門が把握・許可していない生成AIツールが、現場の判断で使われている状態を指します。ブラウザから手軽に使える生成AIが増えたことで、「便利だから」と各部署が独自に導入し、会社として統制が効かなくなるケースが増えています。どのツールに何を入力しているかを会社が把握できていないため、漏えいや学習利用のリスクが見えないまま広がってしまう点が問題です。
IPAも「AI利用者のためのセキュリティ豆知識」の中で、クラウドAIに営業秘密を入力しないこと、AIブラウザを社内用と社外用で分けることなどを呼びかけています。まずは「誰が・どのAIを・何の目的で使っているか」を把握する仕組みが、シャドーAI対策の出発点になります。
出典・参考資料（1件）
ハルシネーション（誤情報の生成）
生成AIは、事実とは異なる内容をもっともらしい文章で出力することがあります。これをハルシネーション（幻覚）と呼びます。存在しない法令や数値、架空の出典をあたかも事実のように提示するため、出力をそのまま社外へ発信すると、誤った情報による信頼の毀損や、取引上の不利益につながりかねません。
実際に、カナダの航空会社エア・カナダでは、同社のチャットボットが実在しない忌引運賃の払い戻しを利用者へ案内し、カナダ・ブリティッシュコロンビア州の民事裁定で航空会社に約812カナダドルの支払いが命じられました（2024年2月）。
裁定では「ウェブサイト上のすべての情報に対して同社が責任を負うのは明らかである」と判断されており、AIの誤った出力であっても事業者が責任を免れないことを示す事例です。
著作権・権利侵害
生成AIが作成した文章や画像が、既存の著作物と似てしまうことがあります。そのまま公開・利用すると、著作権や商標権などの権利侵害につながる恐れがあります。生成物を自社のコンテンツとして使う前には、類似した既存作品がないか、利用するAIサービスの利用規約やライセンス条件が商用利用を認めているかを確認する運用が欠かせません。
IPAも「10大脅威2026」で、AIに対する不十分な理解に起因する意図しない情報漏えいや、他者の権利侵害を懸念される問題として挙げています。生成物の権利面のチェックも、利用ルールに組み込んでおくべき論点です。
出力の不正利用・サプライチェーンの脆弱性
攻撃者が生成AIを悪用するリスクもあります。巧妙なフィッシングメールの文面作成や、マルウェアのコード生成にAIが使われるようになり、攻撃のスピードと精度が上がっています。また、業務で利用するAIツールや、それが依存する外部のライブラリ・モデルに脆弱性があれば、そこが侵入口になるサプライチェーンのリスクも見逃せません。
これらは生成AIだからといって特別な防御が必要なわけではなく、不審なメールやファイルへの警戒、利用するツールの脆弱性管理といった従来のセキュリティ対策の延長で対応できる部分も多くあります。生成AIの普及によって攻撃の量と速度が増している、という前提で既存の対策を強化する視点が重要です。
生成AIを自社サービスに組み込む側のリスク（RAG／LLMアプリ）
ここからは、自社のサービスやシステムに生成AI（LLM）を組み込む場合に注意すべきリスクを整理します。社員が使う側とは異なり、開発・運用する側として守るべき論点なので、主に開発・プロダクト担当者向けの内容です。チャットボットや社内文書検索など、外部データを検索して回答に反映するRAG（検索拡張生成）型のサービスを想定しています。
LLMを使うアプリケーションのリスクは、OWASP Gen AI Security Projectが「OWASP Top 10 for LLM Applications 2025」として次の10項目に体系化しています。国内では産業技術総合研究所（産総研）の「生成AI品質マネジメントガイドライン」もこれを採録しています。
- LLM01：プロンプトインジェクション／LLM02：機密情報の漏洩／LLM03：サプライチェーン／LLM04：データとモデルの汚染／LLM05：不適切な出力処理
- LLM06：過剰な権限付与／LLM07：システムプロンプトの漏洩／LLM08：ベクトルと埋め込みの脆弱性／LLM09：誤情報／LLM10：無制限な消費
本記事では、このうち組み込み時に特に当たりやすい4つ（LLM01・LLM02・LLM05・LLM07）を取り上げます。残りの項目は出典のOWASP Top 10で確認できます。
産総研のガイドラインは、法令・公的指針との関係では非拘束的なものと位置づけられており、各社が自社のビジネスへの影響を踏まえて主体的に採用の有無を選ぶものとされています。
出典・参考資料（2件）
プロンプトインジェクション（直接・間接／LLM01）
プロンプトインジェクションは、入力を工夫してLLMに想定外の動作をさせる、生成AI特有の攻撃です。OWASP Top 10 for LLM Applicationsでも「LLM01」として筆頭に位置づけられています。産総研のガイドラインは、この攻撃を次のように定義しています。
「プロンプトインジェクション」は、プロンプトが改変されて不適切な情報が LLM に入力されることである。不適切なプロンプトを直接入力する場合（直接攻撃）と、LLM への入力プロンプトを構築する外部サービスを改変する場合（間接攻撃）がある。
出典：生成AI品質マネジメントガイドライン 第1版｜産業技術総合研究所
直接攻撃は、利用者が入力欄に悪意ある指示を打ち込むものです。間接攻撃は、AIが読み込むWebページやファイル、商品レビューなどに攻撃用の指示をあらかじめ仕込んでおき、AIがそれを処理したときに発動させるものです。特にRAG（外部データを検索して回答に反映する仕組み）を使うサービスでは、AIが読む外部文書そのものが攻撃経路になり得るため、入力の検証とシステム指示の保護が重要になります。
機密情報の漏洩（LLM02）
組み込んだLLMが、本来出すべきでない情報を出力してしまうリスクです。OWASPは「LLM02」として、前述の入力してはいけない情報（個人情報・認証情報・法的文書など）と同じ機密情報が、AIを通じて漏れ出す対象になると整理しています。たとえばRAGで社内文書を参照させる設計では、権限のない利用者に別の顧客の情報や社外秘のデータが返ってしまう事故が起こり得ます。
対策の軸は、AIがアクセスできる情報へのアクセス制御を厳密にすること、そして出力に含まれる個人情報を検出・マスキングすることです。利用者ごとにデータを分離し、データベースの段階で権限を制御しておくと、AIを介した意図しない開示を防ぎやすくなります。
不適切な出力処理（LLM05）
AIが生成した出力を、検証やサニタイズ（無害化）をせずに他のシステムへ渡してしまうことによるリスクです。OWASPは「LLM05 Improper Output Handling」として、LLMの出力を下流の構成要素やシステムに渡す前の検証・無害化・処理が不十分な状態を指すと定義しています。
たとえば、AIの出力をそのままWebページに表示したり、データベースへの命令として実行したりすると、クロスサイトスクリプティング（XSS）やSQLインジェクションのような二次被害につながる恐れがあります。AIの出力は「信頼できない入力」として扱い、HTMLタグやスクリプト、制御文字を除去してから利用する設計が求められます。
システムプロンプトの漏洩（LLM07）
システムプロンプトとは、AIの振る舞いを制御するためにあらかじめ与えておく指示文です。これが利用者に引き出されてしまうのが「LLM07 System Prompt Leakage」です。OWASPは、このリスクの本質を「プロンプトそのものの開示」とは見ていません。システムプロンプトの中に認証情報や権限ロジックなど、本来秘匿すべき情報を入れてしまう設計にこそ問題があると指摘しています。
OWASPは、システムプロンプトは秘密として扱うべきでも、セキュリティ制御の手段として使うべきでもないと明言しています。プロンプトを隠すこと自体を対策にするのではなく、認証情報や権限判定をシステム側の仕組みで持ち、プロンプトに機密を含めない設計にすることが本質的な対策になります。
出典・参考資料（1件）
生成AIのセキュリティ対策（利用ルール・社員教育・技術的対策）
ここからは、会社として取るべき対策を整理します。生成AIのセキュリティ対策は、利用ルールの整備・社員教育・技術的対策の3つに分けて考えると、自社で何をどこまでやるかを組み立てやすくなります。順に見ていきましょう。
利用ルールの整備
最初に取り組むべきは、生成AIの利用ルール（ガイドライン）を明文化することです。中心になるのは、入力してはいけない情報の線引きです。
前述の「入力してはいけない情報」（個人情報・契約書の全文・認証情報・未公開の財務や顧客の情報など）を「入力禁止」として具体的に例示すると、社員が判断に迷いません。IPAも「クラウドAIに営業秘密は教えない」と呼びかけており、この線引きは公的機関の注意喚起とも一致します。
あわせて、利用してよいツール、承認を要する用途、例外を認める場合の承認者を定めておきます。ルールは既存の社内規程や就業規則と矛盾しないように整合させ、現場が「どこまでやってよいか」を一読で判断できる粒度にすることが実効性のポイントです。
社員教育
ルールを作っても、その背景や理由が共有されていなければ形骸化します。なぜ機密情報を入力してはいけないのか、ハルシネーションとは何か、シャドーAIがなぜ問題なのかを、具体的な業務場面に沿って説明する教育が必要です。
たとえば、議事録の要約で参加者の実名や生の発言を、顧客向けメールの作成で取引先名や契約金額を、そのまま入力しないといった場面を例に示すと、現場が自分ごととして判断できます。生成AIの出力は「下書き」や「参考情報」として扱い、重要な内容は人が事実確認（ファクトチェック）してから使う、という習慣づけも教育の柱になります。
教育は一度きりでなく、新しいツールの登場やルール改定に合わせて定期的に実施し、全社へ周知します。現場が「禁止されたから使わない」ではなく「リスクを理解したうえで安全に使う」状態を目指すことで、シャドーAIのような抜け道も生まれにくくなります。
技術的対策
ルールと教育を補完するのが、仕組みで防ぐ技術的対策です。人の注意に頼りきらず、ツールの選定や権限設計、ログの取得によってリスクを下げます。ここでは代表的な4つの観点を取り上げます。
学習に使われない／クローズドなツールを選ぶ
入力内容を学習に使わない設定（オプトアウト）がある法人向けプランや、API経由での利用を選ぶことで、入力データが外部のモデル改善に使われるリスクを下げられます。さらに機密性の高い業務では、閉域ネットワークやプライベート環境で動作する生成AIを選ぶ選択肢もあります。ツール選定時には、学習利用の可否・入力データの保持期間・第三者提供の有無を契約条件として確認しておきます。
ログ取得と利用状況の可視化
誰が・いつ・どの生成AIを・何の目的で使っているかを記録し、可視化できる状態にしておくことが、シャドーAIの発見と早期対応につながります。操作ログを取得できるツールを選び、利用状況を定期的に確認する運用を組み合わせると、想定外の使われ方の兆候を早くつかめます。可視化は、問題が起きてからの原因追跡だけでなく、起きる前のリスク把握にも役立ちます。
アクセス権限の分離・最小化
生成AIツールや、AIが参照する社内データへのアクセスを、業務上必要な範囲に限定します。部門・用途ごとに利用権限を分け、最小権限の原則で設計することで、万一の漏えいや不正利用の影響範囲を抑えられます。誰がどのサービスにアクセスできるかを一元的に管理し、退職者や異動者のアクセスを確実に止める仕組みも、この権限管理の一部です。
脆弱性診断（組み込み側のLLMアプリ）
自社サービスに生成AIを組み込む場合は、前述のプロンプトインジェクションや不適切な出力処理といったLLM特有の脆弱性が残っていないかを、専門的な診断で確認することが有効です。
産総研のガイドラインも、第7章でOWASPの10リスクを採録し、設計段階からのリスク低減や入力・出力フィルターの重要性に触れています。設計段階での脅威モデリング、リリース前の脆弱性診断、本番運用での継続的な監視を組み合わせる多層的な備えが求められます。
何から着手すべきか（対策の優先順位と進め方）
ここまで挙げた対策を、自社でどの順に進めればよいかを整理します。実務では、まず利用ルールの整備で入力禁止情報の線引きと使ってよい範囲を決め、次に社員教育でその背景を共有し、並行して技術的対策でツール選定・ログ取得・権限管理を整えていく進め方が現実的です。ルールと教育は比較的早く着手でき、技術的対策は自社のAI利用の段階に応じて段階的に広げていけます。
優先順位をつける際は、自社の業務ごとにリスクの大きさを評価する視点が役立ちます。どの部署が・どんなデータを扱い・どの生成AIを使うのかを棚卸しし、リスクの高い業務から対策を厚くします。
東京都のサイバーセキュリティ対策ポータルも、IT担当者が見直すべき観点として「AI利用台帳を作る」「AIエージェントの権限を最小化する」ことを挙げており、利用の棚卸しと権限の最小化は着手の起点として押さえておきたい項目です。
出典・参考資料（1件）
こうしたAI利用の棚卸しや権限の統制、シャドーAIの可視化を専用のツールで体系的に進めたい場合は、以下の記事でAIガバナンスツールのタイプ（利用統制・規制対応・モデル監視）と選び方を解説しています。
AIガバナンスツールおすすめ比較｜シャドーAI対策・ISO 42001対応で選ぶ3タイプと選び方
従業員が業務で使う生成AIの利用実態が把握できず、情報漏えいや規制対応に不安を感じていませんか。生成AIの全社利用が広がるほど、承認されていないAIツールやSaaSが現場で使われる「シャドーAI」が増え、情報システム・セキュリティ・リスク管…
一方で、生成AI/LLMの脆弱性診断、シャドーAIの可視化、アクセス制御の仕組みづくりなど、自社だけでは対応が難しい領域もあります。次の章では、こうした領域を補えるサービスを紹介します。
一括ダウンロードする
生成AIのセキュリティ対策を支援するサービス
ここからは、自社だけでは対応しきれない領域を補えるサービスを紹介します。生成AI/LLMの脆弱性診断、シャドーAIの可視化、アクセス制御という3つの領域それぞれに、代表的なサービスがあります。まずは各サービスの特徴を比較表で確認してください。
| サービス名 | CoWorker 脆弱性診断サービス | CloudGate UNO | マネーフォワード Admina |
|---|---|---|---|
| 提供会社 | CoWorker株式会社 | 株式会社インターナショナルシステムリサーチ | マネーフォワードｉ株式会社 |
| 対応領域 | 脆弱性診断 （生成AI/LLM含む） | アクセス制御・ID基盤 | シャドーAI/ITの可視化 |
| 主な機能 | ソースコード診断・動的診断 ペネトレーションテスト | SSO・多要素認証 パスキー（FIDO2）・アクセス制限 | SaaSアカウントの可視化・棚卸し 入退社時のアカウント発行・停止 |
| 生成AIセキュリティでの使いどころ | 自社サービスに組み込んだLLMの脆弱性診断（組み込み側リスク） | 生成AIツールへのアクセスを認可された利用者・端末に限定 | ブラウザ外も含むシャドーAIの検知・把握 |
| 提供形態 | 都度・定期の診断サービス | クラウド型ID基盤（IDaaS） | クラウド型SaaS管理ツール |
| 料金の目安 | ソースコード診断15万円〜 動的診断30万円〜 ペネトレーションテスト60万円〜 | 月額400〜600円／ユーザー（税抜） | 50ID以下 無料 51ID以上 月300円／ID |
| 無料トライアル | 要問い合わせ | 30日間 | 14日間 |
| 詳細情報 | 公式資料を見る | 公式資料を見る | オンライン相談を予約 |
※料金・無料トライアルは各社公式情報に基づく（2026年11月時点）。最新の内容は各社公式サイトでご確認ください。
CoWorker 脆弱性診断サービス（CoWorker株式会社）
CoWorker 脆弱性診断サービスは、WebアプリケーションやAPI、ソースコードを対象に脆弱性を診断するサービスです。静的診断（ソースコード診断）、動的診断、ペネトレーションテストの3つの方法をそろえ、AIを使った自社開発の診断システムによって、従来より短い期間での診断を実現しています。
料金は、静的なソースコード診断が15万円から、動的診断が30万円から、Webペネトレーションテストが60万円からと公表されています。本記事で触れた組み込み側のリスク（プロンプトインジェクションや不適切な出力処理）に関わる生成AI・LLM向けの脆弱性診断にも対応しており、自社サービスへAIを組み込む企業が、リリース前後の点検を外部の専門家に委ねたい場面に向きます。
生成AIの普及は、脆弱性診断に求められる頻度そのものにも影響しています。同社の一ノ瀬氏は、攻撃側の変化をふまえて次のように話します。
一方で、攻撃者側もAIを活用するようになり、新しく、しかもスピード感の早い攻撃が増えてきています。これまでは年に1回、あるいはサービスをリリースした直後にだけ脆弱性診断を行うという企業が多かったのですが、AIの発達によって攻撃側のスピードが上がっている以上、定期的に診断をしないと危険だという状況になってきました。
CloudGate UNO（株式会社インターナショナルシステムリサーチ）
株式会社インターナショナルシステムリサーチが提供するCloudGate UNOは、ゼロトラストの考え方に基づくシングルサインオン（SSO）を軸にしたIDaaS（Identity as a Service）です。一度の認証で複数のクラウドサービスへ安全にアクセスできる利便性と、最小権限の原則に基づくアクセス制御を両立させます。
特徴は、端末・場所・時間の3つの軸でアクセスを細かく制限できる点と、パスキー（FIDO2）によるパスワードレス認証への対応です。生成AI専用のサービスではありませんが、生成AIを含むクラウドサービスへのアクセスを、認可された利用者や端末に限定する技術的対策として活用できます。前章で触れたアクセス権限の分離・最小化を、ID基盤のレベルで実現したい企業に適しています。
マネーフォワード Admina（マネーフォワードｉ株式会社）
マネーフォワード Adminaは、従業員を軸にSaaSアカウントの可視化・棚卸しや、入退社時のアカウント発行・停止を一元管理するSaaS管理ツールです。もともとはSaaS全般を管理するツールですが、情報システム部門が把握できていないSaaSを検知する機能を、現場が無断で使う生成AI（シャドーAI）の発見にも活用できます。
2026年10月に提供が始まったPC向けのエージェント「Admina Tracker」では、ブラウザを経由しないデスクトップツールの起動も記録できるようになり、ブラウザ外で使われる生成AIの把握にも対応しています。シャドーAIの可視化を、SaaS・デバイスの統合管理の一部として進めたい企業に向くサービスです。
ここで紹介したのは、生成AIのリスクに関わる領域を補うサービスです。生成AIに限らず、端末・ネットワーク・ID・データなど守る対象ごとに社内セキュリティのサービスを比較検討したい場合は、以下の記事で代表的なタイプと選び方を解説しています。
社内セキュリティソリューション比較｜守る対象別のタイプ・代表サービスと選び方
社内のセキュリティを強化したいものの、端末の保護から不正アクセス対策、情報漏えいの防止まで課題が広く、何から手をつければよいか判断がつかないという声は少なくありません。テレワークやクラウド利用が定着し、社外に持ち出される端末やIDが増えたこ…
まとめ
生成AIのセキュリティリスクは、社員が使う側（情報漏えい・入力の学習利用・シャドーAI・ハルシネーション・著作権など）と、自社サービスに組み込む側（プロンプトインジェクションをはじめとするOWASPの脅威）の両面で捉える必要があります。そのうえで、会社としての対策を利用ルールの整備・社員教育・技術的対策の3つに分けて進めると、自社で何から着手すべきかが明確になります。
まずは入力禁止情報の線引きと利用ルールの整備から始め、社員教育で背景を共有し、技術的対策を段階的に広げていくのが現実的な進め方です。生成AI/LLMの脆弱性診断、シャドーAIの可視化、アクセス制御といった自社だけでは難しい領域は、専門のサービスを組み合わせて補完できます。自社の状況に合うサービスの資料を取り寄せ、比較から始めてみてください。
一括ダウンロードする
よくあるご質問（FAQ）
Q. 生成AIのセキュリティリスクとは何ですか？
A. 生成AIのセキュリティリスクとは、社員が生成AIを業務利用することで生じるリスクと、自社サービスに生成AIを組み込むことで生じるリスクの2つに大きく分かれます。前者には機密情報の漏えい、入力内容の学習利用、シャドーAI、ハルシネーション、著作権侵害などが、後者にはプロンプトインジェクションをはじめとするLLMアプリ特有の脅威が含まれます。
IPAの「情報セキュリティ10大脅威 2026」でも、AIの利用をめぐるサイバーリスクが組織向け脅威の第3位に挙げられており、企業が対策すべき身近なリスクとして注目されています。
Q. 生成AIのセキュリティリスクは、従来のサイバーセキュリティリスクと何が違うのですか？
A. 生成AIのリスクは、「入力した情報が外部に送信・学習される」「AIがもっともらしい誤情報を生成する」「入力文でAIを操作される」といった、従来のITツールにはなかった生成AI特有の仕組みから生まれる点が異なります。
一方で、攻撃者によるフィッシングメールやマルウェアのコード生成への悪用、利用するツールの脆弱性管理などは、不審なメールへの警戒や脆弱性対応といった従来のセキュリティ対策の延長で対応できる部分も多くあります。
Q. 生成AIに入力してはいけない情報にはどのようなものがありますか？
A. 生成AIには、個人を特定できる情報、財務情報、健康情報、IDやパスワードなどの認証情報、契約書などの法的文書、機密性の高い業務データを入力しないことが基本です。
これはLLMアプリの国際的なリスク基準であるOWASPが機密情報の例として挙げている分類で、IPAも「クラウドAIに営業秘密は教えない」よう呼びかけています。利用ルールでこれらを「入力禁止」と具体的に例示しておくと、社員が判断に迷いません。
Q. 無料版の生成AIを業務で使うのはなぜ危険なのですか？
A. 無料版や個人向けプランの生成AIは、入力した内容がサービス側のモデル改善（学習）に使われ、将来にわたって残り続ける場合がある点が危険です。業務で使う場合は、入力を学習に使わない設定（オプトアウト）がある法人向けプランやAPI利用を選び、契約時に学習利用の可否・入力データの保持期間・第三者提供の有無まで確認しておくと安全です。
Q. シャドーAIとは何ですか？なぜセキュリティ上の問題になるのですか？
A. シャドーAIとは、情報システム部門が把握・許可していない生成AIツールが、現場の判断で使われている状態を指します。会社がどのツールに何を入力しているかを把握できないため、情報漏えいや学習利用のリスクが見えないまま広がってしまう点が問題です。まずは「誰が・どのAIを・何の目的で使っているか」を把握する仕組みづくりが、シャドーAI対策の出発点になります。
Q. 生成AIのハルシネーションで誤った情報を発信した場合、企業は責任を問われますか？
A. 生成AIのハルシネーション（誤情報の生成）であっても、その出力を企業が社外へ発信すれば、事業者が責任を免れるとは限りません。
実際にカナダの航空会社エア・カナダでは、同社のチャットボットが実在しない運賃を利用者へ案内し、民事裁定で航空会社に支払いが命じられた事例があります。生成AIの出力は「下書き」や「参考情報」と位置づけ、重要な内容は人が事実確認（ファクトチェック）してから使う運用が欠かせません。
Q. プロンプトインジェクションとは何ですか？どう対策すればよいですか？
A. プロンプトインジェクションとは、入力を工夫して生成AI（LLM）に想定外の動作をさせる、生成AI特有の攻撃です。OWASP Top 10 for LLM Applicationsでも筆頭（LLM01）に位置づけられています。
利用者が直接悪意ある指示を打ち込む「直接攻撃」と、AIが読み込むWebページやファイルに指示を仕込んでおく「間接攻撃」があり、特にRAG（外部データを検索して回答に反映する仕組み）を使うサービスでは、入力の検証とシステム指示の保護が重要になります。
Q. 生成AIの利用ガイドラインには何を盛り込めばよいですか？
A. 生成AIの利用ガイドラインには、入力してはいけない情報の線引きを中心に、利用してよいツール、承認を要する用途、例外を認める場合の承認者を明記するとよいでしょう。既存の社内規程や就業規則と矛盾しないよう整合させ、現場が「どこまでやってよいか」を一読で判断できる粒度にすることが、ルールを形骸化させないポイントです。
Q. 生成AIのセキュリティ対策は何から着手すればよいですか？
A. 生成AIのセキュリティ対策は、まず利用ルールの整備で入力禁止情報の線引きと使ってよい範囲を決め、次に社員教育で背景を共有し、並行して技術的対策でツール選定・ログ取得・権限管理を整える順序が現実的です。
あわせて、どの部署が・どんなデータを扱い・どの生成AIを使うのかを棚卸しし、リスクの高い業務から対策を厚くします。東京都も、AI利用台帳の作成とAIエージェントの権限最小化を着手の起点として挙げています。
Q. 自社だけで生成AIのセキュリティ対策が難しい場合、どのようなサービスを利用できますか？
A. 自社だけで対応が難しい領域は、生成AI/LLMの脆弱性診断、シャドーAIの可視化（SaaS管理ツール）、アクセス制御（ID基盤）といった専門サービスを組み合わせて補えます。
組み込んだLLMの脆弱性は外部の脆弱性診断サービスで点検でき、シャドーAIはSaaS管理ツールで検知し、生成AIツールへのアクセスはIDaaSで認可された利用者・端末に限定できます。本記事の比較表で、各サービスの特徴を確認できます。
生成AIのセキュリティ対策サービスの資料を一括チェック
MCB FinTechカタログでは、生成AIのセキュリティ対策に役立つ脆弱性診断・SaaS管理・ID基盤などのサービス資料を無料で一括請求できます。機能や料金、対応範囲をまとめて比較できます。
一括ダウンロードする
MCB FinTechカタログに掲載しませんか？
MCB FinTechカタログでは、掲載企業様を募集しています。マネックスグループの金融実務ノウハウを活かした独自の評価軸と検索設計により、導入検討者が最適なサービスを効率的に発見できる法人向け比較プラットフォームです。掲載後は管理画面から料金表や導入事例を随時更新でき、常に最新の情報を訴求可能。まずは下記フォームより、お気軽にお問い合わせください。
マネックス証券 フィナンシャル・インテリジェンス部 暗号資産アナリスト
松嶋真倫
監修の範囲は記事の一般的な解説部分であり、比較表および各製品・サービスの紹介内容は監修の対象外です。
