サービス比較の記事一覧

AIで顧客対応・サポート業務を自動化したい

サービス比較の記事一覧

AIで顧客対応・サポート業務を自動化したい

不正利用・金融トラブルを未然に防ぎたい

脆弱性・セキュリティ診断サービス
の関連情報


関連サービス資料を
無料で一括ダウンロード

OWASP AIセキュリティとは?LLM・Agentic AI Top 10を最新版で全項目解説

OWASP AIセキュリティとは?LLM・Agentic AI Top 10を最新版で全項目解説のサムネイル画像
脆弱性・セキュリティ診断サービス比較表(2026年版)のプレビュー

主要19サービスの料金・機能を無料で一覧比較

脆弱性・セキュリティ診断サービス比較表(2026年版)

自社で生成AIやLLM(大規模言語モデル)を組み込んだアプリケーションやAIエージェントを開発・運用するなかで、「何を守ればよいのか」の基準としてOWASPのAIセキュリティ文書を参照する動きが広がっています。

OWASPのAI関連文書は1つではなく、LLMアプリ向けとAIエージェント向けでそれぞれ別のリスク一覧が公開され、版の更新も続いています。

「owasp ai」で情報を探しても、文書ごとにばらばらに解説されていたり、古い版のリストが載っていたりして、いま見るべきリストはどれなのか、各項目に何が並ぶのかを一度に把握しづらいのが実情です。社内レビューや取引先から「OWASPのTop 10に沿って点検してほしい」と求められ、まず全体像を押さえたい方も多いのではないでしょうか。

本記事では、両Top 10の全項目を公式原典にもとづく最新版の一覧で示し、自社のAIアプリへの当てはめ(自前の対策と外部診断の使い分け)まで案内します。記載内容は2026年11月時点の公開情報にもとづきます。

脆弱性・セキュリティ診断サービスの関連サービス資料
PR
本セクションにはプロモーションが含まれており、表示順は当社独自の基準や提携状況に基づいています。

OWASPのAIセキュリティ文書の全体像(Gen AI Security Project)

ここからは、「OWASPのAI文書には結局何があるのか」を先に整理します。OWASPが公開するAI関連のセキュリティ文書は複数あり、守る対象(LLMアプリか、AIエージェントか)や用途(リスク一覧か、検査の手引きか)で分かれています。まずは目的別に、どの文書を見ればよいかを一覧で押さえましょう。

OWASP Gen AI Security Projectが公開する主なAIセキュリティ文書の全体像。リスク一覧としてLLMアプリ向けのTop 10 for LLM Applications 2026とAIエージェント向けのTop 10 for Agentic Applications 2026、検査の手引き・ツールとしてAI Security Solutions LandscapeとGenAI Red Teaming Guideが並ぶ構成を示した図解。
主な文書(正式名称)何のための文書かこんなときに見る
OWASP Top 10 for LLM Applications 2026LLMを組み込んだアプリケーションで特に重大なセキュリティリスク上位10項目チャットボットやRAG(外部データを検索して回答に使う仕組み)など、自社のLLMアプリのリスクを把握したいとき
OWASP Top 10 for Agentic Applications 2026自律的に計画・判断し、ツールを使って行動するAIエージェント特有のリスク上位10項目外部ツールを自分で呼び出すAIエージェントを開発・運用しているとき
AI Security Solutions Landscape生成AIのリスクに対応するツール・プラットフォームを整理したディレクトリ対策製品や診断サービスを探したいとき
GenAI Red Teaming Guide生成AIシステムに対するレッドチーミング(攻撃者視点の評価)の実務手引き自前で攻撃者視点の検査を進めたいとき
OWASPが公開する主なAIセキュリティ文書(2026年11月時点。各文書の公式ページは記事末尾の参考資料を参照)

これらを公開しているのが「OWASP Gen AI Security Project」です。Webアプリのセキュリティで知られるOWASP Foundationのもとで、世界中の専門家やコミュニティが協力して生成AIのセキュリティ指針を作る取り組みで、ここで取り上げるLLM向け・エージェント向けのTop 10は、並行して進む複数のイニシアチブ(取り組み)の一部にあたります。

OWASP公式が主なイニシアチブとして挙げているのは、次のような取り組みです。自社の関心に応じて、Top 10以外の文書もあわせて参照できます。

  • Agentic App Security:AIエージェント特有のリスク(後述のAgentic Top 10)を扱う取り組み
  • AI Data Security(AIデータセキュリティ):学習データや入出力など、AIが扱うデータの保護を対象とする取り組み
  • AI Security Governance(AIセキュリティガバナンス):組織としてのAI利用の統制・ルール整備のための枠組み
  • AI Bill of Materials(AI部品表/AIBOM):AIシステムを構成するモデルやデータなどの要素を記録・可視化する取り組み
  • AI Threat Intelligence and Response(AI脅威インテリジェンスと対応):AIに対する脅威情報の収集とインシデント対応を扱う取り組み
  • Red Teaming & Evaluation:攻撃者視点での評価(後述のGenAI Red Teaming Guideなど)を扱う取り組み
  • AI Security Solutions:対策製品・サービスを整理する取り組み(前掲のAI Security Solutions Landscape)

本記事では、このうち自社のAIアプリ検査に直結する2つのTop 10を中心に、全項目を見ていきます。

OWASP Top 10 for LLM Applications(2026年版)の全項目

OWASP Top 10 for LLM Applicationsは、LLMを組み込んだアプリケーションで特に重大とされるセキュリティリスクを10項目にまとめたものです。生成AIの業務利用が広がり、プロンプトインジェクションのようにWebアプリの脆弱性とは質の異なる攻撃が現れたことから、開発・運用の共通の物差しとして参照されています。

注意したいのは版です。最新版は2026年版(2026年8月3日公開)で、公式リポジトリでは1つ前の2025年版は「アーカイブ(旧版)」として扱われています。解説記事のなかには2023年版や2025年版の項目を載せたままのものもあるため、ここでは公式原典にもとづく2026年版の全10項目を示します。

LLM01〜LLM10の一覧(2026年版)

No.項目(英語正式名/日本語)概要
LLM01Prompt Injection(プロンプトインジェクション)入力がLLMへの指示を書き換え、開発者が意図しない動作をさせます。LLMが「指示」と「データ」をアーキテクチャ上区別しないために起こります。
LLM02Sensitive Information Disclosure(機微情報の漏えい)LLMを組み込んだシステムが、機密・規制対象・専有のデータを、認可されていない経路で露出させます。
LLM03Excessive Agency(過剰な代理権限)LLMに与えた関数呼び出しや外部システム連携の権限が過剰で、想定外の操作まで実行できてしまいます。2025年版の6位から3位へ上昇しました。
LLM04Supply Chain(サプライチェーン)学習データ・モデル・アダプタ(既存モデルに後付けで追加学習を施す部品)・変換パイプライン・配信基盤など、LLMのサプライチェーン各段階の整合性が損なわれます。
LLM05Data and Model Poisoning(データとモデルの汚染)攻撃者や不適切な工程がデータやモデルを操作し、有害な挙動・バイアス・悪用可能な弱点を埋め込みます。
LLM06Unbounded Consumption(無制限な消費)過剰で制御されない推論を許し、サービス停止・過大なコスト・モデル複製による知的財産の窃取を招きます。
LLM07Misinformation(誤情報)もっともらしく見える誤った・不完全な・裏づけのない情報を生成し、人間の判断や自動処理、エージェントの行動を誤らせます。
LLM08Hidden Context Exposure(隠れたコンテキストの露出)ユーザーに見せない前提=システム指示や運用コンテキストが、不正に抽出・推測・復元されます。2026年版の新設項目です。
LLM09Vector and Embedding Weaknesses(ベクトル・埋め込みの弱点)テキストや画像などを「ベクトル(埋め込み)」と呼ぶ数値表現に変換し、類似検索で参照先を決めるLLMアプリ(RAGなど)に潜むリスクです。保存先のベクトルデータベースや検索の仕組みに攻撃者が干渉すると、誤った参照や情報の混入・漏えいを招きます。
LLM10Improper Output Handling(不適切な出力処理)LLMの出力を下流の別システムに渡す前の検証・無害化が不十分で、二次的な攻撃につながります。
OWASP Top 10 for LLM Applications 2026(2026年8月3日公開)の全10項目。公式ページは記事末尾の参考資料を参照

版の変遷(2023→2025→2026)と変わった点

LLM Top 10は、2023年に最初の版(v1.0/v1.1)が公開され、2024年11月の2025年版を経て、2026年版に更新されています。版が変わるとリスクの採番や項目そのものが入れ替わるため、どの版を見ているかを意識することが欠かせません。

2026年版では、順位付けの方法そのものも見直されました。OWASP公式は2026年版について、数千件規模の実際のAIセキュリティインシデントにもとづく新たな調査を反映したと説明しています。

専門家の知見に加えて、実際に起きた被害のデータを順位付けの裏づけに据えたものです。以下に挙げる順位の入れ替わりも、こうした実データを踏まえた見直しの結果です。

2026年版の主な変化として、Excessive Agency(過剰な代理権限)が2025年版の6位から3位へ上昇し、AIエージェントの普及で権限委譲のリスクが重く見られるようになったことが挙げられます。

また、Hidden Context Exposure(隠れたコンテキストの露出)が新たに8位に加わりました。これは2025年版にあった「System Prompt Leakage(システムプロンプトの漏えい)」を、システム指示を含む隠しコンテキスト全般の露出という上位の概念としてとらえ直したものです。

さらにさかのぼると、2023年版で個別に並んでいた「Training Data Poisoning(学習データの汚染)」は2025年版で「Data and Model Poisoning」に、「Model Denial of Service(モデルへのDoS)」は「Unbounded Consumption」へと発展的に統合されています。

こうした版ごとの入れ替わりがあるため、解説記事のなかには2023年版の項目(Insecure Output Handling、Model Theftなど)をそのまま載せているものもあります。点検基準として使うときは、最新版かどうかを必ず確認してください。

OWASP Top 10 for Agentic Applications(2026年版)の全項目(ASI01〜ASI10)

LLM Top 10が「問いに答えるAI」を主な対象にしているのに対し、自ら計画を立て、ツールを呼び出し、記憶を持って行動するAIエージェントには、別のリスクが生まれます。

OWASPはこれを「OWASP Top 10 for Agentic Applications 2026」として、ASI01〜ASI10の10項目にまとめています。名称の「2026」は対象のバージョンを指すもので、公開は2025年12月9日です(通称「Agentic AI Top 10」)。草案やベータ版ではなく、専門家による査読(ピアレビュー)を経て公開された版です。

「話すAI」から「行動するAI」へ移るほど、攻撃者が操作できる範囲は単一の応答から一連の行動へと広がります。たとえば先頭のASI01は、LLM Top 10のプロンプトインジェクション(単一応答の改変)に対して、複数ステップにまたがる目標の乗っ取りをとらえた項目だと公式に位置づけられています。エージェントを扱う場合は、LLM Top 10に加えてこちらも確認してください。

LLM Top 10とAgentic Top 10の対象の違いを示した図解。LLM Top 10は問いに答えるAI(チャットボット・RAGなど)を対象に主に単一の応答が操作され、Agentic Top 10は自ら計画しツールを呼び出し記憶を持つAIエージェント(ASI01〜ASI10)を対象に操作範囲が一連の行動へ広がる。例としてプロンプトインジェクションの単一応答の改変に対し、ASI01エージェント目標のハイジャックは複数ステップにまたがる目標の乗っ取りをとらえる。

ASI01〜ASI10の一覧(2026年版)

No.項目(英語正式名/日本語)概要
ASI01Agent Goal Hijack(エージェント目標のハイジャック)攻撃者がエージェントの目標やタスク選択、判断経路を操作します。単一応答の改変にとどまらず、複数ステップでの目標の乗っ取りをとらえます。
ASI02Tool Misuse and Exploitation(ツールの悪用)プロンプトインジェクションや曖昧な指示により正規のツールを悪用させ、データ持ち出し・出力改ざん・ワークフロー乗っ取りに至ります。
ASI03Identity and Privilege Abuse(IDと権限の濫用)委任や信頼の連鎖、ロール継承などを操作してアクセス権を昇格させ、制御を回避します。
ASI04Agentic Supply Chain Vulnerabilities(エージェントのサプライチェーン)エージェントやツール、関連する成果物が第三者由来で、悪意・改ざん・汚染を含むおそれがあります。
ASI05Unexpected Code Execution/RCE(予期しないコード実行)コード生成・実行機能や埋め込まれたツールアクセスを悪用し、リモートコード実行へ昇格させます。
ASI06Memory & Context Poisoning(記憶とコンテキストの汚染)エージェントが保持・再利用する記憶やコンテキスト(要約・埋め込みなど)を持続的に汚染します。
ASI07Insecure Inter-Agent Communication(安全でないエージェント間通信)複数エージェントがAPI・メッセージバス・共有メモリで連携するため、攻撃面が大きく広がります。
ASI08Cascading Failures(連鎖的な障害)単一の不具合(ハルシネーション、悪意ある入力、汚染された記憶など)が自律エージェント間に伝播し、システム全体の被害へ拡大します。
ASI09Human-Agent Trust Exploitation(人間とエージェントの信頼の悪用)自然な言語能力や擬人化によって築かれた信頼を、攻撃者や不適切な設計が悪用します。
ASI10Rogue Agents(暴走エージェント)本来の機能や認可された範囲から逸脱し、有害・欺瞞的に振る舞う、悪意ある、あるいは侵害されたエージェントです。
OWASP Top 10 for Agentic Applications 2026(2025年12月9日公開、CC BY-SA 4.0)の全10項目。公式ページは記事末尾の参考資料を参照

自社のAIアプリにOWASP Top 10をどう当てはめるか

リスクの一覧を把握したら、次は「自社のAIアプリをこのリストでどう点検するか」です。進め方は大きく、自前で対策・検査する方法と、外部の脆弱性診断に委託する方法に分かれます。自社のリソースや求められる保証の水準に応じて、組み合わせて使うのが現実的です。

自前でできること(脅威モデリング・レッドチーミング)

まず着手しやすいのが、Top 10を設計・レビューのチェックリストとして使う方法です。開発段階では、自社のLLMアプリがどの項目に触れるか(外部ツールを呼ぶならLLM03、RAGを使うならLLM09、出力を別システムに渡すならLLM10など)を洗い出す脅威モデリングが有効です。OWASPはLLM Top 10の付録でアプリ構成と脅威モデリングの考え方も示しています。

各項目には、OWASPが推奨する具体的な対策もあわせて示されています。たとえばLLM01(プロンプトインジェクション)では、複数の対策が挙げられています。システムプロンプトでモデルの役割と権限をはっきり定める、出力の形式を決めて検証する、モデルに渡す権限を最小限に絞る、重要な操作は人が承認してから実行する(ヒューマン・イン・ザ・ループ)、といったものです。

LLM02(機微情報の漏えい)では、学習データや入力のサニタイズ(無害化)、最小権限でのアクセス制御、システムの初期設定をユーザーが上書きできないようにすることなどが示されています。

外部ツールを呼ぶLLM03(過剰な代理権限)では、呼び出せるツールや機能・権限を必要最小限に絞り、重要な操作には人の承認を挟むことが推奨されています。実行してよいかの判定も、LLMに委ねず下流のシステム側で行います。

RAGで使うLLM09(ベクトル・埋め込みの弱点)では、ベクトルデータベースへのアクセス権をきめ細かく分け、取り込むデータの出所を検証することが示されています。出力を別システムに渡すLLM10(不適切な出力処理)では、モデルの出力を信頼せず、渡し先に応じたエスケープ処理やパラメータ化クエリで無害化してから渡します。

AIエージェントを運用している場合は、Agentic Applications Top 10も同じ要領で当てはめます。複数のエージェントを連携させるならASI07(エージェント間通信)、記憶やRAGを持たせるならASI06(記憶とコンテキストの汚染)、コードを生成・実行するツールを持たせるならASI05(予期しないコード実行)やASI02(ツールの悪用)を重点的に点検するイメージです。

攻撃者の視点で実際に試すレッドチーミングも、生成AIでは重要性を増しています。OWASPは「GenAI Red Teaming Guide」として、生成AIシステムのセキュリティ・安全性・堅牢性を評価するための実務的な手引きを公開しており、プロンプトインジェクションの検査などを自前で進める際の土台になります。ただし、専門の知見や体制が必要になる場面も多く、ここから外部診断の検討につながります。

外部の脆弱性診断に出す(生成AI・LLM向けの診断メニューを持つサービス)

自前での検査に限界がある場合や、取引先・審査に対して第三者による点検の裏づけを示したい場合は、生成AI・LLM向けの脆弱性診断を提供するサービスへの委託が選択肢になります。ここで紹介するのは、生成AI・LLM向けの診断メニューを公表している代表的なサービスの例で、網羅的な一覧ではありません。

準拠の度合いにはサービスごとに差があり、OWASP LLM Top 10への準拠を明示するものもあれば、一般的なOWASP Top 10を参照しつつ生成AI・LLM向けのメニューを備えるものもあります。各社で対象範囲や準拠する版、料金の考え方が異なるため、以下の比較表で確認してください。

← 横にスクロールできます →
サービス名CoWorker 脆弱性診断サービスGMO Flatt Security 脆弱性診断INTELLILINK セキュリティ診断サービス
生成AI・LLM向け診断メニュー●生成AI・LLM脆弱性診断●LLM/生成AI診断メニュー●Web Plus/AIセキュリティ診断 for LLM
準拠・参照する基準OWASP LLM Top 10
(2025年版)準拠を公表
OWASP Top 10/ASVS
ビジネスロジックも対象
OWASP Top 10/
IPAガイドライン
診断方式自社開発AI「Red Agent」の
自動解析+専門家の最終確認
専門のセキュリティ
エンジニアが網羅的に診断
専門検査員による委託型
(手動中心+ツール併用)
料金ソースコードAI診断
15万円〜
Webアプリ診断
100万円〜(税別)
要お問い合わせ
詳細情報公式資料を見るサービス詳細を見る公式サイト

1. CoWorker 脆弱性診断サービス(CoWorker株式会社)

CoWorker 脆弱性診断サービスのウェブサイト

CoWorker 脆弱性診断サービスは、自社開発のAI「Red Agent」による自動解析と、社内のセキュリティ専門家による最終確認を組み合わせた診断です。ソースコードAI診断・動的脆弱性診断(Web/API)・ペネトレーションテストをメニューにそろえ、ソースコードAI診断は15万円からと料金を明示しています。

生成AIを使うアプリ向けには、別途「生成AI・LLM脆弱性診断」のメニューを用意し、OWASP LLM Top 10(2025年版)に準拠して生成AI特有のリスクを評価するとしています。AIによる自動解析で短時間に多くの検査パターンを処理し、四半期や月単位の定期診断にも対応できる点を特徴として打ち出しています。資料ダウンロードに対応しており、診断範囲の詳細はあわせて確認するとよいでしょう。

CoWorkerが準拠を明示しているのは2025年版で、本記事で見たとおりLLM Top 10は2026年版が最新です。委託を検討する際は、対応する版や最新版への追従予定もあわせて確認しておくとよいでしょう。

同社はMCB FinTechカタログの独自インタビューで、定期的な診断が必要になっている背景を次のように説明しています。

一ノ瀬氏
CoWorker株式会社 Sales Manager
一ノ瀬氏
独自インタビューより

一方で、攻撃者側もAIを活用するようになり、新しく、しかもスピード感の早い攻撃が増えてきています。これまでは年に1回、あるいはサービスをリリースした直後にだけ脆弱性診断を行うという企業が多かったのですが、AIの発達によって攻撃側のスピードが上がっている以上、定期的に診断をしないと危険だという状況になってきました。

2. GMO Flatt Security 脆弱性診断(GMO Flatt Security株式会社)

GMO Flatt Securityの脆弱性診断サービスのウェブサイト

GMO Flatt Securityの脆弱性診断は、専門のセキュリティエンジニアがWebアプリケーションを網羅的に診断するサービスです。診断対象はWebアプリ・APIのほか、SPA、SSR、GraphQL、クラウド、コンテナなどメニューが細分化されており、そのなかに「LLM/生成AI」向けの個別メニューが用意されています。

診断では、OWASP Top 10やOWASP ASVSで扱われる典型的な脆弱性に加え、ビジネスロジックの脆弱性まで対象に含めると公式に明示しています。Webアプリケーション診断の料金は100万円からで、標準の診断に部分的なソースコード診断が追加料金なしで付く点も特徴です。

INTELLILINK セキュリティ診断サービスのウェブサイト

INTELLILINK セキュリティ診断サービスは、NTTデータグループの株式会社NTTデータ先端技術が提供する診断のラインアップです。システムの開発段階から運用後まで一貫した診断をうたい、Webアプリケーション診断やペネトレーションテストなど複数のメニューを持ちます。

生成AI・LLM向けには、生成AI・LLM連携Webアプリを対象とする「Web Plus セキュリティ診断」を用意し、SQLインジェクションやXSSなどの通常診断に加えて、プロンプトインジェクションなどのAI連携リスクを確認するとしています。

診断項目はOWASP Top 10やIPAのガイドラインを参照するとされ、別途「AIセキュリティ診断 for LLMアプリケーション」もメニューに掲載されています。料金は要お問い合わせです。

まとめ

OWASPのAIセキュリティ文書は、LLMアプリ向けの「OWASP Top 10 for LLM Applications」とAIエージェント向けの「OWASP Top 10 for Agentic Applications」が中心で、いずれも2026年版が最新です。

LLM Top 10ではExcessive Agencyの上昇やHidden Context Exposureの新設など、版ごとに項目や採番が変わるため、点検基準として使うときは最新版かどうかの確認が欠かせません。

まずは自社のAIアプリがどの項目に該当するかを洗い出し、脅威モデリングやレッドチーミングで自前の点検を進めつつ、保証の水準が必要な場面では生成AI・LLMに対応した外部の脆弱性診断を組み合わせるとよいでしょう。各診断サービスの具体的な対象範囲や費用は、資料で比較して検討してください。

生成AI・LLM向けに限らず、脆弱性診断の種類や費用相場、依頼先の選び方を基礎から比較検討したい場合は、以下の記事で診断サービス全般を整理しています。自社に合う診断方法を見極める出発点としてご覧ください。

出典・参考資料(5件)

よくある質問(FAQ)

Q. OWASP Top 10 for LLMとは何ですか?

A. OWASP Top 10 for LLMとは、LLM(大規模言語モデル)を組み込んだアプリケーションで特に重大とされるセキュリティリスクを10項目にまとめた文書です。正式名称はOWASP Top 10 for LLM Applicationsで、生成AIのセキュリティ指針を整備するOWASP Gen AI Security Projectが公開しています。

プロンプトインジェクションのように、従来のWebアプリの脆弱性とは質の異なる攻撃を、開発・運用の共通の物差しとして点検できます。最新版は2026年版です。

Q. OWASPのAIセキュリティ文書にはどんなものがあり、どれを見ればよいですか?

A. OWASPのAIセキュリティ文書は、LLMアプリ向けの「OWASP Top 10 for LLM Applications」と、AIエージェント向けの「OWASP Top 10 for Agentic Applications」の2つが中心です。いずれもOWASP Gen AI Security Projectが公開しています。

ほかにも、対策製品を整理したAI Security Solutions Landscapeや、攻撃者視点の検査手引きであるGenAI Red Teaming Guideなどがあります。チャットボットやRAGのように問いに答えるアプリなら前者、外部ツールを自分で呼び出すエージェントなら後者を軸に見るとよいでしょう。

Q. OWASP Top 10 for LLMの最新版はどれですか?2025年版と何が変わりましたか?

A. OWASP Top 10 for LLMの最新版は2026年版(2026年8月3日公開)で、1つ前の2025年版はアーカイブ(旧版)として扱われています。主な変更点は、Excessive Agency(過剰な代理権限)が2025年版の6位から3位へ上昇したことと、Hidden Context Exposure(隠れたコンテキストの露出)が8位に新設されたことです。

後者は、2025年版のSystem Prompt Leakage(システムプロンプトの漏えい)を、システム指示を含む隠しコンテキスト全般の露出としてとらえ直したものです。解説記事のなかには2023年版や2025年版の項目を載せたままのものもあるため、点検基準として使うときは最新版かどうかを必ず確認してください。

Q. OWASP Top 10 for LLMにはどんな項目が含まれますか?

A. 2026年版のOWASP Top 10 for LLMには、LLM01 Prompt Injection(プロンプトインジェクション)からLLM10 Improper Output Handling(不適切な出力処理)までの10項目が含まれます。

LLM01とLLM10の間には、機微情報の漏えい、過剰な代理権限、サプライチェーン、データとモデルの汚染、無制限な消費、誤情報、隠れたコンテキストの露出、ベクトル・埋め込みの弱点が並びます。

各項目の英語正式名・日本語・概要は、本記事の「LLM01〜LLM10の一覧(2026年版)」の表にまとめています。

Q. OWASP Top 10 for LLMとAgentic AI Top 10(Agentic Applications Top 10)はどう違いますか?

A. 両者の違いは対象とするAIにあり、OWASP Top 10 for LLMは「問いに答えるAI」を、Agentic AI Top 10(OWASP Top 10 for Agentic Applications)は自ら計画し、ツールを呼び出して行動するAIエージェントを対象にしています。

後者はASI01〜ASI10の10項目で構成され、先頭のASI01 Agent Goal Hijackは、単一応答の改変にとどまらない複数ステップでの目標の乗っ取りをとらえています。AIエージェントを扱う場合は、LLM Top 10に加えてこちらも確認してください。

Q. OWASP Top 10を使って自社のAIアプリをどう点検すればよいですか?

A. 自社のAIアプリの点検は、Top 10を設計・レビューのチェックリストとして使う脅威モデリングと、攻撃者視点で実際に試すレッドチーミングから着手するのが現実的です。外部ツールを呼ぶならLLM03、RAGを使うならLLM09、出力を別システムに渡すならLLM10、といった形で自社アプリがどの項目に触れるかを洗い出すのが有効です。

OWASPはGenAI Red Teaming Guideという実務的な手引きも公開しています。自前の検査に限界がある場合や、取引先・審査に第三者の裏づけを示したい場合は、外部の脆弱性診断と組み合わせるとよいでしょう。

Q. OWASPのTop 10に準拠した外部の脆弱性診断に出すことはできますか?

A. できます。OWASP LLM Top 10を参照した生成AI・LLM向けの脆弱性診断メニューを公表しているサービスがあり、取引先や審査に対して第三者による点検の裏づけを示したい場合の選択肢になります。各社で診断の対象範囲や準拠する版、料金の考え方が異なるため、本記事で紹介したサービスの資料を見比べて、自社のAIアプリの構成に合うものを選ぶとよいでしょう。

脆弱性・セキュリティ診断サービスの料金・資料を一括チェック

MCB FinTechカタログでは、生成AI・LLM向けを含む脆弱性診断・セキュリティ診断サービスの最新資料を無料で一括請求できます。診断の対象範囲や費用を見比べて、自社のAIアプリの点検に合うサービスを選べます。

MCB FinTechカタログに掲載しませんか?

MCB FinTechカタログでは、掲載企業様を募集しています。マネックスグループの金融実務ノウハウを活かした独自の評価軸と検索設計により、導入検討者が最適なサービスを効率的に発見できる法人向け比較プラットフォームです。掲載後は管理画面から料金表や導入事例を随時更新でき、常に最新の情報を訴求可能。まずは下記フォームより、お気軽にお問い合わせください。

監修者

マネックス証券 フィナンシャル・インテリジェンス部 暗号資産アナリスト

松嶋真倫

都市銀行にて金融実務を経験後、暗号資産関連スタートアップの創業期に参画し、市場分析・業界調査に従事。2018年にマネックスグループ入社。以降、ビットコインをはじめとするデジタルアセットからマクロ経済環境まで、金融市場を横断した調査・分析および情報発信を担う。FinTech・次世代金融領域のリサーチ統括、各種レポートや書籍の執筆、日本経済新聞など国内主要メディアへのコメント・寄稿、イベント登壇などを行う。2021年3月より現職。
記事内でご紹介している製品・サービスは監修者が選定したものではなく、編集部が独自に選定したものです。
監修の範囲は記事の一般的な解説部分であり、比較表および各製品・サービスの紹介内容は監修の対象外です。

関連記事

新着記事

脆弱性・セキュリティ診断サービス
おすすめの診断サービス