セキュリティ
AI を組み込んだ製品と情報システムを、守る側として検査し、設計し、運用するための本。攻撃の全体像、公開された基準、診断の計画から運用の体制までを、一次資料を根拠に章立てで説明します。
要点
セキュリティの領域は、AI を組み込んだ製品と情報システムを守る側として検査し、設計し、運用するための 1 冊として章立てしています。読者は情報システムやセキュリティの担当者、AI 製品の責任者、開発の責任者で、セキュリティを専門にしていない人を想定します。扱うのは、AI を組み込んだ製品を狙う攻撃の全体像、公開された基準による脅威の整理、診断の計画と実施、結果の読み方、守りの設計、開発工程への組み込み、運用と体制です。検査は所有者の許可を得た対象にだけ行う前提で、攻撃を再現できる手順や文例、検知や防御の回避策は載せません。基準の版は OWASP Top 10 for LLM Applications 2026 年版、CVSS v4.0、IPA「安全なウェブサイトの作り方」改訂第 7 版を軸にします。
このページで分かること
- この本の読者と、扱う範囲・扱わない範囲（許可された対象への検査、攻撃の手順や文例は載せない）
- 最初に読む節（全体像、基準、診断の計画）と、章の読み方
- 根拠にしている主な基準と文書の版
目次
- 第 1 章 AI を組み込んだ製品を狙う攻撃の全体像 — AI 製品で何が起こりうるかを一望し、以降の章の地図を示す（2 節）
- 第 2 章 脅威の整理と基準 — 脅威を公開された基準で整理し、共通の言葉を持つ（2 節）
- 第 3 章 診断の計画 — 検査を依頼する前に決めること（3 節）
- 第 4 章 検査の実施（発注側の視点） — 検査の期間中に発注側が行うこと。手法や道具の設定は扱わない（執筆中）
- 第 5 章 結果の読み方 — 報告書を受け取ってから直すまで（執筆中）
- 第 6 章 守りの設計 — AI 製品の設計で被害を抑える四つの水準（執筆中）
- 第 7 章 開発工程への組み込み — 作り込まないための工程設計（執筆中）
- 第 8 章 運用と体制 — 続けるための体制と説明責任（執筆中）
この本について
情報システムと AI を使った製品を守る側の知識を、1 冊の本として章立てしています。対象は、情報システム・セキュリティの担当、開発の責任者、AI 製品の責任者で、セキュリティを専門にしていない人です。
- AI を組み込んだ製品を狙う攻撃の全体像と、公開された基準による脅威の整理
- 脆弱性診断とペネトレーションテストを、許可を得た対象に対して依頼し、結果を直す流れ
- LLM アプリケーションと AI エージェントの守りの設計、開発工程への組み込み、運用と体制
攻撃を再現できる手順、動作する文例、検知や防御の回避策は載せません。扱う脆弱性は公表済みかつ修正済みのものに限ります。実績・顧客名・数値は書きません。
最初に読む節
| 立場 | 最初に読む節 | 内容 |
|---|---|---|
| すべての読者 | 1.1 守る対象の三つの層: システム・モデル・エージェント | 何を守るかを一覧にする出発点 |
| AI 製品の責任者 | 1.2 プロンプトインジェクションの仕組みと二つの経路、2.1 OWASP Top 10 for LLM Applications 2026 の十項目 | 入口の仕組みと、十項目を設計のどこで確かめるか |
| 情報システム・セキュリティ担当 | 3.1 脆弱性診断とペネトレーションテストの違い、3.2 診断の対象と範囲の決め方、2.3 深刻度と悪用のされやすさ: CVSS・EPSS・KEV | 依頼の前に決めることと、報告書の読み方 |
章は知識が積み上がる順に並んでいます。各章の冒頭に導入ページ（この章で分かること、前提となる章、節の一覧）があり、各節の末尾に「次に読む節」があります。書けている節だけを目次に出し、準備中の節は出しません。
根拠にしている主な文書
OWASP Top 10 for LLM Applications 2026 年版（2026 年 8 月）、NIST SP 800-115、NIST AI RMF 1.0、IPA「安全なウェブサイトの作り方」改訂第 7 版、CVSS v4.0、CISA の KEV カタログ、MCP の仕様と Security Best Practices、Anthropic の研究記事を根拠にしています。各節の末尾に、参照した版と参照日を載せています。基準に新しい版が出たときは、節ごとに版を明記して更新します。