LLM アプリを、
提供形態に合わせて診断する
LLM を誰が所有しているかで、安全に踏み込める深さも、検査すべき対象も変わります。クラウドの管理型モデルを使うアプリと、OSS モデルを自社で運用するアプリ、それぞれに合わせた 2 つのプランで診断します。
料金の目安お見積り
Ownership
「所有範囲」が、診断の深さを決める
管理型モデルに敵対的なテストを大量に撃ち込むと、アカウント凍結のおそれがあります。自社ホストのモデルなら、モデル層まで踏み込めます。
クラウドホスト型
Amazon Bedrock・Azure OpenAI・Vertex AI など
モデル本体の安全性は提供元の責任です。お客様が所有するのは、モデルを呼び出す「ラッパー」の部分です。
- お客様の所有ラッパー
- 主な検査対象IAM・RAG の認可・エージェントの権限・ガードレールの構成
OSS・自社ホスト型
Llama・Mistral・Qwen などを vLLM / TGI で運用
モデルの重みや安全層までお客様が所有し、提供元による制限がありません。高負荷・破壊的なテストやモデル層まで踏み込めます。
- お客様の所有ラッパー＋モデル
- 主な検査対象有害出力への頑健性・学習データの記憶・サプライチェーン
Plans
2 つの診断プラン
対象の LLM の提供形態に合わせて、検査の濃さと範囲を最適化します。
CLOUD-HOSTED
Cloud LLM
お見積り
Bedrock などの管理型モデルを使うアプリ向けの集中診断。お客様が所有・設定するラッパーの防御に絞り、提供元と調整してリクエスト量を抑えたうえで深く精査します。
- ラッパーの権限境界（IAM）：ロールの受け渡しや共有ロールの悪用、権限昇格の連鎖
- RAG の認可・テナント間の漏えい：検索段階での認可漏れ、テナント分離の破れ
- エージェント・ツールの権限：確認の回避、代理実行による権限の“借用”、ツール連鎖の暴走
- 間接プロンプトインジェクション：取り込んだ文書やメールを経由した外部への到達
- 出力の扱い・ガードレールの構成：出力経由の XSS や持ち出し、ガードレール設定の実効性
SELF-HOSTED
Hosted LLM
お見積り
OSS モデルを自社基盤で運用するアプリ向けの徹底診断。ラッパーの全項目に加え、モデル層まで全面的に踏み込みます。
- ラッパーの全項目（Cloud LLM と同等）
- 有害出力の拒否の頑健性：難読化や翻訳による迂回に対する、モデル層の安全性
- 学習・微調整データの記憶：個人情報や機密の漏えい、学習データに含まれていたかの推測
- サプライチェーン：モデル・アダプタの入手元と改ざんの検証、pickle の安全性、依存ライブラリの脆弱性
- 高負荷・破壊的なテスト：課金を枯渇させる攻撃（Denial-of-Wallet）、インデックス汚染、会話を重ねた突破
Depth
検査の「濃さ」の比較
同じ項目でも、所有範囲によって踏み込める深さが変わります。
| 検査カテゴリ | Cloud LLM | Hosted LLM |
|---|---|---|
| 直接プロンプトインジェクション | ||
| 間接プロンプトインジェクション | ||
| システムプロンプトの漏えい | ||
| 出力の扱い（XSS・持ち出し） | ||
| 過剰な権限・エージェント | ||
| RAG の認可・ベクトル | ||
| 機密情報の漏えい（学習データの記憶） | ||
| 安全性ガードレールの頑健性 | ||
| サプライチェーン（入手元・pickle） | ||
| 可用性・コスト（Denial-of-Wallet） |
徹底標準限定（提供元の責任・調整の範囲）
Methodology
方法論とツール
実績のある OSS ツール群を AI 補助のハーネスで束ね、「実行 → 分析 → トリアージ → 記録」を一貫して回します。
garak
既知のパターンを広く走査（インジェクション・エンコード・有害カテゴリ）。
PyRIT
複数ターンにわたる深掘り（段階的なエスカレーション・文脈の操作）。
promptfoo
アプリ層の評価、CI での回帰確認、OWASP へのマッピング。
Matrix Inspect の統合基盤
各ツールを束ね、外部到達の検知用カナリアと結果の記録を提供します。
Burp Suite
出力の扱いの確認に、確立した Web 診断の手法を適用します。
準拠：OWASP Top 10 for LLM Applications／MITRE ATLAS／NIST AI RMF／AI 事業者ガイドライン
Deliverables
成果物（両プラン共通）
攻撃成功率（ASR）による定量評価と OWASP へのマッピングで、経営層から実務担当者まで伝わる報告にします。
テストケース
項目ごとの結果・試行回数・成功回数と自動計算した ASR。OWASP・深刻度へのマッピング。
所見報告書
確認した問題ごとの再現条件、ビジネスへの影響、是正のガイダンス。
エグゼクティブサマリー
カテゴリ別のスコアと総合的なリスク評価。
是正後の再テスト
修正の確認と、回帰していないかの確認。
Why Matrix Inspect
Matrix Inspect の強み
提供形態に最適化
凍結のリスクを避けながら、所有範囲に応じて検査の濃さを最大にします。無駄な検査も過剰な検査もしません。
攻撃の連鎖を見抜く
間接的なインジェクションから権限昇格、データの持ち出しへ。自動ツールでは届かない攻撃の連鎖を、エンジニアと AI で詰めていきます。
Web 診断の技術を応用
出力の扱いや IAM の連鎖など、実績のある Web 診断の手法を LLM の文脈にそのまま応用します。
Process
ご提案の流れ
まずは対象の LLM の提供形態と構成をお伺いし、最適なプランをご提案します。
- 01
ヒアリング
提供形態・構成・スコープを確認します。
- 02
プランの選定
Cloud LLM / Hosted LLM と、工数をご提案します。
- 03
許可・環境の準備
スコープを書面にし、必要に応じて提供元との調整や隔離環境を準備します。
- 04
診断の実施
スキャナとエンジニアによる診断を行います。
- 05
報告・再テスト
所見を報告し、是正後に確認します。
Pricing
料金の目安
表示価格はすべて税別です。対象の規模・機能数により変動します。
お見積り
FAQ
よくある質問
Amazon Bedrock や Azure OpenAI のモデル自体も検査しますか？
管理型モデル本体の安全性は提供元の責任範囲で、大量の敵対的テストはアカウント凍結のおそれがあります。Cloud LLM プランでは、お客様が所有・設定する IAM・RAG・エージェント・ガードレールの構成に絞って深く検査します。
どちらのプランか判断できません。
モデルをどこで動かしているか（クラウドの管理型サービスか、自社の基盤か）で決まります。構成をお伺いしたうえでご提案しますので、まずはご相談ください。