AI Red Team（NRIセキュア）とは
AI Red Teamは、NRIセキュアテクノロジーズが提供するAIセキュリティ診断サービスです。専門家が生成AIを使うシステムに疑似攻撃を行い、プロンプトインジェクションなどAI特有の脆弱性と、システム全体への影響を評価します。
AI Red Teamでできること
自社でAIシステムを公開する企業では、次のような使い方が考えられます。
NRIセキュアは、設計段階のAI Yellow Team、運用中の監視を担うAI Blue Teamも提供しています。リリース前の診断と組み合わせると、開発から運用まで一貫した対策を取れます。
他サービスとの違い
同じセキュリティ分野のCheck Point AI Guardrailsと比べると、役割が異なります。
診断で弱点を洗い出し、運用ではガードレールや監視で守るといった組み合わせが効果的です。
活用のコツ
- リリース前に日程を確保する：診断期間は規模で変わるため、公開日から逆算して早めに相談しましょう。
- 連携先も診断範囲に入れる：AIが使う外部APIやデータベースも対象にすると、情報漏えいや権限昇格のリスクまで確認できます。
- 再診断で対策を確かめる：指摘を直したあとは、1回まで無償の再診断で対策が効いているかを確認しましょう。
