Azure AI Content Safety
Microsoft Corporation
最終更新日 2026年07月20日
Azure AI Content Safetyとは、アプリへ組み込むテキスト・画像の有害コンテンツ検知と、生成AI向けのPrompt Shields、groundedness、protected material、task adherenceを提供するAzureのAI安全性サービスです。APIとMicrosoft Foundryで、severity threshold、blocklist、custom categoryを構成できます。
製品の主要情報
- 課金方式
- 1,000 text recordまたは1,000 image単位の従量課金
F0は月5,000 text record・5,000 imageまで、S0はAPI別rateを適用
Content Safety in Foundry Control Plane pricing - 保護対象
- text・image・multimodal、LLM prompt/output、agent tool actionを検査What is Azure AI Content Safety?
- 日本国内での提供
- 日本のAzure契約から対応regionを選んで利用可能
featureごとに対応regionが異なるためresource作成時に確認
What is Azure AI Content Safety? - 提供形態
- REST API・SDKとMicrosoft Foundryのtry-it-out画面で提供What is Azure AI Content Safety?
- 日本語対応
- text moderationとPrompt Shieldsは日本語を含む多言語に対応
protected material、groundedness、custom categories standardは英語のみ
Language support for Azure AI Content Safety - 商用利用
- Azure契約とResponsible AI条件に従い商用applicationへ組み込み可能
検知metadataからの最終許可・遮断と法令適合はcustomerが設計・検証
Microsoft Product Terms
Azure AI Content Safetyは、ユーザー入力とAI出力を検査し、アプリ側の安全対策へつなげるAPI・管理画面です。日本語を含むテキストと画像を扱い、生成AIやエージェント向けの専用検知もまとめて利用できます。
有害コンテンツを分類
テキストと画像をhate、sexual、violence、self-harmのcategoryとseverityで判定します。
生成AIとエージェントを保護
Prompt Shieldsでprompt injectionを検知し、Task Adherenceで意図に合わないtool actionを識別します。
組織固有のpolicyへ調整
severity threshold、blocklist、custom categoryを構成し、検知結果をアプリの許可・遮断判断へ接続します。
AI実装研究所の導入判断
公式情報と確認済みの製品データを基に、導入時の評価点と確認事項を整理しています。
評価できる点
- テキストの有害度を判定：テキストをhate、sexual、violence、self-harmとseverityで分類します。 投稿やAI出力を一貫したcategoryで評価できます。
- 画像とmultimodalを分析：画像または画像とテキストの組み合わせから有害性を検知します。 user-generated contentを複数modalで検査できます。
主な機能
コンテンツ分析
- テキストの有害度を判定
- テキストをhate、sexual、violence、self-harmとseverityで分類します。 投稿やAI出力を一貫したcategoryで評価できます。
- 画像とmultimodalを分析
- 画像または画像とテキストの組み合わせから有害性を検知します。 user-generated contentを複数modalで検査できます。
生成AI・agent保護
- Prompt Shieldsで攻撃を検知
- 直接・間接のprompt injectionとjailbreak riskを判定します。 LLMへ渡す前の入力riskを検査できます。
- agentのtool actionを検査
- agentのtool呼び出しが利用者の指示やtask intentに沿うかを判定します。 意図しない外部操作をreviewやblockへ回せます。
policy調整
- custom categoryを作成
- 組織固有の不適切content例から検知categoryを定義します。 汎用categoryだけでは表せないpolicyを検査に反映できます。
- protected materialを検知
- LLM出力から既知の保護対象textとcodeの一致を検出します。 contentやcodeの公開前reviewへ知的財産riskを渡せます。
導入・サポート
- 導入負荷
- Azure resourceを作成しAPI・SDK・Foundryからself-serviceで実装What is Azure AI Content Safety?
料金・プラン
- 課金方式
- 1,000 text recordまたは1,000 image単位の従量課金
F0は月5,000 text record・5,000 imageまで、S0はAPI別rateを適用
Content Safety in Foundry Control Plane pricing
操作画面イメージ
公式サイトで取得確認した操作画面です。
category別にseverity thresholdを設定する現行製品実画面
画像を表示できませんでした。
category名・定義・training dataを設定する現行製品実画面
画像を表示できませんでした。
user promptを検査しdirect attackを表示する現行製品実画面
画像を表示できませんでした。
対象となる目的・業界
業務・課題
- セキュリティを強化する
機能領域
- AIセキュリティ・ガバナンス
セキュリティ・提供条件
セキュリティ・データ
- 検知・制御範囲
- severity threshold・blocklist・custom categoryをpolicyへ反映
APIは判定metadataを返し、実際の許可・遮断actionはapplication側で実装
What is Azure AI Content Safety? - 保存・削除・保管地域
- 検知inputは保存せず、blocklistだけ選択regionで暗号化保存
block itemはDELETE APIで削除可能
Data privacy and security for Azure AI Content Safety - 学習利用
- customer dataをContent Safety modelの学習・再学習・改善に不使用Data privacy and security for Azure AI Content Safety
- 企業向け管理機能
- Microsoft Entra ID、managed identity、Azure RBAC、customer-managed keyを利用What is Azure AI Content Safety?
提供条件・制約
- 日本国内での提供
- 日本のAzure契約から対応regionを選んで利用可能
featureごとに対応regionが異なるためresource作成時に確認
What is Azure AI Content Safety? - 提供形態
- REST API・SDKとMicrosoft Foundryのtry-it-out画面で提供What is Azure AI Content Safety?
- 日本語対応
- text moderationとPrompt Shieldsは日本語を含む多言語に対応
protected material、groundedness、custom categories standardは英語のみ
Language support for Azure AI Content Safety - 商用利用
- Azure契約とResponsible AI条件に従い商用applicationへ組み込み可能
検知metadataからの最終許可・遮断と法令適合はcustomerが設計・検証
Microsoft Product Terms
製品概要
- 製品名
- Azure AI Content Safety
- カテゴリ
- セキュリティ／AIガバナンス
- 製品種別
- 開発プラットフォーム
- 国内提供
- 国内提供あり
- 日本語UI
- 一部日本語対応
- 日本語サポート
- 日本語対応
会社概要
Microsoft Corporation
- 会社名
- Microsoft Corporation
- 本社所在地
- 米国ワシントン州レドモンド
- 創業・設立
- 1975年
- 代表者
- Chairman and CEO Satya Nadella
- 事業内容
- software、cloud、AI、business application platformの開発・提供
情報源
AI製品・サービスの情報を、AI実装研究所に掲載しませんか？
AI導入の判断材料を探す企業担当者へ、製品の特徴や導入条件を記事・製品ページを通じて届けたい提供会社の方はご相談ください。
製品掲載について相談する →