こんにちは。

今回はAzure AI Content Safetyについて紹介いたします。

Azure AI Content Safetyは、AIを使用してコンテンツを安全に保つコンテンツモデレーションプラットフォームです。
コンテンツの安全性と適切性を評価・監視するための人工知能（AI）ベースのソリューションで、
このサービスは、テキストや画像などのさまざまな種類のデジタルコンテンツを分析し、適切ではない、暴力的、猥褻、人種差別的、ヘイトスピーチなどの問題が含まれているかどうかを検出するのに役立ちます。

Azure AI Content Safetyサービスは、様々な種類の分析を使用できます。以下に現在使用できるAPIを記載します。

・Text Detection API：性的コンテンツ、暴力、憎悪、自傷行為に関するテキストを複数の重大度レベルでスキャンします。
・Image Detection API：性的コンテンツ、暴力、憎悪、自傷行為に関する画像を複数の重大度レベルでスキャンします。

Azure AI Content Safetyサービスは、テキスト分析や画像分析、自然言語処理（NLP）技術、コンピュータビジョン技術などの最新の人工知能技術を活用しています。

このサービスを利用することで、オンラインプラットフォームやアプリケーションの運営者は、ユーザーコンテンツより安産かつ適切なものに保つための支援を受けることができます。

出典

Azure AI Content Safety とは? (プレビュー) - Azure AI services | Microsoft Learn

Azure AI Content Safety – AI コンテンツ モデレーション | Microsoft Azure