Mistral AIが小型モデレーションAI「Shieldstral」を公開、文章や画像を自然言語のルールで判定可能

フランスのAI企業Mistral AIが2026年8月4日、文章や画像が指定した安全基準に当てはまるかを判定するAIモデル「Shieldstral 1.0 3B」を公開しました。パラメーター数は30億で、サービスごとの安全基準を自然な文章で指定できる点が特徴です。

Introducing Shieldstral. | Mistral AI
https://mistral.ai/news/shieldstral/

生成AIを使ったサービスでは、利用者が入力した文章やAIが生成した回答を表示・提供してよいか判断する「コンテンツモデレーション」が行われています。例えば暴力を促す内容や差別的な表現、自傷行為に関する文章などを検出し、必要に応じて回答を止める役割を担います。

一方で、サイバーセキュリティの研究ツールで問題のない内容でも、メンタルヘルス向けサービスでは有害と判断される場合があるように、危険と判断すべき範囲はサービスによって異なります。従来の安全判定モデルは危険内容の分類があらかじめ決められている場合が多く、基準を変えるにはモデルの追加学習が必要になることがありました。

Shieldstralでは、判定したい基準を「暴力を推奨しているか」「未成年者に見せても安全な画像か」といった質問として入力します。モデルは対象となる文章や画像を読み取り、「はい」と「いいえ」の確率を基に安全性を数値化します。サービス側は数値に応じて内容を非表示にしたり、人間による確認へ回したりできるというわけです。

追加学習なしで新しい安全基準へ対応できるかを調べたMistral AIの評価では、Shieldstralはより大規模なモデルに匹敵し、複数の比較対象を上回りました。

文章だけでなく画像にも対応しており、画像単体や文章付き画像が安全かどうかを同じ仕組みで判定できます。Mistral AIによる画像モデレーションの評価では、比較対象となったモデルの中でShieldstralが最も高い総合スコアを記録したとのこと。

Shieldstralは利用者の入力やAIの回答を検査するだけでなく、AIが危険な依頼を適切に拒否したかどうかの判定にも利用可能です。英語や日本語、中国語、フランス語など12言語に対応し、16GBのVRAMを搭載したGPU1枚で動作します。

モデルのウェイトはApache License 2.0で公開されており、Hugging Faceからダウンロードできます。Mistral AIは今後、多言語への対応強化や長い文章を判定する際の安定性向上、画像を含むモデレーションの対象拡大を進めると述べています。

mistralai/Shieldstral-1.0-3B · Hugging Face
https://huggingface.co/mistralai/Shieldstral-1.0-3B