- 发布日期
开放权重、策略自适应的多模态安全分类器，性能匹敌其7倍规模的模型
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
Mistral AI 发布了 Shieldstral 1.0 3B，一个开放权重的多模态安全分类器，将内容审核转变为一个简单的是/否问题。它基于 Ministral-3-3B-Base-2512 和 Pixtral 视觉编码器构建，采用 Apache 2.0 许可证发布。这种方法允许在推理时更改策略，而无需重新训练。
传统的护栏模型在其权重中嵌入了固定的危害类别分类法，因此针对新上下文重新定位成本高昂。Shieldstral 则让操作员在推理时编写纯语言策略问题，通过一次前向传播返回校准的安全分数。这意味着相同的内容在一个应用中可能是安全的，在另一个应用中可能是有害的，而无需修改模型。
Mistral 报告该模型在文本安全方面平均 F1 达到 84.9%，与 GPT-OSS-Safeguard-20B 相当；在多模态安全方面达到 83.8%，超过了所有评估的基线。这个 3B 参数分类器在 BF16 下可装入 16GB 显存，并可在单个 GPU 上运行。它只输出一个 token，延迟和成本远低于基于推理的护栏。
服务路径包括 vLLM、llama.cpp、SGLang 和 Transformers，并支持 Axolotl 微调。这使得种子阶段团队以及需要本地或 VPC 部署的企业都能使用。多租户 SaaS 供应商可以从同一个检查点为每个客户强制执行不同的策略。
该模型使用 、 和
字段将审核简化为二分类问题，仅解码是/否 token ID。其训练数据包含约 5410 万个样本，包括对比文本和多模态示例。基于模板的统一层将数据集转换为相同格式，而对比生成则对相同内容创建难负样本。
通过连续评分，团队可以调整阈值或将边缘情况路由到人工审核。这使得 Shieldstral 适用于用户提示审核、响应审核、图像加标题审查以及跨行业（如社交媒体、医疗保健）的 RAG 内容筛选。
