内容合规
内容合规是 1Panel AI 网关发送给上游大模型的请求内容进行安全检测与处置的功能。系统通过敏感词、审核样本等检测方式识别命中内容，并按策略组定义的处置动作执行仅审计或拦截，同时保留全部审核日志供追溯。
本文内容基于 1Panel AI 网关实测验证，截图取自测试环境，实时数据以当前网关配置为准。
1 功能简介
内容合规用于对模型请求内容进行检测与处置，防止违规、敏感或有害内容进入模型调用链路。内容合规通过检测方式识别命中内容，并按策略组定义的处置动作执行仅审计或拦截。
内容合规页面位于侧边栏「内容合规」入口，页面内通过顶部标签切换 4 个管理视图：
敏感词：维护需要检测的敏感词清单。 审核样本：维护用于语义向量检测的样本数据。 策略组：定义检测处置策略，包含处置动作与风险等级。 审核日志：查看全部请求的检测以及处置记录。
2 前提条件
使用内容合规功能前，需满足以下条件：
- 已安装并启动 1Panel AI 网关，并以管理员账号登录后台。
- 网关已产生真实请求流量，审核日志模块才有数据可查。
- 需要在策略组中先创建并启用策略，敏感词与审核样本需归属于某个策略组。
3 功能入口
登录 1Panel AI 网关后台后，在左侧菜单栏中单击 内容合规，进入内容合规页面，默认展示「敏感词」标签页。功能入口位置如 图 1 所示。
4 敏感词管理
敏感词用于按字符串匹配检测请求内容。在「敏感词」标签页可查看敏感词列表，支持按策略组与状态筛选，敏感词列表如 图 2 所示。
4.1 添加敏感词
在「敏感词」标签页单击 添加敏感词，在右侧抽屉中填写敏感词信息，如 图 3 所示。
填写完成后单击 保存，即可将敏感词加入检测列表。
敏感词支持多词条批量添加，可通过 批量导入 一次性录入多条数据；敏感词内容区分大小写，请按实际需要录入。
4.2 批量导入敏感词
当需要批量录入敏感词时，在「敏感词」标签页单击 批量导入，在右侧抽屉中选择策略组并输入多条敏感词，如 图 4 所示。
填写完成后单击 批量导入，即可批量保存。
5 审核样本管理
审核样本用于支撑语义向量检测。当检测方式采用向量相似度时，系统将请求内容与审核样本构建的语义向量进行比对，命中相似样本后按策略处置。审核样本列表如 图 5 所示。
审核样本页提供以下操作：
添加审核样本：录入新的审核样本，样本录入完成后需要构建向量，才可用于检测。 构建选中向量：对勾选的样本生成语义向量。 构建全部向量：为列表中所有样本构建语义向量。
审核样本需先构建语义向量后方可参与语义检测。尚未构建向量的样本在「向量状态」中展示为未构建。
6 策略组管理
策略组用于定义一套完整的检测处置策略。在「策略组」标签页可查看已创建的策略组列表，并支持按动作、风险等级与状态筛选，策略组列表如 图 6 所示。
6.1 添加策略组
在「策略组」标签页单击 添加策略组，在右侧抽屉中配置策略组信息，如 图 7 所示。
策略组动作设置为拦截后，命中内容将直接拦截请求，不向模型发送；仅审计则只记录日志、不做拦截。配置前请确认处置预期。
7 审核日志
审核日志记录所有经过内容合规检测的请求及其处置结果，用于审计追溯。在「审核日志」标签页可按动作、风险等级、检测方式与策略组筛选，并可搜索，审核日志列表如 图 8 所示。
7.1 查看日志详情
在「审核日志」列表单击某条记录的 查看，在右侧抽屉中查看该请求的完整审核详情，如 图 9 所示。
审核详情包含以下信息：
Request ID：本次请求的唯一标识。 审核时间：审核发生的时间。 请求模型：请求所使用的上游模型。 客户端协议：客户端协议类型。 动作：最终执行的处置动作。 风险等级：命中得到的最高风险等级。 状态码：请求返回的状态码。 已移除历史消息：处置过程中是否移除历史消息。 命中详情：各类检测方式命中的策略组、证据、置信度、动作以及风险等级。 策略快照：请求命中时刻对应的策略组配置快照。
在详情抽屉中可单击 查看正文 查看请求的完整内容。
8 注意事项
- 敏感词与审核样本需归属于某个策略组，请先在 策略组 中创建策略并以启用状态运行。
- 策略组动作设置为拦截后，命中内容将直接拦截请求，配置前请确认处置预期。
- 审核样本需构建语义向量后方可生效，新增样本后请及时构建向量。
- 实时数据（请求记录、敏感词条数等）随实际流量动态变化，本文截图中的具体数值仅作示例展示。