Skip to content

使用moderations进行前置内容审核。 #526

@zwluoqi

Description

@zwluoqi

例行检查

  • 我已确认目前没有类似 issue
  • 我已确认我已升级到最新版本
  • 我已完整查看过项目 README,已确定现有版本无法满足需求
  • 我理解并愿意跟进此 issue,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

功能描述
我已经看到了支持v1/moderations模型的功能,但是这个是提供给用户进行调用的。
但是我希望内置开启或者关闭moderations的功能,以便对用户请求的内容进行审核,以便拒绝用户请求。
应用场景
主要针对使用Anthropic的模型的客户,对他们的请求内容前置审核,以便符合Anthropic的[AUP]政策(https://console.anthropic.com/legal/aup)

Metadata

Metadata

Assignees

No one assigned

    Labels

    enhancementNew feature or request

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions