安全检查

我们对模型及其使用方式运行多种类型的评估。本指南涵盖了我们如何进行安全测试以及您可以采取哪些措施来避免违规。

针对 GPT-5 及后续模型的安全分类器

随着 GPT-5 的推出，我们增加了一些检查机制，以发现并阻止对危险信息的访问。某些用户很可能会尝试将您的应用程序用于违反 OpenAI 政策的用途，特别是在应用场景广泛的情况下。

安全分类器流程

1. 我们将 GPT-5 的请求划分为不同的风险阈值。
2. 如果您的组织重复达到高风险阈值，OpenAI 将返回错误并发送警告电子邮件。
3. 如果请求在规定的时间阈值（通常为七天）后持续存在，我们将停止您的组织对 GPT-5 的访问。请求将不再生效。

如何避免错误、延迟和封禁

如果您的组织从事违反我们安全政策的可疑活动，我们可能会返回错误、限制模型访问，甚至封禁您的账户。以下安全措施有助于我们识别高风险请求的来源，并封禁单个最终用户，而不是封禁您的整个组织。

• 对于单个用户与模型交互的产品，请实施安全标识符 (safety identifiers)。建议但不强制要求使用安全标识符。
• 如果您的用例需要访问我们服务的限制较少的版本，以便在生命科学领域进行有益的应用，请阅读我们的特殊访问计划，查看您是否符合条件。

为单个用户实施安全标识符

safety_identifier 参数在 Responses API 和较旧的 Chat Completions API 中均可用。Realtime API 通过 OpenAI-Safety-Identifier 请求头支持相同的概念。要使用安全标识符，请在每次请求时为您的最终用户提供一个稳定的 ID。请对用户邮箱或内部用户 ID 进行哈希处理，以避免传递任何个人信息。

安全标识符不会在不同的 API 或会话之间传递。如果您的应用程序已经在 Responses API 请求中发送了 safety_identifier，请在创建或连接每个 Realtime 会话时分别传递相同的稳定值。

1
2
3
4
5
6
7
8
from openai import OpenAI
client = OpenAI()

response = client.responses.create(
model="gpt-5.4-mini",
input="This is a test",
safety_identifier="user_123456",
)

1
2
3
4
5
6
7
8
curl https://api.openai.com/v1/responses \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-d '{
"model": "gpt-5.4-mini",
"input": "This is a test",
"safety_identifier": "user_123456"
}'

1
2
3
4
5
6
7
8
9
10
from openai import OpenAI
client = OpenAI()

response = client.chat.completions.create(
model="gpt-5.4-mini",
messages=[
{"role": "user", "content": "This is a test"}
],
safety_identifier="user_123456"
)

1
2
3
4
5
6
7
8
9
10
curl https://api.openai.com/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-d '{
"model": "gpt-5.4-mini",
"messages": [
{"role": "user", "content": "This is a test"}
],
"safety_identifier": "user_123456"
}'

1
2
3
4
5
6
7
8
9
10
curl https://api.openai.com/v1/realtime/client_secrets \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-H "OpenAI-Safety-Identifier: user_123456" \
-d '{
"session": {
"type": "realtime",
"model": "gpt-realtime-2"
}
}'

潜在后果

如果 OpenAI 监控系统识别出潜在的滥用行为，我们可能会采取不同程度的行动：

• 流式响应延迟
  • 作为针对可能违反政策的用户的初步且后果较轻的干预措施，OpenAI 可能会在返回完整响应给该用户之前，推迟流式响应并运行额外的检查。
  • 如果检查通过，流式传输开始。如果检查失败，请求将停止——不会显示任何 token，流式响应也不会开始。
  • 为了提供更好的最终用户体验，建议在流式传输延迟的情况下考虑添加加载转圈动画。
• 封禁单个用户的模型访问权限
  • 在发生高置信度的政策违规时，相关的 safety_identifier 将被完全禁止访问 OpenAI 模型。
  • 该安全标识符在后续所有针对同一标识符的 GPT-5 请求中都会收到 identifier blocked（标识符已封禁）错误。OpenAI 目前无法解封单个标识符。

为了使这些封禁有效，请确保您有相应的控制措施，防止被封禁的用户简单地注册一个新账户。提醒您，您的组织若发生重复的政策违规，可能会导致整个组织失去访问权限。

我们为何这样做

具体的执行标准可能会根据不断发展的现实世界使用情况或新的模型发布而改变。目前，OpenAI 可能会限制或封禁涉及高风险或可疑生物学或化学活动的安全标识符。有关我们如何处理更高水平生物学 AI 能力的更多信息，请参阅我们的博客文章。

其他类型的安全检查

为了帮助确保您在使用 OpenAI API 和工具时的安全，我们会在我们自己的模型（包括所有微调模型）以及“计算机使用”(computer use) 工具上运行安全检查。

了解更多

• 模型评估中心
• 网络安全
• 微调安全
• “计算机使用”中的安全检查