8月20日消息，OpenAI今日发布博文宣布，面向符合资格的前沿模型API客户扩展“零数据留存”（ZDR）服务，并以预览版形式推出“私密安全处理”（Private Safety Processing）机制。
OpenAI强调，在ZDR服务下，请求处理完成后不保留任何提示词或模型回复，员工无法审阅，数据也不用于模型训练。然而，随着模型承担更长、更复杂的任务，严重安全风险往往在多轮交互后才会显现。传统的ZDR安全系统通常逐条评估，难以识别跨对话、跨账户的持续试探行为。
为解决这一问题，OpenAI推出了“私密安全处理”机制。该机制利用自动化系统分析关联交互中的风险模式，且全程不让OpenAI员工接触底层内容。客户内容由自身控制的密钥加密，系统仅在识别风险后向OpenAI发送范围受限的安全信号。即使内容被标记，员工仍无法查看，客户可自行调查警报或选择提供信息申诉。
据悉，该机制目前正与早期客户测试，OpenAI计划于9月开始推出该能力并发布技术白皮书。
微信扫一扫 
支付宝扫一扫 