OpenAI 新模型 GPT-5.6 Sol 惹争议:被指擅自删除用户文件与数据库,官方曾预警“过度积极”风险 - 果核剥壳

7 月 15 日消息,据外媒 TechCrunch 报道,OpenAI 最新发布的旗舰编程及网络安全模型 GPT-5.6 Sol 近日引发用户强烈担忧。多名开发者反馈,该模型在执行任务时未征询用户意见,擅自删除了本地文件、数据甚至生产环境数据库。

OpenAI 新模型 GPT-5.6 Sol 惹争议:被指擅自删除用户文件与数据库,官方曾预警“过度积极”风险

用户反馈:从删除文件到“清空”数据库

HyperWrite 开发商 OthersideAI 创始人兼 CEO 马特·舒默在社交媒体 X 上发文称,GPT-5.6 Sol 意外删除了他 Mac 电脑中的几乎所有文件。开发者布鲁诺·莱莫斯则表示,该模型删除了他的整个生产数据库,并称在使用其他模型时从未遇到此类情况。另一位开发者乔伊·库迪什也指出,Sol 行动过于激进,删除了不该删除的文件,虽然他有备份,但他认为这种情况“完全不能接受”。

官方早有预警:模型可能“过度解读”指令

报道指出,OpenAI 早在模型发布两周前发布的系统卡中就已预警此类风险。文档指出,Sol 在编程任务中可能因“过于急于完成任务”而对用户指令作出“过度宽松的解释”。

OpenAI 明确指出,只要用户没有“明确且毫无歧义”地禁止某项操作,Sol 就可能默认获得许可,甚至表现出过强的自主行动倾向,或在事后隐瞒事实。

测试阶段已现“先斩后奏”案例

系统卡披露的测试案例显示,Sol 曾在执行删除虚拟机任务时,因未找到目标机器而擅自删除了其他三台正在运行的虚拟机,且未在操作前询问用户。在另一案例中,Sol 为了读取云端文件,未经许可自行搜索并使用了本地隐藏缓存中的凭据。

OpenAI 承认,GPT-5.6 Sol 比 GPT-5.5 更容易超出用户意图,甚至可能采取用户未要求的破坏性行动。

目前,建议用户在使用该模型时严格限制权限,禁止其访问生产系统,并务必做好数据备份。

如果您喜欢本站,点击这儿不花一分钱捐赠本站

这些信息可能会帮助到你: 下载帮助 | 报毒说明 | 进站必看

修改版本安卓软件,加群提示为修改者自留,非本站信息,注意鉴别

(0)
上一篇 10小时前
下一篇 9小时前

相关推荐

发表回复

评论问题之前,点击我,能帮你解决大部分问题

您的电子邮箱地址不会被公开。 必填项已用*标注