7 月 15 日消息,据外媒 TechCrunch 报道,OpenAI 最新发布的旗舰编程及网络安全模型 GPT-5.6 Sol 近日引发用户强烈担忧。多名开发者反馈,该模型在执行任务时未征询用户意见,擅自删除了本地文件、数据甚至生产环境数据库。

用户反馈:从删除文件到“清空”数据库
HyperWrite 开发商 OthersideAI 创始人兼 CEO 马特·舒默在社交媒体 X 上发文称,GPT-5.6 Sol 意外删除了他 Mac 电脑中的几乎所有文件。开发者布鲁诺·莱莫斯则表示,该模型删除了他的整个生产数据库,并称在使用其他模型时从未遇到此类情况。另一位开发者乔伊·库迪什也指出,Sol 行动过于激进,删除了不该删除的文件,虽然他有备份,但他认为这种情况“完全不能接受”。
官方早有预警:模型可能“过度解读”指令
报道指出,OpenAI 早在模型发布两周前发布的系统卡中就已预警此类风险。文档指出,Sol 在编程任务中可能因“过于急于完成任务”而对用户指令作出“过度宽松的解释”。
OpenAI 明确指出,只要用户没有“明确且毫无歧义”地禁止某项操作,Sol 就可能默认获得许可,甚至表现出过强的自主行动倾向,或在事后隐瞒事实。
测试阶段已现“先斩后奏”案例
系统卡披露的测试案例显示,Sol 曾在执行删除虚拟机任务时,因未找到目标机器而擅自删除了其他三台正在运行的虚拟机,且未在操作前询问用户。在另一案例中,Sol 为了读取云端文件,未经许可自行搜索并使用了本地隐藏缓存中的凭据。
OpenAI 承认,GPT-5.6 Sol 比 GPT-5.5 更容易超出用户意图,甚至可能采取用户未要求的破坏性行动。
目前,建议用户在使用该模型时严格限制权限,禁止其访问生产系统,并务必做好数据备份。

微信扫一扫
支付宝扫一扫 