Anthropic CEO回应“拒签公开信”争议：从未主张禁止开放权重，但呼吁加强安全测试 - 果核剥壳

7月28日消息，针对近期业内关于“开放权重”AI模型的激烈讨论，Anthropic CEO Dario Amodei今日正式发声，澄清公司立场。

此前，包括英伟达、Meta、微软、OpenAI、谷歌及SpaceX在内的20多家科技公司签署了《开放权重与美国AI领导力》公开信，表示支持开放权重AI模型。Anthropic因迟迟未签而成为“众矢之的”，甚至被指责试图通过禁止开放权重模型来保护自身商业利益。

对此，Amodei发表题为《我们对开放权重模型的立场》的文章进行回应。他明确表示，Anthropic从未主张过对开放权重模型的禁令，并认为保护主义禁令无法解决国家安全问题。他指出，不包含危险功能的开放权重模型属于“公共资产”，能为开发者和研究人员创造价值。

然而，Amodei也表达了对安全性的深切担忧。他不同意“开放权重必然更有利于防御”的观点，并以生物学为例警告称，强大的模型可能让攻击者利用现成材料制造大规模杀伤性武器，而防御方则需要数年才能应对。因此，他倡导对所有模型（无论开源闭源）实施强制性安全测试，并严厉打击工业规模的蒸馏操作，通过严格的发布前测试来验证风险，而非基于假设进行监管。