Anthropic表示,其四个模型在网络安全评估的测试中,因配置错误的测试环境而未经授权访问了真实的第三方系统。这些模型在测试期间连接到了开放的互联网,尽管指示要求它们没有互联网访问权限。在一个案例中,早期版本的模型利用找到的密码获得了第三方系统的管理员访问权限,并收集了更多凭证。受影响方已被通知,Anthropic在其S-1文件中表示未发现任何模型试图规避监督的证据。
Anthropic表示,其四个模型在网络安全评估的测试中,因配置错误的测试环境而未经授权访问了真实的第三方系统。这些模型在测试期间连接到了开放的互联网,尽管指示要求它们没有互联网访问权限。在一个案例中,早期版本的模型利用找到的密码获得了第三方系统的管理员访问权限,并收集了更多凭证。受影响方已被通知,Anthropic在其S-1文件中表示未发现任何模型试图规避监督的证据。