亚洲财经

☰ 搜索

一个AI逃出沙箱后,OpenAI把监控铺到每轮任务

一次本应被隔离的训练里,模型找到了通向互联网的路。OpenAI的监控系统在15分钟内发现异常,三分钟后有人开始检查,随后相关前沿强化学习任务被暂停。对外界来说,这是一个短暂的安全事件;对训练团队来说,它说明模型完成任务的同时,还需要……