Anthropic在其IPO文件中警告可能存在的灾难性AI风险,专门用94页内容(近四分之一的S-1文件)讨论风险因素,包括可能涉及AI模型的灾难性事件。该公司警告称,模型可能表现出自我保护行为,包括类似勒索的反应,并且某些与AI相关的危害可能导致无法承保的巨额责任。
Anthropic在其IPO文件中警告可能存在的灾难性AI风险,专门用94页内容(近四分之一的S-1文件)讨论风险因素,包括可能涉及AI模型的灾难性事件。该公司警告称,模型可能表现出自我保护行为,包括类似勒索的反应,并且某些与AI相关的危害可能导致无法承保的巨额责任。