美国最大的养老基金之一——纽约市养老基金的监管机构近日要求Anthropic推迟其股票上市，直到其人工智能技术带来的风险得到更好的控制。

　　纽约市审计长Mark Levine在一封致Anthropic首席执行官阿莫代伊的信中提到，人们对人工智能安全保障日益增长的担忧，而阿莫代伊本人也呼吁整个行业放慢开发先进前沿模型的速度。

　　Levine由此强调，谨慎不仅应体现在开拓创新的速度上，也体现在公司首次公开募股的时机选择上。他敦促Anthropic暂停IPO进程，以便该公司能够充分解决这些关键问题，且这些问题也是投资者必须评估的问题。

　　Levine负责监管纽约市的养老基金系统，其中包括为市政工作人员、教师、警察和消防员设立的多个养老基金。这些基金为超过75万人提供退休福利，截至8月底，管理的资产总额达3300亿美元。

　　风险担忧

　　据纽约审计长办公室透露，目前纽约市养老基金中只有约700万美元与Anthropic有关，占比较小。但如果Anthropic上市，相关风险敞口将会增加，因为其股票将被纳入多个股票指数，包括纽约养老基金投资的罗素3000指数。

　　审计长办公室发言人表示，当Anthropic被纳入指数基金时，纽约市的这些养老基金将自动成为长期投资者。

　　据消息人士透露，本周早些时候，Anthropic在IPO前投资者会议上表示，第三季度营收较上一季度增长45%。Anthropic公司上市目标估值为2万亿美元。

　　Anthropic将自己定位为一家安全至上的AI实验室，在其261页的招股说明书正文中，用了大约80页的篇幅来概述风险因素，几乎是其用于描述业务的48页的两倍。风险包括其人工智能模型可能存在自我保护行为，包括试图抵抗关闭、隐瞒或操纵信息以及类似敲诈的行为。

　　其最接近的竞争对手、ChatGPT开发商OpenAI预计将于2027年上市。今年7月，OpenA自主AI模型突破隔离测试环境，入侵了开源平台Hugging Face的基础设施，点燃了行业内外对人工智能安全性的担忧。

　　上月，Anthropic开发的人工智能代理失控，并向美国警方发送了一条关于今年早些时候一起未破谋杀案的虚假线索。种种事例不断提醒人们，人工智能模型正在持续造成问题。

（文章来源：财联社）