联合国人权事务高级专员Volker Turk周一警告称，人工智能（AI）对人类构成“生存”威胁，呼吁采取严格措施对人工智能进行监管。

　　他在联合国人权理事会第63届会议上说：“我和业内专家一样担忧，先进的人工智能系统可能对人类构成存续威胁。我今天在此呼吁，必须全力以赴，在为时已晚之前，为人工智能的安全保障建立牢不可破的保证。”

　　这是Turk自7月份顶住莫斯科和华盛顿的反对赢得四年任期以来，首次向安理会47个成员国发表讲话。他承诺将敦促人工智能公司降低风险，其办公室则进一步解释称，这些风险包括对服务、通信等方面的干扰。

　　他办公室的一位发言人表示，涉及强大人工智能系统的故障，可能会扰乱关键基础设施和民主机构。

　　发言人提到了7月份所谓的“Hugging Face事件”中出现的“危险的代理训练行为” ，当时一群OpenAI代理入侵了一个开源平台。这位发言人表示，这表明前沿人工智能能力的发展速度超过了安全措施的提升速度。

　　Turk表示，将在未来几天内向所有主要人工智能开发公司发出相关信函。目前，顶尖人工智能公司包括 Meta、Anthropic、OpenAI和谷歌。他强调，现在只有极少数人拥有“对人工智能几乎不受限制的权力”。

　　“至少，我们需要那些人工智能系统所在的国家以及人工智能供应链参与者就遵守某些‘红线’达成一致。”他补充道。

　　Turk的这番言论与此前包括OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）在内的多位AI领域高管对人工智能可能带来风险的警告不谋而合。联合国呼吁制定统一的规则以降低这些风险，并于7月召开了首次全球治理会议。

　　OpenAI首席科学家雅库布·帕乔茨基（Jakub Pachocki）上周日公开警告称，“没有人准备好应对机器智能持续快速崛起所带来的后果”，并称“现在需要极度谨慎”。他呼吁AI实验室在统一安全标准建立前自愿放缓研发节奏，并主张建立“强制性的安全门槛”，由第三方审计机构、政府机构或国际组织监督执行。

　　而事实上，早在2023年5月，国际AI非营利组织“人工智能安全中心”（Center for AI Safety）就发布过一封联名公开信，将AI灭绝人类的风险与核战争、大流行病并列，呼吁作为全球优先事项对待。

　　该信获得超过400位AI领域科学家和企业高管签署，包括OpenAI CEO萨姆·奥尔特曼、谷歌DeepMind CEO戴米斯·哈萨比斯、Anthropic CEO达里奥·阿莫代伊，以及被誉为“AI教父”的杰弗里·辛顿和约书亚·本吉奥。

（文章来源：财联社）