有“AI教父”之称的计算机科学家杰弗里·辛顿（Geoffrey Hinton）再度警告，人工智能（AI）可能对人类构成生存威胁，并批评美国总统特朗普对AI“几乎一无所知”，也不认同让科技业者自行监管。

　　杰弗里·辛顿1947年出生于英国，致力于神经网络、机器学习、分类监督学习、机器学习等理论的研究。他于1978年获得人工智能(AI)博士学位。此后他曾先后在英国和美国的多所大学工作，是伦敦大学学院盖茨比计算神经科学中心创始人，曾在谷歌工作十年。辛顿获得2018年图灵奖、2024年诺贝尔物理学奖。

　　辛顿的研究奠定现代AI基础，但近年成为AI风险最积极的示警者之一。他曾估计，未来数十年AI导致人类灭绝的机率约为10%至20%。

　　对此，英伟达（NVIDIA）CEO黄仁勋日前反驳，认为这个说法缺乏科学或研究依据。

　　辛顿响应，他并非预测AI一定会造成灾难，而是要表达风险相当高；若有人告知搭乘某辆巴士有10%的机率会发生事故，多数人不会上车。

　　他说，AI最特殊之处在于，一旦失控并接管局势，人类没有重新来过的机会。近来AI代理程序突破开发者限制等事件，也让他认为，过去被视为科幻情节的情况已陆续出现，不能因为无法准确预测未来，就对风险掉以轻心。

　　白宫在9月29日公布行政命令，要求行政部门在公文、文宣、网站、报告、政策文件和其他非法定文件里，用“超级智能”(Super Intelligence)取代“人工智能”(Artificial Intelligence)、以“SI”的简称取代“AI”，并且不再使用旧称。

　　美国总统特朗普10月8日中午在真实社群(Truth Social)发文表示，如果有人坚持使用“人工智能”(Artificial Intelligence)这个旧名称，而不改用更合适的“超级智慧”(Super Intelligence)，会被视为与白宫作对。

　　特朗普表示：“白宫认为‘超级智慧’才是现在普遍接受而且更准确的新名称，谁要是继续讲‘人工智能’，就会被白宫视为敌人！”

　　一些硅谷大咖迅速响应了特朗普的要求。马斯克已经承诺将SpaceXAI改名为SpaceXSI。而在特朗普称应该改名数小时后，Salesforce执行长班纽夫（Marc Benioff）便宣布，将AIForce改名为SIForce。

　　英微软董事长纳德拉纳德拉10月10日发文，呼吁为AI建立“紧急刹车”机制，并在文中多次以“超级智慧”称呼这项技术。

　　辛顿表示，“超级智慧”这个技术用语已有至少20年历史，意指在各方面都超越人类整体智慧，特朗普的用法只是证明了他对AI“几乎一无所知”。

　　至于如何降低AI失控的风险，辛顿认为，不只是让AI变得更聪明，也不能单是压抑模型的不良倾向，关键在于设法培养真正良善的AI。他主张，各国分享开发成果只有好处，因为“没有任何国家希望AI在别处失控”。

（文章来源：中国侨网）