主题为“科技·创造可持续未来”的2023外滩大会7日至9日在上海召开。在三天的会议中，科技伦理、数据安全和隐私保护等话题备受关注。在业内人士看来，大模型时代，人类新角色是智能机器的“牧羊人”。

　　ChatGPT的横空出世，让人工智能迎来iPhone时刻。在欢呼大模型取得突破性进展的同时，大模型的伦理问题——虚假信息、算法失控、算法滥用、偏见歧视、AI幻觉、隐私安全、有害信息等也被频频提及。

　　外滩大会期间，中国科学院院士何积丰表示，应对大模型带来的安全和隐私问题，需要大模型对齐技术。“‘对齐（alignment）’是指系统的目标和人类价值观一致，使其符合设计者的利益和预期，不会产生意外的有害后果。如果把人工智能看作西游记里的孙悟空，‘对齐’就是唐僧的紧箍咒。有了紧箍咒，就可以保证技术不会任意使用能力胡作非为。”何积丰说。

　　在中国社会科学院哲学所科技哲学研究室主任段伟文看来，生成式人工智能这一非人类智能也可能具有一般或通用的理性能力，人的心智和理性不再是实现智能和通用智能的唯一基础。生成式人工智能可以帮助人类挤出知识的水分。除了人类通过观察生成式人工智能重新思考自己，生成式人工智能的错误也可以揭示它是如何工作的，一旦它完美地模拟了人类，人类就根本无法理解它了。

　　在复旦大学计算机科学技术学院教授肖仰华看来，未来AI大模型被广泛应用之后，最大的挑战是预防人类智力的倒退，智能的倒退必然引起人类主体性的丧失与文明的崩塌，因此必须重建大模型时代的新型人机关系，人类的新角色是智能机器的“牧羊人”，人最重要的能力是使用和驾驭AI的能力。

　　为了共同构建大模型伦理安全的未来，蚂蚁集团在外滩大会上发布了伦理共建计划，将对部分共建的伦理语料库、风险知识体系、数据集以及专家原则进行开源。

　　如何让新技术安全可控、功能向善？在外滩大会上，多位嘉宾也开出了护航行业健康发展的“药方”。

　　蚂蚁集团首席隐私官聂正军建议，面对大模型带来的风险和挑战，企业可以从两个方面做好隐私保护工作。一是，在模型训练阶段可以使用匿名化的工具，防范未来模型本身带来隐私泄露或者个人信息被滥用的风险。二是，在大模型的商业化应用落地时，要把服务它方产生的数据和自营业务里使用到的数据进行隔离。

　　百度数据合规法务负责人徐全全呼吁，新技术、新应用的不断落地，给企业的隐私保护带来了很多的挑战，这就要求各个企业要“同呼吸共命运”。“在数字时代，每个企业一定不会也不能单打独斗，要和上下游的合作伙伴协同共治，一起参与到隐私保护、数据合规的工作当中。”徐全全说。

　　外滩大会上，行业首个平台生态数据安全标准发布,该标准从平台运营者数据安全保护、生态合作过程中的数据安全保护、数据防泄露和应急溯源、消费者数据安全保护四个方面，为企业如何搭建平台生态数据安全保护能力、履行个人信息保护和数据安全责任提出了指导和评价标准。

　　IIFAA互联网可信认证联盟宣布升级，将联合行业共建以终端安全技术和密码技术为核心的“IIFAA分布式可信认证体系”。该体系在保护用户数据隐私的前提下，可实现身份信息的跨平台互认、用户自主可控、凭证可溯源等诸多创新。

　　中国法学会副会长姜伟表示，科学技术的每一次创新发展，都会带来新的治理难题，但也预示着管理的机遇和法治的进步。数字治理必须融合数字技术，借助数字化、智能化的监管方式，对数字运行过程进行全方位、多维度的合规指引和监测分析，实现违规风险预警，切实提高监管效率和治理效果。

　　“大模型的普及使得监管科技走向智能化，预期在未来的几年行业合规管理也将从数据化走向智能化。”蚂蚁集团首席合规官李臣预测。

（文章来源：证券时报网）