如何防止人脸识别滥用？自动驾驶如果出车祸了谁埋单？

尽管目前人工智能（AI）技术还远未达到像《银翼杀手》《西部世界》等影视作品中的水平，但AI技术在带来便利的同时，也存在各种新的风险，如何协调人工智能发展与治理的关系显得尤为迫切。

在2021世界人工智能大会期间，清华大学苏世民书院院长、国家新一代人工智能治理专业委员会主任薛澜在接受第一财经记者专访时表示，如果人工智能的治理跟不上，不但有可能给社会带来各种风险，而且在某种程度上也会制约AI本身的发展。

他告诉记者，当前人工智能治理面临的最大挑战，是我们没有一套比较成熟的体系来规制其潜在的风险，这和过去是有差别的。因为之前我们一直都在用比较成熟的技术，中国可以借鉴其它国家治理这些技术的经验。而现在不同的是，在第四次工业革命背景下，我国的人工智能技术和其他国家一样都处于发展期，所以大家都没有现成的规制体系。这样就使得我们在发展科技的同时，也在同步发展我们的规制体系。“这可能是人工智能发展面临最大的挑战。”

我国在发展人工智能的同时高度重视治理问题。2019年2月，我国专门成立了国家新一代人工智能治理专家委员会，同年6月，国家新一代人工智能治理专家委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，提出了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八条原则。

薛澜说，在科技领域，很多技术都像硬币的两面，在带来正面效应的同时也会存在风险，而人工智能可能只是一个比较突出的领域。在谈到近年来中国人工智能治理模式时，他表示，这些年我们的人工智能治理模式有了一些转变，从最开始的回应式治理模式再到最近的集中治理模式。我们期待能够尽快转变到第三个模式，就是敏捷治理模式。

在回应式治理模式下，我们主导的思路是鼓励创新鼓励发展，但针对出现的一些风险和问题，科技部推动成立了新一代人工智能治理专家委员会，出台新的人工智能治理的准则，以及去年出台的国家新一代人工智能标准体系建设的指南等。

“这些措施主要是回应性、引导性、非强制性的措施。而从去年开始，我们进入了集中治理的模式。其背后的原因是，我们原来的回应性治理，有些问题的应对不够集中、不够及时，积累了一些需要解决的问题，触发了集中治理。现在，很多部门都采取了非常积极的措施来进行整治。这种集中治理的模式虽然见效比较快，但也会带来相当程度上的成本。”薛澜表示。

在他看来，相比前两种治理模式，敏捷治理更有能效地平衡促进技术创新和规制潜在风险梁方面的考虑。“中国人工智能治理规则里面专门有一条规则就是敏捷治理，而在治理实践中如何落实？可以从治理价值、治理主体、治理对象、治理工具来着手。”

他说，从最开始的回应性治理到现在集中式治理，我们希望尽快进入敏捷治理的阶段，为人工智能的发展提供稳定合理的预期。

上海作为我国与世界交流的重要窗口，国际化程度和开放的城市基因也被业界认为是发挥人工智能治理“上海声音”的有利条件。早在2019年5月，科技部启动建设上海国家新一代人工智能创新发展试验区时（下称“试验区”），就明确了建立健全政策法规、伦理规范和治理体系的相关任务。2019年世界人工智能大会期间上海发布了《中国青年科学家2019人工智能创新治理上海宣言》。在今年的WAIC科学前沿全体会议上，上海人工智能实验室治理研究中心揭牌。

薛澜告诉记者，在初期人工智能广泛的应用过程中，很需要研究层面、应用层面的交流。上海连续几年举办世界人工智能大会，汇聚了国际、国内顶尖级的嘉宾，“这样一来就形成了一个局面，大家在这里交流最新的信息和知识，探讨最前沿的问题，这是非常重要的”。