聚焦人工智能技术前沿与治理 中外专家学者国际论坛建言献策******

　　中新网北京12月5日电 (记者 孙自法)2021人工智能合作与治理国际论坛“人工智能技术前沿与治理”主论坛，12月5日在清华大学以线上线下结合方式举行，中外人工智能(AI)领域专家学者聚焦人工智能技术前沿与治理这一主题，发表主旨演讲建言献策，并深入研讨交流。

　　美国国家科学院院士、美国艺术与科学院院士、约翰·贝茨·克拉克奖得主、斯坦福大学商学院技术经济学教授、以人为本人工智能研究所副所长苏珊·阿西(Susan Athey)认为，大学在指导人工智能创新方面可以发挥优先引导的关键作用。由于私营部门的技术人员缺乏伦理、哲学方面的训练，难以开发出具有可解释性的算法框架，深化这类研究能够在人工智能治理的问题识别、建立开发实践框架、提供指引等方面发挥重要作用。此外，由于数据可以带来巨大的规模效应，当前“软件即服务”的平台经济模式已非常普及。人工智能和数据需求可能带来“伪”市场集中，因此，未来对“机器换人”的预测非常具有挑战性，需要重新关注和思考人工智能如何用于应对老龄化等公共管理问题，使基于人工智能的公共服务变得更加高效。

　　国际人工智能协会前主席、清华大学人工智能国际治理研究院学术委员约兰达·吉尔(Yolanda Gil)指出，由于人类对智能机制认知不足、智能行为本身的复杂性、观测手段的有限性以及个体知识、职业、信仰、文化背景等的差异性，导致当前人工智能研究中面临着一系列挑战，因此，需要加强人工智能基础研究工作，这需要跨领域、跨学科的共同努力。当前，理解人工智能机理和构建人工智能世界模型是人工智能研究面临的两大挑战。一方面，理解人工智能机理需要构架“感知-思考-行动”的智能模型，加强对大脑思维机理的理解，建议借鉴神经科学研究联合体的有益经验，建立全球性的人工智能研究数据库，形成全球共享的研究社区。另一方面，构建人工智能世界模型则需要建立在人类经验、社会习俗、专业技能的基础上，建议建立类似于自由协作式的知识库，通过全民民众参与，推动知识在全球层面共享。

　　中国科学院院士、清华大学人工智能研究院名誉院长、清华大学人工智能国际治理研究院学术委员张钹表示，由于深度学习等算法存在不可解释性，导致前两代人工智能算法存在着公平性、安全性问题和不可靠、不可信等缺陷。发展第三代人工智能关键在于发展可解释的、鲁棒的人工智能理论和方法，开发安全、可信、可靠、可扩展的人工智能技术，以“数据驱动+知识驱动”构建支持可解释的人工智能算法的深度学习平台，赋能人工智能安全与防御优化。从数据中真正获取智能要靠知识的帮助与引导，并需要政策法规对数据使用的正确规范，充分利用知识、数据、算法和算力四个要素结合，推动人工智能的创新发展。

　　中国工程院院士、北京大学信息科学技术学院院长、鹏城实验室主任、清华大学人工智能国际治理研究院学术委员高文认为，当前人工智能发展处于新一代人工智能向强人工智能发展的关键阶段，至2030年，中国人工智能发展总体要达到世界领先水平。从战略问题看，中美欧三方在人工智能人才、研究、开发、应用、硬件、数据等方面竞争激烈，当前中国人工智能发展在战略政策、数据资源、应用场景、潜力人才方面具有优势，而在基础理论、原创算法、关键部件、国际平台、高级人才等方面还存在短板。从战术问题看，人工智能2.0需采用基于大数据的统计AI解决大规模AI应用需求，鼓励各种可能的强人工智能探索，“可解释机器学习+推理”和“仿生系统+AI大算力”是可能的技术路线图；在安全问题层面，强人工智能的安全风险主要来源于模型的不可解释性、算法和硬件的不可靠性和自主意识的不可控性，人工智能2.0应采用DPI与“防水堡技术”解决数据安全与隐私保护，重视探索人工智能伦理问题，并基于“理论-技术研究-应用”的阶段性采取不同的风险防范策略。

　　美国国家工程院外籍院士、英国皇家工程院外籍院士、清华大学高等研究院双聘教授沈向洋表示，AI已经应用于生活和工作的方方面面，目前甚至在法律上也具有一定的应用，比如美国已经有很多法庭用机器学习和人工智能方法帮助判刑，包括决定刑期这样非常重要的问题。但是我们还无法理解一些AI决策的缘由。未来发展过程中我们不能只看见AI决策的“黑箱”，应该打开“黑箱”，探究和理解其中的具体内容和因果关系，我们一定要做可解释性的AI。同时，他提到负责任的AI应具备公平性、可靠性、隐私性、包容性、透明性和责任性的特点，作为新兴领域，还需要向其他领域学习，从而更好的服务于人类。

　　中国工程院外籍院士、清华大学智能产业研究院院长、人工智能国际治理研究院学术委员张亚勤指出，“碳中和”是人类能源结构的又一次变革。“碳中和”既是可持续发展的必然选择，又是产业结构调整和发展的重大机遇。企业在“碳中和”背景下都面临转型增效的压力。人工智能+物联网是智联网，智联网可以赋能绿色计算，助力“碳中和”。智联网助力“碳中和”主要包括三个环节：首先，由数据驱动和人工智能优化引擎来实现智能决策。其次，多参数全链系统配置优化。最后，通过多源多维异构感知融合实现智能感知。智联网可用于能源融合、降低ICT产业的碳排放和推动新兴产业发展等。他还介绍了智联网赋能的绿色计算平台的框架，该平台包括人工智能驱动节能减排和高能效人工智能系统，应用路径包括绿色园区和工业节能。

　　2021人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院承办，国际支持机构为联合国开发计划署。论坛为期两天，设有三场主论坛、一场特别论坛和七场专题论坛。“人工智能技术前沿与治理”主论坛由清华大学计算机科学与技术系教授、人工智能研究院常务副院长孙茂松主持。(完)

军事科学院徐馥芳：要有勇闯科技“无人区”的胆识******

　　光量子干涉实物图。图片来自新华社

　　党的二十大报告在总结十年来的重大科技创新成果时，再一次提到了量子信息。近年来，“墨子号”“九章”“祖冲之号”等一批量子信息领域的成果集中涌现，我国量子科技实现从跟跑、并跑，到部分领跑的重大历史性飞跃，量子科技发展的体系化能力正在稳步建立。

　　量子力学自1900年诞生以来，打开了人类认识世界的一扇新的大门。第一次量子革命，量子力学催生了晶体管、激光等重大发明。近年来，以量子计算和量子通信为代表的第二次量子革命兴起，极大地影响和改变着人类的生活。

　　本期科技访谈录，我们邀请到军事科学院量子技术方向学科带头人、国防科技创新研究院前沿交叉技术研究中心副研究员徐馥芳，请他谈一谈神奇的量子世界，展望量子科技发展的宏阔未来。

　　量子之美，美在未知

　　记者：习主席在党的二十大报告中，把量子信息列入新时代十年重大科技创新成果之一。量子信息是什么？它和我们经常提及的量子科技有什么关系？如今我国在量子信息领域都取得了哪些重要成就？

　　徐馥芳：量子信息是量子物理学和信息科学交叉催生的技术领域。它利用微观体系的量子效应，实现信息的高灵敏感知、安全传输和高速处理。量子信息主要包括量子通信、量子计算和量子精密测量等3个典型技术分支。

　　量子科技是一个更宏观的概念。它指的是量子力学建立后催生和发展起来的一系列科学与技术。随着量子信息技术的发展，量子科技发展进入新阶段，第二次量子革命兴起。这是一次巨大的飞跃，直接或间接改变和提升着人类获取、传输和处理信息的方式和能力。

　　近年来，我国在量子信息领域取得了很多重大成果。在量子通信领域，我国实现了光纤量子保密通信应用演示与验证的“京沪干线”，成功发射了“墨子号”量子卫星；在量子计算领域，我国实现了“九章”光量子计算原型芯片和“祖冲之号”超导量子技术原型系统；在量子探测领域，我国多个单位研制的冷原子干涉重力测量样机在国际重力比对试验中都取得了优秀成绩，针对水下目标探测的量子磁力探测样机已经针对典型场景开展了测试，等等。

　　记者：我们知道，量子力学是描述微观物理世界的理论。在您的眼里，又或者说在您的想象里，量子世界有多美？

　　徐馥芳：量子世界之美，在于它的神秘与未知。在量子的概念提出之前，我们对微观世界的认识，往往基于对宏观世界的理解之上。受到物理学自身限制，我们无法直接观测微观世界，甚至借助光学、电子学显微镜等也只能观测到皮毛。如今，了解过量子测量的我们都知道，量子测量会对被测量子系统产生影响；处于相同状态的量子系统被测量后可能得到不同的结果。这种因果颠倒的试验结果听来近乎玄幻，也是诸多科学家无法用经典物理学理论解释黑体辐射实验的原因。

　　在量子世界，很多经典物理学中不存在的物理状态变得可能。量子力学直接颠覆了我们对整个世界的认知。一个全新的世界在我们面前徐徐打开，太多的未知等待着我们去探索。这怎能不令人欣喜？

　　如今，还有许多物理现象难以被我们理解，比如量子隧穿、电子自旋、电子轨道跃迁、单电子自身干涉、测量导致的坍缩、共轭物理量无法同时精确测量（海森堡测不准原理），等等。这些都是量子世界里的一扇扇神秘的“大门”，一旦打开走进去，里面可能是一个更加幽远深邃的“洞天”。

　　但是，量子世界的神秘，或者说对量子世界的疑惑，并不足以使我们怀疑量子力学。量子力学的一部分已经得到实验验证，基于量子力学发展起来的科学与技术，已经极大地改变了我们的社会，并将继续服务于人类社会生活。

　　量子概念图。资料图片

　　对未来世界的影响，将远超你的想象

　　记者：有句俗话说，“遇事不决，量子力学”。量子似乎已经走进了人们的日常生活，又似乎还很遥远。您怎么看？

　　徐馥芳：很多时候，我们会觉得量子力学离我们很远。这一略带神秘、略显高深的学科，告诉我们微观世界中存在一些超导、超流、纠缠等神奇的量子效应，一般人很难理解。虽然一直都在说量子科技正在走进我们的生活，但是这一过程，往往以基础科学的形式在起作用。量子力学指导和推动了电子技术和信息技术的发展，但是我们的科学家、工程师和用户并不一定需要对量子力学懂太多。传统的学科还在将技术进一步推向前沿，仍有在不引入量子力学的情况下的进步空间。或者更直白地说，期望改变世界的量子信息技术，目前许多还停留在实验室阶段或者初步应用阶段，有待进一步突破。

　　另一方面，量子力学其实离我们又很近。我们周围的物质，包括我们的身体和大脑都是由原子分子构成的，它们在微观上遵守的是量子力学的规则。我们享受的现代科技产品，手机、电脑等都是量子力学指导的产物。近年来，随着量子信息技术的快速发展，量子通信、量子计算、量子精密测量领域都取得了一些重大进展，相关的科技产品正在加速走进我们的生活。

　　当然，我们更需清醒地看到，量子技术在向世界展现出其强大能力和发展潜力的同时，也面临巨大挑战。这其中，不仅有来自对量子态的长时间维持和精确调控等人类改造世界能力的挑战，更牵扯到物理学基础理论等人类认识世界能力的挑战。也许，还需经过漫长的时间，有新材料、新机理等特殊契机出现后，量子技术才能真正向世界显示其威力。

　　记者：请您设想一下，量子信息技术会给我们的未来生活带来怎样的改变？

　　徐馥芳：量子信息技术对未来世界的影响，将远超你的想象。在量子信息技术的3个分支中，量子精密测量和量子通信发展得相对成熟，已经从实验室“飞入寻常百姓家”。而难度最大的量子计算，发展仍处于早期阶段，距离商用普及仍有较长距离。我们乐观估计，还要20年以上的时间才能实现。

　　量子计算是量子信息技术中最综合的一个技术分支，也是对信息技术冲击最大的一个分支。从算盘时代发展到冯·诺依曼架构的电子计算机时代，人类社会发生了翻天覆地的变化。从经典计算机到量子计算机，“量子比特”取代了经典的“比特”，量子计算机在理论上具有秒杀所有传统计算机的计算能力。可以想象，一旦通用量子计算机发展起来，人类社会又将再次经历巨大变化。网络信息安全、大数据和人工智能、化学生物制药、金融工程、智能制造等领域都将因为量子计算机的巨大信息处理能力，发生颠覆性改变。

　　有没有勇闯科技“无人区”的胆识，决定了我们未来能走多远

　　记者：在钻研量子技术的道路上，您遇到最艰难的挑战是什么？

　　徐馥芳：从我的经历来看，最艰难的往往是起步阶段。我们这个团队是伴随着2017年新军事科学院调整组建而成立的一个研究团队，刚刚成立时，团队只有几个人，来自全军不同的单位。我还清楚记得，大家刚来到单位的时候，办公场地都是临时借用的，第一份项目申报书，是在临时租借的宿舍中完成的。但大家都没有被这些现实困难吓倒，科研经费有限，就省吃俭用买设备买器件；团队人才短缺，就想方设法引进、培养青年人才……几年时间过来了，我们的团队已经相对稳定成熟，科研条件有了很大改善，也取得了不少研究成果。

　　回顾这段从零起步的创业历程，我最大感触是，我们这一代科研人员赶上了一个好时代。在国家高度重视科技创新的大背景下，在党中央和中央军委的相关政策扶持下，在军事科学院良好的科研氛围下，我们团队可以瞄准一个目标，心无旁骛地共同努力。在这种环境下，拼搏也成为内在的自发本能。

　　记者：您认为，研究量子技术和其他科学技术有什么不同？研究量子技术需要怎样的科学精神？

　　徐馥芳：由于量子物理的概念与宏观世界完全不同，从事量子技术研究需要经过科学的系统训练，接受其独特的逻辑和技术方法。量子力学是一门完备的、严谨的科学。没经过系统训练，利用学习到的部分量子概念，结合自己的现实经验看待或处理问题，很容易走入歧路，产生错误观点。

　　现在社会上对量子技术存在着两种极端理解：一种是认为量子技术是骗子技术，所有的都是假的，不认可量子力学的正确性，或者认可量子力学但不认可量子技术；另一种认为量子技术是万能的，会彻底颠覆现在的电子技术和信息技术。这两种理解毫无疑问都是错误的。量子力学是一门基础学科，我们需要理性认识基于量子力学发展起来的量子技术，尤其是方兴未艾的量子信息学。它是一门全新的交叉学科，它的发展将成为我们传统信息技术的有力补充，并成为信息技术深化发展的基础。

　　从我长期从事量子技术的经历来看，我认为，研究量子技术，一是需要科学严谨的态度，能够严格依据量子理论进行推理和验证，进行试验设计和现象解释；二是需要前瞻的洞察力，量子世界的现象和规律与我们熟悉的经验世界完全不同，对研究中碰到的问题，必须敢于大胆假设，勇于创新，小心求证；三是需要持之以恒的韧劲，在研究量子信息技术时，科学难题和工程技术难题同在，很多时候在短期内都难以出重大应用成果。中国古人常讲“十年磨一剑”，但在这个领域，有可能十年都难磨一剑，所以必须沉下心来埋头苦干。

　　在科学研究上，有时看似下的是慢功夫，实则走的是快车道。量子技术是一门非常前沿且深奥的学科，目前虽然已经有了一些研究成果，但还有更多的“无人区”等着我们去探索。当我们与世界同行站在同一起跑线上，有没有勇闯科技“无人区”的胆识，决定了我们未来能走多远。

　　文字整理：张志华