CSIG自然科学奖授予在我国图像图形领域基础研究和应用基础研究中阐明自然现象、特征和规律，做出重大科学发现的个人和团队。

为宣传科技工作者积极进取的工作精神，聚焦获奖团队背后的故事，学会近日对荣获2024年度CSIG自然科学奖一等奖“动态神经网络构建与自适应推理方法”的项目团队进行了专访，以对话的形式，为读者们提供一次了解他们的机会。

下面就跟着我们的脚步，走近今天的受访团队吧。

问题一：首先非常感谢各位老师接受我们的采访，请先介绍一下团队成员：

本团队成员在完成该项目期间，均工作于或就读于清华大学自动化系工业智能与系统研究所。

黄高，现为清华大学副教授，博士生导师。主要研究领域为深度学习、多模态学习、强化学习等。共计发表学术论文100余篇，被引7万余次，提出的代表性深度卷积网络DenseNet单篇引用5万余次。主持基金委优青项目、联合重点项目和国家重点研发计划青年科学家项目等。获CVPR最佳论文奖、CVPR最佳论文提名、达摩院青橙奖、世界人工智能大会SAIL奖、教育部自然科学一等奖、吴文俊人工智能自然科学一等奖、亚洲青年科学家奖、AI 2000人工智能最具影响力学者、《麻省理工科技评论》“35岁以下科技创新35人”等，担任IEEE T-PAMI、IEEE T-BD、Pattern Recognition等国际重要期刊编委和CVPR、ICCV、NIPS、ICML等人工智能顶级会议领域主席。

杨乐，现为西安交通大学助理教授、硕士生导师。主要研究领域为计算机视觉、高效深度学习、人工智能安全等，发表相关学术论文30余篇，包括CVPR、IEEE TNNLS、IEEE TCSVT等，Google引用1700余次，参与拟定ITU国际标准1项；获2021年博士后创新人才支持计划；主持科技部人工智能重大专项子课题、国家自然科学基金青年基金项目、CCF-BAIDU松果基金等项目。

王语霖，现为清华大学自动化系博士生，主要研究方向为高效深度学习模型与算法。在TPAMI、IJCV、NeurIPS、CVPR等人工智能领域高水平期刊及会议上发表学术论文20余篇，其中以第一作者/学生第一作者发表TPAMI论文 4篇、IJCV论文 1篇，谷歌学术引用2600余次。获百度奖学金（全球10人）、微软学者（亚太地区12人）、CCF-CV学术新锐奖（全国3人）、字节跳动奖学金（全国10人）、博士国家奖学金（2次，清华大学top2%）、CVPR Outstanding Reviewer等荣誉。学术成果应用于中国移动、阿里巴巴等企业的实际业务场景，获中国移动“前沿探索奖”。

韩益增，现为阿里巴巴达摩院算法专家。研究方向为动态神经网络和高效的视觉感知与生成，在人工智能和计算机视觉领域发表20余篇CCF-A类期刊和会议论文，谷歌学术引用1800余次，第一作者单篇最高被引700余次。获清华大学国家奖学金、北京市优秀毕业生、清华大学优秀毕业生、清华大学优秀博士毕业论文。

宋士吉，清华大学自动化系教授、博士生导师、教育部长江学者特聘教授，工业智能与系统研究所所长，中国人工智能学会智能控制与管理专委会副主任、中国指挥控制学会智能无人系统专委会副主任、中国海洋学会深海技术分会副理事长、中国大洋协会理事；获教育部自然科学奖等省部级一等奖5项；IEEE Transactions on SMC编委、IEEE TEMS SMD共同主席；主持完成国家自然科学基金重大仪器、重点项目、科技部新一代人工智能重大项目等，发表国际权威期刊论文300余篇。

问题二：了解完了团队内的各位老师，请为大家简单的介绍一下项目的情况： 

以大模型为代表的深度学习算法的计算效率瓶颈已成为国内外学术界和产业界共同关注的挑战性难题。2023年，“低能耗人工智能”入选中国科协发布的十大前沿科学问题。动态神经网络受人类自适应感知模式启发，是有望从根本上突破当前人工智能系统的能耗瓶颈并实现能效跨数量级提升的重要技术途径。本项目聚焦动态神经网络构建与自适应推理方法的关键科学问题，提出了支持动态计算的特征复用机制与多尺度多出口新型神经网络架构，为实现高效动态计算范式奠定了网络架构基础；阐明了基于视觉特征尺度的样本差异化区分机理，提出了基于样本分辨率自调节的渐进式动态推理方法；建立了面向视觉识别任务的序贯决策模型，提出了基于强化学习和可变形注意力机制的时空动态聚焦推理范式，实现了神经网络在时空维度的高效自适应计算，并提供了研究模型可解释性的新思路。

问题三：请问各位老师在科研过程中，有没有什么好的方法可以推荐给大家？ 

1. 广泛阅读文献。原创性的工作都是建立在对学术研究的脉络、热点和空白充分了解的基础上，通过对文献进行批判性阅读，洞察现在工作的不足，吸收借鉴其优点，进而产生的创新。好的科研一定是“站在巨人的肩膀上”往前看。因此，广泛的阅读文献，学习前人、同行的优秀工作，是做好科研的前提。本项目的顺利开展，正是得益于学习借鉴了神经网络架构设计、优化算法、强化学习乃至脑与认知科学等方向的大量前期工作。

2. 从实际应用中找真问题和真需求。深度学习正在经历百花齐放的阶段，不仅是学术界的研究热点，在工业界也得到了非常广泛的应用。在选择研究方向的时候，我们非常乐于与工业界进行交流，尽可能找他们真正面临的痛点问题，再从中提炼科学问题来开展研究。因为这些的问题才是具有生命力、能够产生深远影响的研究课题。

问题四：在项目的研究过程中有遇到什么困难吗？大家是如何解决的？ 

神经网络的研究已经历经了半个多世纪，尤其是近十年取得了突飞猛进的进展。但主流的神经网络还是采用静态计算的范式，即网络在训练完成之后，其结构和参数均不再发生变化。这使得神经网络对不同的数据样本（或者样本的不同时空区域）分配均等的计算量，造成了大量的冗余计算。动态神经网络借鉴了生物大脑的结构动态、时空动态机制，在提升深度学习模型的效率方面具有非常大的潜力。然而，现有的模型架构、训练与推理算法、平台框架乃至芯片硬件都是为静态网络设计和优化的，与动态计算的范式存在诸多不兼容之处。为了解决上述挑战，项目组一方面从神经网络的宏观、微观底层架构入手，解决模型结构不适配的问题。另一方面，通过引入强化学习或者近似优化的思路，解决动态神经网络中离散参数优化难的问题。此外，我们还与从事芯片硬件设计与优化的团队合作，利用算法-软件-硬件协同优化的方式，提升动态神经网络在实际硬件上的亲和性。

问题五：最后，大家有什么获奖感言想说呢？

非常荣幸获得拉斯维加斯手机娱乐网站 自然科学奖，感谢学会提供的平台以及奖励评审委员会对项目成果的认可。感谢团队的所有成员，以及在科研道路上帮助过我们的师长、同行以及学生们。这个奖励是一项荣誉，更是一份鞭策。我们将继续努力，做有价值和影响力的科研。