对话王国豫：全球AI治理，中国不断给出答案

【“科协十一大”精神学习进行时】

近日，国家科学技术奖励大会、两院院士大会、中国科协第十一次全国代表大会在北京隆重召开。习近平总书记出席并发表重要讲话，对加强科技伦理和安全治理作出重要指示。

7月17日至20日，2026世界人工智能大会在上海举办，大会聚焦人工智能向善普惠发展，围绕AI全球治理、伦理风险与可持续发展等议题汇聚共识、探寻路径。

值此契机，中国科协之声访谈王国豫教授，围绕AI全球治理、科技伦理建设、学风育人、国际合作等议题展开深度解读。

人物简介

王国豫  复旦大学哲学学院教授，中国科协—复旦大学科技伦理与人类未来研究院院长，复旦大学全球人工智能创新治理中心国际战略专家委员会副主席。兼任全国应用伦理专业学位研究生教育指导委员会主任委员，国家科技伦理委员会医学伦理分委员会委员，以及上海市人工智能伦理与治理专家委员会委员。是《AI Ethics:A Cross-Cultural Dialogue》《科技伦理研究》等书的主编。长期深耕技术哲学、科技伦理、生命医学伦理与人工智能伦理交叉研究，坚持理论研究对接技术治理现实需求，倡导将伦理规范嵌入人工智能全生命周期治理体系。

伦理嵌入AI全过程

中国科协之声：本次世界人工智能大会期间，举办了题为“人工智能全球治理与可持续发展：挑战与应对”的分论坛，聚焦AI全球治理与可持续发展，结合习近平主席关于健全科技伦理治理体系的重要讲话和“科协十一大”相关会议精神，您作为中国科协—复旦大学科技伦理与人类未来研究院院长，本次参会最想传递怎样的核心观点？

王国豫：习近平主席在2026世界人工智能大会上的主旨讲话中指出，当前世界百年变局加速演进，新一轮科技革命和产业变革加速突破。AI既蕴含巨大机遇，也面临治理挑战。“人类不得不直面时代之问：当机器开始思考，人类如何与之相处？当算法参与决策，安全如何保障？当技术挑战伦理，治理如何跟上？当鸿沟不断拉大，普惠如何实现？”习近平主席提出的这些“时代之问”，为人工智能伦理治理提供了根本遵循和行动指南。

中国科协与复旦大学在2022年11月布局的科技伦理与人类未来研究院，可以说是生逢其时。对于科技伦理研究者来说，这既是机遇也是挑战。当前，AI正从单一工具变成嵌入生产生活和社会治理的基础设施，伦理不能只停留在外部原则指引和事后纠偏。我最想传递的观点是：要让伦理成为人工智能的“基因编码”，贯穿研发、部署、应用和评估全生命周期；既要有外部的制度规范，也要有内在的价值培育，实现外在规约与内在自觉的“双向奔赴”。

王国豫教授（右）在论坛现场发布“一鉴”伦理审查智能体

“一鉴”伦理审查智能体系统2.0由中国科协—复旦大学科技伦理与人类未来研究院、复旦大学可信具身智能研究院牵头，联合哲学学院、生命科学学院、附属中山医院等协同研发

中国科协之声：智能化时代技术创新与社会责任矛盾愈发凸显，要大力弘扬科学家精神。从科技伦理研究者和科协智库专家视角，您认为新时代科技工作者应当如何平衡技术突破与公共责任，把向善理念融入科研全过程？

王国豫：技术创新与公共责任并不矛盾，真正好的技术本来就应当造福人民、增进人类福祉。科技伦理不是创新的“刹车”，而是判断创新方向和质量的重要尺度。科技工作者应在选题时追问“为谁创新、解决什么问题”，在研发中识别利益相关者和潜在风险，在应用后持续监测影响、公开沟通并及时纠偏。尤其面对高风险技术，要保持谦逊和审慎，把安全、公平、尊严和可持续性写入设计指标、项目评审和成果评价。只有把向善理念贯穿科研全过程，技术突破才更有生命力。

论坛现场，各国青年科技工作者齐聚一堂，围绕议题交流探讨

伦理审查不能走过场

中国科协之声：您此前提出科技伦理要嵌入技术全生命周期，当前大模型、智能医疗等AI应用风险持续凸显。对照总书记对科技工作者坚守伦理底线的要求，结合您依托科协平台开展的科技伦理普及工作，我们该如何破解“重技术、轻伦理”难题，建立可落地、不走形式的AI伦理审查闭环？

王国豫：习近平主席在大会主旨讲话中提到：“要高度重视人工智能引发的各类内生和衍生风险，推动构建法律法规、技术监测、风险预警、应急响应体系，筑牢安全底线，防范滥用恶用，确保人工智能始终处于人类控制之下。”

破解“重技术、轻伦理”，要把问题分层拆解，从源头解决。立项前应开展风险分级和伦理影响评估，明确高风险场景和不可为事项；研发中把审查嵌入数据采集、算法设计、模型训练、部署运行和持续监测，做到全过程留痕、可追溯；应用后建立动态评估、问题纠偏、责任追究和复盘改进机制，不能“一审了之”。此外，我们也可以利用人工智能助力我们的人工智能伦理审查。比如，我们团队和复旦大学可信具身智能研究院合作开发的“一鉴”伦理审查大模型，就实现了让人工智能赋能科技伦理审查。未来我们还计划利用科协和复旦大学搭起的科技伦理研究院平台，持续开展科技伦理教育和宣传，把抽象规范转化为案例、清单和培训，提升设计者、开发者、使用者的伦理素养，真正让伦理进入技术流程。

中国科协之声：您同时兼任国家科技伦理委员会医学伦理分委员会委员，AI在医疗、公共治理领域落地极易产生算法偏见、数据隐私等风险。结合科协推动科技向善的工作导向，面向企业研发人员、基层科技工作者，应当明确哪些不可逾越的AI伦理底线？

王国豫：研发人员和基层科技工作者承担的不仅是技术任务，也承担社会责任。不可逾越的底线，首先是不得危害人的生命安全、基本尊严和自主权；不得以算法偏见造成歧视，或利用AI实施操控、欺骗和不当监控；不得非法、过度收集和滥用个人数据；在医疗、公共治理等高风险领域，不得让AI替代人的最终判断和责任。凡是涉及生命健康、公共安全乃至人类共同命运的应用，都必须坚持知情同意、最小必要、人工监督、可解释、可申诉和可追责。技术能力越强，越要守住“不能做什么”的边界。

伦理，从课堂教育到生态建设

中国科协之声：AI行业迭代快、竞争激烈，学术浮躁、概念炒作等问题突出。“科协十一大”着重强调涵养优良科研学风、强化学术规范建设，您认为科技伦理教育应当如何发力，从根源上引导青年科技工作者摒弃功利心态、坚守求真底线？

王国豫：这些问题确实存在，AI提高效率的同时，也可能放大学术浮躁和不端行为。科技伦理教育首先要引导学生做一个诚实守信、求真务实的人。要分类实施教育教学：对本科生、研究生，应尽早将科技伦理和科研诚信教育纳入培养体系，用真实案例训练和提高学生的道德敏感性和价值判断力；对科技工作者，要开展持续培训，系统学习国家科技伦理和科研诚信的规范要求；要通过制度保障和激励措施强化伦理教育。更重要的是要改革评价导向，少一些唯论文、唯热点，多关注真问题、长期价值和社会贡献。当然，解决学术风气问题不能只靠科技伦理课堂教育，还需要在全社会营造尊崇科学精神和科研伦理的科学文化，加强思想教育。只有全社会共同发力，才能真正培养出具有卓越创新能力又坚守伦理底线的科技人才。

中国科协之声：您深耕科技伦理、AI治理数十年，早年深耕德国技术哲学，如今牵头中国科协与复旦大学共建科技伦理研究院。能否分享您选择科技伦理研究的初心，又是怎样的契机让您深度参与科协科技伦理智库建设、服务全国科技工作者？

王国豫：我早年研究德国技术哲学，越来越认识到，技术从来不是孤立、价值中立的工具，它会重塑人的生活方式、社会关系乃至文明走向。选择科技伦理，是因为我始终相信，学术研究最终应当为人民服务、为人类服务；无论在中国还是欧洲，人类面临的风险和命运在根本上是相通的。后来参与国家和地方科技伦理、人工智能治理工作，使我有机会把理论研究转化为政策建议、伦理教育和公共服务，更直接地服务广大科技工作者。这既是机遇，也是责任。

AI治理要全球携手

论坛现场，各国专家学者开展深度交流，共话AI全球治理与科技伦理建设

中国科协之声：当前全球AI治理规则分歧明显、国际科研交流存在壁垒，我国倡导构建开放包容的全球AI治理体系。依托科协国际学术交流平台，我们如何在坚持自主创新前提下，推动中外科技伦理良性对话，向世界分享中国AI治理与科技伦理实践经验？

王国豫：不同国家有着不同文化背景，在制定AI治理规则的问题上存在分歧是正常的。正是因为这样我们才需要开放包容的治理体系，需要对话合作。2024年，我们在复旦大学举办了“人工智能伦理的跨文化对话”国际会议，最近，作为这次会议的成果之一，《AI Ethics:A Cross-Cultural Dialogue》这本书已经由Springer出版社正式出版。大学不仅是教育和科研的重镇，也是国际对话的平台。复旦大学在这方面有很多优势。近几年来，我们的国际交往频繁，既有国外学者来我们这里交流，我们自己也经常走出去学习交流。就在不久前，我还带着我们研究院的同事和学生一起去了慕尼黑大学，参加在那里举办的“关系伦理与人工智能”的学术研讨会。我们和国外学者平等对话，传播了我们的理念和实践经验，也学习到人家的思想和做法。增进了了解，结下了友谊。我认为这些都是特别重要的举措。以学术话语对冲政治分歧，以专业议题搭建对话桥梁，以知识共享换取国际认同。我认为这些都是在落实“包容并蓄”“文明互鉴”的精神。

王国豫教授和团队部分师生，与应邀参加WAIC论坛的德国卡尔斯鲁厄大学教授、德国议会技术评估局主任Armin Grunwald，在中国科协—复旦大学科技伦理与人类未来研究院的合影

中国科协之声：在您多年科研经历中，有哪些重要研究或政策参与经历，重塑了您对AI全球治理、科技伦理建设的认知？

王国豫：从技术哲学研究，到参与医学伦理和人工智能治理相关工作，再到牵头建设科技伦理研究平台，这些经历让我越来越清楚：AI伦理不能只停留在原则宣示，也不能简单交给模型自我对齐，而要进入技术—社会系统，形成制度、技术、场景和人的伦理自觉共同作用的治理体系。科技伦理、生命伦理的研究诞生于二战以后，随着前沿科技的迅猛发展特别是人工智能的爆发，今天已成为关乎人类前途命运的重要研究领域。我个人从早期参加纳米技术伦理的研究，到聚焦生命伦理特别是精准医疗伦理和人工智能伦理的理论和政策研究，我的基本认知是，科学研究应该关注真问题、回答“时代之问”。我为自己的研究和教学工作能够对这一学科的建设、对国家和社会发挥一点作用而感到欣慰。

在上海科学智能研究院，王国豫教授和复旦大学陈志敏副校长一起，与WHO健康伦理与治理部主任Andreas  Reis就医疗人工智能的伦理治理，开展国际合作等方面的事宜进行交流

中国科协之声：立足2026年AI发展新阶段，结合科协未来科技伦理建设工作方向，您对完善全球AI治理体系、发展我国科技伦理学科有哪些展望？同时想对广大青年AI科技工作者说些什么？

王国豫：目前人工智能治理面临的一个根本问题是技术发展与伦理治理的不对称。人工智能技术能力越来越强，但我们在治理上还缺少相应的伦理概念和理论框架。必须深入开展人工智能伦理治理的理论基础研究。科技伦理不是哲学伦理学的二级甚至三级学科，未来科技伦理建设需要整合多学科、跨学科的力量，打通哲学伦理学和技术学科、理论研究与政策、实践之间的壁垒。还要积极探索用AI辅助伦理审查，让AI既成为治理对象，也成为治理工具。对青年科技工作者，我想说：不要被热点和速度牵着走，要研究真问题、尊重事实、敬畏风险、关心人的脆弱性和长远福祉。把伦理责任变成专业能力，把个人理想融入国家和人类需要，在求真、向善的道路上持续奋斗。

来源：中国科协之声微信公众号