牢牢控制人工智能开发和治理领导力

推动人工智能与实体经济深度融合，培育壮大智能产业，是加快发展新产能、打造国家竞争新优势的重要举措。 “人工智能+”行动的关键，是以前沿颠覆性技术为驱动，全面重构生产要素及其组合方式，激发经济增长新动能。 “十五五”规划纲要明确，全面实施“人工智能+”行动。这标志着人工智能将从一项“新技术”走向全社会的“新基础设施”，并更加全面地融入生产系统。在政治和市场的双重推动下，我国人工智能产业规模连续多年保持大于20%的增速。截至 2025 年 3 月，已有 346 个生成式人工智能服务已在全国范围内注册，显示出巨大的应用潜力。深化拓展“人工智能+”，关键是推动人工智能有益、合理、“用好”应用，让全体人民共享发展成果，进一步为我国现代化建设作出贡献。在应急救援领域，四足机器人已经能够穿越崎岖地形，精准完成智能巡检和地质灾害救援。在现代农业领域，人工智能天气预报模型可以准确预测未来15天的每小时天气，与智能无人机和水肥管理系统结合，可以显着降低劳动力投资成本，提高农作物产量。从人们的生活和福祉角度出发，智能康复机器人不仅可以帮助老年人进行日常生活，还可以通过模拟情绪来帮助老年人情绪识别算法并提供优质陪伴。人工智能将为数千个行业提供动力，提供前所未有的发展机遇，但也带来比以往更加复杂的治理挑战。例如，模型功能的下降和工具链的泛滥降低了人工智能“滥用”和“滥用”的门槛，跨领域风险不断积累。在网络安全领域，网络攻击和防御已经从“人对人”发展到“机器对机器”。攻击者利用大型模型自动生成钓鱼邮件、恶意代码和入侵脚本，以更好地隐藏攻击。又比如，技术在增加“失控”的可能性的同时，也带来了“概率低、危害大”的安全挑战。由于模型高度依赖于数据质量和训练分布，当大量机器生成的数据存在时在长期迭代过程中使用的模型可能会失败并逐渐偏离对现实世界的描述。当众多机构合作开发少量核心模型时，单点错误很可能通过算法重复和市场协调被放大，产生新的安全风险。虽然离真正意义上的“自主意识”还有一段距离，但仍然存在人工智能变得不可控的“危险”。 l治理措施是加强人工智能治理的具体方式。在全球范围内，由于治理原则的影响，治理工具因国家而异。美国主张通过相对宽松的“软法律”为人工智能创新应用的探索提供空间，而欧洲则主张通过“硬法律”规避人工智能的潜在风险。人工智能治理本质上是一个全球性问题，包括多个方面主题丰富，涵盖多种场景。只有对治理问题进行分类，我们才能针对特定问题找到正确的倡导机制。 2017年，我国公布了《新一代人工智能发展规划》。经过多年的探索，我们已经建立了一个涵盖安全和内容或数据的体系。其他核心内容包括人工智能治理体系，包括安全、模型安全、网络安全以及法律法规、政策规划、标准规范、道德准则等。今年的政府行动报告对完善人工智能治理提出了明确建议。要妥善处理发展与安全的关系，坚持保密分级监管和全面审慎创新的治理理念，进一步增强治理能力，完善治理体系，提高治理水平。ce.一是通过敏捷治理理念完善科技法律体系。加快研究推广“监管沙箱”等灵活机制，提供动态、包容的治理环境。随着开源生态系统日益蓬勃发展，明确参与组织的法律责任边界，是完善科技法律体系、培育基础创新的重要一步。由于我们无法培育创新和包容，我们必须实施全面审慎的监管模式，让新兴的人工智能产业成为明天的支柱产业。二是推动人工智能治理与传统行业治理有机衔接。人工智能深深嵌入生产生活的方方面面，其治理离不开行业本质。为各个行业制定复杂的监管措施并建立无与伦比的回报。在医药、金融、交通等重要领域，人工智能安全风险防控应与现有法律法规深度融合，在扎实创收的基础上促进健康发展。第三，着力将人工智能打造成造福人类的全球公共产品。落实全球人工智能治理倡议，广泛开展人工智能国际合作，推动“人工智能+”治理创新应用实践中形成广泛接受的治理模式，为缩小全球人工智能发展差距作出贡献。我们将积极参与国际规则对话，坚持权利平等、机会平等、规则平等，推动建立全球治理体系人工智能治理框架，构建更加开放、公平、有效的国际人工智能治理机制。 （本文来源：经济日报 作者：梁峥。作者为清华大学公共管理学院教授、人工智能国际治理研究院副院长）
（编辑：王菊盆）