佳纳信息港摘要：当前，人工智能的发展如火如荼，在推进网络强国建设的过程中，确保人工智能技术的安全可控，防范其潜在的网络安全风险，成为亟待解决的关键问题。……
编者按：习近平总书记指出，“科学普及是实现创新发展的重要基础性工作。”为助力高水平科技自立自强，中国科协科普部联合光明网推出“院士高端科普”栏目，邀请各领域院士就我国当下热点科技问题给予权威解答，服务引导更多科技工作者提升科研科普能力，促进全民科学素质提升，为科技强国建设贡献科普力量。#千万IP创科普
党的二十大报告对加快建设网络强国作出了重要战略部署，网络强国建设已成为社会主义现代化国家建设的重要内容。随着网络空间崛起为继陆、海、空、天之后的第五大主权领域，我国面临着日益严峻的网络安全挑战。
当前，人工智能的发展如火如荼，在推进网络强国建设的过程中，确保人工智能技术的安全可控，防范其潜在的网络安全风险，成为亟待解决的关键问题。
人工智能在赋能人类社会、加快发展新质生产力、创建虚实融合新型网络空间的同时，正逐渐衍生出可能危及国家安全和人类安全的重大风险。去年，马斯克在内的一众全球范围内AI领域重要人士联合公告“应将缓解人工智能导致的灭绝风险，与其他社会规模风险（如大流行病和核战争）等同重视，作为全球优先事项”。
大模型参数规模庞大，动辄上千亿甚至万亿，研发投入高达数百亿人民币，它们的兴起，开创了智能化应用新局面。但大模型自身无安全可信和伦理道德的特性，给人类社会带来了不利影响。
一方面，大模型继承了深度学习的“黑盒子”特性，复杂的参数与神经网络结构使得决策和推理过程难以透明，从而可能引发虚假、偏见、侵权及伦理问题。另一方面，海量数据的处理也伴随着数据安全风险，隐私泄露、侵权以及恶意利用等问题层出不穷，其中“幻觉”、偏见和违反法律法规、风俗习惯等问题尤为棘手。
面对这些挑战，我们急需一种能够保障信息系统可预期性的技术——可信计算。可信计算，顾名思义，就是在计算的同时进行安全防护，确保计算结果与预期一致，全程可测可控，不受外界干扰。这一技术将人类社会中行之有效的管理策略应用于计算机信息系统及网络环境中，通过建立信任根和信任链，层层递进，将信任关系扩展到系统的每一个角落，从而确保整个系统的可信度。
在保证计算可信的同时，技术自主也是必要条件。中央“市场准入十条”（《关于完善市场准入制度的意见》）中的“自主可信计算”不是泛指可信计算技术，而是指源自中国、完全自主的可信计算技术——可信3.0，故文件中特地强调“自主”二字。
我认为，网络安全实质是计算科学问题，而自主可信计算是保障信息系统可预期性的关键技术。通过构建主动免疫的可信计算体系，可以降低网络空间的脆弱性，提高应对未知恶意攻击的能力，从而有效保障国家网络空间的安全。
中国在可信计算的发展上做出的战略部署可谓高瞻远瞩。自1992年立项研制免疫的综合安全防护系统以来，我们经过长期军民融合攻关应用，形成了自主创新的安全可信体系，开启了可信计算3.0时代。如今，可信计算已广泛应用于国家重要信息系统，如增值税防伪、彩票防伪、二代居民身份证安全系统等，为国家安全和社会稳定提供了有力保障。
以国家电网电力调度系统的安全防护建设为例，发改委14号令要求，采用可信计算架构实现等级保护四级。如今，我们的电力可信计算密码平台已在三十四个省级以上调度控制中心得到广泛应用，覆盖上千套地级以上电网调度控制系统，涉及十几万个节点、约四万座变电站和一万座发电厂。这一举措有效抵御了各种网络恶意攻击，确保了电力调度的安全运行。相比之下，美国热推的“零信任架构”仅相当于可信计算3.0的一个访问控制功能子集，存在诸多问题和挑战，如架构漏洞多、缺乏科学原理支撑、网络无边界不符合主权原则等。
面向未来，我的建议是，各级政府按照国家网络安全法律、战略制度要求，大力发展自主可信计算产业体系，为加快推进建设网络强国、数字中国做出重大贡献。
（作者：沈昌祥，中国工程院院士、中央网信办专家咨询委员会顾问，光明网记者李欣哲整理）
