为人工智能发展系上“安全带”

□ 本报记者 黄 鑫

自去年底以来，生成式人工智能热度高涨，国内公开发布的大模型已达百余个，不仅带动了人工智能产业的蓬勃发展，也为其他产业注入了新动能。

在日前举办的第十一届互联网安全大会（ISC 2023）上，多位专家提出，通用人工智能发展日益体现出技术创新快、应用渗透强、经济社会影响大、国际竞争激烈的特点。但发展与安全并重，对于当前火热的人工智能大模型以及人工智能技术，都需要把数字安全放在更突出的位置，让数字安全与人工智能技术融合发展。

发展与安全并重

“人工智能是引领新一轮产业变革的核心技术引擎，为各领域提供信息化、数字化、智能化的解决方案，正在引发经济结构重大变革，实现社会生产力整体跃升。”中国工程院院士邬江兴说。

中国工程院院士邬贺铨认为，以人工智能为代表的数字技术将重塑数字内容生产方式和消费模式，通用人工智能将实现知识与数据双轮驱动，把智脑加进去，未来单个模型有望通过迁移学习支持多种业务，并能精准选择节点，有效降低功耗和成本。数字化将逐渐走向智能化高峰，开启人工智能时代。同时，数字安全也在不断发展演进，传统安全防护的手段亟待升级。

“生成式人工智能正在引发新一轮智能化浪潮，但也伴随着数据泄露、虚假信息、算法歧视等网络和信息安全新挑战、新问题。”中国互联网协会理事长尚冰说。

中央网信办网络安全协调局副局长罗锋盈也表示，当前，生成式人工智能还有很多亟待解决的问题，比如生成信息的准确性、真实性以及价值观等问题。

“当前，深度学习进入快速发展期，但也是一把双刃剑。如果不能有效应对人工智能安全挑战，数字社会、数字经济都会基础不牢，成为国家安全战略最脆弱、最致命的环节。”邬江兴认为，深度学习人工智能模型存在“三不可”内生安全个性问题，即神经网络“黑盒”特点导致人工智能存在不可解释性；深度学习对训练样本过度依赖，导致学习结果的不可判定性；神经网络前向推进的不可逆，导致结果的不可推论性。

“充分数字化，让企业、政府、城市成为网络安全的主阵地。当大数据成为核心资产后，政府、企业都面临数据泄露、丢失的安全威胁。生成式人工智能带来的内容安全、安全可控问题将更为显著。”360集团创始人周鸿祎说。

国家网信办等7部门近日联合发布《生成式人工智能服务管理暂行办法》，提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。

创新技术手段

第十三届全国政协经济委员会副主任苏波表示，推动人工智能产业快速发展，必须要把保障数据安全放在突出位置。要加快人工智能数据资源建设，创新人工智能技术手段，完善人工智能数据安全监管体系。

“要用技术进步解决安全风险难题，加强人工智能数据安全保护基础理论研究和技术研发。发展负责任、可信任、能受控的通用人工智能。鼓励企业建设完善人工智能开源学习框架，增强框架内置学习数据和基础设施。并通过我国巨大的市场优势，加快培育人工智能开源平台生态圈和产业链。”苏波说。

我国网络安全产业综合实力已显著增强。数据显示，2022年我国网络安全产业规模近2200亿元，北京、长沙、成渝地区国家三大网络安全产业园区相继成立，长三角、珠三角等网络安全产业基础优势逐步激发。截至2022年底，我国已有21家网络安全企业上市，越来越多的互联网企业、设备厂商、电信运营商成为网络安全领域新生力量，传统安全企业、互联网企业纷纷布局数据安全赛道。

同时，网络安全技术体系持续完备，零信任、以太坊等信息安全技术逐步成熟落地。隐私计算、图片加密等领域布局加快，网络安全与人工智能、云计算、区块链、工业互联网融合发展加速。

创新是网络安全保障能力提升的根本动力。工业和信息化部网络安全管理局局长隋静表示，要健全科技创新体系，强化体系创新主体地位，全面激发企业创新活力。围绕5G、工业互联网、车联网等重点领域开展关键技术攻关，加快突破安全风险感知、监测预警、实时阻断、追踪溯源等核心能力。前瞻布局人工智能与网络安全技术融合创新，增强产业链、供应链韧性和安全水平。

培育产业生态

“目前360集团有全球最大的网络安全攻击样本库和攻击整个过程全记录的知识库，记录了数以亿计的网络攻击知识。我们也在试验把这些知识加入专门的垂直大模型里，争取下次遇到攻击时，由大模型判断这是否是一次真实攻击。目前，大模型判断网络攻击的准确率已提升到97%，当该准确率超过99%时就可以投入应用。”周鸿祎介绍。

周鸿祎认为，随着安全挑战不断升级，传统安全方案已难以应对数字文明时代的新挑战，出现“企业抱怨没效果、厂商抱怨投入少”的局面。企业实现体系化安全运营，存在缺平台、缺探针、缺数据、缺专家四大障碍。云化和服务化将成为安全行业发展必然趋势。为此，360推出“安全即服务”理念，将沉淀在全网安全大脑里的世界级安全能力全面云化和服务化，低成本、高效能输送给企业级客户，为政府、城市和企业筑牢数字安全屏障，守护数字经济成果。

“要摒弃硬件式碎片化弱协同的传统安全防护手段，向云化、服务化的理念升级。数字安全企业需要建立体系化的安全运营服务框架，面向各行各业输出数字安全能力，帮助企业构建安全防御体系，保护数据安全与商业秘密。”邬贺铨说。

全国工商联副主席汪鸿雁表示，网络安全龙头企业要牵头组建创新联合体，发挥创新主体作用，主动承担国家重大科技项目，开展数字安全的基础理论创新，及重大问题研究和关键的核心技术攻关，着力加强数字安全的人才培养，推动人才、技术和产业的融通发展，不断增进数字安全国际交流与合作，建设国际数字安全保障合作机制。

“互联网龙头企业要积极开展原创性、引领性、基础性安全技术攻关，延伸技术领域，拓展产品服务范围，完善产品矩阵。互联网初创企业要发挥快速灵活、资源集中的特点，以创新技术和产品切入细分领域，推动产品服务和行业发展紧密结合。”尚冰说。

邬贺铨强调，要完善数字安全的生态系统，覆盖工业企业设备供应商、基础电信运营商、云服务商、工业互联网平台运营商、工业应用提供商、数字安全提供企业、第三方检测机构与用户等，实现危险威胁处置情报共享。

隋静表示，网络安全产业是维护国家网络安全的重要基础，要完善支持产业发展的政策措施，引导供给不断提升，需求充分释放，构建供需双向发力，产业链协同联动的高水平动态平衡。要创新网络安全服务模式，大力发展网络安全保险服务，深化产融合作，引导资本加大对产业支持力度，加快培育一批网络安全专精特新企业。优化产业园区产业布局，充分发挥联盟协会纽带作用，培育壮大产业生态，推动产业高质量发展。