释放AI应用价值应进一步健全AI安全能力

科技日报记者 张佳星

“AI深度应用不仅对数据、算法、算力提出高要求，也对安全隐私能力提出高挑战。”在日前召开的绿盟科技智慧安全大会上，中国工程院院士邬江兴强调，在确保数据安全和隐私保护、健全AI能力与安全的前提下，AI技术才能真正释放应用价值。

(资料图片)

中国工程院院士谭建荣在会上表示，生成式人工智能、元宇宙数字空间和拟人化机器人是三大颠覆性技术，它们的交叉融合将开创信息技术理论方法和应用新局面。但生成式人工智能的应用也存在数据合规、数据质量等方面的风险。风险既来自应用层面，也来自开发层面，需要预警预防。

那么，如何预防生成式人工智能风险？在网络安全空间具有固有未知漏洞的局面下，如何有效防范？

数据安全事关多个层面的协同防护

国家信息中心副处长国强表示，争夺“数据主权”成为全球数据安全发展新态势，各国纷纷出台数据战略，立法维护国家数据主权。

“《关于构建数据基础制度更好发挥数据要素作用的意见》对原始数据提出了‘可用不可见’的要求，基于此，我们团队将数据作为资产进行梳理和管理，对数据进行分类分级，并进一步提高对资产台账敏感数据发现的准确性和效率。”绿盟科技集团首席技术官叶晓虎表示，以资产的方式管理数据需要技术创新，再通过工程化实现成熟的行业应用。

在国家相关办法和政策的指引下，各层面数据系统建设主体进行了协同创新的探索。

国强介绍，国家层面的“数盾”系统以数据安全为目标，以安全平台为支撑，统筹已有网络和数据安全能力，构建贯穿网络层、计算层（云平台）、应用层、数据层的一体协同数据安全防护体系。

叶晓虎介绍，绿盟科技“风云卫”安全大模型，基于海量安全专业知识训练，构建了一套覆盖安全运营、检测响应、攻防对抗、知识问答等多种场景的网络安全运营辅助决策系统，从“场景牵引，技术驱动，生态协同”三个维度进行建设，通过大模型解决实战态势指挥调度、红蓝对抗辅助决策以及安全运营效能提升方面的难点。

创新数据安全技术，实现安全有效应用

“数字经济发展离不开数字安全保障。加快推动数字经济可持续发展，必须维护数据安全和网络安全，构建好安全底座。”邬江兴指出，当前应进一步加快提升数字技术核心技术的研发和发展，构建数据安全和网络安全新态势，为数字经济的发展保驾护航。

保障数据安全是为了有效应用，创新技术应在安全基础上促进其有效流转实现价值。国强表示，国家信息中心将不断推动“数盾”体系建设试点验证，以安全赋能“东数西算”等算力基础设施，构建全国算力网络安全生态。

“数据安全技术创新的重点，应放在以技术支撑解决数据共享交换如何安全流转等方面。”叶晓虎表示，为保障数据和应用在存储态、运行态、传输态的机密性和完整性，更高性能实现数据“可用不可见”，绿盟科技的数据保险箱通过可信计算环境、全密态数据处理、动态权限管控等技术，实现数据可靠保护、任务可信计算和数据可控流转等功能，帮助数据共享合法合规、安全高效地实现。

会上，中国计算机学会与绿盟科技共同发布了2023年度“鲲鹏”科研基金项目。据介绍，“鲲鹏”科研基金今年将重点聚焦数据安全与隐私计算、人工智能赋能与对抗、新型网络安全攻防技术三个方向，助力国家科研成果有效转化与落地，通过产学研三方的合力提升，最大限度地激发安全产业潜力，推动国内整体安全市场适应AI广泛应用的进程。

（大会主办方供图）