AI带来复杂风险，一场在杭州的“头脑风暴”解题数字安全

5月18日，2024第十二届西湖论剑·数字安全大会在杭州举办。数字安全大会至今已举办12年，也伴随着杭州城市数字化发展和数字技术变革迭代更新。

杭州把数字经济作为鲜明标识，也正在实施数字经济创新提质“一号发展工程”，争创国家人工智能创新高地。网络安全、数据安全是城市发展不可或缺的重要保障，如何在创新与安全之间寻求平衡？

在今年的数字安全大会上，21世纪经济报道记者观察到，人工智能成为重要的讨论话题及背景，数据安全、数据要素发展的技术、社会实践也引发新思考。

在当下的数字化时代，人工智能的迅猛发展不仅为各行各业带来了巨大的创新与便利，也引发了一系列前所未有的安全挑战。随着AI技术的广泛应用，数据泄露、深度伪造等新型安全风险日益凸显。

中国工程院院士邬江兴在接受21世纪经济报道记者采访时表示，目前学界对人工智能的数学、物理性质仍然不能作出解释，这是它基本原理上的缺陷，因此人工智能一定会存在风险，最好的方式是用多个系统进行交叉验证，“例如国内现在‘百模大战’，使用者可以用多个大模型进行交叉检验。”

在邬江兴的演讲中，他也提出传统网络安全治理的局限性日益凸显，急需数字生态系统底层驱动范式转型，以内生安全赋能的网络弹性设计，能从根本上跳出经典网络安全理论与方法无法应对的不确定安全问题威胁。

应对数据安全不确定性

数据安全与网络安全密不可分。随着人工智能技术的快速发展，尤其是大模型和生成式AI的兴起，数据安全问题日益凸显。同时，人工智能的广泛应用也带来了新的安全挑战，如思维漏洞的利用和恶意攻击等。

当下的网络安全威胁正在从信息扩大到数据加物理域、认知域。在数字经济时代，社会的数字化转型也面临着极大的系统性风险。

邬江兴认为当下网络安全问题是多重的，“我将它称之为广义的功能安全问题，特点是物理失效的随机性、软件失效的不确定性、网络攻击的人为性以及受制于执行环境的缺位，包括AI的内生安全个性问题，出现了交织问题。”

中国工程院院士吴世忠在演讲中也表示，在人工智能时代，安全问题呈现出了前所未有的复杂性。它不仅涵盖了传统的Security安全，即信息安全，还包含了Safety安全，即系统运行的稳定性和可靠性以及伦理安全，即技术应用必须符合道德伦理标准，这三者交织融合，形成了全新的安全图景。

2022年以来，欧美国家较早地出台多项战略、法案和法规，推动网络安全、数据安全责任“左移”，也就是将网络安全问题前置处理，认为数字产品的制造者、数字应用的开发者应当承担更大的安全责任。

例如，2023年12月，欧盟就《网络弹性法案》在技术和政治层面达成一致，该法案一旦生效，届时进入欧盟市场的数字产品须确认满足欧盟网络安全标准。

随着中国企业的全球化发展，跨境数据流动以及数字产品的网络安全标准问题成为必答题。

邬江兴认为，人类社会正在进入以数据为关键要素的数字经济时代，需要建立一种可防御且富有弹性和韧性的数字生态系统，使其更容易形成内在防御能力，能让攻击方付出比防御方更高的代价，实现防御优势的转变，从而能始终挫败数字生态系统面临的种种威胁，筑牢网络与数据空间安全屏障。

具体来说，需将数字产品安全置于产品全生命周期，从一开始就考虑产品的安全，要安全地设计，“从附加安全到设计安全，将网络安全融入到数字产品的设计与制造中。”邬江兴说。

吴世忠也表示，构建一个安全、坚韧、可信的人工智能发展生态至关重要，“这要求我们必须在推动技术发展的同时，充分考虑到安全保障，实现发展与安全的统筹兼顾。”

教育部新工科联盟网络空间安全工委会主任委员、杭州市人工智能协会副理事长 、俄罗斯国家工程院外籍院士胡瑞敏在接受记者采访时表示，在平衡人工智能与安全方面，数字经济发展离不开数据要素的安全流通，“现在新的隐私保护技术发展得非常快，如何在新的技术支持下在数据要素流通中构建一套安全运行的机制，这个非常重要。”

浙江大学计算机科学与技术学院副教授金小刚在接受记者提问时表示，人工智能最大的特点是交互能力的提升，把原来积累的一些数据和能力通过交互释放出来，但技术在使用之前并不能预知哪些坏的因素会被释放出来，“首先技术的设计者要有良知，其次技术运用过程中要时刻警惕，政府、社会要有一些良好的机制来保证纠偏。”

底线之上强化创新思维

不少与会专家在接受21世纪经济报道记者采访时都提出，创新和监管要齐头并进，数字经济发展在安全基础上一定要创新，尤其要抓住人工智能发展机遇。

吴世忠认为，从数据孕育新动能的意义来讲，由算力、模型、数据、应用共同成就的人工智能是真正的新质生产力。

国家行政学院电子政务专家委员会原副主任、全国数字经济联盟学术委员汪玉凯在主题演讲中也提出，数字经济在新质生产力发展的结构中起全局性、战略性的意义。数字经济有可能成为新质生产力中最关键的一个领域。

汪玉凯认为，新质生产力发展的重要目标就是要摆脱传统的经济增长方式，不是淘汰传统的生产方式，而是要使它高端化、智能化、绿色化，“全球的数智化浪潮、新质生产力的发展目标以及高质量发展的战略定位，这三大因素将是中国数字经济实现新发展的黄金期。”

针对网络安全和数据安全问题，汪玉凯提出一些解决思路，一是完善数据安全的相关法律，把数据安全全部纳入法制框架下，二是提升核心数字技术能力和网络安全监管能力，为数字经济保驾护航，三是特别要关注跨境数据流通交易中的数据安全，包括个人数据大量被泄露。

“尤其还应特别关注数据和信息保护，才能让数字经济真正腾飞成为推动社会进步的新质生产力。”汪玉凯说。

此外，不少参会嘉宾还提及数字经济发展中市场的作用。数字经济发展最主要的主体是企业，而民营企业在数字经济发展中又扮演关键角色。

“我认为未来在数字经济发展中仍然要打好民营经济这张牌，国有、民营企业一起上，要给民营企业创造更多的空间，提供更多助力政策。”汪玉凯说。

安恒信息董事长范渊在演讲中明确表示，当供得出、流得动、用得好的数据，遇上人工智能大模型与智能体，传统安全天花板已经消失，安全底座和工作协同关系也在被重塑。

“我们也在思考人工智能安全大模型究竟给这个行业带来什么？整个跨代的理解能力、逻辑推演能力、泛化能力正在对这个行业带来巨变。”范渊表示。

去年8月，财政部对外发布《企业数据资源相关会计处理暂行规定》，明确数据资源的确认范围和会计处理适用准则等，将于2024年1月1日起施行。

在数字安全大会上，《企业数据资源入表实践白皮书》正式发布，该白皮书由杭州安恒信息技术股份有限公司、杭州数据交易所有限公司、中国软件评测中心等单位参与编制而成。

安恒信息CTO刘博在接受记者采访时表示，数据资产入表是一个开始，未来将为数据要素流通服务，也将进一步开展数据交易，用数据赋能医疗、教育、商业等各行各业，也就是新质生产力。

在刘博看来，当前数据资源盘点阶段倒逼企业梳理自身数据管理的盲区，把数据安全问题做好，在数据要素流动方面企业也需要把安全作为一个前提，用好隐私计算、加密技术，“在数据资产入表过程中，数据安全不再只是保护的角色，而是把价值释放到最大。”

免责声明：该文章系本站转载，旨在为读者提供更多信息资讯。所涉内容不构成投资、消费建议，仅供读者参考。