随着人工智能、大数据、云计算、区块链等新技术的深入发展,新的网络安全挑战与风险也不可避免地涌现出来。如何应对数字时代的网络安全新挑战?在今天(11日)举行的2023年国家网络安全宣传周上海地区主论坛上,专家学者们给出了一些建议与想法。

应对大模型新风险,数据安全至关重要

中国工程院院士、复旦大学金融科技研究院院长柴洪峰对金融数据和垂直领域大模型的安全及伦理问题提出建议。“监管机构应加强对金融大模型的审查和风险评估,对关键人物和系统应建立审查和测试的机制,确保其性能和安全性。”他说,为确保大模型在金融领域的应用符合法规与道德要求,应通过政产学研的合作,制定相关政策和指南;而对于金融大模型的部署与使用,则需要协同共治,提升透明度,保证数据质量和可解释性的机制,帮助用户与监管机构理解模型的决策依据,并确保其不带有偏见或歧视性。

“对于传统的通用大模型,人们可以建立行业领域的小模型,在数据安全领域通过各种数据标签、数据类型、日志等,形成数据安全的助手。”上海观安信息技术股份有限公司联合创始人胡绍勇表示,而AIGC(生成式人工智能)技术本身就存在着敏感数据和违规应用的可能性,因此,数据安全运营是非常重要的。

胡绍勇指出,目前在数据安全治理过程中,一个正在探索落地的方向是数据安全专家或者安全助手,另外,还可以利用大模型对数据资产的识别进行进一步提升,不少安全企业已在此方面做出了尝试。

网络安全不断变化,需社会各界共同守护

公安部第三研究所网络安全法律研究中心主任、研究员黄道丽认为,现在网络安全面临的最大挑战是如何把制度的能力转化为实际的治理能力。“法律的特性是稳定,但网络安全风险和网络安全形势却是不断变化的,”她说,这需要产业界、运营者、数据处理者以及社会第三方共同推进。

上海市信息安全测评认证中心创新研究院副院长徐御从城市数据安全的角度指出,随着系统数量的规模变大、复杂度提高,数据资源的暴露面和脆弱性都会增加。“网络安全从原来以系统与网络为核心,转变成以数据为核心。”他说。

上海交通大学人工智能研究院院长宋海涛则表示,唯有进一步拥抱科技的力量,构建产业发展在全要素过程中的人才体系,加强网络安全方面伦理和治理体系的研究和建设,才能更好保护人民群众的生命财产安全。