【资料图】

(CWW)近日,中央网信办网络安全协调局副局长罗锋盈在ISC2023第11届互联网安全大会上表示,生成式人工智能发展要提升新技术、新应用的安全风险防范能力。此外,要善于把数据资源转化为数据优势,并构建网络安全、教育、技术和产业融合发展的良性生态。

“以ChatGPT为代表的生成式人工智能热度一直不减,已经并将要发挥更重要的作用。我们也要看到,当前生成式人工智能还有很多亟待解决的问题。比如,其生成信息的准确性、真实性、价值观如何,都亟待进一步研究。”罗锋盈说道,自8月15日正式施行的《生成式人工智能服务管理暂行办法》在起草过程中始终把推进人工智能等新技术发展应用作为工作的重要出发点和落脚点,提升新技术、新应用的安全风险防范能力,希望支持和促进人工智能产业发展。其规范范围是生成式人工智能,即大语言模型,且暂行办法只规范向公众提供服务的情形,企业、科研机构、高校等开展科研攻关不在监管之列。

生成式人工智能发展不仅仅要关注安全风险方面,其另一个瓶颈是数据集问题。境外一些开源数据质量不是很好,有些数据存在价值观问题,有些数据存在违反法律法规的问题,不合格的数据生产出的大模型也会存在问题,因此将海量数据转换为真正能为大模型训练所用的数据是未来工作的重点。对此,罗锋盈表示:“从宏观角度讲,这也提醒我们要把数据资源真正转换成数字经济的发展动力,不仅要看地区总量上存储的数据规模有多大,还要看真正可提供、可共享给企业、机构、个人的数据有多少。”

为了加速数字技术发展,推动安全规范建设,罗锋盈表示,要构建网络安全教育技术产业融合发展良性生态,深化国家网络安全基底建设,打造人才高地、创新高地、产业集聚区,创新企业和高校联合培养机制。


推荐内容