大模型和人工智能越发火热的当下,人工智能技术既是加强网络治理的重要工具,也是未来网络安全风险的一大来源。9月9日下午,2024年国家网络安全宣传周系列活动之一——人工智能赋能数字安全座谈会在广州南沙国际金融论坛会议中心举行。此次座谈会汇聚了政府领导、专家学者、行业精英及社会各界人士,共同探讨人工智能技术在数字安全领域的创新应用与未来发展路径。
AI前景广阔,但风险亟待解决
座谈会上,俄罗斯工程院外籍院士、粤港澳大湾区人工智能与自动化学会会长、广东工业大学自动化学院教授谢胜利介绍了人工智能在光学检测、智慧医疗、交通出行等方面的落地案例。他指出,人工智能在发展新质生产力方面具有广阔前景,但人工智能也存在开发成本高、回报周期长、人机协同适应能力不足、数据和资源需求高、伦理争议、数据依赖性等问题亟待解决。他认为,迄今为止,人工智能尚无较为成熟的理论,更多是模型和算法,且第一代和第二代人工智能的模型、算法都有很多缺陷。因此,必须大力发展科学完备的人工智能理论,在此基础上,才能发展出安全、可靠、可信和可扩展的人工智能技术。
俄罗斯工程院外籍院士、粤港澳大湾区人工智能与自动化学会会长、广东工业大学自动化学院教授谢胜利发表主题演讲。
中国网络空间安全协会副理事长卢卫也在题为“人工智能的‘我能’和赋能”主旨演讲中表达了相似观点,他认为,人工智能在网络安全的威胁检测与预防、恶意软件检测、漏洞管理等方面,具备广阔的使用前景,但是人工智能自身也存在诸多缺陷与风险,需要先解决自身存在的问题,才能更好赋能网络安全领域。
企业代表热议AI应用场景
来自绿盟科技、安恒信息等网络安全企业的代表们也分享了他们在人工智能赋能数据安全治理、技术创新、能力建设等方面的思考与实践,并就人工智能在数字安全领域的应用场景、技术挑战及未来趋势等话题展开了热烈讨论。与会嘉宾普遍认为,网络安全产业需要持续深化合作与交流,协同推进技术创新与人才培育,这样才能为数字经济的蓬勃发展与繁荣昌盛提供坚实有力保障。
本次“人工智能赋能数字安全座谈会”还举行了颁奖环节,表彰2024年度网络安全攻防演练中表现卓越、成绩斐然的个人与团队。