《网络安全人才实战能力报告—AI赋能篇》发布,AI安全人才缺口与评价体系成焦点
这份报告盘点AI时代安全人才的真实分布与能力短板:从业者年限偏短、专职团队稀缺、复合能力不足,并给出以实战任务为核心的新评价思路。
9月18日,第一届中国网络空间安全大会上发布了《网络安全人才实战能力报告—AI赋能篇》。报告指出,随着大模型进入核心业务,模型、算法、训练数据、提示词和智能体权限都成为新的安全边界,而64%的大模型相关单位仍由传统安全团队兼职负责模型安全,仅23%设有专职AI安全研究队伍。
正文摘录
9月18日,在第一届中国网络空间安全大会上,《网络安全人才实战能力报告—AI赋能篇》正式发布 AI 能够独立完成的任务正在迅速变长。人工智能评测机构 METR 的研究显示,前沿 AI 模型能够胜任的复杂任务正在快速变长:以人类专家完成任务所需时间衡量,模型在 50% 成功率下可完成的任务时长大约每 7 个月翻一番。 当 AI 独立工作的时间越来越长,能够访问的数据和获得的系统权限越来越多,如何确保它不受恶意指令操纵、不突破权限边界,也成为必须回答的问题。 9月18日,在第一届中国网络空间安全大会上,《网络安全人才实战能力报告—AI赋能篇》(以下简称“报告”)正式发布,对 AI 时代网络安全人才的分布、实战能力、培养和评价进行了系统分析。 报告是网络安全人才实战能力研究系列继“攻防实战能力篇”“人才评价篇”“安全测试评估篇”之后推出的第四篇章。报告由国务院学位委员会学科评议组(网络空间安全组)、教育部高等学校网络空间安全专业教学指导委员会指导,北京航空航天大学、中国科学技术大学、永信至诚科技集团股份有限公司担任主编单位,多所高校、科研机构及产业单位参与编制。 发布现场,中国网络空间安全学会常务理事、教育部高等学校网络空间安全专业教学指导委员会副主任委员、北京航空航天大学教授刘建伟对报告进行了发布和解读。 随着大模型进入核心业务,AI 安全的对象正在发生变化。过去,安全工作更多关注网络、系统和数据;如今,模型、算法、训练数据、提示词、智能体权限以及工具调用链,都成为新的安全边界。 模型安全,重点保障模型、底层数据和算法本身的安全;AI 应用安全,重点应对模型和智能体进入业务系统后产生的新风险;AI 赋能网络安全,重点研究如何利用 AI 提升漏洞挖掘、安全运营、攻防对抗和威胁检测等工作的效率。