“AI（人工智能）的快速发展正在加剧安全威胁，如数据泄露、欺诈攻击、社会治理安全等。以生成式AI能快速生成钓鱼邮件、编写恶意软件与代码等，导致攻击数量增加，AI欺诈事件频发。”
全国政协委员、全国工商联副主席、奇安信集团董事长齐向东
澎湃新闻记者获悉，在2024年全国两会上，全国政协委员、全国工商联副主席、奇安信集团董事长齐向东带来两份提案，高度关注AI技术的快速发展所带来的安全挑战。
数据显示，生成式AI导致网络钓鱼邮件攻击增长135%。此外，AI还带来数据非法获取、数据泄露及恶意滥用等数据安全问题，如ChatGPT在对话交互过程中能获取用户数据，加剧数据泄露风险。不法分子还能利用“深度伪造”换脸变声、伪造视频，“眼见未必为实”将成为常态。
齐向东表示，人工智能大幅降低网络攻击门槛，不懂代码、不懂技术的普通人也能成为黑客，增加网络攻击数量，专业的黑客组织可以利用人工智能对网络攻击进行改造升级，利用AI制作恶意软件、生成规避杀毒软件检测的代码等，网络攻击能力将出现跃升。
在AI算法攻击方面，机器视觉攻击、数据源污染等攻击频发，攻击者能通过对抗样本、数据投毒、模型窃取等方式对AI算法进行攻击，使其产生错误判断，同时由于算法黑箱和算法漏洞的存在，这些攻击往往难以检测和防范。
对此，齐向东建议，要大力探索“AI+安全”创新应用，提高应对网络空间安全风险与不确定性的能力，抢占国家安全的人工智能战略制高点，护航中国式现代化。
要开展联合创新，围绕攻防实战和应用场景实现“AI+安全”尖端技术研发突破。建议鼓励各行业头部企业与专业安全厂商结成创新联合体，在关键行业选取典型场景开展联合创新，共同探索大模型安全创新产品在威胁检测、漏洞挖掘、指挥研判等方面的应用，在实战中推动“AI+安全”进入越用越强的良性循环。
要强化政策牵引，推动“AI+安全”技术创新产品在各行业落地应用。建议像支持新能源汽车的发展一样，支持“AI+安全”发展，设置专项基金，对研发创新“AI+安全”产品的企业，给予政府基金、贴息贷款或科研项目等支持。
从人才方面来看，要壮大“AI+安全”领域的实战型、复合型人才队伍。随着AI技术的普及和应用领域的不断扩展，国内AI人才严重短缺。工信部数据显示，人工智能不同技术方向岗位的人才供需比均低于0.4，其中智能语音和计算机视觉的岗位人才供需比分别为0.08、0.09，相关人才极度稀缺。建议充分发挥民营企业在人才培养上的优势，鼓励成立校企共同体，在实践中培养更多大数据、人工智能、网络安全等新兴产业领军人才。
