“AI+安全”主要包括 AI 赋能网络安全、AI 内生安全和AI 衍生安全。大模型快速发展给人们带来便利的同时，其引发的网络安全问题也值得重点关注。以ChatGPT 为代表的生成式人工智能技术在网络安全领域是一把“双刃剑”，一方面，AI 可以赋能网络安全，提升风险检测与防护能力；另一方面，AI 的滥用将对国家、社会、公众带来负面影响，同时，AI 新技术的脆弱性也使得应用自身面临安全风险。

AI 在赋能传统网安产品与提升网安运营效率方面展现出极大潜力。根据Statista预测，2023至2030年全球AI安全市场规模CAGR将达27.60%，2030 年市场规模将飙升至1340 亿美元。AI 赋能传统安全产品主要包括威胁检测产品（恶意软件检测、攻击流量检测、用户和实体行为分析、以及加密流量分析）、数据安全和防火墙等；AI 大模型在网络安全运营中的产业实践，尤其是在告警降噪、攻击研判、自动响应与处置方面，展现出了显著的优势和潜力，安全运营是安全行业最需要AI 深度改造的环节。AI 内生安全构筑网安新赛道，AI 大模型安全监测评估产品或迎发展先机。

人工智能技术的崛起依托于AI 模型、AI 数据以及AI 承载系统。1）AI 模型安全：主要包含模型训练完整性威胁、模型测试完整性威胁和鲁棒性欠缺威胁等。2）AI 数据与隐私安全性：主要包括模型窃取、隐私泄露和基于梯度更新的数据泄露等威胁。3）AI 系统安全性问题：主要包括硬件设备安全和系统与软件安全，AI 系统安全性问题与传统计算机安全领域中的安全问题类似，威胁着AI 技术的完整性、保密性、可用性。

AI 衍生安全问题加剧，AI 监管势在必行，建议关注深度伪造视频、图像、文本等检测产品。人工智能衍生安全指人工智能系统因其自身脆弱性被利用而引起其他领域的问题，AI 衍生安全影响AI 的合规使用，还涉及人身安全、隐私保护等。AI 衍生安全包括：人工智能系统失误引发的安全事故、大模型广泛应用带来的滥用风险和人工智能武器研发可能引发国际军备竞赛。各国针对AI 滥用情况纷纷发布相关监管政策，我国发布《生成式人工智能服务管理暂行办法》和《人工智能生成合成内容标识办法》等办法，体现了风险防范、风险应对和风险管理的基本思路。

幻影视界整理分享报告原文节选如下：

本文仅供参考，不代表我们的任何投资建议。幻影视界整理分享的资料仅推荐阅读，用户获取的资料仅供个人学习，如需使用请参阅报告原文。