6月23日，在第四届中国国际供应链促进博览会上，普华永道中国管理咨询业务合伙人李睿发布《从数据投毒到模型越狱，重构安全体系防御AI新风险》报告(以下简称“报告”)，结合人工智能规模化应用，深度剖析数据污染、提示词劫持、模型越狱等新型安全风险。
“自2021年以来，AI事件和危害数量呈现指数级增长。”李睿直言，安全与风险问题已成为智能体AI实现规模化部署的首要障碍。近2/3受访者将安全与风险问题视为全面扩大智能体AI应用的首要障碍，这一比例明显高于监管不确定性或技术限制，说明组织面临的制约更多在于对其能否安全地大规模部署自主系统的信心。
报告显示，根据过往AI风险事件分析，超过半数AI风险事件源于人类的主动恶意行为，AI系统自身的安全与故障问题占比仅为21%，且近年来占比仍在相对下降。在2025年单年数据中，恶意行为者类事件的占比从37.9%跃升至57%，说明AI正在被越来越快速地武器化。
报告列举了当前AI风险：一、AI黑客升级，智能挖掘漏洞，自动传播恶意代码；二、AI驱动精准高级攻击，勒索更具有针对性；三、深度伪造内容泛滥，高级社交工程攻击事件频发；四、模型越狱触发违规输出，声誉与合规双重承压；五、AI供应链投毒，隐蔽漏洞引发业务故障；六、算法偏见、系统性歧视与社会不公；七、AI训练数据来源不清，引发版权侵权；八、具身智能误判执行，造成物理与人身伤害；九、Agent任务链失控，级联决策引发不可逆后果；十、AI监管法规强制化和碎片化，跨域合规难度大。
在几乎所有风险类型中，受访者均表示，他们认为重要的风险与实际正在采取缓解措施的风险之间存在明显差距。这种差距在知识产权侵权和个人隐私方面尤为明显，这表明对风险的认知提升速度，已经超过了相应控制措施、流程以及工具建设的落地速度，从而难以及时、有效地进行风险管理。
李睿指出，机器级对抗引发严重“攻防不对称”，攻击已是智能速度，防守却依赖人工手动封堵，传统的防控形同虚设，必须“以AI对抗AI”，从输入和输出两端进行风险防控，输入端要判断有没有危险信号，输出端要判断有没有违规内容。“部署AI驱动的威胁检测与响应、网络隔离与流量管控、恶意代码检测与沙箱分析，同时进行漏洞管理与实时修复。”
数据显示，截至2026年4月，全球已有75+国家/地区出台人工智能相关战略、政策与法规，科技伦理、透明度与问责制、数据合规与隐私保护仍是全球监管核心关注重点。
亿策略提示：文章来自网络，不代表本站观点。
