从客户应用看，当前多数智能体仍用于个人或小规模实验场景 ，真正进入生产系统的应用“才刚刚开始
”。随着数据依次进入模型训练
、推理调用和智能体执行等环节
，相关安全风险呈现新变化 。

　　新变化分为两个方面
。一方面是新环境下应对来自外部攻击风险的技术挑战，另一方面是隐私问题。现在以可信数据空间为代表的数据基础设施 ，包括高质量数据集
，涉及很多隐私相关的问题，在数据“可用不可见”“可用不可得 ”的要求下 ，正成为新的挑战 。

　　近来 
，安恒信息提出打造“AI+动态数据安全
”体系，不再依赖静态规则
。AI再加上UEBA（用户及实体行为分析）技术 ，可以自动帮助我们进行数据打标、数据识别
，发现敏感数据在哪里 、重要数据在哪里
、被哪些人使用，以及相关使用行为是否合规。

　　当前 ，最核心的挑战在于，AI技术本身的迭代速度远超安全防御体系的跟进周期 。比如智能体
，两三年前也有智能体的概念，但是当时的智能体框架和技术手段与现在差别非常大
。智能体可能带来的安全风险有些是恶意操作或被投毒 ，有些是操作失误。还有一些任务的思维链非常长
，导致智能体难以持续完成任务，出现错误操作 。也有些智能体被攻击者操控 ，他们利用智能体进行各种恶意操作
。

　　对于我们的挑战是
，当智能体的技术框架还没有固化、沉淀下来时，要快速应对 ，针对新的风险快速推出新的解决方案。我们判断2027~2029年
，智能体才会在更大规模的领域应用 。我们现在需要快速迭代。在客户群体上线智能体前，要先提供一个能够解决主要问题的AI安全整体方案 ，之后再根据智能体技术和风险的变化持续迭代
。

（文章来源：中国经营网）