在今年的上海世界人工智能大会（WAIC）上利好优配，终端智能体加速落地应用引发行业关注。然而，广泛的连接性和复杂架构为终端智能体安全带来新的挑战与问题。加快终端智能体安全研究并构建全方位防护体系，成为保障大模型产业与智能体应用健康发展的迫切需求。
7月28日，由上海人工智能实验室、中国信通院、蚂蚁集团、IIFAA互联网可信认证联盟四家单位联合撰写的《终端智能体安全（2025）》报告在WAIC的“大模型智塑全球产业新秩序论坛”上发布，呼吁加强终端智能体安全研究，构建全方位、多层次的安全防护体系。
报告指出，智能体正在向更多终端延伸。智能体在各类应用中展现出更强的泛化与适应能力，从功能方面来看，呈现出从单一任务逐步拓展至编程辅助、社会互动、经济治理等复杂场景；并由集中式、依赖云端算力的大模型阶段，向更灵活高效的轻量化阶段演进，本地终端部署正成为主流趋势，尤其在ToC（面向消费者）端，用户对隐私保护、响应速度与个性化体验的关注不断增强。
轻量型终端智能体可在手机、穿戴设备等日常终端直接运行，具备自主推理、快速交互能力，增强了贴近性与个性化服务。目前，谷歌助手、Siri、Alexa、Cortana等产品已广泛应用，ChatGPT、Copilot等新一代大语言模型智能体也正向端侧迁移与轻量化适配。
报告认为，当轻量型终端智能体由原本功能简单的智能模块演化为具备感知、决策与执行能力的本地 “自主实体”，其安全边界已突破传统信息安全范畴，延伸至数字与物理世界的边缘交互接口，在资源受限、场景多样的环境中， 其安全边界正被重新定义。
在处理复杂任务方面利好优配，智能体正在由单一智能体向多智能体发展。这些场景所涉及的任务往往具有数据海量异构、环境动态多变、决策维度多元等特点，远超单一智能体独立运作的能力范畴。
北京中数睿智科技有限公司董事长韩涵对第一财经记者表示，今年是智能体迈向终端的“元年”，多智能体可信互连成为行业发展趋势。她解释称，所谓的“多智能体”是指通过多个智能体的协同交互来完成复杂任务；多智能体本质上是构建多个智能体间高效通信、深度协作与动态交互的系统性生态架构。
这一架构中，各个智能体既保持自身独特的功能属性，又通过标准化的通信、协作机制紧密连接，形成有机协同的整体。通过实时信息共享，智能体得以打破信息孤岛，获取更全面的任务信息；借助科学的任务分配机制，系统能够根据各智能体的能力特长，实现资源的最优配置；在共同目标的驱动下，智能体间相互配合、协同决策，完成单个智能体无法独立承担的复杂任务。
复杂任务场景对智能体系统提出了更高维度的要求。在多智能体的发展过程中，也面临数据泄露、越权操作、隐私侵犯、算法偏见等诸多维度的安全威胁。
针对这些挑战，报告提出，终端智能体应用场景加速泛在化、复杂化的背景下，单一主体的安全能力构建已难以应对跨域协同、攻防升级的系统性安全挑战，亟待构建“数据共享、能力协同、 标准互认”的安全生态共建体系，通过多方参与、资源整合与技术协同为终端智能体安全可持续发展筑牢根基，并通过数据、技术、应用的三方联动构建终端智能体的安全共同体。
此外，构建高精度、高质量的安全评测数据集对于终端智能体安全风险探测也是安全生态共建的核心驱动力。
举报 第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：banquan@yicai.com 文章作者
钱童心
相关阅读
超级应用爆发在即，如何打通人工智能应用落地的最后一公里？打通数据到模型能力提升的闭环，是AI大模型落地的关键。大数据训练如何达到最低可行智能，满足场景应用的需求，是行业现在需要解决的问题。
33 1小时前
WAIC现场｜手术机器人已能剥鹌鹑蛋，壳破膜不破！未来有望独立完成手术虽然目前手术机器人完成手术所耗费的时间要比人类医生要长，但等到训练完全成熟后，有望缩短手术时间，而在完全投入临床使用后，将帮助解决外科医生短缺的问题。
8 224 昨天 17:13
AI周报｜“AI教父”辛顿现身世界人工智能大会；阿里最强编程模型开源图灵奖和诺贝尔奖得主杰弗里·辛顿在WAIC开幕式上提到，人工智能可能会战胜人类智能，这让他感到担忧，他认为人类要避免“养虎为患”。
145 昨天 00:04
WAIC直击机器人热点：机器人商业化，先干活还是先表演？“技术创新本身跟应用场景是分不开的，跳舞也是技术的一种呈现模式，而且是公众能够很快‘看懂’的模式。”
204 07-26 22:18
两位顶级科学家的17分钟对话：如何训练“善良”的AI辛顿建议年轻人做“所有人都做错了”的事利好优配。
297 07-26 21:36 一财最热 点击关闭升富配资提示：文章来自网络，不代表本站观点。
