以 AI 对抗 AI:构建越用越强的 Agent Runtime 安全防线|AICon深圳

在人工智能(AI)时代,模型能力成为行业共识,但随之而来的是真正的竞争力问题。随着模型的普及和能力的提升,如何确保这些强大的模型在实际应用中的安全性成为了一个关键问题。本次大会将探讨如何在AI基础设施、大模型系统、智能体工程、数据智能、多模态技术与行业落地等方面构建可规模化的智能系统,并从单点能力提升转向系统工程与组织级落地能力。腾讯安全专家段昊彤将分享《以AI对抗AI:构建越用越强的AgentRuntime安全防线》的主题演讲,介绍一套面向智能体时代的AgentRuntime安全方案。

--91likeyou---

腾讯安全专家段昊彤已确认出席 “Agent 安全:从风险到可控” 专题,并发表题为以 AI 对抗 AI:构建越用越强的 Agent Runtime 安全防线的主题分享。Agent 正加速进入企业核心场景,但其自主规划、工具调用与数据访问能力,也让提示词注入、意图偏离、工具滥用、数据泄露等运行时的风险浮出水面。传统规则安全在语义化攻击与非确定性行为面前逐渐失效。本次演讲将从第一性原理出发,分享一套面向智能体时代的 Agent Runtime 安全方案——以 AI 对抗 AI,覆盖事前、事中、事后全链路,并依托真实生产数据实现能力的持续自迭代,让 Agent 的安全,越用越强。

段昊彤,腾讯安全专家,12 年安全攻防与产品研发经验,曾参与和主导 SRC、威胁情报、代码安全等能力的建设与规模化落地。当前专注 AI 原生安全与 Agent Runtime 防护方向——从传统安全向 AI 安全的转型实践者,现为腾讯 EdgeOne-WAF 与大模型防火墙 T-Shield 产品负责人。他在本次会议的详细演讲内容如下:

演讲提纲:

1. Agent 时代,传统安全为何失效

  • 一个真实攻击链回顾

  • 传统规则安全的困境

  • AI 原生安全第一性原理

2. Agent Runtime 防护全链路:一次攻击的完整拦截

  • 贯穿案例:一条真实攻击如何逐层穿透 Agent

  • 纵深防御,逐层拦截(每层:攻击推进到此 → 为何需要这层 → 关键工程取舍)

    事前 · 提示词注入检测:从关键词匹配到语义级理解

    事中 · 意图偏离检测:间接注入与行为偏离的识别

    事中 · Agent 沙箱:工具调用的隔离执行,开箱即用的轻量方案与配置有效性保障

    事后 · 数据防泄露(DLP):出站防护与小模型微调

1. Agent 时代,传统安全为何失效

  • 一个真实攻击链回顾

  • 传统规则安全的困境

  • AI 原生安全第一性原理

2. Agent Runtime 防护全链路:一次攻击的完整拦截

  • 贯穿案例:一条真实攻击如何逐层穿透 Agent

  • 纵深防御,逐层拦截(每层:攻击推进到此 → 为何需要这层 → 关键工程取舍)

    事前 · 提示词注入检测:从关键词匹配到语义级理解

    事中 · 意图偏离检测:间接注入与行为偏离的识别

    事中 · Agent 沙箱:工具调用的隔离执行,开箱即用的轻量方案与配置有效性保障

    事后 · 数据防泄露(DLP):出站防护与小模型微调

  • 层间协同:单点防护为何失效,纵深防御如何互补

  • 攻防辩证与工程取舍:误报、时延、成本、模型选型,以及攻击者视角下的平衡

  • 规模化落地:真实生产环境下的挑战与收敛

3. 什么是 AI 时代下的护城河

  • 自迭代闭环

  • 安全护城河再定义

4. 未来展望

实践痛点

  • AI 安全能力的误报控制与业务体验之间的平衡

  • 语义级检测的算力成本与实时性要求的矛盾

  • 攻击手法快速演进,防护能力需具备持续自迭代机制而非一次性交付

听众收益

  • 理解智能体时代运行时安全的核心风险与传统方案失效的根因

  • 掌握事前、事中、事后全链路的 Agent 运行时防护建设思路

  • 理解"数据飞轮/自迭代"为何是 AI 安全的真正护城河,获得可真实借鉴的落地参考

除此之外,本次大会还策划了AI Infra、推理工程与异构计算、超级个体与蜂群智能的共生进化、迈向机器人 AGI 的关键技术与产业实践、Agent 安全:从风险到可控、端侧智能与 AI 原生终端、AI Agent 高价值商业场景实战等 10 个专题论坛,届时将有来自不同行业、不同领域、不同企业的 50+资深专家在现场带来前沿技术洞察和一线实践经验。

大会限时早鸟票享 9 折专属优惠,现在报名立减 580,更多详情可扫码或 进行咨询。

🔥 热词:#ai安全 对抗入门 · #ai对抗网络 · #ai对抗游戏 · #ai对抗训练 · #ai智能对抗 · #ai安全对抗样本入门