官方原页 × 中文译文 / LECTURE 13
智能体安全
Safety 1: Agent Safety
共 43 页，按原 PDF 物理页对应。英文原件保持原样；中文为个人学习译文，译注单独标记。公式、代码及图表可回到左侧原页核对。
原 PDF 第 1 / 43 页 · 智能体安全
EN / 英文原页
点击原图可放大查看。图内印刷页码可能不同，以本页标注的 PDF 页码为准。
ZH / 中文对照个人学习译文 · 非官方译本
智能体安全
11-768 · AI 智能体 · 安全
智能体安全
限制智能体可以访问和执行的操作
全部原页链接
- 1 · 智能体安全
- 2 · 可能出现什么问题？
- 3 · 未经批准删除电子邮件
- 4 · 生产数据库被删除
- 5 · 数据外泄
- 6 · 供应链遭到入侵
- 7 · 窃取支付卡数据
- 8 · 威胁模型
- 9 · 恶意用户
- 10 · 提示注入
- 11 · 智能体错误
- 12 · 不当手段
- 13 · 红队测试与对齐训练
- 14 · 人工红队测试
- 15 · 自动红队测试
- 16 · 监督式安全训练
- 17 · 使用强化学习进行安全训练
- 18 · 沙箱
- 19 · 什么是沙箱？
- 20 · 隔离边界
- 21 · 边界应设在哪里？
- 22 · 跨运行共享状态
- 23 · 沙箱要求
- 24 · 本地与云端沙箱
- 25 · 本地沙箱技术
- 26 · 凭据管理
- 27 · 身份与权限
- 28 · 细粒度令牌
- 29 · 凭据代理
- 30 · 监控
- 31 · 监控智能体行为
- 32 · 监控证据
- 33 · 规则检查与基于模型的检查
- 34 · 工具调用与书面推理
- 35 · 将书面推理作为证据
- 36 · 监控与干预
- 37 · 安全评测
- 38 · 安全基准覆盖范围
- 39 · 安全结果指标
- 40 · 使用真实工具进行安全测试
- 41 · 针对不同威胁的基准
- 42 · 防护措施评估
- 43 · 问题与答疑