记忆系统天然涉及敏感数据的持久化存储,隐私与合规是架构设计中的核心约束而非事后补丁。关键设计原则包括:
不保存无明确理由保留的敏感数据(支付卡号、密码、政府证件号、健康信息),最安全的做法是脱敏或从不写入这些字段。
确保智能体只"记住"当前用户有权查看的信息,防止跨部门或跨租户的数据泄漏。
每条情景记忆和语义记录在静态存储和传输过程中都必须加密,并附带严格的审计日志。
记忆系统必须支持保留期限和删除操作覆盖所有数据层级,包括结构化表、向量索引条目和备份快照。GDPR 等法规下的删除权要求完全擦除,部分擦除不满足合规要求。
2026 年 8 月全面生效的欧盟 AI 法案透明度要求进一步规定:用户有权知道 AI 系统正在维护关于他们的持久信息,在某些情况下有权要求删除。