在长期运行的智能体应用中管理上下文 (opens in new tab)

📌 One-Sentence Summary 本文详细介绍了 Slack 在用于安全调查的长期运行、多智能体 AI 系统中管理上下文的工程方法，引入了三种互补机制——指挥者日志、评论者审查和评论者时间线——以在数百次推理请求中保持连贯性和一致性。 📝 Summary 本文是 Slack 工程系列文章的第二篇，探讨了在复杂、长期运行的多智能体 AI 应用中保持上下文和连贯推理的关键挑战。作者描述了他们的智能体安全调查服务，其中一位指挥者协调一个由专业专家和一位评论者组成的团队。为了克服 LLM API 的无状态特性和上下文窗口限制，他们设计了三种结构化的上下文通道。指挥者日志作为协调的结构化工作记忆。评论者审查提供对专家发现的可信度评分评估，以减轻幻觉。评论者时间线从可信证据中整合出最合理的叙述。文章提供了详细的示例、工具规格和操作数据（例如，超过 17 万条发现的评分分布），以说明这些机制如何协同工作，实现高效、可信的调查，这些调查可以跨越数百次 API 调用，而无需依赖原始消息历史记录。 💡 Main Points 长期运行的多智能体系统需要超越原始消息历史的、有意识的上下文管...