深入解析大模型 API 的核心参数原理与工程实践。从自回归与概率采样的底层机制出发,系统讲解 Temperature、Top-k、Top-p 三大参数如何控制概率分布与输出随机性,并延伸至 Seed、Stop Sequences、Frequency/Presence Penalty、Logprobs 等进阶参数。结合
more...
深入解析大模型 API 的核心参数原理与工程实践。从自回归与概率采样的底层机制出发,系统讲解 Temperature、Top-k、Top-p 三大参数如何控制概率分布与输出随机性,并延伸至 Seed、Stop Sequences、Frequency/Presence Penalty、Logprobs 等进阶参数。结合
more...
文章深入剖析了 Anthropic 构建 Claude Code 的核心工程经验:prompt caching 是 Agent 产品经济可行的基石。作者揭示了缓存命中率直接决定产品 SLA 的运作机制,提出"静态在前、动态在后"的 prompt 排版架构原则,并详细阐述了五大实战技巧——用消息流替代修改系统提示词、避免
more...
Claude Code团队在设计AI编程助手时的核心经验:围绕Tools工具管理的三次关键演进。任务管理从TodoWrite到Task Tool,本质是从补偿弱模型转向支持多智能体协作;搜索能力从RAG转向Agentic的grep和Skills,让模型具备主动探索能力;工具上下文管理经历System Prompt、文档
more...
MemGPT 借鉴操作系统内存管理原理,将大模型视为内核,通过主上下文(RAM)、外部存储(硬盘)的分层设计,以及自主触发的中断控制流,实现逻辑上的无限内存。与传统 RAG 的单向被动检索不同,MemGPT 支持双向读写、主动检索与动态记忆更新,依赖函数调用能力完成多步推理。文章对比了 MemGPT 与 RAG 的核心
more...
Mem0 是为 AI 应用设计的通用记忆层,通过将 LLM 短暂无状态的上下文升级为持久化、可管理、可检索的结构化记忆系统,解决上下文窗口限制、记忆碎片化与个性化缺失等痛点。文章从工程师视角解析了 Mem0 的核心能力,包括事实抽取、冲突解决、多级记忆管理与多模态支持;深入拆解了 add() 与 search() 两大
more...
深入解析 Claude Code 的多层文件化记忆系统实现机制,涵盖 Auto Memory、Session Memory、Agent Memory 和 Team Memory 四层架构的存储位置、写入时机、召回策略及边界划分。核心设计采用目录+MEMORY.md索引的透明化文件存储,通过轻量检索器实现选择性记忆召回,
more...
Anthropic 在 Claude Opus 4.8 中推出 Dynamic Workflows(动态工作流),解决单个 Agent 无法一次完成的大规模任务。与 Subagent、Agent Teams 不同,Workflow 将编排逻辑固化为本地 JavaScript 脚本,由确定性运行时调度数百个 subage
more...
AgentScope 沙箱环境内置工具模块设计的复盘记录。作者面对为 Docker/E2B workspace 补齐 built-in tools 的需求,拒绝了 issue 中提出的"内置 MCP server"方案,转而抽象出 BackendBase 执行层,将变化点压缩到 exec_shell、read_file
more...
Saga 模式是分布式长事务的核心解决方案,但其本质并非传统事务,而是放弃原子性与隔离性换取可用性和性能的业务级契约。文章深入剖析了 Saga 与状态机结合的必要性——状态机提供持久化"记忆",使崩溃后的流程可恢复。重点对比了两种形态:正向状态机+前滚 Saga(只推进不回退,依赖幂等重试,适合难以撤销的场景)与正逆状
more...