Tag: 滑动窗口
All the articles with the tag "滑动窗口".
-
[PocketAgent 实战] Day2 多轮记忆与滑动窗口
大模型本质是无状态的。本文记录如何为 PocketAgent 的移动端 SDK 后端注入上下文记忆(Session),并通过滑动窗口机制解决多轮对话的 Token 爆炸难题,体验 Python 生成器在流式后处理中的优雅。
All the articles with the tag "滑动窗口".
大模型本质是无状态的。本文记录如何为 PocketAgent 的移动端 SDK 后端注入上下文记忆(Session),并通过滑动窗口机制解决多轮对话的 Token 爆炸难题,体验 Python 生成器在流式后处理中的优雅。