Chatbox上下文窗口：从基础概念到高效使用的实战指南

1次阅读

共计 1738 个字符，预计需要花费 5 分钟才能阅读完成。

在对话系统中，上下文窗口（Context Window）指的是系统能够记住和利用的最近对话历史范围。它决定了 AI 模型在生成回复时能 ” 看到 ” 多少之前的对话内容。举个例子，如果你问 Chatbox” 今天的天气怎么样？”，然后接着问 ” 需要带伞吗？”，上下文窗口就是让 AI 理解第二个问题和第一个问题相关联的关键。

保持对话连贯性 ：没有上下文窗口，每个用户提问都会被当作完全独立的新问题
理解复杂意图 ：很多用户需求需要通过多轮对话才能完整表达
减少重复信息 ：系统可以记住之前对话中提到的关键信息，不用让用户反复说明

优点：实现简单，内存占用可预测
缺点：可能丢失重要早期信息，窗口大小需要人工调优

优点：能根据对话复杂度自动调整，保留关键信息
缺点：实现复杂度高，需要设计智能的压缩 / 摘要算法

结合固定窗口基础 + 重要信息持久化，是目前比较实用的折中方案

双端队列 (deque)：适合固定窗口，天然支持 FIFO
链表结构 ：方便动态插入删除，但内存开销稍大
数组 + 指针 ：内存效率高，但实现复杂度增加

对话语句编码缓存：避免重复编码相同内容
重要性评分：基于词频、命名实体等给对话片段打分
智能截断：对长内容自动生成摘要而非简单丢弃

from collections import deque
from typing import List, Dict

class ContextWindow:
    """固定大小的对话上下文窗口实现"""

    def __init__(self, max_size: int = 5):
        """
        初始化上下文窗口
        :param max_size: 最大保留的对话轮次数
        """
        self.window = deque(maxlen=max_size)

    def add_message(self, role: str, content: str) -> None:
        """
        添加新消息到上下文
        :param role: 'user' 或 'assistant'
        :param content: 消息内容
        """self.window.append({'role': role,'content': content})

    def get_context(self) -> List[Dict]:
        """
        获取当前完整上下文
        :return: 消息字典列表
        """
        return list(self.window)

    def clear(self) -> None:
        """清空上下文"""
        self.window.clear()

# 使用示例
chat_context = ContextWindow(max_size=3)
chat_context.add_message('user', '今天天气如何？')
chat_context.add_message('assistant', '今天晴天，气温 25℃')
chat_context.add_message('user', '需要带伞吗？')
print(chat_context.get_context())