深入解析：skill与prompt的本质区别及技术选型指南

2次阅读

没有评论

共计 2049 个字符，预计需要花费 6 分钟才能阅读完成。

在构建对话系统时，很多开发者容易将 skill 和 prompt 混为一谈，这会导致一些典型问题：

意图识别错误 ：当系统无法明确区分是触发一个完整技能(skill) 还是简单文本补全 (prompt) 时，NLU 模块会产生误判
上下文丢失：prompt 通常是单次请求响应，而 skill 需要维护对话状态，混用会导致状态机管理混乱
性能瓶颈：不恰当的使用会让系统要么过度消耗资源（skill 处理简单请求），要么无法完成复杂任务（用 prompt 链式调用）

Skill：
通过意图识别明确触发
需要完整的 NLU 管道处理
示例：” 帮我订明天去北京的机票 ” → 机票预订 skill
Prompt：
通过模板匹配或直接输入触发
可能绕过部分 NLU 处理
示例：” 续写下文：春天来了，” → 文本补全 prompt

Skill：
多轮对话保持活跃
需要维护会话状态
可被显式终止（如 ” 取消订票 ”）
Prompt：
单次请求 - 响应周期
无状态设计
每次调用相互独立

Skill：
自动继承对话历史
可访问领域特定数据库
支持槽位填充
Prompt：
需显式传递上下文
依赖模板变量
最大长度受限

class BookingSkill:
    """机票预订 skill 实现"""

    def __init__(self):
        self.state = {
            'step': 0,  # 0= 未开始, 1= 选择日期, 2= 选择航班
            'slots': {'destination': None, 'date': None}
        }

    def handle(self, user_input: str) -> tuple[str, bool]:
        """
        处理用户输入
        :param user_input: 用户当前语句
        :return: (响应文本, 是否完成)
        """
        try:
            if self.state['step'] == 0:
                # NLU 提取目的地逻辑...
                self.state['slots']['destination'] = "北京"
                self.state['step'] = 1
                return "请问您要哪天出发？", False
            # 后续步骤处理...
        except Exception as e:
            logging.error(f"BookingSkill error: {str(e)}")
            return "系统出错，请稍后再试", True

from string import Template

summary_prompt = Template("""
请用不超过 50 字总结以下文本：$text

总结：""")

def generate_summary(text: str) -> str:
    try:
        prompt = summary_prompt.substitute(text=text)
        # 调用 LLM API...
        return "这里是生成的摘要..."
    except KeyError as e:
        logging.warning(f"Missing template variable: {e}")
        raise

按领域垂直拆分微服务（旅游、餐饮等独立部署）
使用 Redis 维护对话状态
通过 API 网关实现 skill 路由

建立模板版本控制系统
实现 LRU 缓存热门 prompt
对长 prompt 进行分块处理

现象：用户输入包含恶意模板指令
解决方案：
对用户输入进行 HTML 转义
使用白名单校验变量内容

示例防御代码：

from html import escape

def safe_substitute(template: str, params: dict) -> str:
    escaped = {k: escape(str(v)) for k,v in params.items()}
    return template.format(**escaped)