Claude与GLM大模型实战入门：从零搭建你的第一个对话AI

1次阅读

共计 1977 个字符，预计需要花费 5 分钟才能阅读完成。

作为对话 AI 领域的两个代表性模型，Claude 和 GLM 在设计目标上有明显区分：

Claude：由 Anthropic 研发，强调安全性和符合人类价值观的对话。其特点包括：
内置内容安全机制，自动过滤有害输出
对话风格更接近西方语言习惯
适合需要严格内容管控的场景（如客服、教育）
GLM（ChatGLM）：由清华团队开发，专为中文场景优化：
对中文语境理解更深入
支持长文本对话和复杂指令
提供量化版本方便本地部署

推荐使用 Python 3.8+ 版本，通过 conda 创建独立环境：

conda create -n dialog_ai python=3.8
conda activate dialog_ai

Claude：登录 Anthropic 官网申请 API Key
GLM：对于开源版本无需密钥，商业 API 需联系官方

pip install anthropic transformers torch sentencepiece

import anthropic

# 初始化客户端
client = anthropic.Client("your_api_key")

try:
    # 构建对话请求
    response = client.completion(prompt=f"{anthropic.HUMAN_PROMPT} 你好，请介绍一下自己 {anthropic.AI_PROMPT}",
        model="claude-v1",
        max_tokens_to_sample=300,
    )
    print(response["completion"])

except anthropic.ApiError as e:
    print(f"API 错误: {e}")
except Exception as e:
    print(f"未知错误: {e}")

关键参数说明：
– HUMAN_PROMPT/AI_PROMPT：标记对话角色
– max_tokens_to_sample：限制生成长度

from transformers import AutoModel, AutoTokenizer

# 加载本地模型（需提前下载）tokenizer = AutoTokenizer.from_pretrained("./chatglm-6b", trust_remote_code=True)
model = AutoModel.from_pretrained("./chatglm-6b", trust_remote_code=True).half().cuda()

# 流式生成
for response, history in model.stream_chat(tokenizer, "你好", history=[]):
    print(response, end="", flush=True)

特点说明：
– half().cuda()：启用 GPU 加速
– stream_chat：实现逐字输出效果

Claude 默认限制：20 请求 / 分钟
推荐实现请求队列：

import time
from collections import deque

class RateLimiter:
    def __init__(self, max_calls, period):
        self.calls = deque(maxlen=max_calls)
        self.period = period

    def wait(self):
        if len(self.calls) >= self.calls.maxlen:
            elapsed = time.time() - self.calls[0]
            if elapsed < self.period:
                time.sleep(self.period - elapsed)
        self.calls.append(time.time())

建议采用正则 + 关键词库双校验：

import re

sensitive_words = ["暴力", "色情"]  # 示例词库

def check_content(text):
    for word in sensitive_words:
        if re.search(word, text, re.IGNORECASE):
            return False
    return True