电脑如何使用ChatGPT：从API接入到本地化部署的完整指南

2次阅读

没有评论

共计 2110 个字符，预计需要花费 6 分钟才能阅读完成。

直接使用 ChatGPT 网页版虽然方便，但对于开发者来说存在诸多限制：

无法集成到现有工作流中，比如在 IDE 或自动化脚本中调用
历史对话管理困难，缺乏结构化的保存和检索方式
无法进行深度定制，如调整模型参数或添加预处理逻辑
网络延迟可能影响开发效率，特别是需要频繁交互的场景

适合需要深度定制的场景，优势包括：

完整的 API 文档和技术支持
可以灵活调整 temperature、max_tokens 等参数
支持流式响应，提升用户体验

不过需要注意 API 调用成本和速率限制。

如 ChatGPT Desktop 等开源客户端的主要特点：

提供更友好的界面和快捷操作
通常支持对话历史本地存储
可能内置一些实用插件

缺点是无法进行深度定制，且依赖客户端维护者的更新。

对于数据敏感或需要完全控制的场景，可以考虑：

使用 Docker 部署开源模型（如 GPT-J、GPT-NeoX）
需要较强的硬件支持，特别是 GPU 显存
模型效果可能略逊于官方 API

import openai
from openai.error import RateLimitError

# 建议将 API 密钥存储在环境变量中
openai.api_key = os.getenv('OPENAI_API_KEY')

def chat_with_gpt(prompt):
    try:
        response = openai.ChatCompletion.create(
            model="gpt-3.5-turbo",
            messages=[{"role": "user", "content": prompt}],
            temperature=0.7,
            max_tokens=1000,
            stream=True  # 启用流式响应
        )

        # 处理流式响应
        for chunk in response:
            content = chunk['choices'][0]['delta'].get('content', '')
            print(content, end='', flush=True)

    except RateLimitError:
        print("请求过于频繁，请稍后再试")
    except Exception as e:
        print(f"发生错误: {str(e)}")

const {app, BrowserWindow} = require('electron')
const {ipcMain} = require('electron')
const openai = require('openai-api')

// 配置 OpenAI
const OPENAI = new openai(process.env.OPENAI_API_KEY)

ipcMain.handle('send-message', async (event, prompt) => {
  const response = await OPENAI.complete({
    engine: 'text-davinci-003',
    prompt: prompt,
    maxTokens: 150
  })

  return response.data.choices[0].text
})

// 创建浏览器窗口
function createWindow() {
  const win = new BrowserWindow({
    width: 800,
    height: 600,
    webPreferences: {
      nodeIntegration: true,
      contextIsolation: false
    }
  })

  win.loadFile('index.html')
}