群晖NAS部署ChatGPT全指南：从Docker配置到API调用的避坑实践

4次阅读

没有评论

共计 2498 个字符，预计需要花费 7 分钟才能阅读完成。

群晖 NAS 作为家庭和小型企业常用的存储设备，其实还有更多潜力可以挖掘。用闲置的群晖资源部署 ChatGPT 服务，主要有这几个优势：

资源利用率高 ：群晖设备通常 24 小时开机，正好可以用来跑 AI 服务，避免资源闲置
数据隐私有保障 ：所有请求都在本地处理，对话记录不会经过第三方服务器
成本低廉 ：相比租用云服务器，使用现有设备几乎零额外成本
灵活可控 ：可以根据需求随时调整服务配置，不受云服务商的限制

在群晖上部署 ChatGPT 服务，主要有两种方式：

原生 Python 环境部署
优点：直接运行，不需要额外学习 Docker
缺点：容易污染系统环境，依赖管理复杂，特别是 ARM 架构的兼容性问题较多
Docker-compose 部署
优点：环境隔离，依赖封装好，部署简单，适合长期运行
缺点：需要学习基本的 Docker 概念

对于大多数场景，我们推荐使用 Docker-compose 方案，特别是群晖 DSM 系统对 Docker 有很好的支持。

首先确保你的群晖系统是 DSM 7.0 或更新版本：

登录群晖管理界面
打开套件中心
搜索并安装 Docker 套件
安装完成后，打开 Docker 应用

群晖 NAS 多数采用 ARM 架构，这可能导致一些 Python 包安装失败。我们的解决方案是：

# 使用多阶段构建，先在有完整环境的 x86 机器上构建 wheel
FROM python:3.9.16-slim as builder

WORKDIR /app
COPY requirements.txt .
RUN pip wheel --no-cache-dir --no-deps --wheel-dir /app/wheels -r requirements.txt

# 然后在 ARM 机器上使用预构建的 wheel
FROM python:3.9.16-slim

WORKDIR /app
COPY --from=builder /app/wheels /wheels
COPY requirements.txt .
RUN pip install --no-cache /wheels/*

永远不要将 API 密钥硬编码在代码中。我们使用环境变量来传递密钥：

import os
from openai import OpenAI

client = OpenAI(api_key=os.environ['OPENAI_API_KEY']
)

然后在 docker-compose.yml 中这样配置：

environment:
  - OPENAI_API_KEY=${OPENAI_API_KEY}

version: '3.8'

services:
  chatgpt:
    image: python:3.9.16-slim
    container_name: chatgpt-service
    restart: unless-stopped
    environment:
      - OPENAI_API_KEY=${OPENAI_API_KEY}
      - PORT=8000
    ports:
      - "8000:8000"
    volumes:
      - ./app:/app
    working_dir: /app
    command: uvicorn main:app --host 0.0.0.0 --port 8000
    mem_limit: 512m
    logging:
      driver: json-file
      options:
        max-size: "10m"
        max-file: "3"

  nginx:
    image: nginx:1.23.3
    ports:
      - "443:443"
    volumes:
      - ./nginx.conf:/etc/nginx/nginx.conf
      - ./certs:/etc/nginx/certs
    depends_on:
      - chatgpt

在 docker-compose.yml 中，我们设置了内存限制：

mem_limit: 512m

这可以防止服务占用过多内存影响 NAS 其他功能。

logging:
  driver: json-file
  options:
    max-size: "10m"
    max-file: "3"

这样配置后，日志文件最大 10MB，保留 3 个历史文件。

在 Nginx 配置中添加限流：

limit_req_zone $binary_remote_addr zone=chatgpt:10m rate=5r/s;

server {
    location / {
        limit_req zone=chatgpt burst=10 nodelay;
        proxy_pass http://chatgpt:8000;
    }
}

在群晖控制面板中：

打开控制面板 > 安全性 > 防火墙
创建新规则，只允许特定 IP 访问 443 端口
禁用 SSH 等不必要的服务端口

使用 Let’s Encrypt 证书，并设置自动续期：

# 在群晖上设置定时任务
0 3 * * * docker run --rm -it \
  -v /volume1/docker/certs:/etc/letsencrypt \
  certbot/certbot renew \
  --standalone \
  --preferred-challenges http-01 \
  --email your@email.com