AI图文生成详情页实战：从零搭建高可用解决方案

1次阅读

共计 2812 个字符，预计需要花费 8 分钟才能阅读完成。

电商和内容平台常面临商品详情页内容同质化严重、人力成本高等问题。AI 图文生成技术可快速产出差异化内容，但在实际落地时会遇到以下挑战：

响应延迟：单次生成通常需要 2 -10 秒，高峰期容易形成请求堆积
质量波动：相同 prompt 可能生成风格不一致的图片
资源竞争：多个生成任务并行时易引发 GPU 显存溢出
内容安全：需自动过滤不当生成内容

主流方案对比：

维度	Stable Diffusion XL	DALL-E 3
商业化授权	完全开源	需 API 调用配额
本地部署	支持	仅云端
风格可控性	需搭配 LoRA	内置多风格
中文支持	需额外训练	效果较好
生成速度 (T4 显卡)	3.5s/512px 图	2.1s(含网络延迟)

选择 Stable Diffusion 的核心优势：

可私有化部署避免数据外泄
支持自定义模型微调
社区生态完善（如 ControlNet 插件）

分层服务架构：

前端交互层
采用 WebSocket 保持长连接
实现生成进度实时推送
API 网关层
JWT 鉴权与限流 (100QPS/ 用户)
请求参数校验
模型服务层
异步任务队列 (Celery)
模型单例加载
GPU 显存监控
缓存层
Redis 缓存高频 prompt 结果
本地磁盘缓存最近 1000 次生成

关键设计点：

使用 gRPC 流式传输大尺寸图片
通过 NVML 实时监控 CUDA core 利用率
采用环形缓冲区处理突发流量

FastAPI 端点示例（含类型注解）：

from fastapi import APIRouter, HTTPException
from pydantic import BaseModel
from typing import Optional
import torch
from redis import Redis
from functools import wraps

router = APIRouter()
redis = Redis(host='localhost', port=6379)

class GenerateRequest(BaseModel):
    prompt: str
    negative_prompt: Optional[str] = None
    width: int = 512
    height: int = 512
    steps: int = 25

# 请求去重装饰器
def deduplicate(func):
    @wraps(func)
    async def wrapper(request: GenerateRequest):
        cache_key = f'gen:{request.prompt}:{request.width}x{request.height}'
        if redis.exists(cache_key):
            return redis.get(cache_key)
        return await func(request)
    return wrapper

@router.post("/generate")
@deduplicate
async def generate_image(request: GenerateRequest):
    try:
        # 模型单例加载
        if not hasattr(generate_image, 'pipe'):
            from diffusers import StableDiffusionPipeline
            generate_image.pipe = StableDiffusionPipeline.from_pretrained(
                "stabilityai/stable-diffusion-xl-base-1.0", 
                torch_dtype=torch.float16
            ).to("cuda")

        # 异步生成（带超时控制）with torch.no_grad():
            image = await asyncio.wait_for(
                generate_image.pipe(
                    prompt=request.prompt,
                    negative_prompt=request.negative_prompt,
                    width=request.width,
                    height=request.height,
                    num_inference_steps=request.steps
                ).images[0],
                timeout=30.0
            )

        # 转为字节流
        img_byte_arr = io.BytesIO()
        image.save(img_byte_arr, format='PNG')
        return Response(content=img_byte_arr.getvalue(), media_type="image/png")

    except torch.cuda.OutOfMemoryError:
        raise HTTPException(status_code=503, detail="GPU memory overflow")
    except asyncio.TimeoutError:
        raise HTTPException(status_code=504, detail="Generation timeout")

测试环境：NVIDIA T4(16GB) + CUDA 11.7

Batch Size 调优

batch_size	显存占用	总耗时 (4 图)	单图平均耗时
1	5.2GB	14.2s	3.55s
2	7.8GB	18.1s	4.53s
4	12.1GB	22.3s	5.58s

建议选择 batch_size= 2 作为平衡点

量化加速

# 加载 8bit 量化模型
pipe = StableDiffusionPipeline.from_pretrained(
    "stabilityai/stable-diffusion-xl-base-1.0",
    torch_dtype=torch.float16,
    load_in_8bit=True
)

量化后性能对比：

显存占用下降 37%
推理速度提升 19%

NSFW 内容过滤

from safety_checker import StableDiffusionSafetyChecker

safety_checker = StableDiffusionSafetyChecker.from_pretrained("CompVis/stable-diffusion-safety-checker")

def is_nsfw(image):
    return safety_checker(
        image,
        torch.device("cuda")
    )["nsfw"][0]