AIOps与MLOps入门指南：从零搭建智能运维与机器学习流水线

1次阅读

共计 2147 个字符，预计需要花费 6 分钟才能阅读完成。

对于刚接触这两个领域的朋友来说，AIOps 和 MLOps 确实容易混淆。我们先从它们的定义和区别开始理解。

维度	AIOps	MLOps
核心目标	智能运维 (异常检测 / 根因分析)	机器学习模型生命周期管理
数据来源	系统日志 / 监控指标 /KPI 数据	结构化 / 非结构化业务数据
典型工具	ELK/Prometheus/Prophet	TensorFlow/Kubeflow/MLflow
应用场景	故障预测 / 自动化告警 / 容量规划	模型训练 / 部署 / 监控 / 迭代

传统运维痛点 ：依赖人工经验处理海量告警，响应滞后
机器学习困境 ：实验室模型无法直接用于生产环境

下面这个架构图展示了如何将两者结合使用：

flowchart TD
    A[数据采集层] -->|Fluentd/Filebeat| B[存储层]
    B -->|Prometheus/ES| C[特征工程]
    C -->|PySpark/Pandas| D[模型训练]
    D -->|Kubeflow| E[模型部署]
    E -->|Seldon Core| F[服务监控]
    F -->| 反馈数据 | C

数据采集层 ：统一收集服务器指标、应用日志等
特征工程层 ：对原始数据进行清洗和特征提取
模型训练层 ：支持分布式训练和超参数调优
服务部署层 ：提供金丝雀发布和流量分流能力

# 使用 Prophet 进行动态阈值异常检测
from prophet import Prophet
import pandas as pd

# 准备时序数据（假设 df 包含 timestamp 和 value 列）df = pd.read_csv('kpi_data.csv')

def dynamic_threshold_detection(data):
    # 1. 训练预测模型
    model = Prophet(interval_width=0.95)  # 设置 95% 置信区间
    model.fit(data.rename(columns={'timestamp':'ds', 'value':'y'}))

    # 2. 生成预测结果
    future = model.make_future_dataframe(periods=24, freq='H')
    forecast = model.predict(future)

    # 3. 动态计算阈值
    result = forecast[['ds', 'yhat', 'yhat_lower', 'yhat_upper']]
    result['is_anomaly'] = (data['value'] > result['yhat_upper']) | \
                          (data['value'] < result['yhat_lower'])
    return result

import mlflow
from sklearn.ensemble import RandomForestRegressor

# 1. 启动实验
mlflow.set_experiment("sales_forecast")

with mlflow.start_run():
    # 2. 训练模型
    model = RandomForestRegressor(n_estimators=100)
    model.fit(X_train, y_train)

    # 3. 记录参数和指标
    mlflow.log_param("n_estimators", 100)
    mlflow.log_metric("rmse", calculate_rmse(model, X_test, y_test))

    # 4. 保存模型
    mlflow.sklearn.log_model(model, "model")

PSI(Population Stability Index)：监控特征分布变化

from scipy import stats

def calculate_psi(expected, actual, bins=10):
    # 分箱计算分布差异
    breakpoints = np.linspace(0, 1, bins+1)
    expected_perc = np.histogram(expected, breakpoints)[0]/len(expected)
    actual_perc = np.histogram(actual, breakpoints)[0]/len(actual)

    # 计算 PSI 值
    return np.sum((actual_perc - expected_perc) * \
                 np.log(actual_perc/expected_perc))