云原生、微服务架构普及后,服务器指标、容器日志、业务告警、网络链路数据海量爆发。传统运维依靠人工筛选告警、逐条排查故障,存在告警风暴、根因定位慢、故障预判缺失、处置流程标准化不足等问题。 传统AIOps依赖固定规则与传统机器学习模型,对非结构化日志、模糊故障场景识别能力有限。大模型具备自然语言语义理解、多源数据推理、流程自动编排能力,能够打通监控、日志、告警、自动化操作链路,形成“感知-分析-决策-自愈”闭环自治运维体系,大幅降低运维人力成本,提升业务稳定性。
整套大模型AIOps平台分为四层:
轻量化Python示例,实现日志异常识别、告警收敛、故障分类,模拟大模型语义识别核心能力:
import re
from collections import defaultdict
# 运维故障语义关键词库(大模型归纳分类)
FAULT_KEY_MAP = {
"资源过载": ["CPU满载", "内存溢出", "磁盘占用100%", "IO打满"],
"服务宕机": ["端口无法连接", "进程意外退出", "健康检查失败"],
"业务报错": ["500异常", "数据库连接超时", "请求参数非法"]
}
class LlmAIOpsEngine:
def __init__(self):
self.alert_group = defaultdict(list)
def parse_log(self, log_text: str):
"""日志语义解析,识别故障类型"""
for fault_type, keywords in FAULT_KEY_MAP.items():
for kw in keywords:
if re.search(kw, log_text):
self.alert_group[fault_type].append(log_text)
return fault_type, f"识别故障:{fault_type}"
return "正常", "无异常日志"
def converge_alert(self):
"""告警收敛,统计同类故障数量"""
res = {}
for f_type, logs in self.alert_group.items():
res[f_type] = {
"告警总数": len(logs),
"样本日志": logs[0]
}
return res
# 测试运行
if __name__ == "__main__":
ops_engine = LlmAIOpsEngine()
test_logs = [
"服务器CPU满载,负载持续超过95%",
"健康检查失败,支付服务进程意外退出",
"数据库连接超时,接口返回500异常",
"系统正常运行,接口响应耗时20ms"
]
for log in test_logs:
t, msg = ops_engine.parse_log(log)
print(f"日志:{log} -> {msg}")
print("\n=== 告警收敛汇总 ===")
print(ops_engine.converge_alert())parse_log 逐条解析日志,自动归类存储告警;converge_alert 实现告警聚合,解决海量重复告警风暴问题;海量精选技术文档和实战案例持续更新,敬请关注【风骏时光少年】
https://edu.51cto.com/surl=dcqQj1