AI 不会取代 SRE，却可能让 SRE 的技能退化

💌 嗨，我是来自 SigNoz 的 Elizabeth！

本期通讯是一次坦诚的尝试，探讨各种议题——可观测性、OpenTelemetry、开源，以及其间涉及的工程实践！
&
本文花了 6 天 5 小时才烹制完成，希望我们端上的菜合你的胃口。 🌚

如今，科技圈中流传着两种备受关注的预言。

第一种说法是 SRE 是整个软件工程的未来：随着 AI 编写越来越多的代码，最终留下来的那些人类将负责让系统持续运行。第二种说法是，AI 将吞噬所有科技岗位，SRE 也不例外。如果你是一名 SRE，正试图弄清楚 2027 年自己的周二会是什么样子，那么这两种说法都没什么实际用处。

让我们看看已经发生的事情，提出一个更脚踏实地的问题：当 AI 接手了 95% 的事件响应后，你处理真正重要的那 5% 时，能力会不会退化？

我们大多数人日常已经在使用 AI（脑子多少有点被榨干了！），SRE 也不例外。今天讨论的议题不是 AI 会不会取代 SRE，而是 AI 是否在悄悄削弱 SRE 的能力，以及在下一次前所未见的故障来袭之前，是否有人会察觉任何异常。整场讨论的基础框架源自一篇 1983 年的研究论文，其预见之准令人不寒而栗。

作者注：以下是《自动化史》的简短前奏；如果你喜欢历史与文化（就像我一样 😉），或许会喜欢这篇文章。

1983 年，认知心理学家 Lisanne Bainbridge 发表了一篇名为 《自动化的悖论》 的论文。它后来成为人因研究领域引用最多的论文之一，其核心观点放在今天，几乎令人不安地切合实际。

Bainbridge 研究了工厂和工业系统将蓝领操作员的工作自动化时会发生什么。研究结果看似矛盾，却揭示出：流程自动化程度越高，在自动化罕见失效的时刻，人类操作员就越关键；而他们获得的实际操作机会越少，在恰恰需要干预时就越做越差。自动化从本质上旨在将人类排除在循环之外，却让他们陷入了最糟糕的工作处境，也就是长时间被动监控，其间穿插着他们愈发无力应对的罕见高风险危机。

是不是很熟悉了？🙂

基本上，我是在把 AI 革命与工业自动化作类比。工业自动化通过接管日常体力任务重塑了蓝领工作，而留下来的劳动者不得不处理那些他们已经失去相关肌肉记忆的异常情况。AI 正在对知识工作者做同样的事：接管日常认知任务、模式匹配、分诊和已知问题解决，只把罕见、复杂且模糊的问题留给人类。

这些 恰恰是需要深厚专业能力的问题，也就是那种 恰恰会在你停止练习时逐渐退化的专业能力。

现在，我们正借助 AI 智能体重演这一模式，而软件系统所牵涉的风险只会不断增加。

让我们审视当今站点可靠性工程领域的现状。

告警降噪与智能分组、针对已知问题的 runbook 执行、日志模式检测与异常标记，以及基于历史事故数据给出初步根因建议，还能对已充分理解的故障模式进行自动修复，例如重启崩溃的 pod，或扩容负载过高的服务；如今这些功能都已相当自动化。

近期的一些目标包括：关联指标、日志和链路追踪等多重信号，对尚未完全理解的故障进行自主根因分析，在用户受影响之前预测并检测事故，以及由 AI 驱动的变更风险评估和自动回滚。

PagerDuty 将其描述为分层模型。

• Tier 1 事故：已知问题及其已知修复方案可完全自动化处理。

• Tier 2 事故：尚未完全理解的问题由 AI 提供建议，再由人工验证。

• Tier 3 事故：新颖、复杂且具有连锁效应的事故仍由人主导处理，AI 则提供辅助上下文。

不过，问题就在这里。

如果人类 SRE（好吧，现在我们得用“人类”这样的形容词了 🥹）只参与处理 Tier 3 事件，也就是新奇、前所未见的宕机，那么他们在哪里培养处理这些事件的直觉？直觉通常来自多年的实战事件响应、通过反复实践建立的模式识别，以及对系统的一种本能层面的理解；这种理解只有在痛苦地于深夜醒来、解决导致系统宕机的 bug 时才会形成。

正是在这里，事情的轮廓开始变得模糊。让我们看看一些关于 AI 导致多领域技能退化的新近研究，它们勾勒出一幅一致且令人担忧的图景。

在医学领域，一项近期研究发现，使用 AI 辅助检测息肉的内镜医师，在经过一段时间使用 AI 后，无辅助时的检出率从 28% 降至 22%。他们在原本应当精通的事情上表现变差，并非因为忘记了理论，而是因为不再练习这项技能。

在航空领域，研究显示，严重依赖自动驾驶系统的远程航线飞行员，其态势感知能力和手动驾驶能力会出现可测量的退化。这一问题已经严重到 FAA 现在要求增加手动飞行时间，以抵消这种影响。

在过去一年里的某个时候，AI 不再是我偶尔才会拿来用的工具，而成了我每次都会第一时间想到的工具，总是如此。现在，我的本能是尽可能把事情交给 AI，只有在绝对无法避免时才亲自思考。问题在于，这些时刻正逐渐成为我的大脑仅有的锻炼，我能感觉到它正在生锈。

我们可以从中梳理出一个规律：你让系统处理的事情越多，自己处理事情的能力就越差；而真正危险之处在于，你感觉不到这一过程正在发生。这种现象被超高生产率所掩盖。认知研究表明，由于 AI 工具让任务显得更轻松，并提升看得见的绩效，用户往往无法准确判断自身技能的真实状态。你觉得自己能力不错，仪表盘看起来一切正常，然后到了星期三，一个与 AI 所见过的任何模式都不匹配的新奇事件突然袭来，你才意识到这块肌肉已经萎缩了。

对 SRE 来说，这会以具体形式表现出来：我们不再阅读原始日志流，因为 AI 会对其进行总结；事故处理期间，我们不再提出假设，因为 AI 会给出可能的根本原因；我们不再在头脑中构建系统架构模型，因为 AI 会替我们梳理依赖关系。这些变化单独来看，每一项都像是一种生产力提升；但总体来看，它们会掏空那种专业能力，而正是这种能力让 SRE 在事情以无人预料的方式偏离正轨时仍能有效应对。

不过，比技能退化更令人担忧的是，研究人员已经开始将其称为永不习得。技能退化意味着你曾经具备某种能力，但后来失去了。永不习得则意味着你从一开始就从未培养出这种能力。对于今天进入这一领域的初级 SRE 而言，在 AI 处理大多数事故响应工作流的环境中，通过动手实践培养基础直觉和技能手感的机会正在消失。

培训流程本身已经失灵，而且并不具备自我修复能力。

SRE 意识到自己的技能正在退化，于是更加依赖 AI 来弥补，这又进一步削弱了他们的技能，形成了一个难以摆脱的恶性循环。

我们绝不是在拒绝 AI 工具；相反，我们正在采用它们，并且以前所未有的力度加以整合，因为这是唯一的前行方向。

几个值得考虑的方法：

刻意低效。 就像 FAA 规定即使自动驾驶仪完全能够胜任，也必须保留手动飞行时长一样，SRE 团队可以把某些事故——甚至包括 AI 本可处理的事故——指定为 人工练习机会。这可以视为一项让技能保持熟练的长期投资，尽管代价可能是牺牲极速解决方案

应为人类参与闭环而设计，而不是让人类袖手旁观。 在由人类批准 AI 建议的系统，与人类与 AI 并肩主动解决问题的系统之间，存在显著差异。Bainbridge（约 40 年前撰写 那篇研究论文的那位女士）的研究表明，前一种情况会让人类处于监督角色，从而导致警觉性衰减；后一种则能让人类在认知层面保持投入。

让我们把视角拉远，看看更宏观的图景。

我们在这里讨论的一切——自动化的悖论、去技能化风险、永不习得问题——总体而言都远不只适用于 SRE。整个软件工程行业也在应对同样的张力。随着 AI 编写更多代码、审查更多 PR，并处理更多调试工作，同样的问题也随之出现。

我们专门讨论 SRE，是因为在 SigNoz，这就是我们所处的世界。我们构建的是开源可观测性平台，这类工具为 SRE 提供深入理解自身系统所需的指标、链路追踪和日志。对我们而言，去技能化这个问题并非一时兴起的修辞话题；它直接影响我们如何将 AI 融入产品。

我们的做法是从一款 AI 助手开始，帮助 SRE 发挥 LLMs 的力量，同时让人类牢牢掌握控制权。最终，我们会在明确的护栏内逐步开放更多自主性，而且只有在赢得信任之后才会这样做。

我们在这一领域拥有的一个优势是，作为一个可观测性平台，我们直接掌握底层数据，即 SRE 所依赖的指标、链路追踪和日志。如今，大多数 AI SRE 产品通过 API 与可观测性工具集成，这意味着它们只能获得对您系统的有限、二手视角。由于我们拥有数据层，我们可以构建更深入、更具上下文感知能力的 AI 功能，使其像经验丰富的 SRE 一样理解您的系统。

回答您脑海中那个亟待回答的问题，我们的目标并不是用 AI 取代 SRE，而是用 AI 强化 SRE 的能力。与坊间持续流传的说法不同，我们相信人类对于最重要的决策仍将不可或缺，尤其是那些会影响生产基础设施的决策。

SRE 的未来是人类 借助 AI，而 AI 的设计初衷正是让人类保持敏锐、投入，随时准备应对真正关键的 5%。

这是我们的 LinkedIn 帖子，由我们的创始人于几天前发布，也正是它启发我写下了这篇文章。

没有帖子