AI支援によるインシデント対応のリスク：SREのスキルの衰え

TL;DR

AIを活用したインシデント対応ツールは現在、ほとんどのルーティンなアラートを自動で解決していますが、実践的な経験の減少はエンジニアの直感や稀な重大障害への対処能力を脅かしています。

"これらのツールはすべてをこなします：アラートの検査、仮説の立案、テレメトリの照会、最近のデプロイとの相関、さらには修正の実施自体も行います。" – Sylvain Kalache

リサネ・ベインブリッジの1983年の論文『自動化の皮肉』は、自動化がルーティンな実践を減らす一方で、オペレーターは未知の状況に対処する責任を負ったままであると警告しています。
AIエージェントが未知の複雑なインシデントに直面した場合、エンジニアは迅速な診断に必要なメンタルモデルを持たない可能性があります。
複数のコメント投稿者がこの懸念を共有し、「自己評価のフィードバックループ」や、自ら構築したシステムに対する「直感的な知識の喪失」を指摘しています。

"私はチームに完璧な解決策を提示したのに、3日間Claudeに叩き込んでいても、どうやって進めるかを特定できなかった。" – @bob1029

"AIを使うほどに、ますます依存するようになる…結局、自分が構築・修正したシステムに対する直感的な知識が失われていく感じがする。" – @krtkush

RootlyとUptime Labsは、LLM駆動のインシデントシミュレーションを構築しており、エンジニアが現実的なECサイト障害のインシデント指揮官として振る舞います。
シミュレーションによりエンジニアは以下の実践が可能になります：
- 不完全なテレメトリの解釈
- ステークホルダー（CEO、サポートなど）との調整
- 圧力下での迅速な意思決定
著者は、AIからの説明は実践的な経験の代わりにはならないと主張しています——学びは「やってみること」にこそあります。

"セレナ・ウィリアムズがプレーするのを見て少し学べるかもしれませんが、テニスを学ぶには実際にコートに立つ必要があります。" – Sylvain Kalache

ポリシー提案：一部のコメント投稿者は、パイロットの資格認定に似た形でSREに専門資格を導入し、定期的な訓練を義務化すべきだと提案しています。

"SREが災害対応の訓練に時間を割くようにしたいなら、資格保持の条件にすべきです。" – @solatic
実現可能性への懐疑：他の人々は、多くの企業がすでに基本的な災害復旧訓練を怠っているため、広範なシミュレーション導入は現実的ではないと指摘しています。

"非常に少数の企業しか、バックアップの復元やシークレットのローテーションの練習に時間を割いていません…運用組織は派手な作業を推進するばかりです。" – @solatic
代替的見解：少数の参加者は、AIがすでに生産性を向上させていると主張し、スキルの喪失は過剰に心配されていると述べています。

"LLMはトラブルシューティングの際、常に期待以上の働きをします…これは退化ではなく、進歩です。" – @spicyusername

定期的な実践的な訓練をスケジュールする – 四半期に少なくとも1回、テーブルトップ演習、Chaos Monkey攻撃、またはフルスタックシミュレーションを行う。
AIエージェントと人間の説明を組み合わせる – AIによる修正後、モデルがその根拠と証拠を提示するようにし、その後エンジニアがレビューし議論する。
「人間のみ」のインシデント枠を維持する – 故障の深刻度が低いアラートの一部を意図的にAIを使わずに解決することで、直感を鋭く保つ。
観測性リテラシーの強化 – エンジニアがAIの提案に依存せずに、ログ、メトリクス、トレースを独立して照会できるようにする。
業界標準や資格制度の導入を検討する – パイロットの定期訓練に類似し、正式なSRE能力フレームワークを設け、定期的なスキル評価を義務化する。

AIの能力が今後も成長し続ける場合、ルーティンなインシデントはほぼ完全に自動化され、人間のMTTRは縮小する一方で、稀で複雑な障害の修復時間は逆に膨らむ可能性があります。
このトレードオフは航空業界と類似しています：自動化による安全性の向上は、厳格な人間の訓練の必要性によって相殺されます。
スキルの衰えを無視する組織は、平均的な修復は速いものの、重要なインシデントが深刻な遅延で対応される未来に直面するリスクがあります。

この投稿は、Sylvain Kalache（2026年9月4日）のオリジナルブログエントリと、Hacker Newsで最も高評価されたコメントを統合したものであり、核心的な主張、支援証拠、コミュニティの反応を強調しています。