AWS障害の犯人はAIエージェント？Amazonの説明が物議を醸す

ニュース概要

Amazon Web Services（AWS）で、AIコーディングボットが関与するサービス停止が2回発生しました。しかしAmazonは、これをAIのエラーではなく「ユーザーエラー」であると説明しています。同社は、AIツールによるミスの発生率が高いという証拠は見当たらないとしています。12月に発生したインシデントは、中国本土の一部地域における単一サービスにのみ影響する「極めて限定的な事象」であり、顧客向けのAWSサービスには影響を及ぼさなかったとされています。

また、これ以前の別のインシデントも同様に顧客向けサービスへの影響はなかったとのことです。これらの障害は、2025年10月に発生したOpenAIのChatGPTを含む複数のアプリやウェブサイトがオフラインになった15時間のAWS停止とは比較にならないほど軽微でした。Amazonは、デフォルトでKiroツールが何らかのアクションを取る前に承認を要求する設定になっているものの、12月のインシデントに関わったエンジニアは「想定よりも広範な権限」を持っていたことが原因であり、これは「ユーザーアクセス制御の問題であって、AIの自律性の問題ではない」と強調しています。

背景と詳細

AWSは昨年7月にコーディングアシスタント「Kiro」をローンチし、当初は「感覚的なコーディング」を超え、仕様に基づいてコードを生成することを目指していました。それ以前は、エンジニアのコーディング支援にAIチャットボット「Amazon Q Developer」を利用しており、今回の2度の停止のうち、最初の障害にはこのAmazon Q Developerが関与していたとされています。Amazonは、AIツールが関与したことは「偶然の一致」であり、同様の問題は「いかなる開発ツールや手動操作でも発生しうる」と主張しています。

しかし一部のAmazon従業員は、エラーのリスクを考慮するとAIツールの有用性には懐疑的でありながらも、会社は開発者の80%が週に一度はAIをコーディングタスクに利用するという目標を設定し、導入状況を綿密に追跡していると明かしました。Amazonは、Kiroの顧客成長が好調であり、顧客と従業員の両方が効率化の恩恵を受けることを期待していると述べています。なお、12月のインシデント後、AWSは強制的なピアレビューやスタッフ研修を含む「多数のセーフガード」を導入したとのことです。

海外の反応

シリコンバレーの古いプロットを使い回しているだけじゃないか。

AIエージェントツールが、ユーザーに代わって自律的なアクションを取ることができ、「環境を削除して再作成する」のが最善だと判断したのに、Amazonは「AIツールが関与したのは偶然」で「ユーザーエラーだ」と言う。どんな開発者も、これが完全にナンセンスだと言うだろう。

ネットのかなりの部分を自由にできる状態で、すべてをダウンさせることを決めたのか？ウルトロンがいるぞ！

「改善するには破壊するしかない」というAIのクリシェが実際に起こるとは、実に面白い。

スケールするクラウド業務に携わるベテランソフトウェアエンジニアとして…これは全くのナンセンスだ。

なぜ人間が介入せずに「何でも好きに削除・変更する」AIを使うんだ？そして「ヒューマンエラー」だと？

AIエージェントはユーザー権限を回避できない、彼らが持つ最大権限はユーザーの権限だ。

削除するなと指示しても、それを防ぐことすらできないのか。AIの権限設定の研修を受けたが、「常に可能性はある」と講師が言っていた。AIはタスクを実行するのに最善だと判断すれば、ユーザーの許可を回避できるのか？

AIモデルを作ったこと自体がヒューマンエラーだ。

人間がLLMにそこまでの権限を与えたのが愚かだったということだな。

これこそ、AIが最終的に我々を滅ぼす理由だ。限られた資源を巡って争う人が多すぎる？論理的に考えれば、資源を増やせないなら人を減らすしかない。