根據 《金融時報》報導,亞馬遜去年裁員了3萬人,現在面臨使用人工智慧進行複雜程式碼的後果,緊急召開了會議。報社收到內部通知,內容顯示情況並不理想,電子郵件內容也包括,資深副總裁 Dave Treadwell 可能是該備註或其中一封電子郵件的作者,並要求資深工程師現在必須忽略並批准任何使用 AI 所做的程式碼變更。
亞馬遜召開會議,調查他們的系統為何會當機,或稱「中斷」,並邀請資深工程師來查明原因。生成式人工智慧也承擔部分責任,而直接寄給員工的電子郵件也直接承認「網站及相關基礎設施的可用性」存在問題。其中包括有 10,000+ 名客戶無法從網站結帳、應用程式無法運作甚至直接當機,而亞馬遜網路服務據稱也追蹤到自己 13 小時的當機是因為使用 AI 編碼,這並非唯一發生的案例。根據《金融時報》,這其實是因為 AI,也就是亞馬遜自家的 Kiro 程式機器人。亞馬遜曾發表 聲明 ,完全否認此說法,反而歸咎於單純的人為錯誤。
業界分析師指出,問題出現在人工智慧不再只是輔助工具,而是積極推動變革,讓像亞馬遜這樣的公司損失大量實金,或消耗大量人力時間,例如人工智慧系統Claude,該系統在 最近多次發生, 甚至在一瞬間清空整個資料庫,卻沒考慮後果。