Amazon.com IncAMZN
言及
銘柄への影響 1
Artificial Intelligence
Amazon.com Incテーマインパクト
カバレッジ外企業 1
Anthropic非上場± 混在
関連度
Amazon.com IncAnthropicのアライメント科学責任者であるEvan Hubinger氏は、AIがすべての人間を殺す可能性があると警告し、今後10年以内の確率を10%以上としている。Hubinger氏の発言は個人の見積もりであり、Anthropicの公式予測ではないとし、同社には超知能をアライメントするための明確な計画がないと述べている。Anthropicの最新のリスク報告書では、既知のアライメント不全による壊滅的危険性を「非常に低い」から「低い」に引き上げたが、未知の故障モードは測定が難しいと認めている。同社は、モデルがすでに内部AI開発を加速させているため、自動研究リスクが6〜12か月以内に大きな懸念事項になる可能性があると述べている。この警告は、現在の運用上の安全性評価と、フロンティアAIを構築する人々が認識する長期的な実存的リスクとの間のギャップを浮き彫りにしている。