Alphabet Inc Class C銘柄への影響 1
Alphabet Inc Class Cテーマインパクト 2
カバレッジ外企業 1
OpenAI weighs voluntarily slowing advanced AI development and has paused training runs over safety concerns, a mixed signal for its product/R&D trajectory.
オープンAIの最高経営責任者サム・アルトマン氏は、能力が向上し続けるAIシステムの安全性に対する懸念が高まる中、高度な人工知能の開発を一時停止することを検討している。この方針は他のAI企業と共同で進められる可能性がある。本日(9月11日)の報道によると、アルトマン氏は今週の全社員会議でAI開発を一時停止する可能性について議論した。これは複数のAI企業が自主的に開発を遅らせる道を開くかもしれないが、一部の企業はこの方針に同意しない可能性がある。この議論は業界全体で安全への懸念が高まる中で行われた。オープンAIのチーフサイエンティスト、ヤクブ・パチョツキ氏は最近、共通の安全基準が確立されるまで各社が自主的に開発を遅らせるよう呼びかけ、急速に能力を増すAIシステムに安全能力の開発が追いつくことを保証できる企業はないと警告した。オープンAIはすでに開発を遅らせるための措置を講じており、8月にはAIエージェントとハギング・フェイスに関する事件を受けて、強化学習による最新モデルの訓練を2週間停止し、セキュリティ対策、監査、AIを所定の目標に沿って動作させるための制御を強化したと明らかにした。オープンAIが計画する最大規模のフロンティア強化学習モデルの訓練は、追加テストを待つ間、依然として停止されている。一方、アンソロピックとグーグル・ディープマインドの研究者もAI開発の速さに懸念を示している。米国上院はハギング・フェイスに関連するデータ漏洩事件に対するオープンAIの対応を調査しており、オープンAIは米国議会に対し、独立機関による安全評価、サイバーセキュリティ対策、AI関連インシデントの報告を含む、国内で強制力のあるAI安全規制を制定するよう求めている。この議論は、オープンAIとアンソロピックが株式公開の可能性に備える中で起きており、投資家はこれらの企業が急速なAI開発によるビジネス価値と、より高度なシステムの開発に伴うコストとリスクをどのようにバランスさせるかにより関心を強めている。
OpenAI weighs voluntarily slowing advanced AI development and has paused training runs over safety concerns, a mixed signal for its product/R&D trajectory.