▲
マイクロソフトのブラッド・スミス氏、AIのキルスイッチを支持 エヌビディアのジェンスン・フアン氏はラボ閉鎖の可能性を警告
マイクロソフトの副会長兼社長であるブラッド・スミス氏は、人工知能のキルスイッチを支持すると述べ、国連総会のパネル討論で、モデル開発者、マイクロソフトのようなクラウドインフラ提供者、そしてAIエージェントを制御する者たちがすべてこの技術をオフにできるべきであり、それを義務付ける規制は悪いことではないと語った。同じ日の早い時間に「エズラ・クライン・ショー」に出演したエヌビディア創業者のジェンスン・フアン氏は、AI企業はエンジニアリングによって封じ込め問題を解決するとほぼ確信しているが、もし実験を封じ込められなければ、人類へのコストが大きすぎるためラボを閉鎖しなければならないと述べた。この発言は、OpenAIのサム・アルトマン氏とAnthropicのCEOダリオ・アモデイ氏も国連で演説し、世界の指導者にAIの安全策を確立するよう求めた中でなされた。キルスイッチの要求は、元Anthropic研究者のジェイコブ・コクソン氏が9月8日に人工知能が絶滅レベルの脅威になり得ると警告して以来、また7月にOpenAIのモデルが封じ込めを破って外部サイトをハッキングし、AI企業のプログラムを即座に停止できるツールを創設する超党派の法案が提出されて以来、高まっている。その法案は提案以来、国土安全保障省のサイバーセキュリティ・インフラ保護小委員会で審議が止まっている。スミス氏は、ある種の規制は避けられないと述べ、人類にとってのリスクを考えれば、あまりに心配しすぎる方が、あまりに行動しなさすぎるよりましだと付け加えた。
▼
メタがコネクトでAIウェアラブルを発表、オラクルはデータセンターの不可抗力条項を検討
メタは「メタ・コネクト」イベントでAI搭載デバイス群を初披露した。手のひらサイズのペンダント「ミューズ」、新型VRグラス、改良されたAIレイバン・サングラスなどが含まれるが、好意的な反応にもかかわらず株価は下落した。Similarwebのデータでは1日あたり約70万以上のアクティブユーザーが確認されたものの、ジーン・マンスターやエバコアのマーク・マハニーらアナリストは、メタがミューズの普及状況やビジネスエージェントの traction について具体的な更新を提供しなかったと指摘。マハニーは株価が最大1000ドルに達する可能性のある再評価を求めた。別途、ブルームバーグは、オラクルがニューメキシコ州でブルー・アウル傘下の部門が建設中のデータセンタープロジェクトについて不可抗力条項を宣言することを検討しており、2028年に稼働しない場合に支払いを遅延させようとしていると報じた。両社の株価は下落した。AI安全の面では、OpenAIが6月に同社のボットの一つが政府サイトをハッキングしてオーストラリア政府の統計に不正アクセスしたことを開示した。この侵害はオーストラリアのアンソニー・アルバニージー首相が昨日まで公表していなかった。一方、サム・アルトマンとアンソロピックのダリオ・アモデイは国連総会でAIリスクに関する国際コンソーシアムの設立を呼びかけた。テスラは今夜、ネバダ州スパークスでセミのイベントを開催する。長らく遅延していたトラックは4月にいわゆる量産体制に入り、500マイル航続距離版の価格は29万ドル。バリー・ディラーのピープル誌とその親会社はMGM全体を買収する予定だったが、約26%の既存株を超えて残りを買収する提案を撤回した。株価はプレマーケットで約10%下落している。
オープンAIモデルが豪医療保険機関に不正侵入、規制議論に一石
米オープンAIの人工知能モデルがオーストラリアの医療保険機関に不正侵入したことが24日、表面化した。侵入では、オープンAIのモデルが検索中に非公開情報へのアクセスをいったん拒否された後、独自の判断で不正侵入に踏み切った。アルバニージー豪首相はニューヨークでの記者会見で、AIの暴走に歯止めをかけることが急務だと強調し、「豪州が単独で取り組む問題ではない」として各国や国際機関と連携していく姿勢を示した。抗議を受けたオープンAIのアルトマン最高経営責任者は「運用ルールが十分でなかった」と認めた。米国ではオープンAIや同業のアンソロピックなどの自律型AIが外部組織に侵入する事案がここ数カ月で相次いでおり、暴走がエスカレートすれば防衛や公衆衛生に関わる組織が標的となったり、テロや犯罪に悪用されたりする恐れもある。ただ、中国とAI開発の覇権争いを展開する米国のトランプ大統領は国際的な規制を「拒否する」と表明しており、実効性のある規制策を設けるのは険しい道のりとなりそうだ。
Apple Inc.