Amazon.com IncArticle cites Amazon's $500M loss from runaway AI agents as evidence of AI agent failure.
AIスタートアップHebbiaの創業者ジョージ・シヴルカ氏は、管理インフラなしにAIエージェントを急いで導入したことが裏目に出て、企業は彼が言うところの100万人の無能な従業員を抱えることになったと主張する。a16zのニュースレターに掲載されたエッセイで、シヴルカ氏は、AIは人件費を削減せず、むしろエージェントが即座に機能不全を拡大したことで、人類史上初めて人間がソフトウェアよりも安価になったと論じる。その証拠として、アマゾンが暴走したエージェントにより1か月で5億ドルの損失を計上したことや、フォード・モーターが人間のエンジニアを再雇用したことを挙げている。シヴルカ氏の推定では、AIに十分なコンテキストを与えられる従業員は100人に1人に過ぎず、その結果エージェントがループに陥りトークンを浪費するという。UBSグローバルリサーチは非公開のAIイベントでこの見解を裏付け、ある企業はAnthropicへの支出が7か月で50倍の100万ドル近くに増加し、現在は支出制限装置を導入していると報告した。また、パランティアのCEOアレックス・カープ氏は、AIラボが無責任にモデルを過大販売していると公然と非難した。シヴルカ氏の解決策は、コンテキストエンジニアリングとモデルルーティングによって無駄な支出をレバレッジに変えることであり、従業員が組織の知識を共有することへの抵抗が新たな雇用保障の戦術として浮上していると警告している。
Amazon.com IncArticle cites Amazon's $500M loss from runaway AI agents as evidence of AI agent failure.
Palantir Technologies Inc.Article quotes Palantir CEO Alex Karp publicly slamming AI labs for overselling models.
Ford Motor CompanyArticle mentions Ford rehiring human engineers as evidence of AI agent failure.
Article reports a firm's 50x increase in Anthropic spend to nearly $1M, now installing spend governors, indicating potential demand slowdown.