メガトレンド · 人工知能
AIがクラウドを離れ、スマホ、ノートPC、そしてあなたの車の中へ来るとき
ChatGPTに質問するたび、その問いは世界を越えてデータセンターの巨大チップへ飛び、答えが返ってくる——でも、まったく外へ飛ばないAIもあるんです。それは私たちの手の中の端末で、NPUという極小チップの上で動いている。この node は、AIを「端末の中」で動かすシリコンの話です——反応は一瞬、ネットがなくても動く、個人データは端末から出ない、そして質問するたびにクラウド代を払わなくていい。これは、スマホもパソコンも、どんな車も「自分で考えられる」ものに変えていく、新しい波です。
01これは何？（端末の中のAIチップ — NPU）
AIには二つの世界があると思ってください。一つ目は「クラウド」のAI——私たちがChatGPTに質問を打ち込むと、その問いは世界を越えてデータセンターの巨大チップへ飛び、計算を終えて私たちのところへ戻ってくる。もう一つの世界——この node の話——は、私たちが手にしている端末の中で動くAIです。どこへも飛んでいかない。スマホがビデオ通話で背景をぼかすとき、オフラインで翻訳するとき、機内モードのまま文章を要約してくれるとき——それが端末の中で動くAIです。
その心臓部が、NPU（Neural Processing Unit、「ニューラルネットワーク処理装置」）という極小チップです。データセンターの巨大なGPUではなく、スマホ・ノートPC・車の制御ボックスの SoC（System-on-Chip——CPU・GPU・NPUを一つにまとめたチップ）に埋め込まれた小さなブロックです。NPUの役目はただ一つ：AIの処理（とくに inference、「学習済みモデルを使うこと」）を、いちばん速く、いちばん省電力でこなすこと。
メガトレンドの地図では、この node は大きなトレンド Artificial Intelligence の中、AI Compute & Accelerator Silicon の下にある一支流です。隣に並ぶ兄弟は「クラウド」側のチップ——GPU & Merchant Accelerators（データセンターの巨大チップ）と Inference-Optimized Silicon（クラウドでモデルを動かすことに特化したチップ）。違いははっきりしています：クラウド側は いちばん大きく強力 だけど遠い。この node は 手の中に収まるほど小さい AIで、いちばん近い。
NPU = AIの処理を端末の中で動かすために設計された専用チップ。小さな行列のかけ算を低消費電力で何度も繰り返すのが得意 · TOPS（Tera Operations Per Second）= NPUの速さを測る単位で、「1秒あたり何兆回の計算ができるか」。多いほど、大きなモデルを端末の中で動かせる · SoC = CPU＋GPU＋NPUを一つにまとめたチップ。スマホの Snapdragon や Mac の M シリーズのように
02なぜ重要か——端末の中で動かすべき4つの理由
ストレートな疑問はこうです：クラウドのほうがずっと強力なのに、なぜわざわざバッテリー駆動の小さな端末でAIを動かそうとするのか？答えは、端末の中で動かすことが ユーザーがすぐ実感できる4つの点 でクラウドに勝つから。そしてこの4つこそが、NPUを新時代の端末の標準部品にした理由です。
- プライバシー（privacy）： いちばん繊細なデータ——写真、メッセージ、声、健康——が、誰かのサーバーの上に乗らずに済む。端末の中で処理して、それで終わり。これは「データは端末に残る」とうたう Apple Intelligence の最大の売りです
- 低遅延（latency）： データがクラウドへ往復するのを待たなくていい。新しいスマホでの端末内 inference は 20ミリ秒未満 という速さ——ビデオの背景ぼかしや、「コンマ数秒」も待てない車の緊急ブレーキ補助のようなリアルタイム処理に十分間に合います
- オフライン動作（offline）： ネットがなくても使える。飛行機の中、地下、電波の弱い場所でも、翻訳・文書要約・音声操作がふつうに動く
- クラウドコスト削減（cost）： クラウドで動く答えには、電気代とGPU代が現実にかかる。AIを使う人が増えるほどクラウドの請求は膨らむ。頻繁に起きる小さな処理をユーザーの端末へ移せば、企業はデータセンターでの莫大な inference コストを背負わずに済みます
この4つの力が合わさって、エッジ（end）のAIハードウェア市場はとても速く伸びています。2025年の約 260億ドル から、年平均およそ17〜18%で、2030年には 〜590億ドル に届くと見られています。しかもこれは、ほぼすべてのスマホ・ノートPCのチップに「標準のおまけ」として少しずつ載っていく分をまだ数えていません。
03どう動くのか（質問は端末から外へ飛ばない）
この node をいちばん簡単に理解する方法は、同じ質問がたどる二つの経路を比べることです——世界を越えて飛ぶクラウドの経路と、端末の中で完結する経路と。
端末の中で動かすコツは 「縮小したモデル」 です。クラウドのモデルはパラメータが何兆個もあってスマホには入りません。そこで使うのが quantization（モデル内の数値の精度を下げる技術。たとえば16ビットから4ビットへ）や、小型言語モデル（SLM） ——Microsoft の Phi シリーズや Google の Gemini Nano のように、スマホのNPUで動くほど小さく圧縮されたモデルです。最高レベルの賢さの一部を手放すかわりに、それが「いつも端末の中にいる」のと引き換える、というわけです。
NPU自体がこの仕事を得意とするのは、専用に設計されているから——汎用チップではなく、小さな行列のかけ算・足し算の演算ユニットがびっしり詰まっていて、それらが極めて低い消費電力で一斉に働きます。その速さは TOPS で測られ、この数字こそが、各社がスマホやノートPCの発表会で競って見せる「新しいスペック」になりました。
04エコシステムのどこにいるのか
この node はクラウドと真っ向勝負しているわけではありません——仕事を分け合う相棒 です。新しいAIのアーキテクチャでは、小さくて頻繁に起き、プライバシーに敏感な仕事が端末へ降りてくる。いっぽう、大きくて最も複雑な仕事は今もクラウドに頼る。どこと、どうつながっているか見てみましょう。
- クラウドの Inference-Optimized Silicon を補完する（置き換えはしない）： 端末内のモデルが手に余る仕事に出会うと、それをクラウドへ「引き継ぐ」——hybrid AI と呼ばれる考え方です。端末の小型モデルが日常の仕事の80%をさばき、データセンターの inference チップが残りの重い仕事を受け持つ。この二層が切れ目なく連携します
- 最先端の Logic Chips と同じ技術を使う： 旗艦スマホのNPUは、ハイエンドのコンピュータチップと同等の3nmプロセスで作られる——だからこの node は、Semiconductors 全体、とくに先端ロジック側へ需要を引き込む重要な顧客なのです
- Robotics & Physical AI を直接解き放つ： ロボット、ドローン、自動機械は、現場でリアルタイムに「考え」なければならず、クラウドを待てない——エッジのNPUこそが、それらに即断を可能にする頭脳です
- 「人にいちばん近い」AI の心臓になる： 上の層にあるAIモデルやアプリが本当に普及するのは、人が手にしている端末の中で動くときだけ——この node は、AIをデータセンターから何十億人ものユーザーの手元まで運ぶ層です
05いま、どこまで来たのか
いま最も速くゲームを変えている波が 「AI PC」 です。2024年、Microsoft は Copilot+ PC という新しい基準を立て、Windows の端末内AI機能を動かすには NPU が少なくとも 40 TOPS なければならない、と線を引きました——この40 TOPSの線が、全チップ各社がすぐに越えなければならない「バー」になったのです。結果、Intel（Core Ultra 〜48 TOPS）、AMD（Ryzen AI 300 〜50 TOPS）、Qualcomm（Snapdragon X Elite 〜45 TOPS）が、強力なNPUをノートPCチップに詰め込む競争に走りました。
このバーの効果は、販売台数の数字にはっきり出ています。Gartner の推計では、コンピュータ市場全体に占めるAI PCの割合は 2024年の〜16%から2025年には〜31%（約7,800万台）へ跳ね上がり、2026年には〜55%（約1億4,300万台）に届く——つまり2026年までに、売れるコンピュータの半分以上にNPUが載ってくる、ということです。
スマホ側も負けず劣らず加速しています。旗艦チップのNPUは驚くほど速く伸びていて——Qualcomm の Snapdragon 8 Elite Gen 5（2025年末発表）の Hexagon NPU は 〜100 TOPS に達し、端末の中で言語モデルを動かしてもバッテリーを使い切らないほどの力があります。Apple は A18 Pro と M4 に Neural Engine 38 TOPS を載せ、端末内処理をうたう Apple Intelligence の土台にしている。MediaTek は Dimensity 9400 に NPU 〜50 TOPS を搭載——TOPSという数字が、消費者がカメラやバッテリーと同じくらい気にするスペックになりつつあります。
注目すべきは、プレーヤーの顔ぶれがクラウド側とはまるで違う ことです。データセンターでは NVIDIA がほぼ独占に近い形で市場を握っている。でもエッジは分散したオープンな戦場です——スマホ勢（Qualcomm、MediaTek、Apple）、NPUを設計できる形でIPを売る勢（Arm）、特化型のエッジ専門家（カメラ・車の Ambarella、IoT の Synaptics）が、それぞれに自分の居場所を持っています。
06未来の話——AI PC、極小モデル、ロボット
第一の方向は NPUがあらゆる端末の「標準装備」になること です。カメラやWi-Fiがかつて特別なものからすべての端末に必須のものになったように。2026年にコンピュータの半分以上がNPUを積み、旗艦スマホのすべてがNPUを心臓に持つようになれば——端末にAIがあることは売りではなくなり、誰もが当たり前に期待することになります。
第二の方向は 縮小モデルが思ったより速く賢くなること です。小型言語モデル（SLM）とモデル圧縮技術の研究は毎月のように進歩しています。今日NPUで動く極小モデルは、すでに一年前のクラウドモデルに近い働きをします。この差が縮まるほど、より多くの仕事が端末へ流れ込んでくる——これがこの node の構造的な追い風です。
第三の方向は スマホ・PCから、自動車やロボットへの広がり です。新しい車は「車輪のついたデータセンター」——車体まわりのカメラ映像をリアルタイムで処理しなければならず、クラウドを待つなど絶対にできない仕事です。Robotics & Physical AI のロボットやドローンも同じで、自分で判断するためにエッジの頭脳を必要とします。これらの新しい市場は、Ambarella のような特化型のエッジ勢と Nvidia（車載チップ側）が激しく競い合う戦場です。
07課題とリスク
ここでの最初のリスクは 最も大きく賢いモデルは今もクラウドにある こと。端末内のNPUは頻繁に起きる小さな仕事は得意ですが、複雑な推論、とても長い文脈、最新の知識を要する仕事は、今もデータセンターの巨大モデルに頼っています。もしユーザーが端末のAIをクラウドより明らかに「賢くない」と感じ続けるなら、強力なNPUのために余計に払いたいという気持ちは、チップ各社が期待するほどには高まらないかもしれません。
二つ目のリスクは 激しく分散した競争 です。明確な市場リーダーがいるクラウドと違い、エッジは押し合うほどに開かれた戦場です——Qualcomm、Apple、MediaTek、Intel、AMD、Arm、そして多くの特化型エッジ勢が、同じ場所を奪い合う。NPUがすべてのチップに必須の「標準品」になれば、それは旨みのある利益ではなく価格で競う機能になってしまう恐れもあります。
三つ目のリスクは 「ソフトウェアの分断」問題 です。NPUは各社が独自の開発ツールを持っています——Qualcomm は QNN、Apple は Core ML、MediaTek は NeuroPilot。AIアプリをどの端末でもうまく動かしたい開発者は、何度も調整を繰り返さなければなりません。この煩雑さのせいで、ハードが整っても端末内AIの実用化はそれより遅れる——チップがどれだけ速くても、ソフトが追いつかなければ、その力は使い切れないのです。
ひとことで言えば：この node は、AIが遠いデータセンターから、私たちが手にしている端末の極小チップへと「引っ越す」話です。それは人工知能をより速く、よりプライベートに、そして何十億もの人へ本当に届くものにする——そして縮小モデルが賢くなるほど、「端末の中のAI」と「クラウドのAI」の境界線は、どんどん薄れていきます。