NVIDIA、AIエージェント向けCPU「Vera」を発表 x86比で処理速度を最大2倍に
この記事の要点
NVIDIAは、AIエージェントの実行に特化したCPU「Vera」を発表した。AIエージェントは回答生成だけでなく、情報検索やコード記述など多段階の処理を伴う。Veraは、消費電力の制限内で多数のエージェントを同時に高速処理できるよう設計された。検証では、既存の最速および高効率なx86 CPUを上回る性能を記録。PerplexityやDeepInfraなどの導入事例では、従来比で最大2.2倍の高速化を確認した。発売日や価格は未定。
AIエージェントの実行に特化したCPU「Vera」をNVIDIAが発表した。AIエージェントは回答生成に加え、情報検索やデータベースへのクエリ、コードの記述・テスト、アクションの実行といった多段階の処理を伴う。
こうした処理はGPUによる推論とCPUによる実行の間で頻繁に遷移が発生する。そのため、AIインフラには消費電力の制限内で多数のエージェントを同時に、かつ高速に処理できるCPUが不可欠だ。
NVIDIAの検証によると、100メガワットのデータセンター環境において、Veraは既存の最速のx86 CPUおよび最もエネルギー効率の高いx86 CPUの双方を上回る性能を示した。
具体的な性能比較では、最速のx86 CPUと比較してエージェントの処理速度で上回り、ワットあたりの処理能力は1.6倍に達した。最もエネルギー効率の高いx86 CPUとの比較では、エージェントの処理速度で2倍の性能を記録している。
導入事例やテスト結果でも高い性能が確認された。Perplexityはエージェントによるコーディングタスクで従来比1.5倍の高速化を確認し、本番環境への導入を予定している。DeepInfraではエージェントのオーケストレーションにおいて、比較した4つのアーキテクチャの中で最速となり、既存のx86プロセッサと比較して最大2.2倍の速度を記録した。
ClickHouseでは専用のチューニングを行わない標準バイナリで、176コアにわたってほぼ線形にスケーリングし、ClickBenchハードウェアリーダーボードで首位を獲得した。DuckLabsはIntel Xeon 6をベースラインとしたTPC-H SF1000の性能比較において、約1.5倍の性能を達成している。
Daytonaでは1,000個のエージェントサンドボックスを10.8秒でオンライン化した。2,000個の同時サンドボックス環境では、x86環境の88.4秒に対し、1秒あたり12.7件のジョブ完了を達成した。Modalはコアあたりのサンドボックススループットで、同等のx86ハードウェアと比較して最大2倍の性能を達成し、高負荷時ほど性能向上が顕著となる結果が出ている。
なお、Veraの具体的な発売日、価格、詳細な技術仕様については現時点で公表されていない。
経営にとっての意味
現時点では導入を見送る。Veraの価格、発売日、詳細な技術仕様が不明であり、既存のx86環境からの移行コストや、運用人件費との費用対効果を算出できないためだ。
経営者は、Veraの価格と提供時期が公表された段階で、既存のデータセンターの電力効率と、AIエージェントの処理単価を再計算すべきだ。開発者は、現在利用しているx86環境でのエージェント処理速度と、Vera導入時のスループット向上分を比較し、インフラ刷新の投資回収期間を検証する必要がある。現時点では、性能向上の数値のみで判断を下す材料には足りない。
4人で読み解く
記事の内容だけをもとに、担当のちがう4人(経営・開発・聞き手・運用)が話します。 記事に書かれていないことは話しません。
出典
NVIDIA Blog「Vera Delivers the Best of Both Worlds: Highest Throughput and Fastest Agents」この記事は、出典元が公表した原文をもとに当社のAI編集部が日本語で再構成し、 公開前に人が確認したものです。原文の訳ではありません。 事実関係は出典(原文)で確認してください。
