Google Cloud、AIインフラとオーケストレーションを強化 GKEやTPU連携を拡充
この記事の要点
Google Cloudは10月、AIおよびエージェント型ワークロード向けのインフラとオーケストレーションに関する製品アップデートを発表した。コンピューティング環境の高速化やセキュリティ強化に加え、TPUとPyTorchの連携を深めるツールなどを投入する。AI21やZenteiQなどの導入事例では、ワークロードの開始時間短縮や推論スループットの向上といった成果が出ている。OracleへのTPU提供も2027年に予定されている。
Google Cloudは10月、AIおよびエージェント型ワークロード向けのインフラとオーケストレーションに関する製品アップデートを発表した。コンピューティング環境の高速化やセキュリティ強化に加え、TPUとPyTorchの連携を深めるツールなどを投入する。
AIワークロードの実行基盤として、エージェント型AIのセキュリティとスケーリングを目的とした「Agent Compute Engine」を提供する。ハードウェア分離されたマイクロVMサンドボックスを採用し、サブ秒単位の起動やクロスクラウドの可観測性を実現した。
GKE(Google Kubernetes Engine)では、コールドスタートを最大2倍高速化する「CPU startup boost」をプレビュー公開した。初期化時にCPUリソースを動的に引き上げる機能だ。また、WizのeBPFランタイム脅威検知機能をGKEで利用可能にするアドオンも提供する。
AI学習・推論向けでは、NVIDIA Vera Rubin NVL72プラットフォーム搭載のA5Xインスタンスや、ベアメタル構成のZ4Dインスタンスを拡充した。外部接続のない環境向けの「GDC air-gapped」は、NVIDIA Blackwell Ultraアーキテクチャをサポートする。
オープンソース関連では、Metaと共同開発した「TorchTPU」を発表した。PyTorchエコシステムからGoogle TPUを直接利用可能にする。また、Kubernetesネイティブな推論サービングスタック「llm-d 1.0」や、オンデバイスGPUエンジン「ML Drift」も公開した。
導入事例では、AI21がAI Hypercomputerの活用によりワークロードの開始時間を83%短縮した。ZenteiQはGKEとllm-dの組み合わせで、推論スループットを4.07倍に向上させている。
このほか、移行ツール群を単一ポートフォリオに統合したほか、Temporal Serverless Workers on Cloud Runの提供を開始した。オープンウェイトモデル「Reflection's Beam」も公開している。OracleへのTPU提供は2027年を予定しており、Google Cloud以外でTPUを提供する初のハイパースケーラーとなる。
開発者にとっての意味
Agent Compute Engineやllm-dの導入は、現時点では見送る。これらはエージェントのガバナンスや推論の効率化に寄与するが、既存のKubernetes環境を刷新するコストと、運用上の複雑性が釣り合うか不明だからだ。特にllm-dのキャッシュ認識ルーティングが、自社の推論パターンでどの程度レイテンシを改善するか、実データでの検証が必要である。CPU startup boostはコールドスタート対策として有用だが、In-place Pod Resizeの安定性を確認するまで本番投入は控える。まずは、自社の推論スループットと起動時間を計測し、現状のボトルネックがインフラ層にあると断定できた段階で、これらのツールへの移行を再検討する。
4人で読み解く
記事の内容だけをもとに、担当のちがう4人(経営・開発・聞き手・運用)が話します。 記事に書かれていないことは話しません。
出典
Google Cloud Blog「What’s new in AI infrastructure and orchestration in October」この記事は、出典元が公表した原文をもとに当社のAI編集部が日本語で再構成し、 公開前に人が確認したものです。原文の訳ではありません。 事実関係は出典(原文)で確認してください。
