記事

AMDは、専用AI推論シリコンを開発するカナダ・トロントのTaalasを買収する最終契約を締結したと発表しました。Taalasは推論時のデータフローを最適化し、汎用アーキテクチャで発生する演算・メモリのボトルネックを削減する技術を開発しています。

この買収は、AIハードウェア市場の大きな変化を示しています。最先端モデルの学習には依然として柔軟性と大規模並列処理能力を持つアクセラレーターが必要ですが、推論ワークロードは急速に多様化しています。安定した本番ワークロードでは、特定の推論パターンに最適化されたハードウェアやデータフロー設計が有利になる可能性があります。

AMDはTaalasの技術を、Instinct GPU、EPYC CPU、ROCmソフトウェア、ラックスケール・システムなどを含むAIプラットフォームとアクセラレーターのロードマップへ統合する方針です。AIインフラの競争は、個々のチップ性能だけではなく、システム全体の設計へ広がっていくと考えられます。

データセンター運営者の視点では、推論の専用化によって設備構成がさらに異種化する可能性があります。学習クラスター、大量推論、低遅延推論、企業向けAIサービスでは、それぞれ異なる電力密度、冷却方式、ネットワーク構成が求められるでしょう。

出典

AMD

原文リンク：https://newsroom.amd.com/news/amd-acquires-taalas-ai-inference/

編集注：本稿は上記公開情報を基に独自に作成した業界解説であり、原文記事の転載ではありません。