コロラド対ジョージア工科大学
「私たちは AI を 1 つのワークロードとして考える傾向がありますが、そうではありません。AI は数千、数百万、数十億の異なるワークロードです」と、Tirias Research の創設者兼主任アナリストである Jim McGregor 氏は述べています。結論 AI は、最適化の問題を生の計算から、調整されたインフラストラクチャ (メモリ、ストレージ、ネットワーク) に変換します。
ビジネス リーダーにとって、優先順位は明らかです。AI インフラストラクチャ ソリューションは、コスト、柔軟性、将来への対応力のバランスを取る必要があります。勝者は、ワットあたりのパフォーマンスを向上させ、環境フットプリントを削減し、成長が制限される前にストレージとストレージのボトルネックを取り除く組織です。
結論 AI には新しいアーキテクチャ アプローチが必要です
従来のインフラストラクチャ上で最新の AI システムをブートストラップすると、AI の変革の可能性が制限されるため、AI システムを再構築する必要があります。科学的発見の加速から真に自律的なデジタル エージェントの作成に至るまで、AI の真の価値を実現するには、専用のアーキテクチャが不可欠です。
従来の IT 企業は、比較的安定したインフラストラクチャの前提に依存することができましたが、推論 AI とエージェンシー AI により、レイテンシ、データ転送、スケーラビリティ、使いやすさに関する新しい要件が導入されており、アーキテクチャの選択がより重要になります。
「データセンターは現在、永続的で分散型の増分 AI サービスをリアルタイムでサポートする必要があります。そのどれもが単一のワークロードではありません」と McGregor 氏は言います。 「システムレベルの観点から見ると、それらはすべて異なる要件を必要とします。」
リアルタイム AI をサポートするために、企業はメモリとストレージをサポート ハードウェアではなく、システムの中心とみなすことができます。組織は、データを迅速に取り込み、クリーンアップ、変換、保存、転送、配信できるデータ パイプラインを構築する必要があります。推論ワークロードは、以前のトレーニング デプロイメントとは大きく異なる方法でインフラストラクチャに永続的なストレスを与え、従来のアプリケーションでは決して必要とされなかった継続的なデータとキャッシュのルックアップを必要とします。
したがって、自己パフォーマンスだけが重要な基準ではなくなりました。企業は、特にピーク時に備えて過剰なインフラストラクチャを構築せずにさまざまな AI サービスをサポートしようとする場合、効率、コスト、拡張性のバランスを可能な限り取る必要があります。
「実行したいワークロードの種類に応じて、メモリやストレージを含むネットワーク全体を最適化する必要があります」とマクレガー氏は言います。 「そのワークロードがどのようなものになるのかを非常に詳細に理解する必要があります。」
