AI対応のPCIe Gen5 NVMe：Kingston の DC3000ME エグゼクティブサマリーに関する MLPerf Storage v2 の調査結果

機械学習モデルのトレーニングでは、他のいずれのソフトウェアタスクより多くの CPU サイクル、メモリ、I/O 帯域幅を消費します。最先端のモデルは、複数のエポックにわたり数百テラバイトのデータの読み込みや書き込みができるため、最速のストレージアレイの限度も押し上げられます。AI の開発競争が始まったことで、あらゆる産業と政府機関が AI のパフォーマンスをより高いレベルに押し上げようと競っているため、ML ワークロード用の特定のハードウェアリソースを評価するための信頼性が高く再現性の高い方法の必要性が不可欠になっています。
MLCommons グループは、この取り組みの先駆者であり、MLPerf Storage v2.0 を使用して、機械学習トレーニングと推論におけるストレージパフォーマンスを評価するために革新的な方法を導入しています。このホワイトペーパーでは、高額な GPU ハードウェアを使用せずに MLPerf のベンチマークフレームワークでどのようにして Kingston の DC3000ME PCIe Gen5 NVMe U.2 SSD が動作するのかを説明します。スリープエミュレーションを使用して、MLPerf は実世界の AI ワークロードをシミュレートし、組織がコスト効率の高いスケーラブルな方法でストレージパフォーマンスをテストできるようにします。

これがなぜ重要なのでしょうか？高速ストレージは、データをすばやく供給し、アイドル時間を最小限に抑え、計算効率を最大限に高めることで、GPU の生産性を維持します。Kingston の DC3000ME ドライブにより、組織はトレーニングサイクルを加速させ、インフラストラクチャのコストを削減し、少ないドライブでスケーラブルなパフォーマンスを実現し、最新の AI 開発にスマートに投資することができます。

このホワイトペーパーでは次の記事が記載されています:

• MLPerf v2 Storageの新しいスリープエミュレーションテスト方法の調査
• MLPerf v2 Storage がカバーしている異なるトレーニングとチェックポイントのワークロードの紹介
• PCIe Gen5 と Gen4 プラットフォームでのトレーニングとチェックポイントのワークロードにおける Kingston DC3000ME の調査結果に関する説明

この結果では、DC3000ME などの PCIe Gen5 NVMe ソリューションは、機械学習ワークロードで最高のアクセラレータ使用率と GPU アクティブ時間の達成を求める組織にとって説得力のあるソリューションを示しています。当社は、調整可能な要素、テストの方法論、事後調整、およびこれらが各種ワークロードにもたらす効果について深く探ります。

Kingston の DC3000ME PCIe Gen5 NVMe U.2 SSDs は、AI ワークロードに適した非常にコンパクトなソリューションです。ディープラーニングモデルのトレーニングでも大規模言語モデルの微調整でも、これらのドライブは、AI 開発競争で先頭を進むために必要な高速処理、信頼性、効率性を提供します。

ホワイトペーパーをダウンロードする