Amazon EKS Auto ModeとKarpenterがDynamic Resource Allocation（DRA）をサポート、NVIDIA GPUとEFAデバイスの柔軟な割り当てが可能に

公式発表で確認できる事実

• Amazon EKS Auto ModeおよびKarpenterが、NVIDIA GPUとElastic Fabric Adapter（EFA）ネットワークデバイス向けにDynamic Resource Allocation（DRA）をサポートしました。
• ResourceClaimまたはResourceClaimTemplateオブジェクトを使い、モデル・アーキテクチャなどの属性でGPUやEFAデバイスを定義できます。
• GPUデバイスを複数のPod間で共有できます。
• 分散トレーニングや推論実行時に、PCIeアライメントされたGPUとEFAデバイスをトポロジー整合で割り当てられます。
• KarpenterはDRAオブジェクトの要件に合致する最低コストのインスタンスを自動的に起動します。
• Amazon EKS Auto ModeではNVIDIA DRAドライバーとEFA DRAドライバー（DRANET）が組み込みで提供されており、追加のドライバーセットアップは不要です。
• Amazon EKS Auto ModeはDRAを使用するワークロードと同一デバイスタイプのデバイスプラグインを使用するワークロードが同一ノードで動作しないよう自動的に防止し、移行中のサイレントなデバイス過剰サブスクリプションリスクを軽減します。
• 提供リージョン：AWS GovCloud（US）リージョンおよびChinaリージョンを除くすべてのAWSリージョン。
• KarpenterではすべてのKubernetesバージョンでDRAサポートが利用可能です。
• Amazon EKS Auto ModeではKubernetesバージョン1.36以降でDRAサポートが利用可能です。
• 詳細はAmazon EKS User GuideのDRAドキュメントおよびKarpenterドキュメントを参照してください。

当サイトの考察

DRAはKubernetes標準の仕組みとして、従来のデバイスプラグインよりも柔軟なデバイス管理を実現します。特にGPUクラスターで複数のワークロードがGPUを共有したり、NVLinkやPCIeトポロジーを意識した配置を行いたいケースで有効です。Amazon EKS Auto ModeへのDRAドライバー組み込みは運用負荷の軽減につながりますが、既存のデバイスプラグインベースの構成からDRAへ移行する際は、同一ノードでの混在が自動的に防止される点を考慮した移行計画が必要です。

確認できていない事項

• 東京リージョン（ap-northeast-1）および大阪リージョン（ap-northeast-3）での提供有無は資料に明記されていません（「AWS GovCloud（US）リージョンおよびChinaリージョンを除くすべてのAWSリージョン」との記載はありますが、リージョンコードは資料に記載がありません）。
• DRA利用に伴う追加料金の有無は資料に記載がありません。
• Karpenterの対応バージョン番号は資料に記載がありません。

この記事は、AWS 公式の発表をもとに AI が作成し、自動で公開しています。