AI on EKS
AI on EKSはAWSが開発したオープンソースイニシアチブで、お客様がAmazon EKS上で人工知能/機械学習(AI/ML)ワークロードをデプロイ、スケーリング、最適化するのを支援するように設計されています。AI on EKSは、複数の大規模言語モデル(LLM)のトレーニング、微調整、推論を容易にする導入準備済みのブループリント、リファレンスアーキテクチャやカスタマイズ可能なプラットフォームを可能にするインフラストラクチャ アズ コード(IaC)テンプレート、異なるトレーニングおよびデプロイ戦略を比較するベンチマーク、さらにモデルトレーニング、推論、微調整、マルチモデルサービング等のタスクに関す るベストプラクティスを提供します。
AI on EKS