単独専有ベアメタル
GPUとホストをまるごと専有し、ノイジーネイバーの影響なく安定した性能を保証します。
紹介
GPUサーバーをまるごと単独専有します。GPU・メモリを他者と分け合わず、ベアメタルなので仮想化オーバーヘッドなしに学習・推論ワークロードを最大限に引き出します。
GPUとホストをまるごと専有し、ノイジーネイバーの影響なく安定した性能を保証します。
高電力GPUに合わせた電力供給と精密冷却で、フルロードでもスロットリングなく運用します。
24–141 GBVRAM
メモリ(VRAM)がモデルサイズの上限を決めます。まずモデルがメモリに載るかを確認します。
主要フレームワークとドライバを備えたイメージで、環境構築に時間をかけずすぐに学習を開始できます。
マルチGPU構成時はNVLinkでGPU間の帯域を確保します。
GPUラインアップ
ワークロードに合ったGPUをお選びください。1 GPU基準で、マルチGPU構成も可能です。
A100
80GBのメモリと広い帯域で学習を支えます。複数枚構成ではNVLinkでGPU間の帯域を確保します。
向いている用途
₩3,000,000/月
表示料金は1 GPU月額の推定価格で、消費税は別途です。GPUの需給・構成・契約により見積もりが異なる場合があります。
相談する用途
大規模言語・生成モデルの学習にマルチGPUと高帯域インターコネクトを活用します。
学習済みモデルをリアルタイムサービスとして展開し、低遅延と安定したスループットを確保します。
自社データでモデルをファインチューニングし、RAGパイプラインを構築します。
レンダーファーム、シミュレーション、映像処理などのグラフィックワークロードを高速化します。
機能
01
GPUをパススルーでまるごと割り当て、共有なしに全性能を使用します。
02
高速NVMeで大容量データセット読み込みのボトルネックを軽減します。
03
ハードウェア障害は24時間監視で検知して対応し、運用のお問い合わせは平日10:00-18:00(KST)に受け付けます。
04
単独専有で物理的に隔離し、入退室管理・ネットワークセキュリティでデータを保護します。
共有しません。GPUとホストを丸ごと単独で占有します。パススルーで割り当てるため、仮想化のオーバーヘッドも隣接影響もありません。
可能です。料金表は1 GPU基準で、マルチGPU構成ではNVLinkによりGPU間の帯域を確保します。必要な枚数をお知らせいただければ、それに合わせてお見積もりします。
CUDA・ドライバとPyTorchなど主要フレームワークを用意したイメージをお渡しします。ご希望のバージョンがあれば合わせます。
1 GPU月額の目安であり、税別です。GPUの需給状況や構成、契約期間によって見積もりが変わるため、確定金額はご相談時にご案内します。
高電力GPUに合わせた電力供給と精密空調を備えたラックで運用するため、サーマルスロットリングなく維持されます。24時間監視と予備リソースにより、障害時のダウンタイムも短く抑えます。
GPUサーバーもベアメタルです。違いはアクセラレータにあります。CPU中心の処理ならベアメタルサーバー、学習や推論のようにGPUが処理を担うならGPUサーバーが適しています。判断に迷う場合はワークロードをお知らせいただければ一緒に整理します。
GPUの機種と需給状況によって異なります。ご相談で構成が決まりましたら、納期の日程を合わせてご案内します。
契約期間はご相談のうえ決めます。期間によって単価が変わる場合があります。
データセットとチェックポイントに必要な容量をお知らせいただければ、NVMeの容量を構成に反映します。学習データが大きい場合は別途ストレージ構成も合わせてご提案します。
サーバーはお客様専用のため、ディスクを他のお客様と共有することはありません。返却時には記憶媒体を初期化し、必要であれば処理方法を事前に取り決めます。