ワークロードをデプロイする

スポット

Spot プロビジョニング モデルを使用するには、アクセラレータ最適化 VM インスタンスを作成します。

gcloud compute instances create INSTANCE_NAME \
    --provisioning-model=SPOT \
    --confidential-compute-type=TDX \
    --machine-type=a3-highgpu-1g \
    --maintenance-policy=TERMINATE \
    --shielded-secure-boot \
    --image-project=confidential-space-images \
    --image-family=IMAGE_FAMILY_NAME \
    --metadata="^~^tee-image-reference=us-docker.pkg.dev/WORKLOAD_AUTHOR_PROJECT_ID/REPOSITORY_NAME/WORKLOAD_CONTAINER_NAME:latest~tee-install-gpu-driver=true" \
    --service-account=WORKLOAD_SERVICE_ACCOUNT_NAME@WORKLOAD_OPERATOR_PROJECT_ID.iam.gserviceaccount.com \
    --scopes=cloud-platform \
    --boot-disk-size=30G \
    --zone=ZONE_NAME \
    --project=PROJECT_ID

次の値を指定します。

• INSTANCE_NAME: 新しい VM インスタンスの名前。

• IMAGE_FAMILY_NAME: Confidential Space イメージのファミリー。次のいずれかを選択します。

  • 本番環境ワークロードの confidential-space-preview-cgpu

  • デバッグ ワークロード用の confidential-space-debug-preview-cgpu

• WORKLOAD_AUTHOR_PROJECT: ワークロードが実行されているプロジェクト ID。

• REPOSITORY_NAME: Artifact Registry リポジトリ名。

• WORKLOAD_CONTAINER_NAME: ワークロード コンテナの名前。

• WORKLOAD_SERVICE_ACCOUNT_NAME: ワークロードを実行するサービス アカウントの名前。

• WORKLOAD_OPERATOR_PROJECT_ID: ワークロードを実行するプロジェクトの ID。

• ZONE_NAME: NVIDIA Confidential Computing をサポートするゾーン（プレビュー）のいずれか。

• PROJECT_ID: 省略可。VM インスタンスを作成するプロジェクトの ID。

Flex Start

Flex Start（プレビュー）プロビジョニング モデルを使用するには、インスタンス テンプレートを作成してから、マネージド インスタンス グループ（MIG）を作成します。

1. インスタンス テンプレートの作成:

   gcloud beta compute instance-templates create INSTANCE_TEMPLATE_NAME \
       --provisioning-model=FLEX_START \
       --confidential-compute-type=TDX \
       --machine-type=a3-highgpu-1g \
       --maintenance-policy=TERMINATE \
       --shielded-secure-boot \
       --image-project=confidential-space-images \
       --image-family=IMAGE_FAMILY_NAME \
       --metadata="^~^tee-image-reference=us-docker.pkg.dev/WORKLOAD_AUTHOR_PROJECT_ID/REPOSITORY_NAME/WORKLOAD_CONTAINER_NAME:latest~tee-install-gpu-driver=true" \
       --service-account=WORKLOAD_SERVICE_ACCOUNT_NAME@WORKLOAD_OPERATOR_PROJECT_ID.iam.gserviceaccount.com \
       --scopes=cloud-platform \
       --boot-disk-size=30G \
       --reservation-affinity=none \
       --max-run-duration=RUN_DURATION \
       --instance-termination-action=DELETE \
       --project=PROJECT_ID
   

   次の値を指定します。

   • INSTANCE_TEMPLATE_NAME: 新しい VM インスタンス テンプレートの名前。

   • IMAGE_FAMILY_NAME: Confidential Space イメージのファミリー。次のいずれかを選択します。

     • 本番環境ワークロードの confidential-space-preview-cgpu

     • デバッグ ワークロード用の confidential-space-debug-preview-cgpu

   • WORKLOAD_AUTHOR_PROJECT: ワークロードが実行されているプロジェクト ID。

   • REPOSITORY_NAME: Artifact Registry リポジトリ名。

   • WORKLOAD_CONTAINER_NAME: ワークロード コンテナの名前。

   • WORKLOAD_SERVICE_ACCOUNT_NAME: ワークロードを実行するサービス アカウントの名前。

   • WORKLOAD_OPERATOR_PROJECT_ID: ワークロードを実行するプロジェクトの ID。

   • RUN_DURATION: リクエストされた VM インスタンスの実行期間。値は、日数、時間、分、秒として指定し、その後にそれぞれ d、h、m、s を続ける必要があります。たとえば、30 分の場合は 30m を指定し、1 日と 2 時間 3 分 4 秒の場合は 1d2h3m4s を指定します。値は 10 分～ 7 日の範囲で指定してください。

   • PROJECT_ID: 省略可。VM インスタンスを作成するプロジェクトの ID。

2. instance-groups managed create コマンドを使用して、ゾーン MIG を作成します。

   gcloud compute instance-groups managed create INSTANCE_GROUP_NAME \
       --template=INSTANCE_TEMPLATE_NAME \
       --size=0 \
       --zone=ZONE_NAME \
       --default-action-on-vm-failure=do_nothing
   

   次の値を指定します。

   • INSTANCE_GROUP_NAME: MIG の名前。

   • INSTANCE_TEMPLATE_NAME: GPU VM のインスタンス テンプレートの名前。

   • ZONE_NAME: NVIDIA Confidential Computing をサポートするゾーン（プレビュー）のいずれか。

3. MIG で、サイズ変更リクエストを作成します。必要な GPU VM インスタンスの数と、それらの VM インスタンスを実行する期間を指定します。

   gcloud compute instance-groups managed resize-requests create INSTANCE_GROUP_NAME \
       --resize-request=RESIZE_REQUEST_NAME \
       --resize-by=COUNT \
       --zone=ZONE_NAME
   

   次の値を指定します。

   • INSTANCE_GROUP_NAME: MIG の名前。

   • INSTANCE_TEMPLATE_NAME: GPU VM インスタンスのインスタンス テンプレートの名前。

   • ZONE_NAME: NVIDIA Confidential Computing をサポートするゾーン（プレビュー）のいずれか。

   • RESIZE_REQUEST_NAME: サイズ変更リクエストの名前。

   • COUNT: グループに一度にすべて追加する VM インスタンスの数。

   作成するサイズ変更リクエストは、MIG がリクエストされたすべての GPU VM インスタンスを作成するまで ACCEPTED 状態で保持されます。グループ内にすべての GPU VM インスタンスが作成されると、リクエストの状態が SUCCEEDED に変わります。

4. サイズ変更リクエストに十分なリソースが使用可能になると、VM インスタンスが MIG に追加され、ワークロードを実行するために起動されます。MIG に存在するインスタンスを一覧表示するには、次のコマンドを実行します。

   gcloud compute instance-groups managed list-instances INSTANCE_GROUP_NAME \
       --zone=ZONE_NAME \
       --project=PROJECT_ID
   

   次の値を指定します。

   • INSTANCE_GROUP_NAME: MIG の名前。

   • ZONE_NAME: VM インスタンスのリストを取得するサポートされているゾーン。

   • PROJECT_ID: 省略可。VM インスタンスのリストを取得するプロジェクトの ID。