์ด ํ์ด์ง๋ ์ฌ์ฉํ ์ปจํ ์ด๋ ์ด๋ฏธ์ง๋ฅผ ์ ํํ๋ ๋ฐ ๋์์ด ๋ฉ๋๋ค.
์ปจํ ์ด๋ ์ด๋ฏธ์ง ์ ํ ์ ํ
Deep Learning Containers๋ ๋ณด์ ์ทจ์ฝ์ ์ ์ต์ํํ๋ ์ผ์ ์ผ๋ก ๊ฐ ํ๋ ์์ํฌ ๋ฒ์ ์ ์ง์ํฉ๋๋ค. Deep Learning Containers ํ๋ ์์ํฌ ์ง์ ์ ์ฑ ์ ๊ฒํ ํ์ฌ ์ง์ ์ข ๋ฃ ๋ฐ ์ฌ์ฉ ์ข ๋ฃ ๋ ์ง๊ฐ ๋ฏธ์น๋ ์ํฅ์ ํ์ ํฉ๋๋ค.
๊ฐ ์ปจํ ์ด๋ ์ด๋ฏธ์ง๋ Python 3 ํ๊ฒฝ์ ์ ๊ณตํ๋ฉฐ ์ ํ๋ ๋ฐ์ดํฐ ๊ณผํ ํ๋ ์์ํฌ(์: PyTorch ๋๋ TensorFlow), Conda, GPU ์ด๋ฏธ์ง์ฉ NVIDIA ์คํ(CUDA, cuDNN, NCCL2), ๊ธฐํ ์ฌ๋ฌ ์ง์ ํจํค์ง ๋ฐ ๋๊ตฌ๋ฅผ ํฌํจํฉ๋๋ค. ์ ์ ํ ์ปจํ ์ด๋ ์ด๋ฏธ์ง๋ฅผ ์ฐพ์ผ๋ ค๋ฉด ์๋ ํ๋ฅผ ์ฐธ์กฐํ์ธ์.
๊ธฐ๋ณธ ๋ฒ์
ML ํ๋ ์์ํฌ ๋ฒ์ | ํ์ฌ ํจ์น ๋ฒ์ | ์ง์๋๋ ๊ฐ์๊ธฐ | ํจ์น ๋ฐ ์ง์ ์ข ๋ฃ์ผ | ์ฌ์ฉ ์ข ๋ฃ์ผ | ์ด๋ฏธ์ง ๊ณ์ด ์ด๋ฆ |
---|---|---|---|---|---|
Base-cu124 | CUDA 12.4 (Python 3.10) | CUDA 12.4 | 2025๋ 4์ 1์ผ | 2026๋ 4์ 1์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/base-cu124.py310 |
Base-cu123 | CUDA 12.3 (Python 3.10) | CUDA 12.3 | 2025๋ 1์ 1์ผ | 2026๋ 1์ 1์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/base-cu123.py310 |
Base-cu122 | CUDA 12.2(Python 3.10) | CUDA 12.2 | 2025๋ 1์ 8์ผ | 2026๋ 1์ 8์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/base-cu122.py310 |
Base-cu121 | CUDA 12.1(Python 3.10) | CUDA 12.1 | 2024๋ 2์ 28์ผ | 2025๋ 2์ 28์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/base-cu121.py310 |
Base-cu118 | CUDA 11.8(Python 3.10) | CUDA 11.8 | 2024๋ 7์ 1์ผ | 2025๋ 7์ 1์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/base-cu118.py310 |
Base-cu113(Python 3.10) | CUDA 11.3 | CUDA 11.3 | 2024๋ 1์ 1์ผ | 2025๋ 1์ 1์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/base-cu113.py310 |
Base-cu113(Python 3.7) | CUDA 11.3 | CUDA 11.3 | 2023๋ 9์ 1์ผ | 2024๋ 9์ 1์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/base-cu113.py37 |
Base-cu110(Python 3.10/Debian 11) | CUDA 11.0 | CUDA 11.0 | 2024๋ 1์ 1์ผ | 2025๋ 1์ 1์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/base-cu110.py310 |
Base-cu110(Python 3.7) | CUDA 11.0 | CUDA 11.0 | 2023๋ 9์ 1์ผ | 2024๋ 9์ 1์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/base-cu110.py37 |
TensorFlow ๋ฒ์
ML ํ๋ ์์ํฌ ๋ฒ์ | ํ์ฌ ํจ์น ๋ฒ์ | ์ง์๋๋ ๊ฐ์๊ธฐ | ํจ์น ๋ฐ ์ง์ ์ข ๋ฃ์ผ | ์ฌ์ฉ ์ข ๋ฃ์ผ | ์ด๋ฏธ์ง ๊ณ์ด ์ด๋ฆ |
---|---|---|---|---|---|
2.17(Python 3.10) | 2.17.0 | CPU๋ง | 2025๋ 7์ 11์ผ | 2026๋ 7์ 11์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-cpu.2-17.py310 |
2.17(Python 3.10) | 2.17.0 | CUDA 12.3 | 2025๋ 7์ 11์ผ | 2026๋ 7์ 11์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-cu123.2-17.py310 |
2.16(Python 3.10) | 2.16.2 | CPU๋ง | 2025๋ 6์ 28์ผ | 2026๋ 6์ 28์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-cpu.2-16.py310 |
2.16(Python 3.10) | 2.16.2 | CUDA 12.3 | 2025๋ 6์ 28์ผ | 2026๋ 6์ 28์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-cu123.2-16.py310 |
2.15(Python 3.10) | 2.15.0 | CPU๋ง | 2024๋ 11์ 14์ผ | 2025๋ 11์ 14์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-cpu.2-15.py310 |
2.15(Python 3.10) | 2.15.0 | CUDA 12.1 | 2024๋ 11์ 14์ผ | 2025๋ 11์ 14์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-cu121.2-15.py310 |
2.14(Python 3.10) | 2.14.0 | CPU๋ง | 2024๋ 9์ 26์ผ | 2025๋ 9์ 26์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-cpu.2-14.py310 |
2.14(Python 3.10) | 2.14.0 | CUDA 11.8 | 2024๋ 9์ 26์ผ | 2025๋ 9์ 26์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-cu118.2-14.py310 |
2.13(Python 3.10) | 2.13.0 | CPU๋ง | 2024๋ 7์ 5์ผ | 2025๋ 7์ 5์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-cpu.2-13.py310 |
2.13(Python 3.10) | 2.13.0 | CUDA 11.8 | 2024๋ 7์ 5์ผ | 2025๋ 7์ 5์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-cu118.2-13.py310 |
2.12(Python 3.10) | 2.12.0 | CPU๋ง | 2024๋ 6์ 30์ผ | 2025๋ 6์ 30์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-cpu.2-12.py310 |
2.12(Python 3.10) | 2.12.0 | CUDA 11.8 | 2024๋ 6์ 30์ผ | 2025๋ 6์ 30์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-cu118.2-12.py310 |
2.11(Python 3.10) | 2.11.0 | CPU๋ง | 2023๋ 11์ 15์ผ | 2024๋ 11์ 15์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-cpu.2-11.py310 |
2.11(Python 3.10) | 2.11.0 | CUDA 11.3 | 2023๋ 11์ 15์ผ | 2024๋ 11์ 15์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf-cu113.2-11.py310 |
2.11 | 2.11.0 | CPU๋ง | 2023๋ 11์ 15์ผ | 2024๋ 11์ 15์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-cpu.2-11.py37 |
2.11 | 2.11.0 | CUDA 11.3 | 2023๋ 11์ 15์ผ | 2024๋ 11์ 15์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-gpu.2-11.py37 |
2.10(Python 3.10) | 2.10.1 | CPU๋ง | 2023๋ 11์ 15์ผ | 2024๋ 11์ 15์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-cpu.2-10.py310 |
2.10(Python 3.10) | 2.10.1 | CUDA 11.3 | 2023๋ 11์ 15์ผ | 2024๋ 11์ 15์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf-cu113.2-10.py310 |
2.10 | 2.10.1 | CPU๋ง | 2023๋ 11์ 15์ผ | 2024๋ 11์ 15์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-cpu.2-10.py37 |
2.10 | 2.10.1 | CUDA 11.3 | 2023๋ 11์ 15์ผ | 2024๋ 11์ 15์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-gpu.2-10.py37 |
2.9 | 2.9.3 | CPU๋ง | 2023๋ 11์ 15์ผ | 2024๋ 11์ 15์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-cpu.2-9.py37 |
2.9 | 2.9.3 | CUDA 11.3 | 2023๋ 11์ 15์ผ | 2024๋ 11์ 15์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf-gpu.2-9.py37 |
2.8 | 2.8.4 | CPU๋ง | 2023๋ 11์ 15์ผ | 2024๋ 11์ 15์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-cpu.2-8.py37 |
2.8 | 2.8.4 | CUDA 11.3 | 2023๋ 11์ 15์ผ | 2024๋ 11์ 15์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf2-gpu.2-8.py37 |
2.6(Python 3.9) | 2.6.5 | CPU๋ง | 2023๋ 8์ 10์ผ | 2024๋ 8์ 10์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf-cpu.2-6.py39 |
2.6(Python 3.9) | 2.6.5 | CUDA 11.3 | 2023๋ 8์ 10์ผ | 2024๋ 8์ 10์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf-cu113.2-6.py39 |
2.6(Python 3.7) | 2.6.5 | CPU๋ง | 2023๋ 9์ 1์ผ | 2024๋ 9์ 1์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf-cpu.2-6.py37 |
2.6(Python 3.7) | 2.6.5 | CUDA 11.3 | 2023๋ 9์ 1์ผ | 2024๋ 9์ 1์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf-gpu.2-6.py37 |
2.3 | 2.3.4 | CPU๋ง | 2023๋ 9์ 1์ผ | 2024๋ 9์ 1์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf-cpu.2-3.py37 |
2.3 | 2.3.4 | CUDA 11.3 | 2023๋ 9์ 1์ผ | 2024๋ 9์ 1์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/tf-gpu.2-3.py37 |
PyTorch ๋ฒ์
ML ํ๋ ์์ํฌ ๋ฒ์ | ํ์ฌ ํจ์น ๋ฒ์ | ์ง์๋๋ ๊ฐ์๊ธฐ | ํจ์น ๋ฐ ์ง์ ์ข ๋ฃ์ผ | ์ฌ์ฉ ์ข ๋ฃ์ผ | ์ด๋ฏธ์ง ๊ณ์ด ์ด๋ฆ |
---|---|---|---|---|---|
2.4(Python 3.10) | 2.4.0 | CUDA 12.4 | 2025๋ 7์ 24์ผ | 2026๋ 7์ 24์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/pytorch-cu124.2-4.py310 |
2.3(Python 3.10) | 2.3.0 | CUDA 12.1 | 2025๋ 4์ 24์ผ | 2026๋ 4์ 24์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/pytorch-cu121.2-3.py310 |
2.2(Python 3.10) | 2.2.0 | CUDA 12.1 | 2025๋ 1์ 30์ผ | 2026๋ 1์ 30์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/pytorch-cu121.2-2.py310 |
2.1(Python 3.10) | 2.1.0 | CUDA 12.1 | 2024๋ 10์ 4์ผ | 2025๋ 10์ 4์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/pytorch-cu121.2-1.py310 |
2.0(Python 3.10) | 2.0.0 | CUDA 11.8 | 2024๋ 3์ 15์ผ | 2025๋ 3์ 15์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/pytorch-cu118.2-0.py310 |
1.13(Python 3.10) | 1.13.1 | CUDA 11.8 | 2023๋ 12์ 8์ผ | 2024๋ 12์ 8์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/pytorch-cu118.1-13.py310 |
1.13 | 1.13.1 | CUDA 11.8 | 2023๋ 12์ 8์ผ | 2024๋ 12์ 8์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/pytorch-gpu.1-13.py37 |
1.12(Python 3.10) | 1.12.1 | CUDA 11.3 | 2023๋ 12์ 8์ผ | 2024๋ 12์ 8์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/pytorch-cu113.1-12.py310 |
1.12 | 1.12.1 | CUDA 11.3 | 2023๋ 9์ 1์ผ | 2024๋ 9์ 1์ผ | us-docker.pkg.dev/deeplearning-platform-release/gcr.io/pytorch-gpu.1-12.py37 |
Model Garden ์ปจํ ์ด๋ ์ด๋ฏธ์ง
์ด ์น์ ์๋ ์ฌ์ฉ ๊ฐ๋ฅํ Model Garden ์ปจํ ์ด๋ ์ด๋ฏธ์ง๊ฐ ๋์ด๋์ด ์์ต๋๋ค.
vLLM ์ถ๋ก ์ปจํ ์ด๋
ํ๋ ์์ํฌ ๋ฒ์ | ํ์ฌ ํจ์น ๋ฒ์ | ์ง์๋๋ ๊ฐ์๊ธฐ | ํจ์น ๋ฐ ์ง์ ์ข ๋ฃ์ผ | ์ฌ์ฉ ์ข ๋ฃ์ผ | ์ด๋ฏธ์ง ๊ณ์ด ์ด๋ฆ |
---|---|---|---|---|---|
PyTorch 2.4 | 2.4.0 | CUDA 12.1 | 2025๋ 8์ 21์ผ | 2026๋ 8์ 21์ผ | us-docker.pkg.dev/deeplearning-platform-release/vertex-model-garden/vllm-inference.cu121.0-5.ubuntu2204.py310 |
์คํ์ฉ ์ด๋ฏธ์ง ๊ณ์ด
์ฌ๊ธฐ์ ๋์ด๋์ง ์์ ์ด๋ฏธ์ง ๊ณ์ด์ ์คํ์ฉ์ ๋๋ค. ์คํ์ฉ ์ด๋ฏธ์ง ๊ณ์ด์ ๊ฐ๋ฅํ ๋ฒ์ ๋ด์์ ์ต๋ํ ์ง์๋์ง๋ง ํ๋ ์์ํฌ๊ฐ ์๋ก ์ถ์๋์ด๋ ์ ๋ฐ์ดํธ๋์ง ์์ต๋๋ค.
์ฌ์ฉ ๊ฐ๋ฅํ ๋ชจ๋ ๋ฒ์ ๋ชฉ๋ก ํ์
ํน์ ํ๋ ์์ํฌ ๋๋ CUDA ๋ฒ์ ์ด ํ์ํ ๊ฒฝ์ฐ ์ฌ์ฉ ๊ฐ๋ฅํ ์ปจํ ์ด๋ ์ด๋ฏธ์ง์ ์ ์ฒด ๋ชฉ๋ก์ ๊ฒ์ํ์ธ์. ์ฌ์ฉ ๊ฐ๋ฅํ ๋ชจ๋ Deep Learning Containers ์ด๋ฏธ์ง๋ฅผ ๋์ดํ๋ ค๋ฉด Google Cloud CLI์์ ์ํ๋ ํฐ๋ฏธ๋ ๋๋ Cloud Shell์์ ๋ค์ ๋ช ๋ น์ด๋ฅผ ์ฌ์ฉํฉ๋๋ค.
gcloud container images list --repository="us-docker.pkg.dev/deeplearning-platform-release/gcr.io"
๋ก์ปฌ์์ ์ฌ์ฉ
Deep Learning Containers๋ฅผ ๋ก์ปฌ์์ ๊ฐ์ ธ์ ์ฌ์ฉํ ์ ์์ต๋๋ค. ์ด๋ ๊ฒ ํ๋ ค๋ฉด ๋ก์ปฌ Deep Learning Containers ์์ํ๊ธฐ๋ฅผ ์ฐธ์กฐํ์ธ์.
์ทจ์ฝ์ ์ด์ปค๋ฐ์ค ๋ณด๊ธฐ
Deep Learning Containers ์ด๋ฏธ์ง์ ์ทจ์ฝ์ ์ด์ปค๋ฐ์ค๋ฅผ ๋ณด๋ ค๋ฉด gcloud๋ฅผ ์ฌ์ฉํ์ฌ ์ด์ปค๋ฐ์ค ๋ณด๊ธฐ๋ฅผ ์ฐธ๊ณ ํ์ธ์.
๋ค์ ๋จ๊ณ
- Deep Learning Containers ๊ฐ์๋ฅผ ์ฝ๊ณ ์ปจํ ์ด๋ ์ด๋ฏธ์ง์ ์ฌ์ ์ค์น๋ ํญ๋ชฉ์ ๋ํด ์์ธํ ์์๋ด ๋๋ค.
- Deep Learning Containers ์ด๋ฏธ์ง๋ฅผ ๋น๋ํ๊ณ ํธ์ํ๋ ๋ฐฉ๋ฒ์ ๋ํ ์๋ด๋ฅผ ์ ๊ณตํ๋ ์๋ด ๊ฐ์ด๋๋ฅผ ํตํด Deep Learning Containers๋ฅผ ์์ํฉ๋๋ค.