์ธํ๋ผ๋ฅผ ๊ด๋ฆฌํ ํ์ ์์ด ํ๋ฐํธ์๋ ๋ฐ ๋ฐฑ์๋ ์๋น์ค๋ฅผ ์คํํ๊ณ , ์์ ์ ์ผ๊ด ์ฒ๋ฆฌํ๊ณ , LLM์ ํธ์คํ ํ๋ฉฐ, ์ฒ๋ฆฌ ์ํฌ๋ก๋๋ฅผ ํ์ ์ถ๊ฐํ์ธ์.
๋งค์ ์์ฒญ 200๋ง ๊ฐ๊ฐ ๋ฌด๋ฃ๋ก ์ ๊ณต๋ฉ๋๋ค.
๊ธฐ๋ฅ
์ํ๋ ์ธ์ด, ํ๋ ์์ํฌ, ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ์ฌ์ฉํ์ฌ ์ฝ๋๋ฅผ ์์ฑํ๊ณ ์ปจํ ์ด๋๋ก ํจํค์งํ๊ณ 'gcloud run deploy'๋ฅผ ์คํํ๋ฉด ์ฑ์ด ํ์ฑํ๋ฉ๋๋ค. ํ๋ก๋์ ํ๊ฒฝ์์ ์คํํ๋ ๋ฐ ํ์ํ ๋ชจ๋ ๊ฒ์ด ์ ๊ณต๋ฉ๋๋ค. ์ปจํ ์ด๋ ๋น๋๋ ์ ์ ์ผ๋ก ์ ํ์ฌํญ์ ๋๋ค. Go, Node.js, Python, Java, .NET Core, Ruby๋ฅผ ์ฌ์ฉํ๋ ๊ฒฝ์ฐ ์ฌ์ฉ ์ค์ธ ์ธ์ด์ ๊ถ์ฅ์ฌํญ์ ๋ฐ๋ผ ์ปจํ ์ด๋๋ฅผ ๋น๋ํ๋ ์์ค ๊ธฐ๋ฐ ๋ฐฐํฌ ์ต์ ์ ์ฌ์ฉํ ์ ์์ต๋๋ค.
์ด๋ฒคํธ ๊ธฐ๋ฐ์ ์ฅ๊ธฐ ์คํ ์๋น์ค๋ฅผ ์์ ํ๊ณ ์๋ ์ปจํ ์ด๋ํ๋ ์์ ์ ๋ฐฐํฌํ์ฌ ๋ฐ์ดํฐ๋ฅผ ์ฒ๋ฆฌํ๋ Cloud Run์ ์ปจํ ์ด๋๋ฅผ 0์์๋ถํฐ ์๋์ผ๋ก ํ์ฅ ๋ฐ ์ถ์ํ๋ฏ๋ก ์ฝ๋๊ฐ ์คํ๋ ๋๋ง ๋น์ฉ์ ์ง๋ถํ๋ฉด ๋ฉ๋๋ค.
AI ์ถ๋ก ์ํฌ๋ก๋๋ฅผ ์คํํ๊ธฐ ์ํด NVIDIA L4 GPU์ ๋ํ ์ฃผ๋ฌธํ ์ก์ธ์ค๋ฅผ ์ ๊ณตํฉ๋๋ค. GPU ์ธ์คํด์ค๊ฐ 5์ด ๋ง์ ์์๋๋ฉฐ Scale-to-zero ๊ธฐ๋ฅ๋ ์ฌ์ฉํ ์ ์์ต๋๋ค.
Cloud Run์ผ๋ก ์ง์ ํจ์๋ฅผ ์์ฑํ๊ณ ๋ฐฐํฌํ์ฌ ๊ธฐ๋ณธ ์๋น์ค ๊ตฌ์ฑ์ ์๋ฒฝํ๊ฒ ์ ์ดํ ์ ์์ต๋๋ค.
Cloud Run์ ๋ํ ๋น๋ํฉ์ ์ฌ์ฉํ์ฌ ํ๋ก๋์ ๋จ๊ณ๋ก ์ ํํ๋ ๋ฐฉ๋ฒ์ ์๋ํํ ์ ์์ผ๋ฏ๋ก ๋จธ์ ์ Docker๋ฅผ ์ค์นํ์ง ์๊ณ ๋ ์์ค์์ ์ง์ ๋ฐฐํฌํ ์ ์์ต๋๋ค. ์ ์ปค๋ฐ์ด ํน์ Git ์ ์ฅ์ ๋ถ๊ธฐ๋ก ํธ์๋ ๋๋ง๋ค ๋น๋๋ฅผ ์๋ํํ๊ณ ์ฝ๋๋ฅผ ๋ฐฐํฌํ ์ ์์ต๋๋ค.
Cloud Run ์์ ์ ์ฌ์ฉํ๋ฉด ์ธ์คํด์ค๋ฅผ ๋์ ์คํํ์ฌ ์ผ๊ด ์ฒ๋ฆฌ๋ฅผ ์ํํ ์ ์์ต๋๋ค. HTTP ์์ฒญ์ ์๋ตํ์ง ์๋ ์๋ฃ๋ ๋๊น์ง ์คํ๋๋ ์์ ์ ๋ชจ๋ ์๋ฒ๋ฆฌ์ค ํ๋ซํผ์์ ์คํํฉ๋๋ค. ์์ ์ ์ต๋ 24์๊ฐ ๋์ ์คํํฉ๋๋ค.
ํธ๋ํฝ์ VPC ๋คํธ์ํฌ๋ก ์ง์ ์ ์กํ๊ณ VPC์์ ์คํ ์ค์ธ ๋ชจ๋ ์๋น์ค์ ์ฐ๊ฒฐํฉ๋๋ค.
์ผ๋ฐ์ ์ธ ์ฉ๋
Cloud Run์ผ๋ก ์น์ฌ์ดํธ ๋ฐฐํฌ ๋ฐ ํธ์คํ
์ํ๋ ์คํ์ ์ฌ์ฉํด์ ์น์ฑ์ ๋น๋ํ๊ณ SQL ๋ฐ์ดํฐ๋ฒ ์ด์ค์ ์ก์ธ์คํ๊ณ , ๋์ HTML ํ์ด์ง๋ฅผ ๋ ๋๋งํฉ๋๋ค. Cloud Run์ ์ฌ์ฉํ๋ฉด ์น์ฌ์ดํธ๋ก ๋ค์ด์ค๋ ์์ฒญ์ด ์์ ๋ Scale-to-zero ๊ธฐ๋ฅ์ ์ฌ์ฉํ ์๋ ์์ต๋๋ค.
์ด Codelab์์๋ Cloud Shell์์ ํธ๋ฆฌ๊ฑฐํ๋ Cloud Build๋ฅผ ํตํด ๋ง๋ Docker ์ด๋ฏธ์ง๋ก ์์ํฉ๋๋ค. ๊ทธ๋ฐ ๋ค์ Cloud Shell์์ ๋ช ๋ น์ด๋ฅผ ์ฌ์ฉํ์ฌ ์ด๋ฏธ์ง๋ฅผ Cloud Run์ ๋ฐฐํฌํฉ๋๋ค.
Cloud Run์ผ๋ก ์น์ฌ์ดํธ ๋ฐฐํฌ ๋ฐ ํธ์คํ
์ํ๋ ์คํ์ ์ฌ์ฉํด์ ์น์ฑ์ ๋น๋ํ๊ณ SQL ๋ฐ์ดํฐ๋ฒ ์ด์ค์ ์ก์ธ์คํ๊ณ , ๋์ HTML ํ์ด์ง๋ฅผ ๋ ๋๋งํฉ๋๋ค. Cloud Run์ ์ฌ์ฉํ๋ฉด ์น์ฌ์ดํธ๋ก ๋ค์ด์ค๋ ์์ฒญ์ด ์์ ๋ Scale-to-zero ๊ธฐ๋ฅ์ ์ฌ์ฉํ ์๋ ์์ต๋๋ค.
์ด Codelab์์๋ Cloud Shell์์ ํธ๋ฆฌ๊ฑฐํ๋ Cloud Build๋ฅผ ํตํด ๋ง๋ Docker ์ด๋ฏธ์ง๋ก ์์ํฉ๋๋ค. ๊ทธ๋ฐ ๋ค์ Cloud Shell์์ ๋ช ๋ น์ด๋ฅผ ์ฌ์ฉํ์ฌ ์ด๋ฏธ์ง๋ฅผ Cloud Run์ ๋ฐฐํฌํฉ๋๋ค.
Cloud Run GPU๋ก LLM ํธ์คํ
Cloud Run์์ Llama 3.1, Mistral, Gemma 2 ๋ฑ ์ํ๋ LLM์ ์ฌ์ฉํ์ฌ ์ค์๊ฐ AI ์ถ๋ก ์ ์ํํฉ๋๋ค. ๋ํ ์์ ์ธ์, ๋์์ ํธ๋์ค์ฝ๋ฉ, ์คํธ๋ฆฌ๋ฐ๊ณผ ๊ฐ์ ์ปดํจํ ์ง์ฝ์ ์ธ ์ ํ๋ฆฌ์ผ์ด์ ์๋ ์ ํฉํฉ๋๋ค.
Cloud Run GPU๋ก LLM ํธ์คํ
Cloud Run์์ Llama 3.1, Mistral, Gemma 2 ๋ฑ ์ํ๋ LLM์ ์ฌ์ฉํ์ฌ ์ค์๊ฐ AI ์ถ๋ก ์ ์ํํฉ๋๋ค. ๋ํ ์์ ์ธ์, ๋์์ ํธ๋์ค์ฝ๋ฉ, ์คํธ๋ฆฌ๋ฐ๊ณผ ๊ฐ์ ์ปดํจํ ์ง์ฝ์ ์ธ ์ ํ๋ฆฌ์ผ์ด์ ์๋ ์ ํฉํฉ๋๋ค.
AI ์์ด์ ํธ๋ ๊ณ ๊ธ AI ๋ชจ๋ธ๊ณผ ๋๊ตฌ๋ฅผ ํ์ฉํ์ฌ ์ฌ์ฉ์๋ฅผ ๋์ ํด ์ฌ์ฉ์์ ์ ์ด ํ์ ์์ ์ ์ํํฉ๋๋ค. ์ด๋ฌํ ์์ด์ ํธ๋ ๋น๋๊ธฐ ์์ ์ ๊ด๋ฆฌํ๊ณ ์ฌ๋ฌ ์์ฒญ-์๋ต ์ฃผ๊ธฐ๋ฅผ ํตํด ์ฌ์ฉ์ ์ํธ์์ฉ์ ์ด์งํ๊ธฐ ์ํด Cloud Run ์๋น์ค๋ก ๊ตฌํํ ์ ์์ต๋๋ค.
AI ์์ด์ ํธ๋ ๊ณ ๊ธ AI ๋ชจ๋ธ๊ณผ ๋๊ตฌ๋ฅผ ํ์ฉํ์ฌ ์ฌ์ฉ์๋ฅผ ๋์ ํด ์ฌ์ฉ์์ ์ ์ด ํ์ ์์ ์ ์ํํฉ๋๋ค. ์ด๋ฌํ ์์ด์ ํธ๋ ๋น๋๊ธฐ ์์ ์ ๊ด๋ฆฌํ๊ณ ์ฌ๋ฌ ์์ฒญ-์๋ต ์ฃผ๊ธฐ๋ฅผ ํตํด ์ฌ์ฉ์ ์ํธ์์ฉ์ ์ด์งํ๊ธฐ ์ํด Cloud Run ์๋น์ค๋ก ๊ตฌํํ ์ ์์ต๋๋ค.
REST API, GraphQL API ๋๋ HTTP๋ gRPC๋ก ํต์ ํ๋ ๋น๊ณต๊ฐ ๋ง์ดํฌ๋ก ์๋น์ค๋ฅผ ๋น๋ํ ์ ์์ต๋๋ค.
REST API, GraphQL API ๋๋ HTTP๋ gRPC๋ก ํต์ ํ๋ ๋น๊ณต๊ฐ ๋ง์ดํฌ๋ก ์๋น์ค๋ฅผ ๋น๋ํ ์ ์์ต๋๋ค.
๊ฐ๊ฒฉ ์ฑ ์
Cloud Run ๊ฐ๊ฒฉ ์ฑ ์ ๋ฐฉ์ | ์ข ๋์ ์๊ธ์ผ๋ก, 100๋ฐ๋ฆฌ์ด ๋จ์๋ก ๋ฐ์ฌ๋ฆผํ์ฌ ์ฌ์ฉํ ๋งํผ๋ง ๋น์ฉ์ด ์ฒญ๊ตฌ๋๋ฉฐ ํญ์ ๋ฌด๋ฃ ๋ฑ๊ธ๋ ์ ๊ณต๋ฉ๋๋ค. ์ฌ์ฉํ์ง ์์ผ๋ฉด ์๊ธ์ด ๋ถ๊ณผ๋์ง ์์ต๋๋ค. | |
---|---|---|
SKU | ๋ฌด๋ฃ ๋ฑ๊ธ ์ด๊ณผ ์ ๊ฐ๊ฒฉ(ํ ์ธ ๋ฏธ์ ์ฉ) | ๋ฌด๋ฃ |
CPU | $0.00001800/vCPU-์ด | ์ฒ์ 240,000vCPU-์ด/์ ๋ฌด๋ฃ |
๋ฉ๋ชจ๋ฆฌ | $0.00000200/GiB-์ด | ์ฒ์ 450,000GiB/์ ๋ฌด๋ฃ |
๊ฐ๊ฒฉ ์ฑ ์ ์ธ๋ถ์ ๋ณด ๋ณด๊ธฐ
์ฝ์ ์ฌ์ฉ ํ ์ธ์ ๊ตฌ๋งคํ์ฌ Cloud Run์ ์ง์์ ์ธ ์ฌ์ฉ์ ์ค์ผ ์ ์์ต๋๋ค.
Cloud Run ๊ฐ๊ฒฉ ์ฑ ์ ๋ฐฉ์
์ข ๋์ ์๊ธ์ผ๋ก, 100๋ฐ๋ฆฌ์ด ๋จ์๋ก ๋ฐ์ฌ๋ฆผํ์ฌ ์ฌ์ฉํ ๋งํผ๋ง ๋น์ฉ์ด ์ฒญ๊ตฌ๋๋ฉฐ ํญ์ ๋ฌด๋ฃ ๋ฑ๊ธ๋ ์ ๊ณต๋ฉ๋๋ค. ์ฌ์ฉํ์ง ์์ผ๋ฉด ์๊ธ์ด ๋ถ๊ณผ๋์ง ์์ต๋๋ค.
CPU
$0.00001800/vCPU-์ด
์ฒ์ 240,000vCPU-์ด/์ ๋ฌด๋ฃ
$0.00000200/GiB-์ด
์ฒ์ 450,000GiB/์ ๋ฌด๋ฃ
๊ฐ๊ฒฉ ์ฑ ์ ์ธ๋ถ์ ๋ณด ๋ณด๊ธฐ
์ฝ์ ์ฌ์ฉ ํ ์ธ์ ๊ตฌ๋งคํ์ฌ Cloud Run์ ์ง์์ ์ธ ์ฌ์ฉ์ ์ค์ผ ์ ์์ต๋๋ค.
๋น์ฆ๋์ค ์ฌ๋ก
๋ค๋ฅธ ๊ธฐ์ ์์ Cloud Run์ ์ฌ์ฉํ์ฌ ์ด๋ป๊ฒ ๋น์ฉ์ ์ ๊ฐํ๊ณ ROI๋ฅผ ๋์ด๋ฉฐ ํ์ ์ ์ฃผ๋ํ๋์ง ์์๋ณด์ธ์.
Telegraph Media Group: Cloud Run์ผ๋ก ๋น์ฉ๊ณผ ํ์ ๋ฐฐ์ถ๋ 90% ์ ๊ฐ
๋ง์ดํฌ๋ก์๋น์ค ์ํคํ ์ฒ์์ ์๋ฒ๋ฆฌ์ค ์ํคํ ์ฒ๋ก ์ ํํ ๋๋ถ์ ์๋น์ค์ ๋ฆฌ์์ค์ ์ค์ ์ฌ์ฉ๋๊ณผ ๋์ฆ๋ฅผ ํ์ ํ ์ ์์์ต๋๋ค.
์ฃผ์ ๊ณ ๊ฐ
ํํธ๋ ๋ฐ ํตํฉ
FAQ
Cloud Run์ ์ฌ์ฉํ๋ฉด VM ๋๋ Kubernetes ๊ธฐ๋ฐ ๋ฐฐํฌ์ ํ์ํ ์ค๋ฒํค๋ ์์ด ์น์ฌ์ดํธ๋ฅผ ๊ด๋ฆฌํ๊ณ ๋ฐฐํฌํ ์ ์์ต๋๋ค. ์ด๋ ๊ด๋ฆฌ ๊ด์ ์์ ๋ณด๋ค ๊ฐ๋จํ ์ ๊ทผ ๋ฐฉ์์ผ ๋ฟ๋ง ์๋๋ผ, ์น์ฌ์ดํธ์ ๋ค์ด์ค๋ ์์ฒญ์ด ์์ ๋ Scale-to-zero ๊ธฐ๋ฅ๋ ์ ๊ณตํฉ๋๋ค.
Cloud Run์ App Engine ํ์ค ํ๊ฒฝ๊ณผ App Engine ๊ฐ๋ณํ ํ๊ฒฝ์ ์ต๊ณ ์ ๊ธฐ๋ฅ์ ๋ค์ํ๊ฒ ํตํฉํ์ฌ App Engine ํ๊ฒฝ์ ๊ฐ์ ํ๋๋ก ์ค๊ณ๋์์ต๋๋ค. Cloud Run ์๋น์ค๋ ์น์ฌ์ดํธ ๋ฐฐํฌ ๋ฐ ํธ์คํ ์ ํฌํจํ์ฌ App Engine ์๋น์ค์ ๋์ผํ ์ํฌ๋ก๋๋ฅผ ์ฒ๋ฆฌํ ์ ์์ง๋ง, Cloud Run์ ์ฌ์ฉํ๋ฉด ๊ณ ๊ฐ์ด ์ด๋ฌํ ์๋น์ค๋ฅผ ํจ์ฌ ๋ ์ ์ฐํ๊ฒ ๊ตฌํํ ์ ์์ต๋๋ค.