Model Garden์ ์กฐ์ง ์ ์ฑ ์ ์ฌ์ฉํ๋ฉด ์ฌ์ฉ์๊ฐ ์ก์ธ์คํ ์ ์๋ ๋ชจ๋ธ๊ณผ ์ทจํ ์ ์๋ ์กฐ์น๋ฅผ ์ค์์์ ์ ์ดํ ์ ์์ต๋๋ค. ๊ธฐ๋ณธ์ ์ผ๋ก Vertex AI ์ฌ์ฉ ๊ถํ์ด ์๋ ์ฌ์ฉ์๋ฉด ๋๊ตฌ๋ Model Garden์ ์ฌ์ฉํ์ฌ ๋ค์ํ Google ๋ฐ ์๋ ํํฐ ๋ชจ๋ธ์ ํ์, ๋ง์ถค์ค์ , ๋ฐฐํฌํ ์ ์์ต๋๋ค.
์๋ฅผ ๋ค์ด ํ๋ก๋์ ํ๊ฒฝ์์ ์ฌ์ฉํ ์ ์๋ ์น์ธ๋ Google ๋ฐ ์๋ ํํฐ ๋ชจ๋ธ์ด ์์ผ๋ฉด Model Garden ์ ์ฑ ์ ์ค์ ํ๋ ๊ฒ์ด ์ ์ฉํ ์ ์์ต๋๋ค. ์กฐ์ง, ํด๋ ๋๋ ํ๋ก์ ํธ ์์ค์์ ์ ์ฑ ์ ์ ์ํ์ฌ ์ฌ์ฉ์๊ฐ ์น์ธ๋ ๋ชจ๋ธ์๋ง ์ก์ธ์คํ๋๋ก ํ ์ ์์ต๋๋ค. ์ ์ฑ ์ ๋ชจ๋ ์ฃผ ๊ตฌ์ฑ์์๊ฒ ์ ์ฉ๋ฉ๋๋ค. ์กฐ์ง ์ ์ฑ ์ ์ฌ์ฉ์๋ณ ์ ์ฑ ์ด ์๋๋๋ค. ์์ธํ ๋ด์ฉ์ ์กฐ์ง ์ ์ฑ ์๋น์ค ์๊ฐ๋ฅผ ์ฐธ์กฐํ์ธ์.
์ ์ฑ ํ๊ฐ
ํ๊ฐ ์ ํน์ ๋ฆฌ์์ค์ ๊ธฐ์ฌํ๋ ๋ชจ๋ ์ ์ฑ ์ด ๊ฒํ ๋๊ณ ๊ด๋ จ ์ ์ฑ ๋ง ๋ณํฉ๋ ํ ํ๊ฐ๋ฉ๋๋ค. ๋ช ์์ ๊ฑฐ๋ถ ๊ฐ์ ๋ช ์์ ํ์ฉ ๊ฐ๋ณด๋ค ์ฐ์ ์ ์ฉ๋ฉ๋๋ค.
์๋ฅผ ๋ค์ด ํน์ ๋ชจ๋ธ์ ๊ฑฐ๋ถํ๋ ํด๋ ์ ์ฑ ๊ณผ ๋์ผํ ๋ชจ๋ธ์ ํ์ฉํ๋ ํ๋ก์ ํธ ์ ์ฑ ์ด ์๋ค๊ณ ๊ฐ์ ํด ๋ณด๊ฒ ์ต๋๋ค. ์ ์ฑ ์ด ๋ณํฉ๋์๋ค๊ณ ๊ฐ์ ํ๋ฉด ํด๋ ์์ค์ ๋ช ์์ ๊ฑฐ๋ถ ์ ์ฑ ์ด ์ฐ์ ์ ์ฉ๋๋ฏ๋ก ํ๋ก์ ํธ ์์ค์์ ๋ชจ๋ธ์ ๋ํ ์ก์ธ์ค๊ฐ ๊ฑฐ๋ถ๋ฉ๋๋ค. ํ์ง๋ง ๋ชจ๋ ์์ ์ ์ฑ ์ ์ฌ์ ์ํ๋๋ก ํ๋ก์ ํธ ์ ์ฑ ์ ์ค์ ํ๋ฉด ํ๋ก์ ํธ ์์ค์์ ๋ชจ๋ธ์ ๋ํ ์ก์ธ์ค๊ฐ ํ์ฉ๋ฉ๋๋ค.
์์ธํ ๋ด์ฉ์ Resource Manager ๋ฌธ์์ ๊ณ์ธต ๊ตฌ์กฐ ํ๊ฐ ์ดํด๋ฅผ ์ฐธ์กฐํ์ธ์.
๊ณ ๋ ค์ฌํญ
- Model Garden ์กฐ์ง ์ ์ฑ ์ Model Garden์ ๋ชจ๋ธ์๋ง ์ ์ฉ๋ฉ๋๋ค. ์๋ฅผ ๋ค์ด ์ด ์ ์ฑ ์ Vertex AI Model Registry์ ๋ฑ๋ก๋ ๋ชจ๋ธ์๋ ์ ์ฉ๋์ง ์์ต๋๋ค.
- ์กฐ์ง ์ ์ฑ ์ ํ์ฉ ๋ฐ ๊ฑฐ๋ถ ๊ฐ์ 500๊ฐ๋ฅผ ์ด๊ณผํ ์ ์์ต๋๋ค.
- ์ปค์คํ ์ ์ฑ ์ ๊ฒฝ์ฐ ๊ฐ ๋ชจ๋ธ์ ๊ฐ๋ณ์ ์ผ๋ก ์ง์ ํด์ผ ํฉ๋๋ค. ๋ชจ๋ธ ๊ทธ๋ฃน์ ํ์ฉํ๊ฑฐ๋ ๊ฑฐ๋ถํ ์ ์์ต๋๋ค. ์๋ฅผ ๋ค์ด ๋ชจ๋ ์ 3์ ๋ชจ๋ธ์ ๊ฑฐ๋ถํ๊ฑฐ๋ Google ๋ชจ๋ธ์ ๋ํด์๋ง ์์ธก ์์ ์ ํ์ฉํ ์๋ ์์ต๋๋ค.
์ ์ฑ ์ ๋ณด
์ ์ฑ ์ ์ค์ ํ ๋ ๋ค์ ์์ ์ค ํ๋๋ฅผ ์ ์ํฉ๋๋ค.
- ๋ชจ๋ ๋ชจ๋ธ ํ์ฉ
- ๋ชจ๋ ๋ชจ๋ธ ๊ฑฐ๋ถ
- ํน์ ๋ชจ๋ธ ๋ชฉ๋ก์ ํ์ฉํ๊ฑฐ๋ ๊ฑฐ๋ถํ๋๋ก ์ปค์คํ ์ ์ฑ ๊ท์น ์ค์
๊ธฐ๋ณธ์ ์ผ๋ก ์ ์ฑ ์ด ์ค์ ๋๊ฑฐ๋ ์์๋์ง ์์ ๊ฒฝ์ฐ ๋ชจ๋ ๋ชจ๋ธ๊ณผ ์์ ์ด ํ์ฉ๋ฉ๋๋ค.
์ปค์คํ ๊ฑฐ๋ถ ์ ์ฑ ์ ๊ฒฝ์ฐ ๋ชจ๋ธ ๋ชฉ๋ก์ ๋ช ์์ ์ผ๋ก ๊ฑฐ๋ถํ๊ณ ๋ค๋ฅธ ๋ชจ๋ ๋ชจ๋ธ์ ์์์ ์ผ๋ก ํ์ฉํฉ๋๋ค. ๋ง์ฐฌ๊ฐ์ง๋ก ์ปค์คํ ํ์ฉ ์ ์ฑ ์ ๊ฒฝ์ฐ ๋ชจ๋ธ ๋ชฉ๋ก์ ๋ช ์์ ์ผ๋ก ํ์ฉํ๊ณ ๋ค๋ฅธ ๋ชจ๋ ๋ชจ๋ธ์ ์์์ ์ผ๋ก ๊ฑฐ๋ถํฉ๋๋ค.
์ปค์คํ ์ ์ฑ ์์ ๋ชจ๋ธ๊ณผ ๋ชจ๋ธ ์์ ์ ์ง์ ํ๋ ค๋ฉด ๋ค์ ํ์์ ์ฌ์ฉํ์ธ์.
publishers/PUBLISHER/models/MODEL_NAME:ACTION
๋ค์์ ๋ฐ๊ฟ๋๋ค.
PUBLISHER
: ์ ์ฑ ์ด ์ ์ฉ๋๋ ๋ชจ๋ธ์ ์์ ํ ๊ฒ์์์ ์ด๋ฆMODEL_NAME
: ํ์ฉํ๊ฑฐ๋ ๊ฑฐ๋ถํ ๋ชจ๋ธ์ ์ด๋ฆACTION
: ์ ์ฑ ์ ํฌํจํ ๋ชจ๋ธ ์์
์๋ฅผ ๋ค์ด Gemini 2.0 Flash ๋ชจ๋ธ์ ๋ํ ์์ธก์ ์ ์ฑ
๊ท์น์ ์ ์ํ๋ ค๋ฉด publishers/google/models/gemini-2.0-flash-001:predict
๋ฅผ ์ง์ ํฉ๋๋ค.
์ ๊ทํ๋ ID(publishers/PUBLISHER/models/MODEL_NAME
)๋ ๋ชจ๋ธ ID๋ผ๊ณ ๋ ํฉ๋๋ค. ๋ชจ๋ธ์ ๋ชจ๋ธ ID๋ฅผ ์ฐพ์ผ๋ ค๋ฉด Model Garden์ ํด๋น ๋ชจ๋ธ ์นด๋๋ก ์ด๋ํฉ๋๋ค. ๋ชจ๋ธ ์นด๋ ๋งํฌ๋ Model Garden์์ AI ๋ชจ๋ธ ์ดํด๋ณด๊ธฐ์ ๋ชจ๋ธ ๋ชฉ๋ก์ ์ฐธ์กฐํ์ธ์.
๋ชจ๋ธ ์์
๊ฐ ๋ชจ๋ธ์ ๋ํด ๋ค์ ์์ ์ ํ์ฉํ๊ฑฐ๋ ๊ฑฐ๋ถํ ์ ์์ต๋๋ค.
predict
: ์ฌ์ฉ์๊ฐ ๊ด๋ฆฌํ API(์๋น์คํ ๋ชจ๋ธ)๋ฅผ ์ฌ์ฉํ์ฌ ๋ชจ๋ธ์ ๋ํด ์จ๋ผ์ธ ๋ฐ ์ผ๊ด ์์ธก์ ์ํํ ์ ์๋์ง ์ฌ๋ถ๋ฅผ ์ง์ ํฉ๋๋ค.deploy
: ๊ด๋ฆฌํ API๊ฐ ์๋ ๋ชจ๋ธ์ ๊ฒฝ์ฐ ์ฌ์ฉ์๊ฐ Google Cloud์ ๋ชจ๋ธ์ ๋ฐฐํฌํ ์ ์๋์ง ์ฌ๋ถ๋ฅผ ์ง์ ํฉ๋๋ค. ์๋ฅผ ๋ค์ด ์ด ์์ ์ Google Cloud ์ฝ์์ ์ํด๋ฆญ ๋ฐฐํฌ์ ์ ์ฉ๋ฉ๋๋ค.tune
: ์ฌ์ฉ์๊ฐ ๋ชจ๋ธ์ ์กฐ์ ํ ์ ์๋์ง ์ฌ๋ถ๋ฅผ ์ง์ ํฉ๋๋ค.
์ ์ฑ ์ค์
Google Cloud ์ฝ์ ๋๋ Google Cloud CLI๋ฅผ ์ฌ์ฉํ์ฌ Model Garden์ ์ ์ฑ
์ ์ค์ ํ ์ ์์ต๋๋ค. ์ ์ฝ์กฐ๊ฑด์ ์ด๋ฆ์ vertexai.allowedModels
์
๋๋ค. ์ ์ฑ
์ค์ ์ ๋ํ ์์ธํ ๋ด์ฉ์ Resource Manager ๋ฌธ์์ ๋ค์ ์ฃผ์ ๋ฅผ ์ฐธ์กฐํ์ธ์.
- Google Cloud ์ฝ์ ์๋ด๋ ์กฐ์ง ์ ์ฑ ๋ง๋ค๊ธฐ ๋ฐ ๊ด๋ฆฌ๋ฅผ ์ฐธ์กฐํ์ธ์.
- gcloud CLI ์๋ด๋ ์ ์ฝ ์กฐ๊ฑด ์ฌ์ฉ์ ์ฐธ์กฐํ์ธ์.
์ ์ฑ ์์
๋ค์ ์ ์ฑ ์์๋ gcloud CLI๋ฅผ ํตํด ์ ์ฑ ์ ์ค์ ํ ๋ ์ฌ์ฉํ๋ YAML ํ์์ ๋๋ค.
ํน์ ๋ชจ๋ธ ๋ชจ์์ ๊ฑฐ๋ถํ๊ณ ๋ค๋ฅธ ๋ชจ๋ ๋ชจ๋ธ ํ์ฉ
๋ค์ ์์๋ ํน์ ๋ชจ๋ธ ๋ชจ์์ ๋ํ ์์ ์ ๊ฑฐ๋ถํฉ๋๋ค.
name: organizations/ORGANIZATION_ID/policies/vertexai.allowedModels spec: rules: values: deniedValues: - publishers/meta/models/llama3:deploy - publishers/google/models/gemini-2.0-flash-001:tune - publishers/hf-google/models/gemma-2b:deploy
ORGANIZATION_ID๋ฅผ Google Cloud์กฐ์ง์ ID๋ก ๋ฐ๊ฟ๋๋ค. ์์ธํ ๋ด์ฉ์ ์กฐ์ง ๋ฆฌ์์ค ๊ฐ์ ธ์ค๊ธฐ๋ฅผ ์ฐธ์กฐํ์ธ์.
ํน์ ๋ชจ๋ธ ๋ชจ์์ ํ์ฉํ๊ณ ๋ค๋ฅธ ๋ชจ๋ ๋ชจ๋ธ ๊ฑฐ๋ถ
๋ค์ ์์๋ ํน์ ๋ชจ๋ธ ๋ชจ์์ ๋ํ ์์ ์ ํ์ฉํฉ๋๋ค.
name: organizations/ORGANIZATION_ID/policies/vertexai.allowedModels spec: rules: values: allowedValues: - publishers/meta/models/llama3:deploy - publishers/google/models/gemini-2.0-flash-001:tune - publishers/hf-google/models/gemma-2b:deploy
๋ค์ ๋จ๊ณ
Model Garden ๋ฐ ๊ด๋ จ ์ ํ ์์๋ณด๊ธฐ