Model Garden ๋ชจ๋ธ์˜ ์•ก์„ธ์Šค ์ œ์–ด

Model Garden์˜ ์กฐ์ง ์ •์ฑ…์„ ์‚ฌ์šฉํ•˜๋ฉด ์‚ฌ์šฉ์ž๊ฐ€ ์•ก์„ธ์Šคํ•  ์ˆ˜ ์žˆ๋Š” ๋ชจ๋ธ๊ณผ ์ทจํ•  ์ˆ˜ ์žˆ๋Š” ์กฐ์น˜๋ฅผ ์ค‘์•™์—์„œ ์ œ์–ดํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๊ธฐ๋ณธ์ ์œผ๋กœ Vertex AI ์‚ฌ์šฉ ๊ถŒํ•œ์ด ์žˆ๋Š” ์‚ฌ์šฉ์ž๋ฉด ๋ˆ„๊ตฌ๋‚˜ Model Garden์„ ์‚ฌ์šฉํ•˜์—ฌ ๋‹ค์–‘ํ•œ Google ๋ฐ ์„œ๋“œ ํŒŒํ‹ฐ ๋ชจ๋ธ์„ ํƒ์ƒ‰, ๋งž์ถค์„ค์ •, ๋ฐฐํฌํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์˜ˆ๋ฅผ ๋“ค์–ด ํ”„๋กœ๋•์…˜ ํ™˜๊ฒฝ์—์„œ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋Š” ์Šน์ธ๋œ Google ๋ฐ ์„œ๋“œ ํŒŒํ‹ฐ ๋ชจ๋ธ์ด ์žˆ์œผ๋ฉด Model Garden ์ •์ฑ…์„ ์„ค์ •ํ•˜๋Š” ๊ฒƒ์ด ์œ ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์กฐ์ง, ํด๋” ๋˜๋Š” ํ”„๋กœ์ ํŠธ ์ˆ˜์ค€์—์„œ ์ •์ฑ…์„ ์ •์˜ํ•˜์—ฌ ์‚ฌ์šฉ์ž๊ฐ€ ์Šน์ธ๋œ ๋ชจ๋ธ์—๋งŒ ์•ก์„ธ์Šคํ•˜๋„๋ก ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ •์ฑ…์€ ๋ชจ๋“  ์ฃผ ๊ตฌ์„ฑ์›์—๊ฒŒ ์ ์šฉ๋ฉ๋‹ˆ๋‹ค. ์กฐ์ง ์ •์ฑ…์€ ์‚ฌ์šฉ์ž๋ณ„ ์ •์ฑ…์ด ์•„๋‹™๋‹ˆ๋‹ค. ์ž์„ธํ•œ ๋‚ด์šฉ์€ ์กฐ์ง ์ •์ฑ… ์„œ๋น„์Šค ์†Œ๊ฐœ๋ฅผ ์ฐธ์กฐํ•˜์„ธ์š”.

์ •์ฑ… ํ‰๊ฐ€

ํ‰๊ฐ€ ์‹œ ํŠน์ • ๋ฆฌ์†Œ์Šค์— ๊ธฐ์—ฌํ•˜๋Š” ๋ชจ๋“  ์ •์ฑ…์ด ๊ฒ€ํ† ๋˜๊ณ  ๊ด€๋ จ ์ •์ฑ…๋งŒ ๋ณ‘ํ•ฉ๋œ ํ›„ ํ‰๊ฐ€๋ฉ๋‹ˆ๋‹ค. ๋ช…์‹œ์  ๊ฑฐ๋ถ€ ๊ฐ’์€ ๋ช…์‹œ์  ํ—ˆ์šฉ ๊ฐ’๋ณด๋‹ค ์šฐ์„  ์ ์šฉ๋ฉ๋‹ˆ๋‹ค.

์˜ˆ๋ฅผ ๋“ค์–ด ํŠน์ • ๋ชจ๋ธ์„ ๊ฑฐ๋ถ€ํ•˜๋Š” ํด๋” ์ •์ฑ…๊ณผ ๋™์ผํ•œ ๋ชจ๋ธ์„ ํ—ˆ์šฉํ•˜๋Š” ํ”„๋กœ์ ํŠธ ์ •์ฑ…์ด ์žˆ๋‹ค๊ณ  ๊ฐ€์ •ํ•ด ๋ณด๊ฒ ์Šต๋‹ˆ๋‹ค. ์ •์ฑ…์ด ๋ณ‘ํ•ฉ๋˜์—ˆ๋‹ค๊ณ  ๊ฐ€์ •ํ•˜๋ฉด ํด๋” ์ˆ˜์ค€์˜ ๋ช…์‹œ์  ๊ฑฐ๋ถ€ ์ •์ฑ…์ด ์šฐ์„  ์ ์šฉ๋˜๋ฏ€๋กœ ํ”„๋กœ์ ํŠธ ์ˆ˜์ค€์—์„œ ๋ชจ๋ธ์— ๋Œ€ํ•œ ์•ก์„ธ์Šค๊ฐ€ ๊ฑฐ๋ถ€๋ฉ๋‹ˆ๋‹ค. ํ•˜์ง€๋งŒ ๋ชจ๋“  ์ƒ์œ„ ์ •์ฑ…์„ ์žฌ์ •์˜ํ•˜๋„๋ก ํ”„๋กœ์ ํŠธ ์ •์ฑ…์„ ์„ค์ •ํ•˜๋ฉด ํ”„๋กœ์ ํŠธ ์ˆ˜์ค€์—์„œ ๋ชจ๋ธ์— ๋Œ€ํ•œ ์•ก์„ธ์Šค๊ฐ€ ํ—ˆ์šฉ๋ฉ๋‹ˆ๋‹ค.

์ž์„ธํ•œ ๋‚ด์šฉ์€ Resource Manager ๋ฌธ์„œ์˜ ๊ณ„์ธต ๊ตฌ์กฐ ํ‰๊ฐ€ ์ดํ•ด๋ฅผ ์ฐธ์กฐํ•˜์„ธ์š”.

๊ณ ๋ ค์‚ฌํ•ญ

  • Model Garden ์กฐ์ง ์ •์ฑ…์€ Model Garden์˜ ๋ชจ๋ธ์—๋งŒ ์ ์šฉ๋ฉ๋‹ˆ๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด ์ด ์ •์ฑ…์€ Vertex AI Model Registry์— ๋“ฑ๋ก๋œ ๋ชจ๋ธ์—๋Š” ์ ์šฉ๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.
  • ์กฐ์ง ์ •์ฑ…์˜ ํ—ˆ์šฉ ๋ฐ ๊ฑฐ๋ถ€ ๊ฐ’์€ 500๊ฐœ๋ฅผ ์ดˆ๊ณผํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค.
  • ์ปค์Šคํ…€ ์ •์ฑ…์˜ ๊ฒฝ์šฐ ๊ฐ ๋ชจ๋ธ์„ ๊ฐœ๋ณ„์ ์œผ๋กœ ์ง€์ •ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ๋ชจ๋ธ ๊ทธ๋ฃน์„ ํ—ˆ์šฉํ•˜๊ฑฐ๋‚˜ ๊ฑฐ๋ถ€ํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด ๋ชจ๋“  ์ œ3์ž ๋ชจ๋ธ์„ ๊ฑฐ๋ถ€ํ•˜๊ฑฐ๋‚˜ Google ๋ชจ๋ธ์— ๋Œ€ํ•ด์„œ๋งŒ ์˜ˆ์ธก ์ž‘์—…์„ ํ—ˆ์šฉํ•  ์ˆ˜๋Š” ์—†์Šต๋‹ˆ๋‹ค.

์ •์ฑ… ์ •๋ณด

์ •์ฑ…์„ ์„ค์ •ํ•  ๋•Œ ๋‹ค์Œ ์ž‘์—… ์ค‘ ํ•˜๋‚˜๋ฅผ ์ •์˜ํ•ฉ๋‹ˆ๋‹ค.

  • ๋ชจ๋“  ๋ชจ๋ธ ํ—ˆ์šฉ
  • ๋ชจ๋“  ๋ชจ๋ธ ๊ฑฐ๋ถ€
  • ํŠน์ • ๋ชจ๋ธ ๋ชฉ๋ก์„ ํ—ˆ์šฉํ•˜๊ฑฐ๋‚˜ ๊ฑฐ๋ถ€ํ•˜๋„๋ก ์ปค์Šคํ…€ ์ •์ฑ… ๊ทœ์น™ ์„ค์ •

๊ธฐ๋ณธ์ ์œผ๋กœ ์ •์ฑ…์ด ์„ค์ •๋˜๊ฑฐ๋‚˜ ์ƒ์†๋˜์ง€ ์•Š์€ ๊ฒฝ์šฐ ๋ชจ๋“  ๋ชจ๋ธ๊ณผ ์ž‘์—…์ด ํ—ˆ์šฉ๋ฉ๋‹ˆ๋‹ค.

์ปค์Šคํ…€ ๊ฑฐ๋ถ€ ์ •์ฑ…์˜ ๊ฒฝ์šฐ ๋ชจ๋ธ ๋ชฉ๋ก์„ ๋ช…์‹œ์ ์œผ๋กœ ๊ฑฐ๋ถ€ํ•˜๊ณ  ๋‹ค๋ฅธ ๋ชจ๋“  ๋ชจ๋ธ์€ ์•”์‹œ์ ์œผ๋กœ ํ—ˆ์šฉํ•ฉ๋‹ˆ๋‹ค. ๋งˆ์ฐฌ๊ฐ€์ง€๋กœ ์ปค์Šคํ…€ ํ—ˆ์šฉ ์ •์ฑ…์˜ ๊ฒฝ์šฐ ๋ชจ๋ธ ๋ชฉ๋ก์„ ๋ช…์‹œ์ ์œผ๋กœ ํ—ˆ์šฉํ•˜๊ณ  ๋‹ค๋ฅธ ๋ชจ๋“  ๋ชจ๋ธ์€ ์•”์‹œ์ ์œผ๋กœ ๊ฑฐ๋ถ€ํ•ฉ๋‹ˆ๋‹ค.

์ปค์Šคํ…€ ์ •์ฑ…์—์„œ ๋ชจ๋ธ๊ณผ ๋ชจ๋ธ ์ž‘์—…์„ ์ง€์ •ํ•˜๋ ค๋ฉด ๋‹ค์Œ ํ˜•์‹์„ ์‚ฌ์šฉํ•˜์„ธ์š”.

publishers/PUBLISHER/models/MODEL_NAME:ACTION

๋‹ค์Œ์„ ๋ฐ”๊ฟ‰๋‹ˆ๋‹ค.

  • PUBLISHER: ์ •์ฑ…์ด ์ ์šฉ๋˜๋Š” ๋ชจ๋ธ์„ ์†Œ์œ ํ•œ ๊ฒŒ์‹œ์ž์˜ ์ด๋ฆ„
  • MODEL_NAME: ํ—ˆ์šฉํ•˜๊ฑฐ๋‚˜ ๊ฑฐ๋ถ€ํ•  ๋ชจ๋ธ์˜ ์ด๋ฆ„
  • ACTION: ์ •์ฑ…์— ํฌํ•จํ•  ๋ชจ๋ธ ์ž‘์—…

์˜ˆ๋ฅผ ๋“ค์–ด Gemini 2.0 Flash ๋ชจ๋ธ์— ๋Œ€ํ•œ ์˜ˆ์ธก์˜ ์ •์ฑ… ๊ทœ์น™์„ ์ •์˜ํ•˜๋ ค๋ฉด publishers/google/models/gemini-2.0-flash-001:predict๋ฅผ ์ง€์ •ํ•ฉ๋‹ˆ๋‹ค.

์ •๊ทœํ™”๋œ ID(publishers/PUBLISHER/models/MODEL_NAME)๋Š” ๋ชจ๋ธ ID๋ผ๊ณ ๋„ ํ•ฉ๋‹ˆ๋‹ค. ๋ชจ๋ธ์˜ ๋ชจ๋ธ ID๋ฅผ ์ฐพ์œผ๋ ค๋ฉด Model Garden์˜ ํ•ด๋‹น ๋ชจ๋ธ ์นด๋“œ๋กœ ์ด๋™ํ•ฉ๋‹ˆ๋‹ค. ๋ชจ๋ธ ์นด๋“œ ๋งํฌ๋Š” Model Garden์—์„œ AI ๋ชจ๋ธ ์‚ดํŽด๋ณด๊ธฐ์˜ ๋ชจ๋ธ ๋ชฉ๋ก์„ ์ฐธ์กฐํ•˜์„ธ์š”.

๋ชจ๋ธ ์ž‘์—…

๊ฐ ๋ชจ๋ธ์— ๋Œ€ํ•ด ๋‹ค์Œ ์ž‘์—…์„ ํ—ˆ์šฉํ•˜๊ฑฐ๋‚˜ ๊ฑฐ๋ถ€ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

  • predict: ์‚ฌ์šฉ์ž๊ฐ€ ๊ด€๋ฆฌํ˜• API(์„œ๋น„์Šคํ˜• ๋ชจ๋ธ)๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ๋ชจ๋ธ์— ๋Œ€ํ•ด ์˜จ๋ผ์ธ ๋ฐ ์ผ๊ด„ ์˜ˆ์ธก์„ ์ˆ˜ํ–‰ํ•  ์ˆ˜ ์žˆ๋Š”์ง€ ์—ฌ๋ถ€๋ฅผ ์ง€์ •ํ•ฉ๋‹ˆ๋‹ค.
  • deploy: ๊ด€๋ฆฌํ˜• API๊ฐ€ ์—†๋Š” ๋ชจ๋ธ์˜ ๊ฒฝ์šฐ ์‚ฌ์šฉ์ž๊ฐ€ Google Cloud์— ๋ชจ๋ธ์„ ๋ฐฐํฌํ•  ์ˆ˜ ์žˆ๋Š”์ง€ ์—ฌ๋ถ€๋ฅผ ์ง€์ •ํ•ฉ๋‹ˆ๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด ์ด ์ž‘์—…์€ Google Cloud ์ฝ˜์†”์˜ ์›ํด๋ฆญ ๋ฐฐํฌ์— ์ ์šฉ๋ฉ๋‹ˆ๋‹ค.
  • tune: ์‚ฌ์šฉ์ž๊ฐ€ ๋ชจ๋ธ์„ ์กฐ์ •ํ•  ์ˆ˜ ์žˆ๋Š”์ง€ ์—ฌ๋ถ€๋ฅผ ์ง€์ •ํ•ฉ๋‹ˆ๋‹ค.

์ •์ฑ… ์„ค์ •

Google Cloud ์ฝ˜์†” ๋˜๋Š” Google Cloud CLI๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ Model Garden์˜ ์ •์ฑ…์„ ์„ค์ •ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ œ์•ฝ์กฐ๊ฑด์˜ ์ด๋ฆ„์€ vertexai.allowedModels์ž…๋‹ˆ๋‹ค. ์ •์ฑ… ์„ค์ •์— ๋Œ€ํ•œ ์ž์„ธํ•œ ๋‚ด์šฉ์€ Resource Manager ๋ฌธ์„œ์˜ ๋‹ค์Œ ์ฃผ์ œ๋ฅผ ์ฐธ์กฐํ•˜์„ธ์š”.

์ •์ฑ… ์˜ˆ์‹œ

๋‹ค์Œ ์ •์ฑ… ์˜ˆ์‹œ๋Š” gcloud CLI๋ฅผ ํ†ตํ•ด ์ •์ฑ…์„ ์„ค์ •ํ•  ๋•Œ ์‚ฌ์šฉํ•˜๋Š” YAML ํ˜•์‹์ž…๋‹ˆ๋‹ค.

ํŠน์ • ๋ชจ๋ธ ๋ชจ์Œ์„ ๊ฑฐ๋ถ€ํ•˜๊ณ  ๋‹ค๋ฅธ ๋ชจ๋“  ๋ชจ๋ธ ํ—ˆ์šฉ

๋‹ค์Œ ์˜ˆ์‹œ๋Š” ํŠน์ • ๋ชจ๋ธ ๋ชจ์Œ์— ๋Œ€ํ•œ ์ž‘์—…์„ ๊ฑฐ๋ถ€ํ•ฉ๋‹ˆ๋‹ค.

name: organizations/ORGANIZATION_ID/policies/vertexai.allowedModels
spec:
  rules:
    values:
      deniedValues:
      - publishers/meta/models/llama3:deploy
      - publishers/google/models/gemini-2.0-flash-001:tune
      - publishers/hf-google/models/gemma-2b:deploy

ORGANIZATION_ID๋ฅผ Google Cloud์กฐ์ง์˜ ID๋กœ ๋ฐ”๊ฟ‰๋‹ˆ๋‹ค. ์ž์„ธํ•œ ๋‚ด์šฉ์€ ์กฐ์ง ๋ฆฌ์†Œ์Šค ๊ฐ€์ ธ์˜ค๊ธฐ๋ฅผ ์ฐธ์กฐํ•˜์„ธ์š”.

ํŠน์ • ๋ชจ๋ธ ๋ชจ์Œ์„ ํ—ˆ์šฉํ•˜๊ณ  ๋‹ค๋ฅธ ๋ชจ๋“  ๋ชจ๋ธ ๊ฑฐ๋ถ€

๋‹ค์Œ ์˜ˆ์‹œ๋Š” ํŠน์ • ๋ชจ๋ธ ๋ชจ์Œ์— ๋Œ€ํ•œ ์ž‘์—…์„ ํ—ˆ์šฉํ•ฉ๋‹ˆ๋‹ค.

name: organizations/ORGANIZATION_ID/policies/vertexai.allowedModels
spec:
  rules:
    values:
      allowedValues:
      - publishers/meta/models/llama3:deploy
      - publishers/google/models/gemini-2.0-flash-001:tune
      - publishers/hf-google/models/gemma-2b:deploy

๋‹ค์Œ ๋‹จ๊ณ„

Model Garden ๋ฐ ๊ด€๋ จ ์ œํ’ˆ ์•Œ์•„๋ณด๊ธฐ