๋ค์ ์น์ ์์๋ Vertex AI Feature Store(๊ธฐ์กด) ๋ฐ์ดํฐ ๋ชจ๋ธ์ ์๊ฐํ๊ณ Vertex AI Feature Store(๊ธฐ์กด) ๋ฆฌ์์ค์ ๊ตฌ์ฑ์์๋ฅผ ์ค๋ช ํ๋ ๋ฐ ์ฌ์ฉ๋๋ ์ฉ์ด๋ฅผ ์ค๋ช ํฉ๋๋ค.
Vertex AI Feature Store(๊ธฐ์กด) ๋ฐ์ดํฐ ๋ชจ๋ธ
Vertex AI Feature Store(๊ธฐ์กด)๋ ์๊ณ์ด ๋ฐ์ดํฐ ๋ชจ๋ธ์ ์ฌ์ฉํ์ฌ ํน์ฑ์ ์ผ๋ จ์ ๊ฐ์ ์ ์ฅํฉ๋๋ค. ์ด ๋ชจ๋ธ์ ์ฌ์ฉํ๋ฉด ์๊ฐ์ด ์ง๋ ๋ณ๊ฒฝ๋๋๋ผ๋ Vertex AI Feature Store(๊ธฐ์กด)๊ฐ ํน์ฑ ๊ฐ์ ์ ์งํ ์ ์์ต๋๋ค. Vertex AI Feature Store(๊ธฐ์กด)๋ Featurestore -> EntityType -> Feature
๊ณ์ธต ๊ตฌ์กฐ๋ก ๋ฆฌ์์ค๋ฅผ ๊ณ์ธต์ ์ผ๋ก ๊ตฌ์ฑํฉ๋๋ค. Vertex AI Feature Store(๊ธฐ์กด)๋ก ๋ฐ์ดํฐ๋ฅผ ๊ฐ์ ธ์ค๋ ค๋ฉด ๋จผ์ ์ด๋ฌํ ๋ฆฌ์์ค๋ฅผ ๋ง๋ค์ด์ผ ํฉ๋๋ค.
์๋ฅผ ๋ค์ด BigQuery ํ ์ด๋ธ์์ ๋ค์๊ณผ ๊ฐ์ ์ํ ์์ค ๋ฐ์ดํฐ๊ฐ ์๋ค๊ณ ๊ฐ์ ํด ๋ณด๊ฒ ์ต๋๋ค. ์ด ์์ค ๋ฐ์ดํฐ๋ ์ํ ๋ฐ ์ํ์ ํน์ฑ์ ๊ดํ ๊ฒ์ ๋๋ค.
์ด ๋ฐ์ดํฐ๋ฅผ Vertex AI Feature Store(๊ธฐ์กด)๋ก ๊ฐ์ ธ์ค๋ ค๋ฉด ๋ค๋ฅธ ๋ชจ๋ ๋ฆฌ์์ค์ ์ต์์ ์ปจํ ์ด๋์ธ featurestore๋ฅผ ๋ง๋ค์ด์ผ ํฉ๋๋ค. featurestore์์ ๊ด๋ จ ํน์ฑ์ ๊ทธ๋ฃนํํ๊ณ ํฌํจํ๋ ํญ๋ชฉ ์ ํ์ ๋ง๋ญ๋๋ค. ๊ทธ๋ฐ ๋ค์ ์์ค ๋ฐ์ดํฐ์ ํน์ฑ์ ๋งคํ๋๋ ํน์ฑ์ ๋ง๋ค ์ ์์ต๋๋ค. ํญ๋ชฉ ์ ํ ๋ฐ ํน์ฑ์ ์ด๋ฆ์ ์ด ํค๋ ์ด๋ฆ์ ๋ฏธ๋ฌ๋งํ ์ ์์ง๋ง ํ์๋ ์๋๋๋ค.
์ด ์์์์ movie_id
์ด ํค๋๋ ํญ๋ชฉ ์ ํ movie
์ ๋งคํ๋ ์ ์์ต๋๋ค. average_rating
, title
, genre
๋ movie
ํญ๋ชฉ ์ ํ์ ํน์ฑ์
๋๋ค. ๊ฐ ์ด์ ๊ฐ์ ํญ๋ชฉ ๋ฐ ํน์ฑ ๊ฐ์ด๋ผ๊ณ ๋ถ๋ฅด๋ ํญ๋ชฉ ์ ํ ๋๋ ํน์ฑ์ ํน์ ์ธ์คํด์ค์ ๋งคํ๋ฉ๋๋ค.
ํ์์คํฌํ ์ด์ ํน์ฑ ๊ฐ์ด ์์ฑ๋ ์์ ์ ๋ํ๋ ๋๋ค. featurestore์์ ํ์์คํฌํ๋ ๋ณ๋์ ๋ฆฌ์์ค ์ ํ์ด ์๋ ํน์ฑ ๊ฐ์ ์์ฑ์ ๋๋ค. ๋ชจ๋ ํน์ฑ ๊ฐ์ด ๋์์ ์์ฑ๋ ๊ฒฝ์ฐ ํ์์คํฌํ ์ด์ด ํ์ํ์ง ์์ต๋๋ค. ๊ฐ์ ธ์ค๊ธฐ ์์ฒญ์ ์ผ๋ถ๋ก ํ์์คํฌํ๋ฅผ ์ง์ ํ ์ ์์ต๋๋ค.
ํผ์ฒ์คํ ์ด
featurestore๋ ํญ๋ชฉ ์ ํ, ํน์ฑ, ํน์ฑ ๊ฐ์ ์ต์์ ์ปจํ ์ด๋์ ๋๋ค. ์ผ๋ฐ์ ์ผ๋ก ์กฐ์ง์ ์กฐ์ง ๋ด ๋ชจ๋ ํ ๊ฐ์ ํน์ฑ ๊ฐ์ ธ์ค๊ธฐ, ์๋น, ๊ณต์ ๋ฅผ ์ํด ํ๋์ ๊ณต์ ๋ ํผ์ฒ์คํ ์ด๋ฅผ ๋ง๋ญ๋๋ค. ํ์ง๋ง ํ๊ฒฝ์ ๊ฒฉ๋ฆฌํ๊ธฐ ์ํด ๋์ผํ ํ๋ก์ ํธ ๋ด์ ์ฌ๋ฌ featurestore๋ฅผ ๋ง๋ค ์๋ ์์ต๋๋ค. ์๋ฅผ ๋ค์ด ์คํ, ํ ์คํธ, ํ๋ก๋์ ์ ์ํด ๋ณ๋์ featurestore๋ฅผ ์ฌ์ฉํ ์ ์์ต๋๋ค.
ํญ๋ชฉ ์ ํ
ํญ๋ชฉ ์ ํ์ ์๋ฏธ๋ก ์ ์ผ๋ก ๊ด๋ จ๋ ํน์ฑ์ ๋ชจ์์
๋๋ค. ์ฌ์ฉ์๋ ์ฌ์ฉ ์ฌ๋ก์ ๊ด๋ จ๋ ๊ฐ๋
์ ๊ธฐ๋ฐ์ผ๋ก ์์ฒด ํญ๋ชฉ ์ ํ์ ์ ์ํฉ๋๋ค. ์๋ฅผ ๋ค์ด ์ํ ์๋น์ค์ ๊ฒฝ์ฐ ์ํ ๋๋ ๊ณ ๊ฐ์๊ฒ ํด๋นํ๋ ๊ด๋ จ ํน์ฑ์ ๊ทธ๋ฃนํํ๋ ํญ๋ชฉ ์ ํ movie
๋ฐ user
๊ฐ ์์ ์ ์์ต๋๋ค.
ํญ๋ชฉ
ํญ๋ชฉ์ ํญ๋ชฉ ์ ํ์ ์ธ์คํด์ค์
๋๋ค. ์๋ฅผ ๋ค์ด movie_01
๋ฐ movie_02
๋ movie
ํญ๋ชฉ ์ ํ์ ํญ๋ชฉ์
๋๋ค. featurestore์์ ๊ฐ ํญ๋ชฉ์ ๊ณ ์ ID๊ฐ ์์ด์ผ ํ๋ฉฐ STRING
์ ํ์ด์ด์ผ ํฉ๋๋ค.
ํน์ฑ
ํน์ฑ์ ํญ๋ชฉ ์ ํ์ ์ธก์ ๊ฐ๋ฅํ ์์ฑ์
๋๋ค. ์๋ฅผ ๋ค์ด movie
ํญ๋ชฉ ์ ํ์๋ ์ํ์ ๋ค์ํ ์์ฑ์ ์ถ์ ํ๋ average_rating
๋ฐ title
๊ณผ ๊ฐ์ ํน์ฑ์ด ์์ต๋๋ค. ํน์ฑ์ ํญ๋ชฉ ์ ํ๊ณผ ์ฐ๊ฒฐ๋ฉ๋๋ค.
ํน์ฑ์ ์ฃผ์ด์ง ํญ๋ชฉ ์ ํ ๋ด์์ ๊ณ ์ ํด์ผ ํ์ง๋ง ์ ์ญ์ผ๋ก ๊ณ ์ ํ ํ์๋ ์์ต๋๋ค. ์๋ฅผ ๋ค์ด title
๋ฅผ ๋ ๊ฐ์ง ๋ค๋ฅธ ํญ๋ชฉ ์ ํ์ ์ฌ์ฉํ๋ฉด Vertex AI Feature Store(๊ธฐ์กด)๋ title
๋ฅผ ๋ ๊ฐ์ง ๋ค๋ฅธ ํน์ฑ์ผ๋ก ํด์ํฉ๋๋ค. ํน์ฑ ๊ฐ์ ์ฝ์ ๋ ์์ฒญ์ ์ผ๋ถ๋ก ํน์ฑ ๋ฐ ํญ๋ชฉ ์ ํ์ ์ ๊ณตํฉ๋๋ค.
ํน์ฑ์ ๋ง๋ค ๋ BOOL_ARRAY
, DOUBLE
, DOUBLE_ARRAY
, STRING
๊ณผ ๊ฐ์ ๊ฐ ์ ํ์ ์ง์ ํฉ๋๋ค. ์ด ๊ฐ์ ํน์ ํน์ฑ๊ณผ ๊ด๋ จํด ๊ฐ์ ธ์ฌ ์ ์๋ ๊ฐ ์ ํ์ ๊ฒฐ์ ํฉ๋๋ค. ์ง์๋๋ ๊ฐ ์ ํ์ ๋ํ ์์ธํ ๋ด์ฉ์ API ์ฐธ์กฐ์ valueType
์ ์ฐธ์กฐํ์ธ์.
ํน์ฑ ๊ฐ
Vertex AI Feature Store(๊ธฐ์กด)๋ ํน์ ์์ ์ ํน์ฑ์ ๋ํ ํน์ฑ ๊ฐ์ ์บก์ฒํฉ๋๋ค. ์ฆ, ํน์ ํญ๋ชฉ ๋ฐ ํน์ฑ์ ์ฌ๋ฌ ๊ฐ์ด ์์ ์ ์์ต๋๋ค. ์๋ฅผ ๋ค์ด movie_01
ํญ๋ชฉ์ average_rating
ํน์ฑ์ ๋ํด ํน์ฑ ๊ฐ์ ์ฌ๋ฌ ๊ฐ ๊ฐ์ง ์ ์์ต๋๋ค. ๊ฐ์ ํ ๋ฒ์ 4.4
๊ฐ ๋ ์ ์๊ณ ๋์ค์๋ 4.8
์ด ๋ ์ ์์ต๋๋ค. Vertex AI Feature Store(๊ธฐ์กด)๋ ํํ ์๋ณ์๋ฅผ ๊ฐ ํน์ฑ ๊ฐ(entity_id
, feature_id
, timestamp
)๊ณผ ์ฐ๊ฒฐํ๋ฉฐ, Feature Store(๊ธฐ์กด)์์ ์ ๊ณต ์์ ์ ๊ฐ์ ์กฐํํ๋ ๋ฐ ์ฌ์ฉํฉ๋๋ค.
Vertex AI Feature Store(๊ธฐ์กด)๋ ์๊ฐ์ด ์ฐ์์ ์ด์ด๋ ๊ฐ๋ณ ๊ฐ์ ์ ์ฅํฉ๋๋ค. t
์๊ฐ์ ๊ธฐ๋ฅ ๊ฐ์ ์์ฒญํ๋ฉด Vertex AI Feature Store(๊ธฐ์กด)๊ฐ t
์๊ฐ ๋๋ ๊ทธ ์ด์ ์ ์ต๊ทผ์ ์ ์ฅ๋ ๊ฐ์ ๋ฐํํฉ๋๋ค. ์๋ฅผ ๋ค์ด Vertex AI Feature Store(๊ธฐ์กด)๊ฐ ์๋์ฐจ ์์น ์ ๋ณด๋ฅผ 100
๋ฐ 110
์๊ฐ์ ์ ์ฅํ๋ฉด 100
์๊ฐ์ ์์น๊ฐ 100
(ํฌํจ)์์ 110
(์ ์ธ) ์ฌ์ด์ ๋ชจ๋ ์๊ฐ์ ์์ฒญ์ ์ฌ์ฉ๋ฉ๋๋ค. ๋ ๋์ ํด์๋๊ฐ ํ์ํ๋ฉด ๊ฐ ์ฌ์ด์ ์์น๋ฅผ ์ถ๋ก ํ๊ฑฐ๋ ๋ฐ์ดํฐ ์ํ๋ง ๋ ์ดํธ๋ฅผ ๋๋ฆด ์ ์์ต๋๋ค.
ํน์ฑ ๊ฐ์ ธ์ค๊ธฐ
ํน์ฑ ๊ฐ์ ธ์ค๊ธฐ๋ ํน์ฑ ์ถ์ถ ์์ ์ผ๋ก ๊ณ์ฐํ ํน์ฑ ๊ฐ์ featurestore๋ก ๊ฐ์ ธ์ค๋ ํ๋ก์ธ์ค์ ๋๋ค. ๋ฐ์ดํฐ๋ฅผ ๊ฐ์ ธ์ค๋ ค๋ฉด ํด๋น ํญ๋ชฉ ์ ํ๊ณผ ํน์ฑ์ featurestore์ ์ ์ํด์ผ ํฉ๋๋ค. Vertex AI Feature Store(๊ธฐ์กด)๋ ์ผ๊ด ์ฒ๋ฆฌ์ ์คํธ๋ฆฌ๋ฐ ๊ฐ์ ธ์ค๊ธฐ๋ฅผ ์ ๊ณตํ๋ฏ๋ก ํน์ฑ ๊ฐ์ ๋๋์ผ๋ก ๋๋ ์ค์๊ฐ์ผ๋ก ์ถ๊ฐํ ์ ์์ต๋๋ค.
์๋ฅผ ๋ค์ด BigQuery ๋๋ Cloud Storage์ ๊ฐ์ ์์น์ ์๋ ์์ค ๋ฐ์ดํฐ๊ฐ ๊ณ์ฐ๋์์ ์ ์์ต๋๋ค. ์ด๋ฌํ ํน์ฑ ๊ฐ์ ๋์ผํ ํ์์ผ๋ก ์ ๊ณตํ ์ ์๋๋ก ์ด๋ฌํ ์์ค์ ๋ฐ์ดํฐ๋ฅผ ์ค์ featurestore๋ก ์ผ๊ด ๊ฐ์ ธ์ค๊ธฐํ ์ ์์ต๋๋ค. ์์ค ๋ฐ์ดํฐ๊ฐ ๋ณ๊ฒฝ๋๋ฉด ์คํธ๋ฆฌ๋ฐ ๊ฐ์ ธ์ค๊ธฐ๋ฅผ ์ฌ์ฉํ์ฌ ์ด๋ฌํ ๋ณ๊ฒฝ์ฌํญ์ featurestore์ ๋น ๋ฅด๊ฒ ๊ฐ์ ธ์ฌ ์ ์์ต๋๋ค. ์ด๋ ๊ฒ ํ๋ฉด ์จ๋ผ์ธ ์ ๊ณต ์๋๋ฆฌ์ค์ ์ฌ์ฉํ ์ ์๋ ์ต์ ๋ฐ์ดํฐ๋ฅผ ์ป์ ์ ์์ต๋๋ค.
์์ธํ ๋ด์ฉ์ ํน์ฑ ๊ฐ ์ผ๊ด ๊ฐ์ ธ์ค๊ธฐ ๋๋ ์คํธ๋ฆฌ๋ฐ ๊ฐ์ ธ์ค๊ธฐ๋ฅผ ์ฐธ์กฐํ์ธ์.
ํน์ฑ ์๋น
ํน์ฑ ์ ๊ณต์ ํ์ต ๋๋ ์ถ๋ก ์ ์ํด ์ ์ฅ๋ ํน์ฑ ๊ฐ์ ๋ด๋ณด๋ด๋ ํ๋ก์ธ์ค์ ๋๋ค. Vertex AI Feature Store(๊ธฐ์กด)๋ ์ผ๊ด ๋ฐ ์จ๋ผ์ธ์ด๋ผ๋ ๋ ๊ฐ์ง ํน์ฑ ์ ๊ณต ๋ฐฉ๋ฒ์ ์ ๊ณตํฉ๋๋ค. ์ผ๊ด ์ ๊ณต์ ๋์ ์ฒ๋ฆฌ๋๊ณผ ์คํ๋ผ์ธ ์ฒ๋ฆฌ์ฉ ๋์ฉ๋ ๋ฐ์ดํฐ๋ฅผ ์ ๊ณต(์: ๋ชจ๋ธ ํ์ต ๋๋ ์ผ๊ด ์์ธก)ํ๊ธฐ ์ํ ๊ฒ์ ๋๋ค. ์จ๋ผ์ธ ์ ๊ณต์ ์ค์๊ฐ ์ฒ๋ฆฌ(์: ์จ๋ผ์ธ ์์ธก)๋ฅผ ์ํด ์๊ท๋ชจ์ ๋ฐ์ดํฐ ๋ฐฐ์น์์ ์ง์ฐ ์๊ฐ์ด ์งง์ ๋ฐ์ดํฐ๋ฅผ ๊ฒ์ํ๊ธฐ ์ํ ๊ฒ์ ๋๋ค.
์์ธํ ๋ด์ฉ์ ์จ๋ผ์ธ ๋๋ ์ผ๊ด ์ ๊ณต์ ์ฐธ์กฐํ์ธ์.
ํญ๋ชฉ ๋ทฐ
featurestore์์ ๊ฐ์ ๊ฐ์ ธ์ค๋ฉด ์๋น์ค์์ ์์ฒญํ ํน์ฑ ๊ฐ์ด ํฌํจ๋ ํญ๋ชฉ ๋ทฐ๋ฅผ ๋ฐํํฉ๋๋ค. ํญ๋ชฉ ๋ทฐ๋ Vertex AI Feature Store(๊ธฐ์กด)๊ฐ ์จ๋ผ์ธ ๋๋ ์ผ๊ด ์ ๊ณต ์์ฒญ์ ๋ฐํํ๋ ํน์ฑ ๋ฐ ๊ฐ์ ํ๋ก์ ์ ์ด๋ผ๊ณ ์๊ฐํ๋ฉด ๋ฉ๋๋ค.
- ์จ๋ผ์ธ ์ ๊ณต ์์ฒญ์ ๊ฒฝ์ฐ ํน์ ํญ๋ชฉ ์ ํ์ ๋ชจ๋ ๋๋ ์ผ๋ถ ํน์ฑ์ ๊ฐ์ ธ์ฌ ์ ์์ต๋๋ค.
- ์ผ๊ด ์ ๊ณต ์์ฒญ์์๋ ํ๋ ์ด์์ ํญ๋ชฉ ์ ํ์ ๋ํ ๋ชจ๋ ๋๋ ์ผ๋ถ ํน์ฑ์ ๊ฐ์ ธ์ฌ ์ ์์ต๋๋ค. ์๋ฅผ ๋ค์ด ํน์ฑ์ด ์ฌ๋ฌ ํญ๋ชฉ ์ ํ์ ๋ถ์ฐ๋ ๊ฒฝ์ฐ ์ด๋ฌํ ํน์ฑ์ ๊ฒฐํฉํ๋ ๋จ์ผ ์์ฒญ์์ ํจ๊ป ๊ฒ์ํ ์ ์์ต๋๋ค. ๊ทธ๋ฐ ๋ค์ ๊ฒฐ๊ณผ๋ฅผ ์ฌ์ฉํ์ฌ ๋จธ์ ๋ฌ๋์ด๋ ์ผ๊ด ์์ธก ์์ฒญ์ ํผ๋ํ ์ ์์ต๋๋ค.
๋ฐ์ดํฐ ๋ด๋ณด๋ด๊ธฐ
Vertex AI Feature Store(๊ธฐ์กด)๋ฅผ ์ฌ์ฉํ๋ฉด ํผ์ฒ์คํ ์ด์์ ๋ฐ์ดํฐ๋ฅผ ๋ด๋ณด๋ด ํน์ฑ ๊ฐ์ ๋ฐฑ์ ํ๊ณ ๋ณด๊ด์ฒ๋ฆฌํ ์ ์์ต๋๋ค. ์ต์ ํน์ฑ ๊ฐ(์ค๋ ์ท)์ ๋ด๋ณด๋ด๊ฑฐ๋ ๊ฐ ๋ฒ์(์ ์ฒด ๋ด๋ณด๋ด๊ธฐ)๋ฅผ ๋ด๋ณด๋ผ ์ ์์ต๋๋ค. ์์ธํ ๋ด์ฉ์ ํน์ฑ ๊ฐ ๋ด๋ณด๋ด๊ธฐ๋ฅผ ์ฐธ์กฐํ์ธ์.
๋ค์ ๋จ๊ณ
- Vertex AI Feature Store(๊ธฐ์กด)์ ํ๋ก์ ํธ ์ค์ ์ ๋ํด ์์๋ณด๊ธฐ
- ์์ค ๋ฐ์ดํฐ ์๊ตฌ์ฌํญ ์์๋ณด๊ธฐ