BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋ฅผ ์‚ฌ์šฉํ•œ ๋ถ„์„

์ด ๋ฌธ์„œ์—์„œ๋Š” ๋ฐ์ดํ„ฐ ๋ถ„์„์— ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋ฅผ ์‚ฌ์šฉํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ์„ค๋ช…ํ•ฉ๋‹ˆ๋‹ค. Dataplex๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ๋ฅผ ๊ด€๋ฆฌํ•  ์ˆ˜๋„ ์žˆ์Šต๋‹ˆ๋‹ค.

BigQuery์˜ Gemini ๊ธฐ๋Šฅ์ธ BigQuery Studio ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋ฅผ ์‚ฌ์šฉํ•˜๋ฉด ์ž์—ฐ์–ด ํ”„๋กฌํ”„ํŠธ์™€ ๋ถ„์„ ์›Œํฌํ”Œ๋กœ์šฉ ๊ทธ๋ž˜ํ”ฝ ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ํ†ตํ•ด ๋ฐ์ดํ„ฐ๋ฅผ ์ฐพ๊ณ , ๋ณ€ํ™˜ํ•˜๊ณ , ์ฟผ๋ฆฌํ•˜๊ณ , ์‹œ๊ฐํ™”ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

๋ถ„์„ ์›Œํฌํ”Œ๋กœ์˜ ๊ฒฝ์šฐ BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋Š” ์›Œํฌํ”Œ๋กœ์˜ ๊ทธ๋ž˜ํ”ฝ ๋ทฐ๋ฅผ ์ œ๊ณตํ•˜๋Š” ๋ฐฉํ–ฅ์„ฑ ๋น„์ˆœํ™˜ ๊ทธ๋ž˜ํ”„(DAG)๋ฅผ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค. BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์—์„œ๋Š” ์ฟผ๋ฆฌ ๊ฒฐ๊ณผ๋ฅผ ๋ฐ˜๋ณตํ•˜๊ณ  ํ•œ ๊ณณ์—์„œ ์—ฌ๋Ÿฌ ๋ฌธ์˜ ๋ธŒ๋žœ์น˜๋กœ ์ž‘์—…ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋Š” ๋ถ„์„ ์ž‘์—…์„ ๊ฐ€์†ํ™”ํ•˜๊ณ  ๋ฐ์ดํ„ฐ ๋ถ„์„๊ฐ€, ๋ฐ์ดํ„ฐ ์—”์ง€๋‹ˆ์–ด ๋“ฑ์˜ ๋ฐ์ดํ„ฐ ์ „๋ฌธ๊ฐ€๊ฐ€ ๋ฐ์ดํ„ฐ์—์„œ ์œ ์šฉํ•œ ์ •๋ณด๋กœ ์ด๋™ํ•˜๋Š” ์—ฌ์ •์„ ์ง€์›ํ•˜๋„๋ก ์„ค๊ณ„๋˜์—ˆ์Šต๋‹ˆ๋‹ค. ํŠน์ • ๋„๊ตฌ์— ๋Œ€ํ•œ ๊ธฐ์ˆ ์  ์ง€์‹์ด ์—†์–ด๋„ ๋˜๋ฉฐ SQL ์ฝ๊ธฐ ๋ฐ ์“ฐ๊ธฐ์— ๋Œ€ํ•œ ๊ธฐ๋ณธ์ ์ธ ์ง€์‹๋งŒ ์žˆ์œผ๋ฉด ๋ฉ๋‹ˆ๋‹ค. BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋Š” Dataplex ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ์™€ ํ•จ๊ป˜ ์ž‘๋™ํ•˜์—ฌ ์ž์—ฐ์–ด๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ์ ์ ˆํ•œ ํ…Œ์ด๋ธ”์„ ์‹๋ณ„ํ•ฉ๋‹ˆ๋‹ค.

BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋Š” ๋น„์ฆˆ๋‹ˆ์Šค ์‚ฌ์šฉ์ž๊ฐ€ ์ง์ ‘ ์‚ฌ์šฉํ•˜๋Š” ์šฉ๋„๊ฐ€ ์•„๋‹™๋‹ˆ๋‹ค.

BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋Š” BigQuery์˜ Gemini๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ๋ฐ์ดํ„ฐ๋ฅผ ์ฐพ๊ณ , SQL์„ ๋งŒ๋“ค๊ณ , ์ฐจํŠธ๋ฅผ ์ƒ์„ฑํ•˜๊ณ , ๋ฐ์ดํ„ฐ ์š”์•ฝ์„ ๋งŒ๋“ญ๋‹ˆ๋‹ค.

Google Cloud ์šฉ Gemini์—์„œ ์‚ฌ์šฉ์ž์˜ ๋ฐ์ดํ„ฐ๋ฅผ ์‚ฌ์šฉํ•˜๋Š” ๋ฐฉ๋ฒ•๊ณผ ์‹œ์ ์„ ์•Œ์•„๋ณด์„ธ์š”.

๊ธฐ๋Šฅ

BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋ฅผ ์‚ฌ์šฉํ•˜๋ฉด ๋‹ค์Œ ์ž‘์—…์„ ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

  • Dataplex ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ์™€ ํ•จ๊ป˜ ์ž์—ฐ์–ด ์ฟผ๋ฆฌ ๋˜๋Š” ํ‚ค์›Œ๋“œ ๊ฒ€์ƒ‰ ๊ตฌ๋ฌธ์„ ์‚ฌ์šฉํ•˜์—ฌ ํ…Œ์ด๋ธ”, ๋ทฐ ๋˜๋Š” ๊ตฌ์ฒดํ™”๋œ ๋ทฐ์™€ ๊ฐ™์€ ์• ์…‹์„ ์ฐพ์Šต๋‹ˆ๋‹ค.

  • ๋‹ค์Œ๊ณผ ๊ฐ™์€ ๊ธฐ๋ณธ SQL ์ฟผ๋ฆฌ์— ์ž์—ฐ์–ด๋ฅผ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค.

    • FROM ์ ˆ, ์ˆ˜ํ•™ ํ•จ์ˆ˜, ๋ฐฐ์—ด, ๊ตฌ์กฐ์ฒด๊ฐ€ ํฌํ•จ๋œ ์ฟผ๋ฆฌ
    • ๋‘ ํ…Œ์ด๋ธ”์˜ JOIN ์ž‘์—…
  • ๋‹ค์Œ ๊ทธ๋ž˜ํ”ฝ ์œ ํ˜•์„ ์‚ฌ์šฉํ•˜์—ฌ ๋ฐ์ดํ„ฐ๋ฅผ ์‹œ๊ฐํ™”ํ•ฉ๋‹ˆ๋‹ค.

    • ๋ง‰๋Œ€ ์ฐจํŠธ
    • ํžˆํŠธ๋งต
    • ์„  ๊ทธ๋ž˜ํ”„
    • ์›ํ˜• ์ฐจํŠธ
    • ๋ถ„์‚ฐํ˜• ์ฐจํŠธ
  • ์›ํ•˜๋Š” ๋‚ด์šฉ์„ ์ž์—ฐ์–ด๋กœ ์„ค๋ช…ํ•˜์—ฌ ์ปค์Šคํ…€ ์‹œ๊ฐํ™”๋ฅผ ๋งŒ๋“ญ๋‹ˆ๋‹ค.

  • ๋ฐ์ดํ„ฐ ํ†ต๊ณ„ ์ž๋™ํ™”

์ œํ•œ์‚ฌํ•ญ

  • ๋‹ค์Œ๊ณผ ๊ฐ™์€ ๊ฒฝ์šฐ์—๋Š” ์ž์—ฐ์–ด ๋ช…๋ น์ด ์ œ๋Œ€๋กœ ์ž‘๋™ํ•˜์ง€ ์•Š์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

    • BigQuery ML
    • Apache Spark
    • ๊ฐ์ฒด ํ…Œ์ด๋ธ”
    • BigLake
    • ์กฐํšŒ์ˆ˜ INFORMATION_SCHEMAํšŒ
    • JSON
    • ์ค‘์ฒฉ๋˜๊ณ  ๋ฐ˜๋ณต๋˜๋Š” ํ•„๋“œ
    • ๋ณต์žกํ•œ ํ•จ์ˆ˜ ๋ฐ ๋ฐ์ดํ„ฐ ์œ ํ˜•(์˜ˆ: DATETIME ๋ฐ TIMEZONE)
  • ๋ฐ์ดํ„ฐ ์‹œ๊ฐํ™”๋Š” Geomap ์ฐจํŠธ์—์„œ ์ž‘๋™ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

ํ”„๋กฌํ”„ํŠธ ๊ถŒ์žฅ์‚ฌํ•ญ

์ ์ ˆํ•œ ํ”„๋กฌํ”„ํŠธ ๊ธฐ๋ฒ•์„ ์‚ฌ์šฉํ•˜๋ฉด ๋ณต์žกํ•œ SQL ์ฟผ๋ฆฌ๋ฅผ ์ƒ์„ฑํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋‹ค์Œ ์ œ์•ˆ์€ BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์—์„œ ์ž์—ฐ์–ด ํ”„๋กฌํ”„ํŠธ๋ฅผ ๋ฏธ์„ธ ์กฐ์ •ํ•˜์—ฌ ์ฟผ๋ฆฌ์˜ ์ •ํ™•์„ฑ์„ ๋†’์ด๋Š” ๋ฐ ๋„์›€์ด ๋ฉ๋‹ˆ๋‹ค.

  • ๋ช…ํ™•ํ•˜๊ฒŒ ์ž‘์„ฑํ•ฉ๋‹ˆ๋‹ค. ์š”์ฒญ์„ ๋ช…ํ™•ํ•˜๊ฒŒ ์„œ์ˆ ํ•˜๊ณ  ๋ชจํ˜ธํ•˜๊ฒŒ ํ‘œํ˜„ํ•˜์ง€ ๋งˆ์„ธ์š”.

  • ์ง์ ‘์ ์œผ๋กœ ์งˆ๋ฌธํ•˜์„ธ์š”. ๊ฐ€์žฅ ์ •ํ™•ํ•œ ๋‹ต๋ณ€์„ ์–ป์œผ๋ ค๋ฉด ํ•œ ๋ฒˆ์— ํ•˜๋‚˜์˜ ์งˆ๋ฌธ์„ ํ•˜๊ณ  ํ”„๋กฌํ”„ํŠธ๋Š” ๊ฐ„๊ฒฐํ•˜๊ฒŒ ์œ ์ง€ํ•˜์„ธ์š”. ํ•„์š”ํ•œ ๊ฒฝ์šฐ BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์—์„œ ํ”„๋กฌํ”„ํŠธ๋ฅผ ์—ฌ๋Ÿฌ ๋…ธ๋“œ๋กœ ๊ตฌ๋ถ„ํ•ฉ๋‹ˆ๋‹ค.

  • ์ค‘์ ์ ์œผ๋กœ ๋ช…ํ™•ํ•œ ์ง€์นจ์„ ์ฃผ์„ธ์š”. ํ”„๋กฌํ”„ํŠธ์—์„œ ์ฃผ์š” ์šฉ์–ด๋ฅผ ๊ฐ•์กฐํ•ฉ๋‹ˆ๋‹ค.

  • ์ž‘์—… ์ˆœ์„œ๋ฅผ ์ง€์ •ํ•ฉ๋‹ˆ๋‹ค. ๋ช…ํ™•ํ•˜๊ณ  ์ฒด๊ณ„์ ์ธ ๋ฐฉ์‹์œผ๋กœ ์ง€์นจ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ์ž‘์—…์„ ์ง‘์ค‘์ ์œผ๋กœ ์ˆ˜ํ–‰ํ•  ์ˆ˜ ์žˆ๋Š” ์ž‘์€ ๋‹จ๊ณ„๋กœ ๋‚˜๋ˆ•๋‹ˆ๋‹ค.

  • ์ˆ˜์ •ํ•˜๊ณ  ๋ฐ˜๋ณตํ•˜์„ธ์š”. ๋‹ค์–‘ํ•œ ๋ฌธ๊ตฌ์™€ ์ ‘๊ทผ ๋ฐฉ์‹์„ ์‹œ๋„ํ•˜์—ฌ ๊ฐ€์žฅ ์ข‹์€ ๊ฒฐ๊ณผ๋ฅผ ์–ป๋Š” ๋ฐฉ๋ฒ•์„ ์•Œ์•„๋ณด์„ธ์š”.

์ž์„ธํ•œ ๋‚ด์šฉ์€ BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ํ”„๋กฌํ”„ํŠธ ๊ถŒ์žฅ์‚ฌํ•ญ์„ ์ฐธ์กฐํ•˜์„ธ์š”.

์‹œ์ž‘ํ•˜๊ธฐ ์ „์—

  1. BigQuery์˜ Gemini๊ฐ€ Google Cloud ํ”„๋กœ์ ํŠธ์— ์‚ฌ์šฉ ์„ค์ •๋˜์–ด ์žˆ๋Š”์ง€ ํ™•์ธํ•ฉ๋‹ˆ๋‹ค. ์ผ๋ฐ˜์ ์œผ๋กœ ๊ด€๋ฆฌ์ž๊ฐ€ ์ด ๋‹จ๊ณ„๋ฅผ ์‹คํ–‰ํ•ฉ๋‹ˆ๋‹ค.
  2. BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋ฅผ ์‚ฌ์šฉํ•˜๊ธฐ ์œ„ํ•œ ํ•„์š”ํ•œ Identity and Access Management(IAM) ๊ถŒํ•œ์ด ์žˆ๋Š”์ง€ ํ™•์ธํ•ฉ๋‹ˆ๋‹ค.
  3. Dataplex์—์„œ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ๋ฅผ ๊ด€๋ฆฌํ•˜๋ ค๋ฉด Google Cloud ํ”„๋กœ์ ํŠธ์—์„œ Dataplex API๊ฐ€ ์‚ฌ์šฉ ์„ค์ •๋˜์–ด ์žˆ๋Š”์ง€ ํ™•์ธํ•ฉ๋‹ˆ๋‹ค.

ํ•„์š”ํ•œ ์—ญํ• 

BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋ฅผ ์‚ฌ์šฉํ•˜๋Š” ๋ฐ ํ•„์š”ํ•œ ๊ถŒํ•œ์„ ์–ป์œผ๋ ค๋ฉด ๊ด€๋ฆฌ์ž์—๊ฒŒ ํ”„๋กœ์ ํŠธ์— ๋Œ€ํ•œ ๋‹ค์Œ IAM ์—ญํ• ์„ ๋ถ€์—ฌํ•ด ๋‹ฌ๋ผ๊ณ  ์š”์ฒญํ•˜์„ธ์š”.

์—ญํ•  ๋ถ€์—ฌ์— ๋Œ€ํ•œ ์ž์„ธํ•œ ๋‚ด์šฉ์€ ํ”„๋กœ์ ํŠธ, ํด๋”, ์กฐ์ง์— ๋Œ€ํ•œ ์•ก์„ธ์Šค ๊ด€๋ฆฌ๋ฅผ ์ฐธ์กฐํ•˜์„ธ์š”.

์ปค์Šคํ…€ ์—ญํ• ์ด๋‚˜ ๋‹ค๋ฅธ ์‚ฌ์ „ ์ •์˜๋œ ์—ญํ• ์„ ํ†ตํ•ด ํ•„์š”ํ•œ ๊ถŒํ•œ์„ ์–ป์„ ์ˆ˜๋„ ์žˆ์Šต๋‹ˆ๋‹ค.

BigQuery์—์„œ IAM ์—ญํ•  ๋ฐ ๊ถŒํ•œ์— ๋Œ€ํ•œ ์ž์„ธํ•œ ๋‚ด์šฉ์€ IAM ์†Œ๊ฐœ๋ฅผ ์ฐธ์กฐํ•˜์„ธ์š”.

Dataplex์—์„œ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ๋ฅผ ๊ด€๋ฆฌํ•˜๋ ค๋ฉด ํ•„์š”ํ•œ Dataplex ์—ญํ• ๊ณผ dataform.repository.get ๊ถŒํ•œ์ด ์žˆ๋Š”์ง€ ํ™•์ธํ•ฉ๋‹ˆ๋‹ค.

BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ์‚ฌ์šฉ

Google Cloud ์ฝ˜์†”, ์ฟผ๋ฆฌ ๋˜๋Š” ํ…Œ์ด๋ธ”์—์„œ BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋ฅผ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

  1. BigQuery ํŽ˜์ด์ง€๋กœ ์ด๋™ํ•ฉ๋‹ˆ๋‹ค.

    BigQuery๋กœ ์ด๋™

  2. ์ฟผ๋ฆฌ ํŽธ์ง‘๊ธฐ์—์„œ SQL ์ฟผ๋ฆฌ ์˜†์— ์žˆ๋Š” ์ƒˆ๋กœ ๋งŒ๋“ค๊ธฐ๋ฅผ ํด๋ฆญํ•œ ๋‹ค์Œ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋ฅผ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

    ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋งŒ๋“ค๊ธฐ ์•„์ด์ฝ˜

  3. ์ž์—ฐ์–ด ํ”„๋กฌํ”„ํŠธ ํ•„๋“œ์— ์ž์—ฐ์–ด ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ž…๋ ฅํ•ฉ๋‹ˆ๋‹ค.

    ์˜ˆ๋ฅผ ๋“ค์–ด Find me tables related to trees๋ฅผ ์ž…๋ ฅํ•˜๋ฉด BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋Š” bigquery-public-data.usfs_fia.plot_tree ๋˜๋Š” bigquery-public-data.new_york_trees.tree_species์™€ ๊ฐ™์€ ๊ณต๊ฐœ ๋ฐ์ดํ„ฐ ์„ธํŠธ๋ฅผ ํฌํ•จํ•˜์—ฌ ๊ฐ€๋Šฅํ•œ ํ…Œ์ด๋ธ” ๋ชฉ๋ก์„ ๋ฐ˜ํ™˜ํ•ฉ๋‹ˆ๋‹ค.

  4. ํ…Œ์ด๋ธ”์„ ์„ ํƒํ•˜์„ธ์š”.

    ์„ ํƒํ•œ ํ…Œ์ด๋ธ”์˜ ํ…Œ์ด๋ธ” ๋…ธ๋“œ๊ฐ€ BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์— ์ถ”๊ฐ€๋ฉ๋‹ˆ๋‹ค. ์Šคํ‚ค๋งˆ ์ •๋ณด๋ฅผ ๋ณด๊ฑฐ๋‚˜ ํ…Œ์ด๋ธ” ์„ธ๋ถ€์ •๋ณด๋ฅผ ๋ณด๊ฑฐ๋‚˜ ๋ฐ์ดํ„ฐ๋ฅผ ๋ฏธ๋ฆฌ ๋ณด๋ ค๋ฉด ํ…Œ์ด๋ธ” ๋…ธ๋“œ์—์„œ ๋‹ค์–‘ํ•œ ํƒญ์„ ์„ ํƒํ•˜์„ธ์š”.

์˜ˆ์‹œ ์›Œํฌํ”Œ๋กœ ์‚ฌ์šฉํ•ด ๋ณด๊ธฐ

์ด ์„น์…˜์—์„œ๋Š” ๋ถ„์„ ์›Œํฌํ”Œ๋กœ์—์„œ BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋ฅผ ์‚ฌ์šฉํ•˜๋Š” ๋‹ค์–‘ํ•œ ๋ฐฉ๋ฒ•์„ ๋ณด์—ฌ์ค๋‹ˆ๋‹ค.

์›Œํฌํ”Œ๋กœ ์˜ˆ์‹œ: ๋ฐ์ดํ„ฐ ์ฐพ๊ธฐ, ์ฟผ๋ฆฌ, ์‹œ๊ฐํ™”

์ด ์˜ˆ์‹œ์—์„œ๋Š” BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์˜ ์ž์—ฐ์–ด ํ”„๋กฌํ”„ํŠธ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ๋ฐ์ดํ„ฐ๋ฅผ ์ฐพ๊ณ , ์ฟผ๋ฆฌ๋ฅผ ์ƒ์„ฑํ•˜๊ณ , ์ฟผ๋ฆฌ๋ฅผ ์ˆ˜์ •ํ•ฉ๋‹ˆ๋‹ค. ๊ทธ๋Ÿฐ ๋‹ค์Œ ์ฐจํŠธ๋ฅผ ๋งŒ๋“ญ๋‹ˆ๋‹ค.

ํ”„๋กฌํ”„ํŠธ 1: ๋ฐ์ดํ„ฐ ์ฐพ๊ธฐ

  1. Google Cloud ์ฝ˜์†”์—์„œ BigQuery ํŽ˜์ด์ง€๋กœ ์ด๋™ํ•ฉ๋‹ˆ๋‹ค.

    BigQuery๋กœ ์ด๋™

  2. ์ฟผ๋ฆฌ ํŽธ์ง‘๊ธฐ์—์„œ SQL ์ฟผ๋ฆฌ ์˜†์— ์žˆ๋Š” ์ƒˆ๋กœ ๋งŒ๋“ค๊ธฐ๋ฅผ ํด๋ฆญํ•œ ๋‹ค์Œ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋ฅผ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

    ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋งŒ๋“ค๊ธฐ ์•„์ด์ฝ˜

  3. ์ž์—ฐ์–ด ํ”„๋กฌํ”„ํŠธ ํ•„๋“œ์— ๋‹ค์Œ ์ž์—ฐ์–ด ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ž…๋ ฅํ•ฉ๋‹ˆ๋‹ค.

    Chicago taxi trips
    

    BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋Š” Dataplex ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ๊ฐ€๋Šฅํ•œ ํ…Œ์ด๋ธ” ๋ชฉ๋ก์„ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค. ์—ฌ๋Ÿฌ ํ…Œ์ด๋ธ”์„ ์„ ํƒํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

  4. bigquery-public-data.chicago_taxi_trips.taxi_trips ํ…Œ์ด๋ธ”์„ ์„ ํƒํ•œ ๋‹ค์Œ ์บ”๋ฒ„์Šค์— ์ถ”๊ฐ€๋ฅผ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

    taxi_trips์˜ ํ…Œ์ด๋ธ” ๋…ธ๋“œ๊ฐ€ BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์— ์ถ”๊ฐ€๋ฉ๋‹ˆ๋‹ค. ์Šคํ‚ค๋งˆ ์ •๋ณด๋ฅผ ๋ณด๊ฑฐ๋‚˜ ํ…Œ์ด๋ธ” ์„ธ๋ถ€์ •๋ณด๋ฅผ ๋ณด๊ฑฐ๋‚˜ ๋ฐ์ดํ„ฐ๋ฅผ ๋ฏธ๋ฆฌ ๋ณด๋ ค๋ฉด ํ…Œ์ด๋ธ” ๋…ธ๋“œ์—์„œ ๋‹ค์–‘ํ•œ ํƒญ์„ ์„ ํƒํ•˜์„ธ์š”.

ํ”„๋กฌํ”„ํŠธ 2: ์„ ํƒํ•œ ํ…Œ์ด๋ธ”์—์„œ SQL ์ฟผ๋ฆฌ ์ƒ์„ฑ

bigquery-public-data.chicago_taxi_trips.taxi_trips ํ…Œ์ด๋ธ”์˜ SQL ์ฟผ๋ฆฌ๋ฅผ ์ƒ์„ฑํ•˜๋ ค๋ฉด ๋‹ค์Œ์„ ์ˆ˜ํ–‰ํ•ฉ๋‹ˆ๋‹ค.

  1. ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์—์„œ ์ฟผ๋ฆฌ๋ฅผ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

  2. ์ž์—ฐ์–ด ํ”„๋กฌํ”„ํŠธ ํ•„๋“œ์— ๋‹ค์Œ์„ ์ž…๋ ฅํ•ฉ๋‹ˆ๋‹ค.

    Get me the 100 longest trips
    

    BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋Š” ๋‹ค์Œ๊ณผ ์œ ์‚ฌํ•œ SQL ์ฟผ๋ฆฌ๋ฅผ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค.

    SELECT
      taxi_id,
      trip_start_timestamp,
      trip_end_timestamp,
      trip_miles
    FROM
      `bigquery-public-data.chicago_taxi_trips.taxi_trips`
    ORDER BY
      trip_miles DESC
    LIMIT
      100;

ํ”„๋กฌํ”„ํŠธ 3: ์ฟผ๋ฆฌ ์ˆ˜์ •

์ƒ์„ฑํ•œ ์ฟผ๋ฆฌ๋ฅผ ์ˆ˜์ •ํ•˜๋ ค๋ฉด ์ฟผ๋ฆฌ๋ฅผ ์ˆ˜๋™์œผ๋กœ ์ˆ˜์ •ํ•˜๊ฑฐ๋‚˜ ์ž์—ฐ์–ด ํ”„๋กฌํ”„ํŠธ๋ฅผ ๋ณ€๊ฒฝํ•˜๊ณ  ์ฟผ๋ฆฌ๋ฅผ ๋‹ค์‹œ ์ƒ์„ฑํ•˜๋ฉด ๋ฉ๋‹ˆ๋‹ค. ์ด ์˜ˆ์‹œ์—์„œ๋Š” ์ž์—ฐ์–ด ํ”„๋กฌํ”„ํŠธ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ๊ณ ๊ฐ์ด ํ˜„๊ธˆ์œผ๋กœ ๊ฒฐ์ œํ•œ ์ด๋™๋งŒ ์„ ํƒํ•˜๋„๋ก ์ฟผ๋ฆฌ๋ฅผ ์ˆ˜์ •ํ•ฉ๋‹ˆ๋‹ค.

  1. ์ž์—ฐ์–ด ํ”„๋กฌํ”„ํŠธ ํ•„๋“œ์— ๋‹ค์Œ์„ ์ž…๋ ฅํ•ฉ๋‹ˆ๋‹ค.

    Get me the 100 longest trips where the payment type is cash
    

    BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋Š” ๋‹ค์Œ๊ณผ ์œ ์‚ฌํ•œ SQL ์ฟผ๋ฆฌ๋ฅผ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค.

    SELECT
      taxi_id,
      trip_start_timestamp,
      trip_end_timestamp,
      trip_miles
    FROM
      `PROJECT_ID.chicago_taxi_trips_123123.taxi_trips`
    WHERE
      payment_type = 'Cash'
    ORDER BY
      trip_miles DESC
    LIMIT
      100;

    ์œ„ ์˜ˆ์‹œ์—์„œ PROJECT_ID๋Š” Google Cloud ํ”„๋กœ์ ํŠธ์˜ ID์ž…๋‹ˆ๋‹ค.

  2. ์ฟผ๋ฆฌ ๊ฒฐ๊ณผ๋ฅผ ๋ณด๋ ค๋ฉด ์‹คํ–‰์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

์ฐจํŠธ ๋งŒ๋“ค๊ธฐ

  1. ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์—์„œ ์‹œ๊ฐํ™”๋ฅผ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.
  2. ๋ง‰๋Œ€ ๊ทธ๋ž˜ํ”„ ๋งŒ๋“ค๊ธฐ๋ฅผ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

    BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋Š” ์ด๋™ ID๋ณ„๋กœ ๊ฐ€์žฅ ๋งŽ์€ ์ด๋™ ๊ฑฐ๋ฆฌ๋ฅผ ๋ณด์—ฌ์ฃผ๋Š” ๋ง‰๋Œ€ ๊ทธ๋ž˜ํ”„๋ฅผ ๋งŒ๋“ญ๋‹ˆ๋‹ค. BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋Š” ์ฐจํŠธ๋ฅผ ์ œ๊ณตํ•˜๋Š” ๊ฒƒ ์™ธ์—๋„ ์‹œ๊ฐํ™”๋ฅผ ๋’ท๋ฐ›์นจํ•˜๋Š” ๋ฐ์ดํ„ฐ์˜ ์ผ๋ถ€ ์ฃผ์š” ์„ธ๋ถ€์ •๋ณด๋ฅผ ์š”์•ฝํ•ฉ๋‹ˆ๋‹ค.

  3. ์„ ํƒ์‚ฌํ•ญ: ๋‹ค์Œ ์ค‘ ํ•˜๋‚˜ ์ด์ƒ์„ ์ˆ˜ํ–‰ํ•ฉ๋‹ˆ๋‹ค.

    • ์ฐจํŠธ๋ฅผ ์ˆ˜์ •ํ•˜๋ ค๋ฉด ์ˆ˜์ •์„ ํด๋ฆญํ•œ ๋‹ค์Œ ์‹œ๊ฐํ™” ์ˆ˜์ • ์ฐฝ์—์„œ ์ฐจํŠธ๋ฅผ ์ˆ˜์ •ํ•ฉ๋‹ˆ๋‹ค.
    • ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋ฅผ ๊ณต์œ ํ•˜๋ ค๋ฉด ๊ณต์œ ๋ฅผ ํด๋ฆญํ•œ ๋‹ค์Œ ๋งํฌ ๊ณต์œ ๋ฅผ ํด๋ฆญํ•˜์—ฌ BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋งํฌ๋ฅผ ๋ณต์‚ฌํ•ฉ๋‹ˆ๋‹ค.
    • ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋ฅผ ์ •๋ฆฌํ•˜๋ ค๋ฉด ์ž‘์—… ๋”๋ณด๊ธฐ๋ฅผ ์„ ํƒํ•œ ๋‹ค์Œ ์บ”๋ฒ„์Šค ์ง€์šฐ๊ธฐ๋ฅผ ์„ ํƒํ•ฉ๋‹ˆ๋‹ค. ์ด ๋‹จ๊ณ„๋ฅผ ์™„๋ฃŒํ•˜๋ฉด ๋นˆ ์บ”๋ฒ„์Šค๊ฐ€ ํ‘œ์‹œ๋ฉ๋‹ˆ๋‹ค.

์›Œํฌํ”Œ๋กœ ์˜ˆ์‹œ: ํ…Œ์ด๋ธ” ์กฐ์ธ

์ด ์˜ˆ์‹œ์—์„œ๋Š” BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์˜ ์ž์—ฐ์–ด ํ”„๋กฌํ”„ํŠธ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ๋ฐ์ดํ„ฐ๋ฅผ ์ฐพ๊ณ  ํ…Œ์ด๋ธ”์„ ์กฐ์ธํ•ฉ๋‹ˆ๋‹ค. ๊ทธ๋Ÿฐ ๋‹ค์Œ ์ฟผ๋ฆฌ๋ฅผ ๋…ธํŠธ๋ถ์œผ๋กœ ๋‚ด๋ณด๋ƒ…๋‹ˆ๋‹ค.

ํ”„๋กฌํ”„ํŠธ 1: ๋ฐ์ดํ„ฐ ์ฐพ๊ธฐ

  1. ์ž์—ฐ์–ด ํ”„๋กฌํ”„ํŠธ ํ•„๋“œ์— ๋‹ค์Œ ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ž…๋ ฅํ•ฉ๋‹ˆ๋‹ค.

    Information about trees
    

    BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์—๋Š” ๋‚˜๋ฌด์— ๊ด€ํ•œ ์ •๋ณด๊ฐ€ ํฌํ•จ๋œ ์—ฌ๋Ÿฌ ํ…Œ์ด๋ธ”์ด ํ‘œ์‹œ๋ฉ๋‹ˆ๋‹ค.

  2. ์ด ์˜ˆ์‹œ์—์„œ๋Š” bigquery-public-data.new_york_trees.tree_census_1995 ํ…Œ์ด๋ธ”์„ ์„ ํƒํ•œ ๋‹ค์Œ ์บ”๋ฒ„์Šค์— ์ถ”๊ฐ€๋ฅผ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

    ํ…Œ์ด๋ธ”์ด ์บ”๋ฒ„์Šค์— ํ‘œ์‹œ๋ฉ๋‹ˆ๋‹ค.

ํ”„๋กฌํ”„ํŠธ 2: ์ฃผ์†Œ์— ๋”ฐ๋ผ ํ…Œ์ด๋ธ” ์กฐ์ธ

  1. ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์—์„œ ์กฐ์ธ์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

    BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์—์„œ ์กฐ์ธํ•  ํ…Œ์ด๋ธ”์„ ์ถ”์ฒœํ•ฉ๋‹ˆ๋‹ค.

  2. ์ƒˆ ์ž์—ฐ์–ด ํ”„๋กฌํ”„ํŠธ ํ•„๋“œ๋ฅผ ์—ด๋ ค๋ฉด ํ…Œ์ด๋ธ” ๊ฒ€์ƒ‰์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

  3. ์ž์—ฐ์–ด ํ”„๋กฌํ”„ํŠธ ํ•„๋“œ์— ๋‹ค์Œ ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ž…๋ ฅํ•ฉ๋‹ˆ๋‹ค.

    Information about trees
    
  4. bigquery-public-data.new_york_trees.tree_census_2005 ํ…Œ์ด๋ธ”์„ ์„ ํƒํ•œ ๋‹ค์Œ ์บ”๋ฒ„์Šค์— ์ถ”๊ฐ€๋ฅผ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

    ํ…Œ์ด๋ธ”์ด ์บ”๋ฒ„์Šค์— ํ‘œ์‹œ๋ฉ๋‹ˆ๋‹ค.

  5. ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์—์„œ ์กฐ์ธ์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

  6. ์ด ์บ”๋ฒ„์Šค ์„น์…˜์—์„œ ํ…Œ์ด๋ธ” ์…€ ์ฒดํฌ๋ฐ•์Šค๋ฅผ ์„ ํƒํ•œ ๋‹ค์Œ ํ™•์ธ์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

  7. ์ž์—ฐ์–ด ํ”„๋กฌํ”„ํŠธ ํ•„๋“œ์— ๋‹ค์Œ ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ž…๋ ฅํ•ฉ๋‹ˆ๋‹ค.

    Join on address
    

    BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋Š” ์ฃผ์†Œ๋ฅผ ๊ธฐ์ค€์œผ๋กœ ๋‘ ํ…Œ์ด๋ธ”์„ ์กฐ์ธํ•˜๋Š” SQL ์ฟผ๋ฆฌ๋ฅผ ์ œ์•ˆํ•ฉ๋‹ˆ๋‹ค.

    SELECT
      *
    FROM
      `bigquery-public-data.new_york_trees.tree_census_2015` AS t2015
    JOIN
      `bigquery-public-data.new_york_trees.tree_census_1995` AS t1995
    ON
      t2015.address = t1995.address;
  8. ์ฟผ๋ฆฌ๋ฅผ ์‹คํ–‰ํ•˜๊ณ  ๊ฒฐ๊ณผ๋ฅผ ๋ณด๋ ค๋ฉด ์‹คํ–‰์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

์ฟผ๋ฆฌ๋ฅผ ๋…ธํŠธ๋ถ์œผ๋กœ ๋‚ด๋ณด๋‚ด๊ธฐ

BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋ฅผ ์‚ฌ์šฉํ•˜๋ฉด ์ฟผ๋ฆฌ๋ฅผ ๋…ธํŠธ๋ถ์œผ๋กœ ๋‚ด๋ณด๋‚ผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

  1. ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์—์„œ ๋…ธํŠธ๋ถ์œผ๋กœ ๋‚ด๋ณด๋‚ด๊ธฐ๋ฅผ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.
  2. ๋…ธํŠธ๋ถ ์ €์žฅ ์ฐฝ์—์„œ ๋…ธํŠธ๋ถ์˜ ์ด๋ฆ„๊ณผ ์ €์žฅํ•  ๋ฆฌ์ „์„ ์ž…๋ ฅํ•ฉ๋‹ˆ๋‹ค.
  3. ์ €์žฅ์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค. ๋…ธํŠธ๋ถ์ด ์ƒ์„ฑ๋ฉ๋‹ˆ๋‹ค.
  4. ์„ ํƒ์‚ฌํ•ญ: ๋งŒ๋“  ๋…ธํŠธ๋ถ์„ ๋ณด๋ ค๋ฉด ์—ด๊ธฐ๋ฅผ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

์›Œํฌํ”Œ๋กœ ์˜ˆ์‹œ: ํ”„๋กฌํ”„ํŠธ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ์ฐจํŠธ ์ˆ˜์ •

์ด ์˜ˆ์‹œ์—์„œ๋Š” BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์˜ ์ž์—ฐ์–ด ํ”„๋กฌํ”„ํŠธ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ๋ฐ์ดํ„ฐ๋ฅผ ์ฐพ๊ณ , ์ฟผ๋ฆฌํ•˜๊ณ , ํ•„ํ„ฐ๋งํ•œ ๋‹ค์Œ ์‹œ๊ฐํ™” ์„ธ๋ถ€์ •๋ณด๋ฅผ ์ˆ˜์ •ํ•ฉ๋‹ˆ๋‹ค.

ํ”„๋กฌํ”„ํŠธ 1: ๋ฐ์ดํ„ฐ ์ฐพ๊ธฐ

  1. ๋ฏธ๊ตญ ์ด๋ฆ„์— ๊ด€ํ•œ ๋ฐ์ดํ„ฐ๋ฅผ ์ฐพ์œผ๋ ค๋ฉด ๋‹ค์Œ ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ž…๋ ฅํ•ฉ๋‹ˆ๋‹ค.

    Find data about USA names
    

    BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์—์„œ ํ…Œ์ด๋ธ” ๋ชฉ๋ก์ด ์ƒ์„ฑ๋ฉ๋‹ˆ๋‹ค.

  2. ์ด ์˜ˆ์‹œ์—์„œ๋Š” bigquery-public-data.usa_names.usa_1910_current ํ…Œ์ด๋ธ”์„ ์„ ํƒํ•œ ๋‹ค์Œ ์บ”๋ฒ„์Šค์— ์ถ”๊ฐ€๋ฅผ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

ํ”„๋กฌํ”„ํŠธ 2: ๋ฐ์ดํ„ฐ ์ฟผ๋ฆฌ

  1. ๋ฐ์ดํ„ฐ๋ฅผ ์ฟผ๋ฆฌํ•˜๋ ค๋ฉด ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์—์„œ ์ฟผ๋ฆฌ๋ฅผ ํด๋ฆญํ•˜๊ณ  ๋‹ค์Œ ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ž…๋ ฅํ•ฉ๋‹ˆ๋‹ค.

    Summarize this data
    

    BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋Š” ๋‹ค์Œ๊ณผ ์œ ์‚ฌํ•œ ์ฟผ๋ฆฌ๋ฅผ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค.

    SELECT
      state,
      gender,
      year,
      name,
      number
    FROM
      `bigquery-public-data.usa_names.usa_1910_current`
  2. ์‹คํ–‰์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค. ์ฟผ๋ฆฌ ๊ฒฐ๊ณผ๊ฐ€ ํ‘œ์‹œ๋ฉ๋‹ˆ๋‹ค.

ํ”„๋กฌํ”„ํŠธ 3: ๋ฐ์ดํ„ฐ ํ•„ํ„ฐ๋ง

  1. ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์—์„œ ๊ฒฐ๊ณผ ์ฟผ๋ฆฌ๋ฅผ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.
  2. ๋ฐ์ดํ„ฐ๋ฅผ ํ•„ํ„ฐ๋งํ•˜๋ ค๋ฉด SQL ํ”„๋กฌํ”„ํŠธ ํ•„๋“œ์— ๋‹ค์Œ ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ž…๋ ฅํ•ฉ๋‹ˆ๋‹ค.

    Get me the top 10 most popular names in 1980
    

    BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋Š” ๋‹ค์Œ๊ณผ ์œ ์‚ฌํ•œ ์ฟผ๋ฆฌ๋ฅผ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค.

    SELECT
      name,
      SUM(number) AS total_count
    FROM
      `bigquery-public-data`.usa_names.usa_1910_current
    WHERE
      year = 1980
    GROUP BY
      name
    ORDER BY
      total_count DESC
    LIMIT
      10;

    ์ฟผ๋ฆฌ๋ฅผ ์‹คํ–‰ํ•˜๋ฉด 1980๋…„์— ํƒœ์–ด๋‚œ ์•„์ด์˜ ๊ฐ€์žฅ ํ”ํ•œ ์ด๋ฆ„ 10๊ฐœ๊ฐ€ ํฌํ•จ๋œ ํ…Œ์ด๋ธ”์ด ํ‘œ์‹œ๋ฉ๋‹ˆ๋‹ค.

์ฐจํŠธ ๋งŒ๋“ค๊ธฐ ๋ฐ ์ˆ˜์ •

  1. ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์—์„œ ์‹œ๊ฐํ™”๋ฅผ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

    BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์—์„œ๋Š” ๋ง‰๋Œ€ ๊ทธ๋ž˜ํ”„, ์›ํ˜• ์ฐจํŠธ, ์„  ๊ทธ๋ž˜ํ”„, ์ปค์Šคํ…€ ์‹œ๊ฐํ™” ๋“ฑ ์—ฌ๋Ÿฌ ์‹œ๊ฐํ™” ์˜ต์…˜์„ ์ œ์•ˆํ•ฉ๋‹ˆ๋‹ค.

  2. ์ด ์˜ˆ์‹œ์—์„œ๋Š” ๋ง‰๋Œ€ ๊ทธ๋ž˜ํ”„ ๋งŒ๋“ค๊ธฐ๋ฅผ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

    BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋Š” ๋‹ค์Œ๊ณผ ์œ ์‚ฌํ•œ ๋ง‰๋Œ€ ๊ทธ๋ž˜ํ”„๋ฅผ ๋งŒ๋“ญ๋‹ˆ๋‹ค.

    ์ƒ์œ„ 10๊ฐœ ์ด๋ฆ„ ๋ง‰๋Œ€ ๊ทธ๋ž˜ํ”„

BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋Š” ์ฐจํŠธ๋ฅผ ์ œ๊ณตํ•˜๋Š” ๊ฒƒ ์™ธ์—๋„ ์‹œ๊ฐํ™”๋ฅผ ๋’ท๋ฐ›์นจํ•˜๋Š” ๋ฐ์ดํ„ฐ์˜ ์ผ๋ถ€ ์ฃผ์š” ์„ธ๋ถ€์ •๋ณด๋ฅผ ์š”์•ฝํ•ฉ๋‹ˆ๋‹ค. ์‹œ๊ฐํ™” ์„ธ๋ถ€์ •๋ณด๋ฅผ ํด๋ฆญํ•˜๊ณ  ์ธก๋ฉด ํŒจ๋„์—์„œ ์ฐจํŠธ๋ฅผ ์ˆ˜์ •ํ•˜์—ฌ ์ฐจํŠธ๋ฅผ ์ˆ˜์ •ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

ํ”„๋กฌํ”„ํŠธ 4: ์‹œ๊ฐํ™” ์„ธ๋ถ€์ •๋ณด ์ˆ˜์ •

  1. ์‹œ๊ฐํ™” ํ”„๋กฌํ”„ํŠธ ํ•„๋“œ์— ๋‹ค์Œ์„ ์ž…๋ ฅํ•ฉ๋‹ˆ๋‹ค.

    Create a bar chart sorted high to low, with a gradient
    

    BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋Š” ๋‹ค์Œ๊ณผ ์œ ์‚ฌํ•œ ๋ง‰๋Œ€ ๊ทธ๋ž˜ํ”„๋ฅผ ๋งŒ๋“ญ๋‹ˆ๋‹ค.

    ์ •๋ ฌ๋œ ์ƒ์œ„ 10๊ฐœ ์ด๋ฆ„ ๋ง‰๋Œ€ ๊ทธ๋ž˜ํ”„

  2. ์„ ํƒ์‚ฌํ•ญ: ์ถ”๊ฐ€๋กœ ๋ณ€๊ฒฝํ•˜๋ ค๋ฉด ์ˆ˜์ •์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

    ์‹œ๊ฐํ™” ์ˆ˜์ • ์ฐฝ์ด ํ‘œ์‹œ๋ฉ๋‹ˆ๋‹ค. ์ฐจํŠธ ์ œ๋ชฉ, x์ถ• ์ด๋ฆ„, y์ถ• ์ด๋ฆ„๊ณผ ๊ฐ™์€ ์„ธ๋ถ€์ •๋ณด๋ฅผ ์ˆ˜์ •ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋˜ํ•œ JSON ํŽธ์ง‘๊ธฐ ํƒญ์„ ํด๋ฆญํ•˜๋ฉด JSON ๊ฐ’์„ ๊ธฐ๋ฐ˜์œผ๋กœ ์ฐจํŠธ๋ฅผ ์ง์ ‘ ์ˆ˜์ •ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

๋ชจ๋“  ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ณด๊ธฐ

ํ”„๋กœ์ ํŠธ์˜ ๋ชจ๋“  ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ชฉ๋ก์„ ๋ณด๋ ค๋ฉด ๋‹ค์Œ ๋‹จ๊ณ„๋ฅผ ๋”ฐ๋ฅด์„ธ์š”.

  1. Google Cloud ์ฝ˜์†”์—์„œ BigQuery ํŽ˜์ด์ง€๋กœ ์ด๋™ํ•ฉ๋‹ˆ๋‹ค.

    BigQuery๋กœ ์ด๋™

  2. ํƒ์ƒ‰๊ธฐ ์ฐฝ์—์„œ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ์˜†์— ์žˆ๋Š” ์ž‘์—… ๋ณด๊ธฐ๋ฅผ ํด๋ฆญํ•œ ํ›„ ๋‹ค์Œ ์ค‘ ํ•˜๋‚˜๋ฅผ ์ˆ˜ํ–‰ํ•ฉ๋‹ˆ๋‹ค.

  • ํ˜„์žฌ ํƒญ์—์„œ ๋ชฉ๋ก์„ ์—ด๋ ค๋ฉด ๋ชจ๋‘ ํ‘œ์‹œ๋ฅผ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.
  • ๋ชฉ๋ก์„ ์ƒˆ ํƒญ์—์„œ ์—ด๋ ค๋ฉด ๋ชจ๋‘ ํ‘œ์‹œ > ์ƒˆ ํƒญ์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.
  • ๋ถ„ํ•  ํƒญ์—์„œ ๋ชฉ๋ก์„ ์—ด๋ ค๋ฉด ๋ชจ๋‘ ํ‘œ์‹œ > ๋ถ„ํ•  ํƒญ์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ ๋ณด๊ธฐ

๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ๋ฅผ ๋ณด๋ ค๋ฉด ๋‹ค์Œ ๋‹จ๊ณ„๋ฅผ ๋”ฐ๋ฅด์„ธ์š”.

  1. Google Cloud ์ฝ˜์†”์—์„œ BigQuery ํŽ˜์ด์ง€๋กœ ์ด๋™ํ•ฉ๋‹ˆ๋‹ค.

    BigQuery๋กœ ์ด๋™

  2. ํƒ์ƒ‰๊ธฐ ์ฐฝ์—์„œ ํ”„๋กœ์ ํŠธ์™€ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ํด๋”๋ฅผ ํŽผ์น˜๊ณ  ํ•„์š”ํ•œ ๊ฒฝ์šฐ ๊ณต์œ  ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ํด๋”๋ฅผ ํŽผ์นฉ๋‹ˆ๋‹ค. ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ๋ฅผ ๋ณด๋ ค๋Š” ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์˜ ์ด๋ฆ„์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

  3. ์š”์•ฝ ์ฐฝ์—์„œ ์‚ฌ์šฉ๋˜๋Š” ๋ฆฌ์ „ ๋ฐ ๋งˆ์ง€๋ง‰์œผ๋กœ ์ˆ˜์ •๋œ ๋‚ ์งœ ๋“ฑ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์— ๋Œ€ํ•œ ์ •๋ณด๋ฅผ ํ™•์ธํ•ฉ๋‹ˆ๋‹ค.

๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ฒ„์ „ ์ง€์›

๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์˜ ๋ฒ„์ „์„ ๋ณด๊ณ , ๋น„๊ตํ•˜๊ณ , ๋ณต์›ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ฒ„์ „ ๋ณด๊ธฐ ๋ฐ ๋น„๊ต

๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์˜ ์—ฌ๋Ÿฌ ๋ฒ„์ „์„ ๋ณด๊ณ  ํ˜„์žฌ ๋ฒ„์ „๊ณผ ๋น„๊ตํ•˜๋ ค๋ฉด ๋‹ค์Œ ๋‹จ๊ณ„๋ฅผ ๋”ฐ๋ฅด์„ธ์š”.

  1. Google Cloud ์ฝ˜์†”์—์„œ BigQuery ํŽ˜์ด์ง€๋กœ ์ด๋™ํ•ฉ๋‹ˆ๋‹ค.

    BigQuery๋กœ ์ด๋™

  2. ํƒ์ƒ‰๊ธฐ ์ฐฝ์—์„œ ํ”„๋กœ์ ํŠธ์™€ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ํด๋”๋ฅผ ํŽผ์น˜๊ณ  ํ•„์š”ํ•œ ๊ฒฝ์šฐ ๊ณต์œ  ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ํด๋”๋ฅผ ํŽผ์นฉ๋‹ˆ๋‹ค. ํ™œ๋™์„ ๋ณด๋ ค๋Š” ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์˜ ์ด๋ฆ„์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

  3. ํ™œ๋™ ํƒญ์„ ํด๋ฆญํ•˜์—ฌ ๋‚ ์งœ ๊ธฐ์ค€ ๋‚ด๋ฆผ์ฐจ์ˆœ์œผ๋กœ ์ •๋ ฌ๋œ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ฒ„์ „ ๋ชฉ๋ก์„ ํ™•์ธํ•ฉ๋‹ˆ๋‹ค.

  4. ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ฒ„์ „ ์˜†์— ์žˆ๋Š” ์ž‘์—… ๋ณด๊ธฐ๋ฅผ ํด๋ฆญํ•œ ๋‹ค์Œ ๋น„๊ต๋ฅผ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค. ์„ ํƒํ•œ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ฒ„์ „์„ ํ˜„์žฌ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ฒ„์ „๊ณผ ๋น„๊ตํ•˜๋Š” ๋น„๊ต ์ฐฝ์ด ์—ด๋ฆฝ๋‹ˆ๋‹ค.

  5. (์„ ํƒ์‚ฌํ•ญ): ๋ณ„๋„์˜ ์ฐฝ ๋Œ€์‹  ๋ฒ„์ „์„ ์ธ๋ผ์ธ ๋น„๊ตํ•˜๋ ค๋ฉด ๋น„๊ต๋ฅผ ํด๋ฆญํ•œ ๋‹ค์Œ ์ธ๋ผ์ธ์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ฒ„์ „ ๋ณต์›

๋‹ค์Œ ์˜ต์…˜ ์ค‘ ํ•˜๋‚˜๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ฒ„์ „์„ ๋ณต์›ํ•ฉ๋‹ˆ๋‹ค. ๋น„๊ต ์ฐฝ์—์„œ ๋ณต์›ํ•˜๋ฉด ๋ณต์› ์—ฌ๋ถ€๋ฅผ ์„ ํƒํ•˜๊ธฐ ์ „์— ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์˜ ์ด์ „ ๋ฒ„์ „์„ ํ˜„์žฌ ๋ฒ„์ „๊ณผ ๋น„๊ตํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

ํ™œ๋™ ์ฐฝ

  1. ํƒ์ƒ‰๊ธฐ ์ฐฝ์—์„œ ํ”„๋กœ์ ํŠธ์™€ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ํด๋”๋ฅผ ํŽผ์น˜๊ณ  ํ•„์š”ํ•œ ๊ฒฝ์šฐ ๊ณต์œ  ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ํด๋”๋ฅผ ํŽผ์นฉ๋‹ˆ๋‹ค. ์ด์ „ ๋ฒ„์ „์„ ๋ณต์›ํ•  ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์˜ ์ด๋ฆ„์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.
  2. ํ™œ๋™ ์ฐฝ์„ ์„ ํƒํ•ฉ๋‹ˆ๋‹ค.
  3. ๋ณต์›ํ•  ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ฒ„์ „ ์˜†์— ์žˆ๋Š” ์ž‘์—… ๋ณด๊ธฐ๋ฅผ ํด๋ฆญํ•œ ํ›„ ๋ณต์›์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.
  4. ํ™•์ธ์„ ํด๋ฆญํ•˜์—ฌ ์ž‘์—…์„ ํ™•์ธํ•ฉ๋‹ˆ๋‹ค.

๋น„๊ต ์ฐฝ

  1. ํƒ์ƒ‰๊ธฐ ์ฐฝ์—์„œ ํ”„๋กœ์ ํŠธ์™€ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ํด๋”๋ฅผ ํŽผ์น˜๊ณ  ํ•„์š”ํ•œ ๊ฒฝ์šฐ ๊ณต์œ  ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ํด๋”๋ฅผ ํŽผ์นฉ๋‹ˆ๋‹ค. ์ด์ „ ๋ฒ„์ „์„ ๋ณต์›ํ•  ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์˜ ์ด๋ฆ„์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.
  2. ํ™œ๋™ ์ฐฝ์„ ์„ ํƒํ•ฉ๋‹ˆ๋‹ค.
  3. ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ฒ„์ „ ์˜†์— ์žˆ๋Š” ์ž‘์—… ๋ณด๊ธฐ๋ฅผ ํด๋ฆญํ•œ ๋‹ค์Œ ๋น„๊ต๋ฅผ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค. ์„ ํƒํ•œ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ฒ„์ „์„ ๊ฐ€์žฅ ์ตœ๊ทผ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ฒ„์ „๊ณผ ๋น„๊ตํ•˜๋Š” ๋น„๊ต ์ฐฝ์ด ์—ด๋ฆฝ๋‹ˆ๋‹ค.
  4. ๋น„๊ตํ•œ ํ›„ ์ด์ „ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ๋ฒ„์ „์„ ๋ณต์›ํ•˜๋ ค๋ฉด ๋ณต์›์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.
  5. ํ™•์ธ์„ ํด๋ฆญํ•˜์—ฌ ์ž‘์—…์„ ํ™•์ธํ•ฉ๋‹ˆ๋‹ค.

Dataplex์—์„œ ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ ๊ด€๋ฆฌ

Dataplex๋ฅผ ์‚ฌ์šฉํ•˜๋ฉด ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์˜ ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ๋ฅผ ๋ณด๊ณ  ๊ด€๋ฆฌํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋Š” ์ถ”๊ฐ€ ๊ตฌ์„ฑ ์—†์ด ๊ธฐ๋ณธ์ ์œผ๋กœ Dataplex์—์„œ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Dataplex๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ๋ชจ๋“  BigQuery ์œ„์น˜์—์„œ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋ฅผ ๊ด€๋ฆฌํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. Dataplex์—์„œ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋ฅผ ๊ด€๋ฆฌํ•˜๋Š” ๊ฒฝ์šฐ Dataplex ํ• ๋‹น๋Ÿ‰ ๋ฐ ํ•œ๋„์™€ Dataplex ๊ฐ€๊ฒฉ ์ฑ…์ •์ด ์ ์šฉ๋ฉ๋‹ˆ๋‹ค.

Dataplex๋Š” ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์—์„œ ๋‹ค์Œ ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ๋ฅผ ์ž๋™์œผ๋กœ ๊ฒ€์ƒ‰ํ•ฉ๋‹ˆ๋‹ค.

  • ๋ฐ์ดํ„ฐ ์• ์…‹ ์ด๋ฆ„
  • ๋ฐ์ดํ„ฐ ์• ์…‹ ์ƒ์œ„ ํ•ญ๋ชฉ
  • ๋ฐ์ดํ„ฐ ์• ์…‹ ์œ„์น˜
  • ๋ฐ์ดํ„ฐ ์• ์…‹ ์œ ํ˜•
  • ํ•ด๋‹น Google Cloud ํ”„๋กœ์ ํŠธ

Dataplex๋Š” ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค๋ฅผ ๋‹ค์Œ ํ•ญ๋ชฉ ๊ฐ’์„ ์‚ฌ์šฉํ•ด ํ•ญ๋ชฉ์œผ๋กœ ๋กœ๊น…ํ•ฉ๋‹ˆ๋‹ค.

์‹œ์Šคํ…œ ํ•ญ๋ชฉ ๊ทธ๋ฃน
๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์˜ ์‹œ์Šคํ…œ ํ•ญ๋ชฉ ๊ทธ๋ฃน์€ @dataform์ž…๋‹ˆ๋‹ค. Dataplex์—์„œ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ํ•ญ๋ชฉ์˜ ์„ธ๋ถ€์ •๋ณด๋ฅผ ๋ณด๋ ค๋ฉด dataform ์‹œ์Šคํ…œ ํ•ญ๋ชฉ ๊ทธ๋ฃน์„ ํ™•์ธํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ํ•ญ๋ชฉ ๊ทธ๋ฃน์˜ ๋ชจ๋“  ํ•ญ๋ชฉ ๋ชฉ๋ก์„ ๋ณด๋Š” ๋ฐฉ๋ฒ•์— ๊ด€ํ•œ ์•ˆ๋‚ด๋Š” Dataplex ๋ฌธ์„œ์˜ ํ•ญ๋ชฉ ๊ทธ๋ฃน ์„ธ๋ถ€์ •๋ณด ๋ณด๊ธฐ๋ฅผ ์ฐธ์กฐํ•˜์„ธ์š”.
์‹œ์Šคํ…œ ํ•ญ๋ชฉ ์œ ํ˜•
๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์˜ ์‹œ์Šคํ…œ ํ•ญ๋ชฉ ์œ ํ˜•์€ dataform-code-asset์ž…๋‹ˆ๋‹ค. ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์˜ ์„ธ๋ถ€์ •๋ณด๋ฅผ ๋ณด๋ ค๋ฉด dataform-code-asset ์‹œ์Šคํ…œ ํ•ญ๋ชฉ ์œ ํ˜•์„ ํ™•์ธํ•˜๊ณ , ๊ด€์  ๊ธฐ๋ฐ˜ ํ•„ํ„ฐ๋กœ ๊ฒฐ๊ณผ๋ฅผ ํ•„ํ„ฐ๋งํ•˜๊ณ , dataform-code-asset ๊ด€์  ๋‚ด์˜ type ํ•„๋“œ๋ฅผ DATA_CANVAS๋กœ ์„ค์ •ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ๊ทธ๋Ÿฐ ๋‹ค์Œ ์„ ํƒํ•œ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์˜ ํ•ญ๋ชฉ์„ ์„ ํƒํ•ฉ๋‹ˆ๋‹ค. ์„ ํƒํ•œ ํ•ญ๋ชฉ ์œ ํ˜•์˜ ์„ธ๋ถ€์ •๋ณด๋ฅผ ๋ณด๋Š” ๋ฐฉ๋ฒ•์— ๊ด€ํ•œ ์•ˆ๋‚ด๋Š” Dataplex ๋ฌธ์„œ์˜ ํ•ญ๋ชฉ ์œ ํ˜•์˜ ์„ธ๋ถ€์ •๋ณด ๋ณด๊ธฐ๋ฅผ ์ฐธ์กฐํ•˜์„ธ์š”. ์„ ํƒํ•œ ํ•ญ๋ชฉ์˜ ์„ธ๋ถ€์ •๋ณด๋ฅผ ๋ณด๋Š” ๋ฐฉ๋ฒ•์— ๊ด€ํ•œ ์•ˆ๋‚ด๋Š” Dataplex ๋ฌธ์„œ์˜ ํ•ญ๋ชฉ ์„ธ๋ถ€์ •๋ณด ๋ณด๊ธฐ๋ฅผ ์ฐธ์กฐํ•˜์„ธ์š”.
์‹œ์Šคํ…œ ๊ด€์  ์œ ํ˜•
๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์˜ ์‹œ์Šคํ…œ ๊ด€์  ์œ ํ˜•์€ dataform-code-asset์ž…๋‹ˆ๋‹ค. ๊ด€์ ์œผ๋กœ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ํ•ญ๋ชฉ์— ์ฃผ์„์„ ์ถ”๊ฐ€ํ•˜์—ฌ Dataplex์˜ ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์— ์ถ”๊ฐ€ ์ปจํ…์ŠคํŠธ๋ฅผ ์ œ๊ณตํ•˜๋ ค๋ฉด dataform-code-asset ๊ด€์  ์œ ํ˜•์„ ํ™•์ธํ•˜๊ณ  ๊ด€์  ๊ธฐ๋ฐ˜ ํ•„ํ„ฐ๋กœ ๊ฒฐ๊ณผ๋ฅผ ํ•„ํ„ฐ๋งํ•œ ๋‹ค์Œ dataform-code-asset ๊ด€์  ๋‚ด์˜ type ํ•„๋“œ๋ฅผ DATA_CANVAS๋กœ ์„ค์ •ํ•ฉ๋‹ˆ๋‹ค. ๊ด€์ ์œผ๋กœ ํ•ญ๋ชฉ์— ์ฃผ์„์„ ์ถ”๊ฐ€ํ•˜๋Š” ๋ฐฉ๋ฒ•์— ๊ด€ํ•œ ์•ˆ๋‚ด๋Š” Dataplex ๋ฌธ์„œ์˜ ๊ด€์  ๊ด€๋ฆฌ ๋ฐ ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ ๋ณด๊ฐ•์„ ์ฐธ์กฐํ•˜์„ธ์š”.
์œ ํ˜•
๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค์˜ ์œ ํ˜•์€ DATA_CANVAS์ž…๋‹ˆ๋‹ค. ์ด ์œ ํ˜•์„ ์‚ฌ์šฉํ•˜๋ฉด ๊ด€์  ๊ธฐ๋ฐ˜ ํ•„ํ„ฐ์—์„œ aspect:dataplex-types.global.dataform-code-asset.type=DATA_CANVAS ์ฟผ๋ฆฌ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ dataform-code-asset ์‹œ์Šคํ…œ ํ•ญ๋ชฉ ์œ ํ˜• ๋ฐ dataform-code-asset ๊ด€์  ์œ ํ˜•์˜ ๋ฐ์ดํ„ฐ ์บ ๋ฒ„์Šค๋ฅผ ํ•„ํ„ฐ๋งํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Dataplex์—์„œ ์• ์…‹์„ ๊ฒ€์ƒ‰ํ•˜๋Š” ๋ฐฉ๋ฒ•์— ๊ด€ํ•œ ์•ˆ๋‚ด๋Š” Dataplex ๋ฌธ์„œ์˜ Dataplex์—์„œ ๋ฐ์ดํ„ฐ ์• ์…‹ ๊ฒ€์ƒ‰์„ ์ฐธ์กฐํ•˜์„ธ์š”.

๊ฐ€๊ฒฉ ์ฑ…์ •

์ด ๊ธฐ๋Šฅ์˜ ๊ฐ€๊ฒฉ ์ฑ…์ •์— ๊ด€ํ•œ ์ž์„ธํ•œ ๋‚ด์šฉ์€ BigQuery์˜ Gemini ๊ฐ€๊ฒฉ ์ฑ…์ • ๊ฐœ์š”๋ฅผ ์ฐธ๊ณ ํ•˜์„ธ์š”.

ํ• ๋‹น๋Ÿ‰ ๋ฐ ํ•œ๋„

์ด ๊ธฐ๋Šฅ์˜ ํ• ๋‹น๋Ÿ‰ ๋ฐ ํ•œ๋„์— ๋Œ€ํ•œ ์ž์„ธํ•œ ๋‚ด์šฉ์€ BigQuery์˜ Gemini ํ• ๋‹น๋Ÿ‰์„ ์ฐธ์กฐํ•˜์„ธ์š”.

์˜๊ฒฌ ๋ณด๋‚ด๊ธฐ

Google์— ์˜๊ฒฌ์„ ์ œ์ถœํ•˜์—ฌ BigQuery ๋ฐ์ดํ„ฐ ์บ”๋ฒ„์Šค ์ œ์•ˆ์„ ๊ฐœ์„ ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์˜๊ฒฌ์„ ์ œ๊ณตํ•˜๋ ค๋ฉด ๋‹ค์Œ ๋‹จ๊ณ„๋ฅผ ๋”ฐ๋ฅด์„ธ์š”.

  1. Google Cloud ์ฝ˜์†” ํˆด๋ฐ”์—์„œ ์˜๊ฒฌ ์ œ์ถœ์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

  2. ์„ ํƒ์‚ฌํ•ญ: DAG JSON ์ •๋ณด๋ฅผ ๋ณต์‚ฌํ•˜์—ฌ ์˜๊ฒฌ์— ์ถ”๊ฐ€ ์ปจํ…์ŠคํŠธ๋ฅผ ์ œ๊ณตํ•˜๋ ค๋ฉด ๋ณต์‚ฌ๋ฅผ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

  3. ์–‘์‹์„ ์ž‘์„ฑํ•˜๊ณ  ์˜๊ฒฌ์„ ์ œ๊ณตํ•˜๋ ค๋ฉด ์–‘์‹์„ ํด๋ฆญํ•ฉ๋‹ˆ๋‹ค.

๋ฐ์ดํ„ฐ ๊ณต์œ  ์„ค์ •์€ ์ „์ฒด ํ”„๋กœ์ ํŠธ์— ์ ์šฉ๋˜๋ฉฐ serviceusage.services.enable ๋ฐ serviceusage.services.list IAM ๊ถŒํ•œ์ด ์žˆ๋Š” ํ”„๋กœ์ ํŠธ ๊ด€๋ฆฌ์ž๋งŒ ์ด ์„ค์ •์„ ์„ค์ •ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ๋Š” ํ…Œ์Šคํ„ฐ ํ”„๋กœ๊ทธ๋žจ์—์„œ ๋ฐ์ดํ„ฐ ์‚ฌ์šฉ์— ๋Œ€ํ•œ ์ž์„ธํ•œ ๋‚ด์šฉ์€ Google Cloud ์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ๋Š” ํ…Œ์Šคํ„ฐ ํ”„๋กœ๊ทธ๋žจ์˜ Gemini๋ฅผ ์ฐธ์กฐํ•˜์„ธ์š”.

์ด ๊ธฐ๋Šฅ์— ๋Œ€ํ•œ ์ง์ ‘์ ์ธ ์˜๊ฒฌ์„ ์ œ๊ณตํ•˜๋ ค๋ฉด datacanvas-feedback@google.com์œผ๋กœ ๋ฌธ์˜ํ•˜์„ธ์š”.

๋‹ค์Œ ๋‹จ๊ณ„