Dataflow

์‹ค์‹œ๊ฐ„ ๋ฐ์ดํ„ฐ ์ธํ…”๋ฆฌ์ „์Šค

์‹ค์‹œ๊ฐ„ ๋ฐ์ดํ„ฐ์˜ ์ž ์žฌ๋ ฅ์„ ๊ทน๋Œ€ํ™”ํ•˜์„ธ์š”. Dataflow๋Š” ์‚ฌ์šฉํ•˜๊ธฐ ์‰ฝ๊ณ  ํ™•์žฅ ๊ฐ€๋Šฅํ•œ ์™„์ „ ๊ด€๋ฆฌํ˜• ์ŠคํŠธ๋ฆฌ๋ฐ ํ”Œ๋žซํผ์œผ๋กœ, ์‹ค์‹œ๊ฐ„ ์˜์‚ฌ ๊ฒฐ์ •๊ณผ ๊ณ ๊ฐ ๊ฒฝํ—˜์„ ๊ฐ€์†ํ™”ํ•˜๋Š” ๋ฐ ๋„์›€์ด ๋ฉ๋‹ˆ๋‹ค.

์‹ ๊ทœ ๊ณ ๊ฐ์—๊ฒŒ๋Š” Dataflow์— ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋Š” $300์˜ ๋ฌด๋ฃŒ ํฌ๋ ˆ๋”ง์ด ์ œ๊ณต๋ฉ๋‹ˆ๋‹ค.

๊ธฐ๋Šฅ

์ŠคํŠธ๋ฆฌ๋ฐ AI ๋ฐ ML์„ ์‚ฌ์šฉํ•˜์—ฌ ์ƒ์„ฑํ˜• AI ๋ชจ๋ธ์„ ์‹ค์‹œ๊ฐ„์œผ๋กœ ๊ฐ•ํ™”

์‹ค์‹œ๊ฐ„ ๋ฐ์ดํ„ฐ๋Š” AI/ML ๋ชจ๋ธ์— ์ตœ์‹  ์ •๋ณด๋ฅผ ์ œ๊ณตํ•˜์—ฌ ์˜ˆ์ธก ์ •ํ™•๋„๋ฅผ ํ–ฅ์ƒ์‹œํ‚ต๋‹ˆ๋‹ค. Dataflow ML์€ ์ „์ฒด ML ํŒŒ์ดํ”„๋ผ์ธ์˜ ๋ฐฐํฌ ๋ฐ ๊ด€๋ฆฌ๋ฅผ ๊ฐ„์†Œํ™”ํ•ฉ๋‹ˆ๋‹ค. Google์—์„œ๋Š” ๋งž์ถค ์ถ”์ฒœ, ์‚ฌ๊ธฐ ๊ฐ์ง€, ์œ„ํ˜‘ ๋ฐฉ์ง€ ๋“ฑ์„ ์œ„ํ•ด ์ฆ‰์‹œ ์‚ฌ์šฉ ๊ฐ€๋Šฅํ•œ ํŒจํ„ด์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. Vertex AI, Gemini ๋ชจ๋ธ, Gemma ๋ชจ๋ธ๋กœ ์ŠคํŠธ๋ฆฌ๋ฐ AI๋ฅผ ๋นŒ๋“œํ•˜๊ณ , ์›๊ฒฉ ์ถ”๋ก ์„ ์‹คํ–‰ํ•˜๊ณ , MLTransform์œผ๋กœ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ๋ฅผ ๊ฐ„์†Œํ™”ํ•ฉ๋‹ˆ๋‹ค. Dataflow GPU ๋ฐ ์ ํ•ฉ ๋งž์ถค ๊ธฐ๋Šฅ์œผ๋กœ MLOps ๋ฐ ML ์ž‘์—… ํšจ์œจ์„ฑ์„ ํ–ฅ์ƒํ•˜์„ธ์š”.

์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ๊ทœ๋ชจ์˜ ๊ณ ๊ธ‰ ์ŠคํŠธ๋ฆฌ๋ฐ ์‚ฌ์šฉ ์‚ฌ๋ก€ ์ง€์›

Dataflow๋Š” ์˜คํ”ˆ์†Œ์Šค Apache Beam SDK๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ๊ทœ๋ชจ๋กœ ๊ณ ๊ธ‰ ์ŠคํŠธ๋ฆฌ๋ฐ ์‚ฌ์šฉ ์‚ฌ๋ก€๋ฅผ ์ง€์›ํ•˜๋Š” ์™„์ „ ๊ด€๋ฆฌํ˜• ์„œ๋น„์Šค์ž…๋‹ˆ๋‹ค. ์ƒํƒœ ๋ฐ ์‹œ๊ฐ„, ๋ณ€ํ™˜, I/O ์ปค๋„ฅํ„ฐ๋ฅผ ์œ„ํ•œ ํ’๋ถ€ํ•œ ๊ธฐ๋Šฅ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. Dataflow๋Š” ์ž‘์—…๋‹น ์ž‘์—…์ž 4,000๋ช…์œผ๋กœ ํ™•์žฅ๋˜๋ฉฐ ์ •๊ธฐ์ ์œผ๋กœ ํŽ˜ํƒ€๋ฐ”์ดํŠธ ๊ทœ๋ชจ์˜ ๋ฐ์ดํ„ฐ๋ฅผ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค. ์ผ๊ด„ ๋ฐ ์ŠคํŠธ๋ฆฌ๋ฐ ํŒŒ์ดํ”„๋ผ์ธ์—์„œ ๋ฆฌ์†Œ์Šค ์‚ฌ์šฉ๋ฅ ์„ ์ตœ์ ํ™”ํ•˜๊ธฐ ์œ„ํ•œ ์ž๋™ ํ™•์žฅ ๊ธฐ๋Šฅ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

์ƒ์„ฑํ˜• AI๋ฅผ ์œ„ํ•œ ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ ๋ฐฐํฌ

Dataflow๋ฅผ ์‚ฌ์šฉํ•˜๋ฉด ์ด๋ฏธ์ง€, ํ…์ŠคํŠธ, ์˜ค๋””์˜ค์™€ ๊ฐ™์€ ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ ๋ฐ์ดํ„ฐ๋ฅผ ๋™์‹œ์— ์ˆ˜์ง‘ํ•˜๊ณ  ๋ณ€ํ™˜ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๊ฐ ํ˜•์‹์— ํŠน์ˆ˜ํ•œ ํŠน์„ฑ ์ถ”์ถœ์„ ์ ์šฉํ•œ ๋‹ค์Œ ์ด๋Ÿฌํ•œ ํŠน์„ฑ์„ ํ†ตํ•ฉ ํ‘œํ˜„์œผ๋กœ ์œตํ•ฉํ•ฉ๋‹ˆ๋‹ค. ์ด๋Ÿฌํ•œ ์œตํ•ฉ๋œ ๋ฐ์ดํ„ฐ๊ฐ€ ์ƒ์„ฑํ˜• AI ๋ชจ๋ธ์— ํ”ผ๋“œ๋˜์–ด ๋‹ค์–‘ํ•œ ์ž…๋ ฅ๊ฐ’์œผ๋กœ ์ƒˆ๋กœ์šด ์ฝ˜ํ…์ธ ๋ฅผ ๋งŒ๋“ค ์ˆ˜ ์žˆ๊ฒŒ ๋˜์—ˆ์Šต๋‹ˆ๋‹ค. Google ๋‚ด๋ถ€ํŒ€์€ Dataflow์™€ FlumeJava๋ฅผ ํ™œ์šฉํ•˜์—ฌ ์ง€์—ฐ ์‹œ๊ฐ„ ์š”๊ตฌ์‚ฌํ•ญ ์—†์ด ์‚ฌ์šฉ ๊ฐ€๋Šฅํ•œ ์ž…๋ ฅ ๋ฐ์ดํ„ฐ ํ’€์— ๋Œ€ํ•œ ๋ชจ๋ธ ์˜ˆ์ธก์„ ๊ตฌ์„ฑํ•˜๊ณ  ๊ณ„์‚ฐํ•ฉ๋‹ˆ๋‹ค.

ํ…œํ”Œ๋ฆฟ๊ณผ ๋…ธํŠธ๋ถ์œผ๋กœ ๊ฐ€์น˜ ์ฐฝ์ถœ ์‹œ๊ฐ„ ๋‹จ์ถ•

Dataflow์—๋Š” ์‰ฝ๊ฒŒ ์‹œ์ž‘ํ•  ์ˆ˜ ์žˆ๋Š” ๋„๊ตฌ๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค. Dataflow ํ…œํ”Œ๋ฆฟ์€ ์ŠคํŠธ๋ฆผ ๋ฐ ์ผ๊ด„ ์ฒ˜๋ฆฌ๋ฅผ ์œ„ํ•ด ์‚ฌ์ „ ์„ค๊ณ„๋œ ์ฒญ์‚ฌ์ง„์œผ๋กœ, ํšจ์œจ์ ์ธ CDC ๋ฐ BigQuery ๋ฐ์ดํ„ฐ ํ†ตํ•ฉ์— ์ตœ์ ํ™”๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. Vertex AI ๋…ธํŠธ๋ถ์„ ์‚ฌ์šฉํ•˜์—ฌ ์ฒ˜์Œ๋ถ€ํ„ฐ ์ตœ์‹  ๋ฐ์ดํ„ฐ ๊ณผํ•™ ํ”„๋ ˆ์ž„์›Œํฌ๋กœ ํŒŒ์ดํ”„๋ผ์ธ์„ ๋ฐ˜๋ณต ๋นŒ๋“œํ•˜๊ณ  Dataflow ์‹คํ–‰๊ธฐ๋กœ ๋ฐฐํฌํ•˜์„ธ์š”.Dataflow ์ž‘์—… ๋นŒ๋”๋Š” Google Cloud ์ฝ˜์†”์—์„œ ์ฝ”๋“œ๋ฅผ ์ž‘์„ฑํ•˜์ง€ ์•Š๊ณ  Dataflow ํŒŒ์ดํ”„๋ผ์ธ์„ ๋นŒ๋“œํ•˜๊ณ  ์‹คํ–‰ํ•˜๊ธฐ ์œ„ํ•œ ์‹œ๊ฐ์  UI์ž…๋‹ˆ๋‹ค.

์Šค๋งˆํŠธ ์ง„๋‹จ ๋ฐ ๋ชจ๋‹ˆํ„ฐ๋ง ๋„๊ตฌ๋กœ ์‹œ๊ฐ„ ์ ˆ์•ฝ

Dataflow๋Š” ํฌ๊ด„์ ์ธ ์ง„๋‹จ ๋ฐ ๋ชจ๋‹ˆํ„ฐ๋ง ๋„๊ตฌ๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ๋‚™์˜ค ํ•ญ๋ชฉ ๊ฐ์ง€๋Š” ์„ฑ๋Šฅ ๋ณ‘๋ชฉ ํ˜„์ƒ์„ ์ž๋™์œผ๋กœ ์‹๋ณ„ํ•˜๋ฉฐ, ๋ฐ์ดํ„ฐ ์ƒ˜ํ”Œ๋ง์„ ์‚ฌ์šฉํ•˜๋ฉด ๊ฐ ํŒŒ์ดํ”„๋ผ์ธ ๋‹จ๊ณ„์—์„œ ๋ฐ์ดํ„ฐ๋ฅผ ๊ด€์ฐฐํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. Dataflow ํ†ต๊ณ„๋Š” ์ž‘์—… ๊ฐœ์„ ์„ ์œ„ํ•œ ๊ถŒ์žฅ์‚ฌํ•ญ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. Dataflow UI๋Š” ์ž‘์—… ๊ทธ๋ž˜ํ”„, ์‹คํ–‰ ์„ธ๋ถ€์ •๋ณด, ์ธก์ •ํ•ญ๋ชฉ, ์ž๋™ ํ™•์žฅ ๋Œ€์‹œ๋ณด๋“œ, ๋กœ๊น… ๋“ฑ ๋‹ค์–‘ํ•œ ๋ชจ๋‹ˆํ„ฐ๋ง ๋„๊ตฌ๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. Dataflow์—๋Š” ๊ฐ„ํŽธํ•œ ๋น„์šฉ ์ถ”์ •์„ ์œ„ํ•œ ์ž‘์—… ๋น„์šฉ ๋ชจ๋‹ˆํ„ฐ๋ง UI๋„ ์žˆ์Šต๋‹ˆ๋‹ค.

๊ฑฐ๋ฒ„๋„Œ์Šค ๋ฐ ๋ณด์•ˆ ๊ธฐ๋ณธ ์ œ๊ณต

Dataflow๋ฅผ ์‚ฌ์šฉํ•˜๋ฉด ์ปจํ”ผ๋ด์…œ VM ์ง€์›์„ ํ†ตํ•ด ์‚ฌ์šฉ ์ค‘ ๋ฐ์ดํ„ฐ ์•”ํ˜ธํ™”, ๊ณ ๊ฐ ๊ด€๋ฆฌ ์•”ํ˜ธํ™” ํ‚ค(CMEK), VPC ์„œ๋น„์Šค ์ œ์–ด ํ†ตํ•ฉ, ๊ณต๊ฐœ IP ์‚ฌ์šฉ ์ค‘์ง€ ๋“ฑ ๋‹ค์–‘ํ•œ ๋ฐฉ์‹์œผ๋กœ ๋ฐ์ดํ„ฐ๋ฅผ ๋ณดํ˜ธํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. Dataflow ๊ฐ์‚ฌ ๋กœ๊น…์€ ์กฐ์ง์— Dataflow ์‚ฌ์šฉ๋Ÿ‰์— ๋Œ€ํ•œ ๊ฐ€์‹œ์„ฑ์„ ์ œ๊ณตํ•˜๋ฉฐ '๋ˆ„๊ฐ€, ์–ธ์ œ, ์–ด๋””์„œ, ๋ฌด์—‡์„ ํ–ˆ๋Š”์ง€'๋ผ๋Š” ์งˆ๋ฌธ์— ๋‹ตํ•˜๋Š” ๋ฐ ๋„์›€์ด ๋˜์–ด ๊ฑฐ๋ฒ„๋„Œ์Šค๋ฅผ ๊ฐœ์„ ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค

์ž‘๋™ ๋ฐฉ์‹

Dataflow๋Š” ์ผ๊ด„ ๋ฐ ์ŠคํŠธ๋ฆฌ๋ฐ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ๋ฅผ ์œ„ํ•œ ์™„์ „ ๊ด€๋ฆฌํ˜• ํ”Œ๋žซํผ์ž…๋‹ˆ๋‹ค. ์„œ๋ฒ„๋ฆฌ์Šค Google Cloud ์ธํ”„๋ผ์—์„œ Apache Beam์˜ ํ†ตํ•ฉ ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•œ ํ™•์žฅ ๊ฐ€๋Šฅํ•œ ETL ํŒŒ์ดํ”„๋ผ์ธ, ์‹ค์‹œ๊ฐ„ ์ŠคํŠธ๋ฆผ ๋ถ„์„, ์‹ค์‹œ๊ฐ„ ML, ๋ณต์žกํ•œ ๋ฐ์ดํ„ฐ ๋ณ€ํ™˜์„ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค.

Datflow ์•„์ด์ฝ˜์ด ์ƒ๋‹จ์— ์žˆ๋Š” ํฐ ๊ฑด๋ฌผ ๋ฐ Pub/Sub, Cloud Storage, Cloud AutoML ์•„์ด์ฝ˜์„ ์ €๊ธ€๋งํ•˜๋Š” ์˜ค๋ฅธ์ชฝ์˜ ๋‚จ์„ฑ ๋ฏธ๋ฆฌ๋ณด๊ธฐ ์ด๋ฏธ์ง€
Dataflow์˜ ์ž‘๋™ ๋ฐฉ์‹๊ณผ ์ผ๋ฐ˜์ ์ธ ์‚ฌ์šฉ ์‚ฌ๋ก€ ๋“ฑ์— ๋Œ€ํ•ด ๋น ๋ฅด๊ฒŒ ์•Œ์•„๋ณด์„ธ์š”.

์ผ๋ฐ˜์ ์ธ ์šฉ๋„

์‹ค์‹œ๊ฐ„ ๋ถ„์„

์‹ค์‹œ๊ฐ„ ๋ถ„์„ ๋ฐ ์šด์˜ ํŒŒ์ดํ”„๋ผ์ธ์„ ์œ„ํ•œ ์ŠคํŠธ๋ฆฌ๋ฐ ๋ฐ์ดํ„ฐ ๊ฐ€์ ธ์˜ค๊ธฐ

์ŠคํŠธ๋ฆฌ๋ฐ ๋ฐ์ดํ„ฐ ์†Œ์Šค(Pub/Sub, Kafka, CDC ์ด๋ฒคํŠธ, ์‚ฌ์šฉ์ž ํด๋ฆญ์ŠคํŠธ๋ฆผ, ๋กœ๊ทธ, ์„ผ์„œ ๋ฐ์ดํ„ฐ)๋ฅผ BigQuery, Google Cloud Storage ๋ฐ์ดํ„ฐ ๋ ˆ์ดํฌ, Spanner, Bigtable, SQL ์ €์žฅ์†Œ, Splunk, Datadog ๋“ฑ์— ํ†ตํ•ฉํ•˜์—ฌ ๋ฐ์ดํ„ฐ ์ŠคํŠธ๋ฆฌ๋ฐ ์—ฌ์ •์„ ์‹œ์ž‘ํ•˜์„ธ์š”. ์ฝ”๋“œ ์—†์ด ํด๋ฆญ ๋ช‡ ๋ฒˆ๋งŒ์œผ๋กœ ํŒŒ์ดํ”„๋ผ์ธ์„ ์„ค์ •ํ•˜๋Š” ์ตœ์ ํ™”๋œ Dataflow ํ…œํ”Œ๋ฆฟ์„ ์‚ดํŽด๋ณด์„ธ์š”. ํ†ตํ•ฉ UDF ๋นŒ๋”๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ํ…œํ”Œ๋ฆฟ ์ž‘์—…์— ์ปค์Šคํ…€ ๋กœ์ง์„ ์ถ”๊ฐ€ํ•˜๊ฑฐ๋‚˜ Beam ๋ณ€ํ™˜ ๋ฐ I/O ์ปค๋„ฅํ„ฐ ์ƒํƒœ๊ณ„์˜ ๊ฐ•๋ ฅํ•œ ๊ธฐ๋Šฅ์„ ์‚ฌ์šฉํ•˜์—ฌ ์ปค์Šคํ…€ ETL ํŒŒ์ดํ”„๋ผ์ธ์„ ์ฒ˜์Œ๋ถ€ํ„ฐ ๋งŒ๋“ค ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋˜ํ•œ Dataflow๋Š” ๋น ๋ฅธ ์กฐํšŒ์™€ ์ตœ์ข… ์‚ฌ์šฉ์ž ์ œ๊ณต์„ ์œ„ํ•ด BigQuery์—์„œ OLTP ์ €์žฅ์†Œ๋กœ ETL ์ฒ˜๋ฆฌ๋œ ๋ฐ์ดํ„ฐ๋ฅผ ์—ญ๋ฐฉํ–ฅ์œผ๋กœ ์ „์†กํ•˜๋Š” ๋ฐ ์ผ๋ฐ˜์ ์œผ๋กœ ์‚ฌ์šฉ๋ฉ๋‹ˆ๋‹ค. ์ด๋Š” Dataflow์—์„œ ์ŠคํŠธ๋ฆฌ๋ฐ ๋ฐ์ดํ„ฐ๋ฅผ ์—ฌ๋Ÿฌ ์Šคํ† ๋ฆฌ์ง€ ์œ„์น˜์— ์“ฐ๋Š” ์ผ๋ฐ˜์ ์ธ ํŒจํ„ด์ž…๋‹ˆ๋‹ค.



Google Cloud์˜ ์ŠคํŠธ๋ฆฌ๋ฐ ๋ถ„์„ ์•„ํ‚คํ…์ฒ˜
Google Cloud์˜ ์ŠคํŠธ๋ฆฌ๋ฐ ๋ถ„์„ ์•„ํ‚คํ…์ฒ˜

์ฒซ Dataflow ์ž‘์—…์„ ์‹คํ–‰ํ•˜๊ณ  Dataflow ๊ธฐ์ดˆ์— ๊ด€ํ•œ ์…€ํ”„ ๊ฐ€์ด๋“œ ๊ณผ์ •์„ ์ด์ˆ˜ํ•˜์„ธ์š”.

์‹ค์‹œ๊ฐ„ ๋ถ„์„ ๋ฐ ์šด์˜ ํŒŒ์ดํ”„๋ผ์ธ์„ ์œ„ํ•œ ์ŠคํŠธ๋ฆฌ๋ฐ ๋ฐ์ดํ„ฐ ๊ฐ€์ ธ์˜ค๊ธฐ

์ŠคํŠธ๋ฆฌ๋ฐ ๋ฐ์ดํ„ฐ ์†Œ์Šค(Pub/Sub, Kafka, CDC ์ด๋ฒคํŠธ, ์‚ฌ์šฉ์ž ํด๋ฆญ์ŠคํŠธ๋ฆผ, ๋กœ๊ทธ, ์„ผ์„œ ๋ฐ์ดํ„ฐ)๋ฅผ BigQuery, Google Cloud Storage ๋ฐ์ดํ„ฐ ๋ ˆ์ดํฌ, Spanner, Bigtable, SQL ์ €์žฅ์†Œ, Splunk, Datadog ๋“ฑ์— ํ†ตํ•ฉํ•˜์—ฌ ๋ฐ์ดํ„ฐ ์ŠคํŠธ๋ฆฌ๋ฐ ์—ฌ์ •์„ ์‹œ์ž‘ํ•˜์„ธ์š”. ์ฝ”๋“œ ์—†์ด ํด๋ฆญ ๋ช‡ ๋ฒˆ๋งŒ์œผ๋กœ ํŒŒ์ดํ”„๋ผ์ธ์„ ์„ค์ •ํ•˜๋Š” ์ตœ์ ํ™”๋œ Dataflow ํ…œํ”Œ๋ฆฟ์„ ์‚ดํŽด๋ณด์„ธ์š”. ํ†ตํ•ฉ UDF ๋นŒ๋”๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ํ…œํ”Œ๋ฆฟ ์ž‘์—…์— ์ปค์Šคํ…€ ๋กœ์ง์„ ์ถ”๊ฐ€ํ•˜๊ฑฐ๋‚˜ Beam ๋ณ€ํ™˜ ๋ฐ I/O ์ปค๋„ฅํ„ฐ ์ƒํƒœ๊ณ„์˜ ๊ฐ•๋ ฅํ•œ ๊ธฐ๋Šฅ์„ ์‚ฌ์šฉํ•˜์—ฌ ์ปค์Šคํ…€ ETL ํŒŒ์ดํ”„๋ผ์ธ์„ ์ฒ˜์Œ๋ถ€ํ„ฐ ๋งŒ๋“ค ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋˜ํ•œ Dataflow๋Š” ๋น ๋ฅธ ์กฐํšŒ์™€ ์ตœ์ข… ์‚ฌ์šฉ์ž ์ œ๊ณต์„ ์œ„ํ•ด BigQuery์—์„œ OLTP ์ €์žฅ์†Œ๋กœ ETL ์ฒ˜๋ฆฌ๋œ ๋ฐ์ดํ„ฐ๋ฅผ ์—ญ๋ฐฉํ–ฅ์œผ๋กœ ์ „์†กํ•˜๋Š” ๋ฐ ์ผ๋ฐ˜์ ์œผ๋กœ ์‚ฌ์šฉ๋ฉ๋‹ˆ๋‹ค. ์ด๋Š” Dataflow์—์„œ ์ŠคํŠธ๋ฆฌ๋ฐ ๋ฐ์ดํ„ฐ๋ฅผ ์—ฌ๋Ÿฌ ์Šคํ† ๋ฆฌ์ง€ ์œ„์น˜์— ์“ฐ๋Š” ์ผ๋ฐ˜์ ์ธ ํŒจํ„ด์ž…๋‹ˆ๋‹ค.



Google Cloud์˜ ์ŠคํŠธ๋ฆฌ๋ฐ ๋ถ„์„ ์•„ํ‚คํ…์ฒ˜
Google Cloud์˜ ์ŠคํŠธ๋ฆฌ๋ฐ ๋ถ„์„ ์•„ํ‚คํ…์ฒ˜

์ฒซ Dataflow ์ž‘์—…์„ ์‹คํ–‰ํ•˜๊ณ  Dataflow ๊ธฐ์ดˆ์— ๊ด€ํ•œ ์…€ํ”„ ๊ฐ€์ด๋“œ ๊ณผ์ •์„ ์ด์ˆ˜ํ•˜์„ธ์š”.

์‹ค์‹œ๊ฐ„ ETL ๋ฐ ๋ฐ์ดํ„ฐ ํ†ตํ•ฉ

์‹ค์‹œ๊ฐ„ ๋ฐ์ดํ„ฐ๋กœ ๋ฐ์ดํ„ฐ ํ”Œ๋žซํผ ํ˜„๋Œ€ํ™”

์‹ค์‹œ๊ฐ„ ETL ๋ฐ ํ†ตํ•ฉ ํ”„๋กœ์„ธ์Šค์™€ ๋ฐ์ดํ„ฐ ์ฆ‰์‹œ ์ž‘์„ฑ์„ ์ง€์›ํ•˜์—ฌ ์‹ ์†ํ•œ ๋ถ„์„๊ณผ ์˜์‚ฌ ๊ฒฐ์ •์„ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค. Dataflow์˜ ์„œ๋ฒ„๋ฆฌ์Šค ์•„ํ‚คํ…์ฒ˜ ๋ฐ ์ŠคํŠธ๋ฆฌ๋ฐ ๊ธฐ๋Šฅ์€ ์‹ค์‹œ๊ฐ„ ETL ํŒŒ์ดํ”„๋ผ์ธ์„ ๋นŒ๋“œํ•˜๋Š” ๋ฐ ์ด์ƒ์ ์ž…๋‹ˆ๋‹ค. Dataflow์˜ ์ž๋™ ํ™•์žฅ ๊ธฐ๋Šฅ์€ ํšจ์œจ์„ฑ๊ณผ ํ™•์žฅ์„ฑ์„ ๋ณด์žฅํ•˜๋Š” ๋™์‹œ์— ๋‹ค์–‘ํ•œ ๋ฐ์ดํ„ฐ ์†Œ์Šค ๋ฐ ๋Œ€์ƒ์„ ์ง€์›ํ•˜๋ฏ€๋กœ ํ†ตํ•ฉ์ด ๊ฐ„์†Œํ™”๋ฉ๋‹ˆ๋‹ค.

์‹ค์‹œ๊ฐ„ ETL ์•„ํ‚คํ…์ฒ˜
์‹ค์‹œ๊ฐ„ ETL ์•„ํ‚คํ…์ฒ˜

์ด Google Cloud Skills Boost ๊ณผ์ •์„ ํ†ตํ•ด Dataflow์˜ ์ผ๊ด„ ์ฒ˜๋ฆฌ๋กœ ๊ธฐ์ดˆ๋ฅผ ๊ตฌ์ถ•ํ•˜์„ธ์š”.

์‹ค์‹œ๊ฐ„ ๋ฐ์ดํ„ฐ๋กœ ๋ฐ์ดํ„ฐ ํ”Œ๋žซํผ ํ˜„๋Œ€ํ™”

์‹ค์‹œ๊ฐ„ ETL ๋ฐ ํ†ตํ•ฉ ํ”„๋กœ์„ธ์Šค์™€ ๋ฐ์ดํ„ฐ ์ฆ‰์‹œ ์ž‘์„ฑ์„ ์ง€์›ํ•˜์—ฌ ์‹ ์†ํ•œ ๋ถ„์„๊ณผ ์˜์‚ฌ ๊ฒฐ์ •์„ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค. Dataflow์˜ ์„œ๋ฒ„๋ฆฌ์Šค ์•„ํ‚คํ…์ฒ˜ ๋ฐ ์ŠคํŠธ๋ฆฌ๋ฐ ๊ธฐ๋Šฅ์€ ์‹ค์‹œ๊ฐ„ ETL ํŒŒ์ดํ”„๋ผ์ธ์„ ๋นŒ๋“œํ•˜๋Š” ๋ฐ ์ด์ƒ์ ์ž…๋‹ˆ๋‹ค. Dataflow์˜ ์ž๋™ ํ™•์žฅ ๊ธฐ๋Šฅ์€ ํšจ์œจ์„ฑ๊ณผ ํ™•์žฅ์„ฑ์„ ๋ณด์žฅํ•˜๋Š” ๋™์‹œ์— ๋‹ค์–‘ํ•œ ๋ฐ์ดํ„ฐ ์†Œ์Šค ๋ฐ ๋Œ€์ƒ์„ ์ง€์›ํ•˜๋ฏ€๋กœ ํ†ตํ•ฉ์ด ๊ฐ„์†Œํ™”๋ฉ๋‹ˆ๋‹ค.

์‹ค์‹œ๊ฐ„ ETL ์•„ํ‚คํ…์ฒ˜
์‹ค์‹œ๊ฐ„ ETL ์•„ํ‚คํ…์ฒ˜

์ด Google Cloud Skills Boost ๊ณผ์ •์„ ํ†ตํ•ด Dataflow์˜ ์ผ๊ด„ ์ฒ˜๋ฆฌ๋กœ ๊ธฐ์ดˆ๋ฅผ ๊ตฌ์ถ•ํ•˜์„ธ์š”.

์‹ค์‹œ๊ฐ„ ML ๋ฐ ์ƒ์„ฑํ˜• AI

์ŠคํŠธ๋ฆฌ๋ฐ ML/AI๋ฅผ ์‚ฌ์šฉํ•œ ์‹ค์‹œ๊ฐ„ ์กฐ์น˜

์ˆœ๊ฐ„์˜ ๊ฒฐ์ •์ด ๋น„์ฆˆ๋‹ˆ์Šค ๊ฐ€์น˜๋ฅผ ๋†’์ž…๋‹ˆ๋‹ค. ๊ณ ๊ฐ์€ Dataflow Streaming AI ๋ฐ ML์„ ํ†ตํ•ด ์ง€์—ฐ ์‹œ๊ฐ„์ด ์งง์€ ์˜ˆ์ธก ๋ฐ ์ถ”๋ก , ์‹ค์‹œ๊ฐ„ ๋งž์ถค์„ค์ •, ์œ„ํ˜‘ ๊ฐ์ง€, ์‚ฌ๊ธฐ ๋ฐฉ์ง€ ๋“ฑ ์‹ค์‹œ๊ฐ„ ์ธํ…”๋ฆฌ์ „์Šค๊ฐ€ ์ค‘์š”ํ•œ ๋‹ค์–‘ํ•œ ์‚ฌ์šฉ ์‚ฌ๋ก€๋ฅผ ๊ตฌํ˜„ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. MLTransform์œผ๋กœ ๋ฐ์ดํ„ฐ ์ „์ฒ˜๋ฆฌ: ๋ณต์žกํ•œ ์ฝ”๋“œ ์ž‘์„ฑ์ด๋‚˜ ๊ธฐ๋ณธ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ ๊ด€๋ฆฌ์—์„œ ๋ฒ—์–ด๋‚˜ ๋ฐ์ดํ„ฐ ๋ณ€ํ™˜์— ์ง‘์ค‘ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. RunInference๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ์ƒ์„ฑํ˜• AI ๋ชจ๋ธ์— ๋Œ€ํ•ด ์˜ˆ์ธก์„ ์ˆ˜ํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.



์ŠคํŠธ๋ฆฌ๋ฐ ML/AI๋ฅผ ์‚ฌ์šฉํ•œ ์‹ค์‹œ๊ฐ„ ์กฐ์น˜

์ˆœ๊ฐ„์˜ ๊ฒฐ์ •์ด ๋น„์ฆˆ๋‹ˆ์Šค ๊ฐ€์น˜๋ฅผ ๋†’์ž…๋‹ˆ๋‹ค. ๊ณ ๊ฐ์€ Dataflow Streaming AI ๋ฐ ML์„ ํ†ตํ•ด ์ง€์—ฐ ์‹œ๊ฐ„์ด ์งง์€ ์˜ˆ์ธก ๋ฐ ์ถ”๋ก , ์‹ค์‹œ๊ฐ„ ๋งž์ถค์„ค์ •, ์œ„ํ˜‘ ๊ฐ์ง€, ์‚ฌ๊ธฐ ๋ฐฉ์ง€ ๋“ฑ ์‹ค์‹œ๊ฐ„ ์ธํ…”๋ฆฌ์ „์Šค๊ฐ€ ์ค‘์š”ํ•œ ๋‹ค์–‘ํ•œ ์‚ฌ์šฉ ์‚ฌ๋ก€๋ฅผ ๊ตฌํ˜„ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. MLTransform์œผ๋กœ ๋ฐ์ดํ„ฐ ์ „์ฒ˜๋ฆฌ: ๋ณต์žกํ•œ ์ฝ”๋“œ ์ž‘์„ฑ์ด๋‚˜ ๊ธฐ๋ณธ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ ๊ด€๋ฆฌ์—์„œ ๋ฒ—์–ด๋‚˜ ๋ฐ์ดํ„ฐ ๋ณ€ํ™˜์— ์ง‘์ค‘ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. RunInference๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ์ƒ์„ฑํ˜• AI ๋ชจ๋ธ์— ๋Œ€ํ•ด ์˜ˆ์ธก์„ ์ˆ˜ํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.



๋งˆ์ผ€ํŒ… ์ธํ…”๋ฆฌ์ „์Šค

์‹ค์‹œ๊ฐ„ ํ†ต๊ณ„๋กœ ๋งˆ์ผ€ํŒ… ํ˜์‹ 

์‹ค์‹œ๊ฐ„ ๋งˆ์ผ€ํŒ… ์ธํ…”๋ฆฌ์ „์Šค๋Š” ํ˜„์žฌ ์‹œ์žฅ, ๊ณ ๊ฐ, ๊ฒฝ์Ÿ์—…์ฒด ๋ฐ์ดํ„ฐ๋ฅผ ๋ถ„์„ํ•˜์—ฌ ์ •๋ณด์— ์ž…๊ฐํ•œ ์‹ ์†ํ•œ ๊ฒฐ์ •์„ ๋‚ด๋ฆด ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ํŠธ๋ Œ๋“œ, ํ–‰๋™, ๊ฒฝ์Ÿ ํ™œ๋™์— ๋ฏผ์ฒฉํ•˜๊ฒŒ ๋Œ€์‘ํ•˜์—ฌ ๋งˆ์ผ€ํŒ… ํ˜์‹ ์„ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค. ์žฅ์ ์€ ๋‹ค์Œ๊ณผ ๊ฐ™์Šต๋‹ˆ๋‹ค.

  • ๋งž์ถคํ˜• ํ˜œํƒ์„ ํ™œ์šฉํ•œ ์‹ค์‹œ๊ฐ„ ์˜ด๋‹ˆ์ฑ„๋„ ๋งˆ์ผ€ํŒ…
  • ๋งž์ถคํ˜• ์ƒํ˜ธ์ž‘์šฉ์„ ํ†ตํ•ด ๊ณ ๊ฐ ๊ด€๊ณ„ ๊ด€๋ฆฌ ๊ฐœ์„ 
  • ๋ฏผ์ฒฉํ•œ ๋งˆ์ผ€ํŒ… ์กฐํ•ฉ ์ตœ์ ํ™”
  • ๋™์  ์‚ฌ์šฉ์ž ์„ธ๋ถ„ํ™”
  • ํ•œ๋ฐœ ์•ž์„œ๊ฐ€๊ธฐ ์œ„ํ•œ ๊ฒฝ์Ÿ๋ ฅ ์žˆ๋Š” ์ธํ…”๋ฆฌ์ „์Šค
  • ์†Œ์…œ ๋ฏธ๋””์–ด์ƒ์˜ ์‚ฌ์ „ ์˜ˆ๋ฐฉ์  ์œ„๊ธฐ ๊ด€๋ฆฌ
๋งˆ์ผ€ํŒ… ์ธํ…”๋ฆฌ์ „์Šค ์•„ํ‚คํ…์ฒ˜
๋งˆ์ผ€ํŒ… ์ธํ…”๋ฆฌ์ „์Šค ์•„ํ‚คํ…์ฒ˜

์‹ค์‹œ๊ฐ„ ํ†ต๊ณ„๋กœ ๋งˆ์ผ€ํŒ… ํ˜์‹ 

์‹ค์‹œ๊ฐ„ ๋งˆ์ผ€ํŒ… ์ธํ…”๋ฆฌ์ „์Šค๋Š” ํ˜„์žฌ ์‹œ์žฅ, ๊ณ ๊ฐ, ๊ฒฝ์Ÿ์—…์ฒด ๋ฐ์ดํ„ฐ๋ฅผ ๋ถ„์„ํ•˜์—ฌ ์ •๋ณด์— ์ž…๊ฐํ•œ ์‹ ์†ํ•œ ๊ฒฐ์ •์„ ๋‚ด๋ฆด ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ํŠธ๋ Œ๋“œ, ํ–‰๋™, ๊ฒฝ์Ÿ ํ™œ๋™์— ๋ฏผ์ฒฉํ•˜๊ฒŒ ๋Œ€์‘ํ•˜์—ฌ ๋งˆ์ผ€ํŒ… ํ˜์‹ ์„ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค. ์žฅ์ ์€ ๋‹ค์Œ๊ณผ ๊ฐ™์Šต๋‹ˆ๋‹ค.

  • ๋งž์ถคํ˜• ํ˜œํƒ์„ ํ™œ์šฉํ•œ ์‹ค์‹œ๊ฐ„ ์˜ด๋‹ˆ์ฑ„๋„ ๋งˆ์ผ€ํŒ…
  • ๋งž์ถคํ˜• ์ƒํ˜ธ์ž‘์šฉ์„ ํ†ตํ•ด ๊ณ ๊ฐ ๊ด€๊ณ„ ๊ด€๋ฆฌ ๊ฐœ์„ 
  • ๋ฏผ์ฒฉํ•œ ๋งˆ์ผ€ํŒ… ์กฐํ•ฉ ์ตœ์ ํ™”
  • ๋™์  ์‚ฌ์šฉ์ž ์„ธ๋ถ„ํ™”
  • ํ•œ๋ฐœ ์•ž์„œ๊ฐ€๊ธฐ ์œ„ํ•œ ๊ฒฝ์Ÿ๋ ฅ ์žˆ๋Š” ์ธํ…”๋ฆฌ์ „์Šค
  • ์†Œ์…œ ๋ฏธ๋””์–ด์ƒ์˜ ์‚ฌ์ „ ์˜ˆ๋ฐฉ์  ์œ„๊ธฐ ๊ด€๋ฆฌ
๋งˆ์ผ€ํŒ… ์ธํ…”๋ฆฌ์ „์Šค ์•„ํ‚คํ…์ฒ˜
๋งˆ์ผ€ํŒ… ์ธํ…”๋ฆฌ์ „์Šค ์•„ํ‚คํ…์ฒ˜

ํด๋ฆญ ์ŠคํŠธ๋ฆผ ๋ถ„์„

์›น ๋ฐ ์•ฑ ํ™˜๊ฒฝ ์ตœ์ ํ™” ๋ฐ ๋งž์ถค์„ค์ •

์‹ค์‹œ๊ฐ„ ํด๋ฆญ์ŠคํŠธ๋ฆผ ๋ถ„์„์„ ํ†ตํ•ด ๋น„์ฆˆ๋‹ˆ์Šค๋Š” ์›น์‚ฌ์ดํŠธ ๋ฐ ์•ฑ์—์„œ์˜ ์‚ฌ์šฉ์ž ์ƒํ˜ธ์ž‘์šฉ์„ ์ฆ‰์‹œ ๋ถ„์„ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๋ฅผ ํ†ตํ•ด ์‹ค์‹œ๊ฐ„ ๋งž์ถค์„ค์ •, A/B ํ…Œ์ŠคํŠธ, ์œ ์ž…๊ฒฝ๋กœ ์ตœ์ ํ™”๊ฐ€ ๊ฐ€๋Šฅํ•ด์ ธ ์ฐธ์—ฌ๋„ ํ–ฅ์ƒ, ์ œํ’ˆ ๊ฐœ๋ฐœ ์†๋„ ํ–ฅ์ƒ, ์ดํƒˆ๋ฅ  ๊ฐ์†Œ, ์ œํ’ˆ ์ง€์› ํ–ฅ์ƒ์œผ๋กœ ์ด์–ด์งˆ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๊ถ๊ทน์ ์œผ๋กœ๋Š” ๋›ฐ์–ด๋‚œ ์‚ฌ์šฉ์ž ๊ฒฝํ—˜์„ ์ œ๊ณตํ•˜๊ณ  ์œ ๋™์ ์ธ ๊ฐ€๊ฒฉ๊ณผ ๋งž์ถคํ˜• ์ถ”์ฒœ์„ ํ†ตํ•ด ๋น„์ฆˆ๋‹ˆ์Šค ์„ฑ์žฅ์„ ์ด‰์ง„ํ•ฉ๋‹ˆ๋‹ค.

ํด๋ฆญ ์ŠคํŠธ๋ฆผ ๋ถ„์„ ์•„ํ‚คํ…์ฒ˜
ํด๋ฆญ ์ŠคํŠธ๋ฆผ ๋ถ„์„

์›น ๋ฐ ์•ฑ ํ™˜๊ฒฝ ์ตœ์ ํ™” ๋ฐ ๋งž์ถค์„ค์ •

์‹ค์‹œ๊ฐ„ ํด๋ฆญ์ŠคํŠธ๋ฆผ ๋ถ„์„์„ ํ†ตํ•ด ๋น„์ฆˆ๋‹ˆ์Šค๋Š” ์›น์‚ฌ์ดํŠธ ๋ฐ ์•ฑ์—์„œ์˜ ์‚ฌ์šฉ์ž ์ƒํ˜ธ์ž‘์šฉ์„ ์ฆ‰์‹œ ๋ถ„์„ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๋ฅผ ํ†ตํ•ด ์‹ค์‹œ๊ฐ„ ๋งž์ถค์„ค์ •, A/B ํ…Œ์ŠคํŠธ, ์œ ์ž…๊ฒฝ๋กœ ์ตœ์ ํ™”๊ฐ€ ๊ฐ€๋Šฅํ•ด์ ธ ์ฐธ์—ฌ๋„ ํ–ฅ์ƒ, ์ œํ’ˆ ๊ฐœ๋ฐœ ์†๋„ ํ–ฅ์ƒ, ์ดํƒˆ๋ฅ  ๊ฐ์†Œ, ์ œํ’ˆ ์ง€์› ํ–ฅ์ƒ์œผ๋กœ ์ด์–ด์งˆ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๊ถ๊ทน์ ์œผ๋กœ๋Š” ๋›ฐ์–ด๋‚œ ์‚ฌ์šฉ์ž ๊ฒฝํ—˜์„ ์ œ๊ณตํ•˜๊ณ  ์œ ๋™์ ์ธ ๊ฐ€๊ฒฉ๊ณผ ๋งž์ถคํ˜• ์ถ”์ฒœ์„ ํ†ตํ•ด ๋น„์ฆˆ๋‹ˆ์Šค ์„ฑ์žฅ์„ ์ด‰์ง„ํ•ฉ๋‹ˆ๋‹ค.

ํด๋ฆญ ์ŠคํŠธ๋ฆผ ๋ถ„์„ ์•„ํ‚คํ…์ฒ˜
ํด๋ฆญ ์ŠคํŠธ๋ฆผ ๋ถ„์„

์‹ค์‹œ๊ฐ„ ๋กœ๊ทธ ๋ณต์ œ ๋ฐ ๋ถ„์„

์ค‘์•™ ์ง‘์ค‘์‹ ๋กœ๊ทธ ๊ด€๋ฆฌ ๋ฐ ๋ถ„์„

Google Cloud ๋กœ๊ทธ๋Š” Dataflow๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ Splunk์™€ ๊ฐ™์€ ์„œ๋“œ ํŒŒํ‹ฐ ํ”Œ๋žซํผ์— ๋ณต์ œํ•˜์—ฌ ๊ฑฐ์˜ ์‹ค์‹œ๊ฐ„ ๋กœ๊ทธ ์ฒ˜๋ฆฌ ๋ฐ ๋ถ„์„์„ ์ˆ˜ํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ์†”๋ฃจ์…˜์€ ์ค‘์•™ ์ง‘์ค‘์‹ ๋กœ๊ทธ ๊ด€๋ฆฌ, ๊ทœ์ • ์ค€์ˆ˜, ๊ฐ์‚ฌ, ๋ถ„์„ ๊ธฐ๋Šฅ์„ ์ œ๊ณตํ•˜๋Š” ๋™์‹œ์— ๋น„์šฉ์„ ์ ˆ๊ฐํ•˜๊ณ  ์„ฑ๋Šฅ์„ ๊ฐœ์„ ํ•ฉ๋‹ˆ๋‹ค.

๋กœ๊ทธ ๋ณต์ œ ์•„ํ‚คํ…์ฒ˜
๋กœ๊ทธ ๋ถ„์„ ์•„ํ‚คํ…์ฒ˜

์ค‘์•™ ์ง‘์ค‘์‹ ๋กœ๊ทธ ๊ด€๋ฆฌ ๋ฐ ๋ถ„์„

Google Cloud ๋กœ๊ทธ๋Š” Dataflow๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ Splunk์™€ ๊ฐ™์€ ์„œ๋“œ ํŒŒํ‹ฐ ํ”Œ๋žซํผ์— ๋ณต์ œํ•˜์—ฌ ๊ฑฐ์˜ ์‹ค์‹œ๊ฐ„ ๋กœ๊ทธ ์ฒ˜๋ฆฌ ๋ฐ ๋ถ„์„์„ ์ˆ˜ํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ์†”๋ฃจ์…˜์€ ์ค‘์•™ ์ง‘์ค‘์‹ ๋กœ๊ทธ ๊ด€๋ฆฌ, ๊ทœ์ • ์ค€์ˆ˜, ๊ฐ์‚ฌ, ๋ถ„์„ ๊ธฐ๋Šฅ์„ ์ œ๊ณตํ•˜๋Š” ๋™์‹œ์— ๋น„์šฉ์„ ์ ˆ๊ฐํ•˜๊ณ  ์„ฑ๋Šฅ์„ ๊ฐœ์„ ํ•ฉ๋‹ˆ๋‹ค.

๋กœ๊ทธ ๋ณต์ œ ์•„ํ‚คํ…์ฒ˜
๋กœ๊ทธ ๋ถ„์„ ์•„ํ‚คํ…์ฒ˜
์†”๋ฃจ์…˜ ์ƒ์„ฑ
์–ด๋–ค ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜๋ ค๊ณ  ํ•˜์‹œ๋‚˜์š”?
What you'll get:
๋‹จ๊ณ„๋ณ„ ์•ˆ๋‚ด
์ฐธ์กฐ ์•„ํ‚คํ…์ฒ˜
์‚ฌ์šฉ ๊ฐ€๋Šฅํ•œ ์‚ฌ์ „ ๋นŒ๋“œ ์†”๋ฃจ์…˜
์ด ์„œ๋น„์Šค๋Š” Vertex AI๋กœ ๋นŒ๋“œ๋˜์—ˆ์Šต๋‹ˆ๋‹ค. ์ด ์„œ๋น„์Šค๋ฅผ ์‚ฌ์šฉํ•˜๋ ค๋ฉด ๋งŒ 18์„ธ ์ด์ƒ์ด์–ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ๋ฏผ๊ฐํ•œ ์ •๋ณด, ๊ธฐ๋ฐ€ ์ •๋ณด ๋˜๋Š” ๊ฐœ์ธ ์ •๋ณด๋ฅผ ์ž…๋ ฅํ•˜์ง€ ๋งˆ์„ธ์š”.

๊ฐ€๊ฒฉ ์ฑ…์ •

Dataflow ๊ฐ€๊ฒฉ ์ฑ…์ • ๋ฐฉ์‹Dataflow์˜ ์ฒญ๊ตฌ ๋ฐ ๋ฆฌ์†Œ์Šค ๋ชจ๋ธ์„ ์‚ดํŽด๋ด…๋‹ˆ๋‹ค.
์„œ๋น„์Šค ๋ฐ ์‚ฌ์šฉ๋Ÿ‰์„ค๋ช… ๊ฐ€๊ฒฉ ์ฑ…์ •

Dataflow ์ปดํ“จํŒ… ๋ฆฌ์†Œ์Šค

๊ฐ€๊ฒฉ ์ฑ…์ • ํŽ˜์ด์ง€์—์„œ ์ž์„ธํžˆ ์•Œ์•„๋ณด๊ธฐ

๊ธฐํƒ€ Dataflow ๋ฆฌ์†Œ์Šค

๋ชจ๋“  ์ž‘์—…์— ๋Œ€ํ•ด ์š”๊ธˆ์ด ์ฒญ๊ตฌ๋˜๋Š” ๊ธฐํƒ€ Dataflow ๋ฆฌ์†Œ์Šค์—๋Š” Persistent Disk, GPU, ์Šค๋ƒ…์ƒท์ด ํฌํ•จ๋ฉ๋‹ˆ๋‹ค.



๊ฐ€๊ฒฉ ์ฑ…์ • ํŽ˜์ด์ง€์—์„œ ์ž์„ธํžˆ ์•Œ์•„๋ณด๊ธฐ

Dataflow ์•ฝ์ • ์‚ฌ์šฉ ํ• ์ธ(CUD)

Dataflow CUD๋Š” ์•ฝ์ • ๊ธฐ๊ฐ„์— ๋”ฐ๋ผ ๋‘ ๊ฐ€์ง€ ์ˆ˜์ค€์˜ ํ• ์ธ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

  • 1๋…„ CUD๋Š” ์ฃผ๋ฌธํ˜• ์š”์œจ์—์„œ 20% ํ• ์ธ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.
  • 3๋…„ CUD๋Š” ์ฃผ๋ฌธํ˜• ์š”์œจ์—์„œ 40% ํ• ์ธ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

Dataflow CUD ์ž์„ธํžˆ ์•Œ์•„๋ณด๊ธฐ

Dataflow ๊ฐ€๊ฒฉ ์ฑ…์ •์„ ์ž์„ธํžˆ ์•Œ์•„๋ณด์„ธ์š”. ๋ชจ๋“  ๊ฐ€๊ฒฉ ์ฑ…์ • ์„ธ๋ถ€์ •๋ณด ๋ณด๊ธฐ

Dataflow ๊ฐ€๊ฒฉ ์ฑ…์ • ๋ฐฉ์‹

Dataflow์˜ ์ฒญ๊ตฌ ๋ฐ ๋ฆฌ์†Œ์Šค ๋ชจ๋ธ์„ ์‚ดํŽด๋ด…๋‹ˆ๋‹ค.

Dataflow ์ปดํ“จํŒ… ๋ฆฌ์†Œ์Šค

์„ค๋ช…
๊ฐ€๊ฒฉ ์ฑ…์ •

๊ฐ€๊ฒฉ ์ฑ…์ • ํŽ˜์ด์ง€์—์„œ ์ž์„ธํžˆ ์•Œ์•„๋ณด๊ธฐ

๊ธฐํƒ€ Dataflow ๋ฆฌ์†Œ์Šค

์„ค๋ช…

๋ชจ๋“  ์ž‘์—…์— ๋Œ€ํ•ด ์š”๊ธˆ์ด ์ฒญ๊ตฌ๋˜๋Š” ๊ธฐํƒ€ Dataflow ๋ฆฌ์†Œ์Šค์—๋Š” Persistent Disk, GPU, ์Šค๋ƒ…์ƒท์ด ํฌํ•จ๋ฉ๋‹ˆ๋‹ค.



๊ฐ€๊ฒฉ ์ฑ…์ •

๊ฐ€๊ฒฉ ์ฑ…์ • ํŽ˜์ด์ง€์—์„œ ์ž์„ธํžˆ ์•Œ์•„๋ณด๊ธฐ

Dataflow ์•ฝ์ • ์‚ฌ์šฉ ํ• ์ธ(CUD)

์„ค๋ช…

Dataflow CUD๋Š” ์•ฝ์ • ๊ธฐ๊ฐ„์— ๋”ฐ๋ผ ๋‘ ๊ฐ€์ง€ ์ˆ˜์ค€์˜ ํ• ์ธ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

  • 1๋…„ CUD๋Š” ์ฃผ๋ฌธํ˜• ์š”์œจ์—์„œ 20% ํ• ์ธ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.
  • 3๋…„ CUD๋Š” ์ฃผ๋ฌธํ˜• ์š”์œจ์—์„œ 40% ํ• ์ธ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.
๊ฐ€๊ฒฉ ์ฑ…์ •

Dataflow CUD ์ž์„ธํžˆ ์•Œ์•„๋ณด๊ธฐ

Dataflow ๊ฐ€๊ฒฉ ์ฑ…์ •์„ ์ž์„ธํžˆ ์•Œ์•„๋ณด์„ธ์š”. ๋ชจ๋“  ๊ฐ€๊ฒฉ ์ฑ…์ • ์„ธ๋ถ€์ •๋ณด ๋ณด๊ธฐ

๊ฐ€๊ฒฉ ๊ณ„์‚ฐ๊ธฐ

๋ฆฌ์ „๋ณ„ ๊ฐ€๊ฒฉ ๋ฐ ์ˆ˜์ˆ˜๋ฃŒ๋ฅผ ํฌํ•จํ•œ ์›”๋ณ„ Dataflow ๋น„์šฉ์„ ์˜ˆ์ธกํ•ด ๋ณผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์ปค์Šคํ…€ ๊ฒฌ์ 

์˜์—…ํŒ€์— ๋ฌธ์˜ํ•˜์—ฌ ์กฐ์ง์— ๋Œ€ํ•œ ์ปค์Šคํ…€ ๊ฒฌ์ ์„ ๋ฐ›์•„ ๋ณด์„ธ์š”.

๊ฐœ๋… ์ฆ๋ช… ์‹œ์ž‘

์‹ ๊ทœ ๊ณ ๊ฐ์—๊ฒŒ๋Š” Dataflow๋ฅผ ์‚ฌ์šฉํ•ด ๋ณผ ์ˆ˜ ์žˆ๋Š” $300์˜ ํฌ๋ ˆ๋”ง์ด ์ œ๊ณต๋ฉ๋‹ˆ๋‹ค.

๋Œ€๊ทœ๋ชจ ํ”„๋กœ์ ํŠธ๊ฐ€ ์žˆ๋‚˜์š”?

Dataflow ์‚ฌ์šฉ ๋ฐฉ๋ฒ•

์‚ฌ์ „ ๋นŒ๋“œ๋œ Dataflow ํ…œํ”Œ๋ฆฟ

Dataflow ์ฝ”๋“œ ์ƒ˜ํ”Œ ๋‘˜๋Ÿฌ๋ณด๊ธฐ

๋น„์ฆˆ๋‹ˆ์Šค ์‚ฌ๋ก€

์ตœ๊ณ ์˜ ๊ณ ๊ฐ๋“ค์ด Dataflow๋ฅผ ์„ ํƒํ•˜๋Š” ์ด์œ  ์•Œ์•„๋ณด๊ธฐ


๋‚˜๋ฏธํƒ€ ๋น„์ž์ด ์ฟ ๋งˆ๋ฅด, ANZ Bank์˜ Google Cloud SRE ์ œํ’ˆ ์†Œ์œ ์ž

"Dataflow๋Š” ์ผ๊ด„ ์ฒ˜๋ฆฌ์™€ ์‹ค์‹œ๊ฐ„ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ๋ฅผ ๋ชจ๋‘ ์ง€์›ํ•˜๋ฏ€๋กœ ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ๋ฐ์ดํ„ฐ ๋ ˆ์ดํฌ์—์„œ ๋ฐ์ดํ„ฐ์˜ ์ ์‹œ์„ฑ์ด ์œ ์ง€๋ฉ๋‹ˆ๋‹ค. ๊ฒฐ๊ณผ์ ์œผ๋กœ ๋ถ„์„/์˜์‚ฌ๊ฒฐ์ •์˜ ๋ฐ์ดํ„ฐ ๋‹ค์šด์ŠคํŠธ๋ฆผ ์‚ฌ์šฉ๋Ÿ‰ ๋ฐ ์†Œ๋งค์—… ๊ณ ๊ฐ์—๊ฒŒ ์‹ค์‹œ๊ฐ„ ์•Œ๋ฆผ์„ ์ „๋‹ฌํ•˜๋Š” ๋ฐ๋„ ๋„์›€์ด ๋ฉ๋‹ˆ๋‹ค."

Dataflow์˜ ์ด์ 

๊ฐ„ํŽธํ•œ ML ์ŠคํŠธ๋ฆฌ๋ฐ

AI/ML์— ์ŠคํŠธ๋ฆฌ๋ฐ์„ ๋„์ž…ํ•˜๋Š” ํ„ดํ‚ค ๊ธฐ๋Šฅ: ์ถ”๋ก ์„ ์œ„ํ•œ RunInference, ๋ชจ๋ธ ํ•™์Šต ์ „์ฒ˜๋ฆฌ๋ฅผ ์œ„ํ•œ MLTransform, Feature Store ์กฐํšŒ๋ฅผ ์œ„ํ•œ ๋ณด๊ฐ•, ๋™์  GPU ์ง€์› ๋“ฑ ๋ชจ๋‘ ์ œํ•œ๋œ GPU ๋ฆฌ์†Œ์Šค์— ๋Œ€ํ•œ ๋‚ญ๋น„๋˜๋Š” ๋น„์šฉ ์—†์ด ๋ฐ˜๋ณต ์—…๋ฌด๋ฅผ ์ค„์—ฌ์ค๋‹ˆ๋‹ค.

๊ฐ•๋ ฅํ•œ ๋„๊ตฌ๋กœ ์ตœ์ ์˜ ๊ฐ€๊ฒฉ ๋Œ€๋น„ ์„ฑ๋Šฅ ์‹คํ˜„

Dataflow๋Š” ์„ฑ๋Šฅ๊ณผ ๋ฆฌ์†Œ์Šค ์‚ฌ์šฉ์„ ๊ทน๋Œ€ํ™”ํ•  ์ˆ˜ ์žˆ๋„๋ก ์ž๋™ํ™”๋œ ์ตœ์ ํ™”์™€ ํ•จ๊ป˜ ๋น„์šฉ ํšจ์œจ์ ์ธ ์ŠคํŠธ๋ฆฌ๋ฐ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ์‰ฝ๊ฒŒ ํ™•์žฅ๋˜์–ด ๋ชจ๋“  ์›Œํฌ๋กœ๋“œ๋ฅผ ์ฒ˜๋ฆฌํ•˜๋ฉฐ AI ๊ธฐ๋ฐ˜ ์ž๊ฐ€ ๋ณต๊ตฌ ๊ธฐ๋Šฅ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ๊ฐ•๋ ฅํ•œ ๋„๊ตฌ๋Š” ์šด์˜๊ณผ ์ดํ•ด์— ๋„์›€์ด ๋ฉ๋‹ˆ๋‹ค.

๊ฐœ๋ฐฉ์„ฑ, ์ด๋™์„ฑ, ํ™•์žฅ์„ฑ

Dataflow๋Š” ํ†ตํ•ฉ๋œ ์ผ๊ด„ ๋ฐ ์ŠคํŠธ๋ฆฌ๋ฐ ์ง€์›์„ ๊ฐ–์ถ˜ ์˜คํ”ˆ์†Œ์Šค Apache Beam์šฉ์œผ๋กœ ๋นŒ๋“œ๋˜์–ด ํด๋ผ์šฐ๋“œ, ์˜จํ”„๋ ˆ๋ฏธ์Šค ๋˜๋Š” ์—์ง€ ๊ธฐ๊ธฐ ๊ฐ„์— ์›Œํฌ๋กœ๋“œ๋ฅผ ์ด๋™ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. 

ํŒŒํŠธ๋„ˆ ๋ฐ ํ†ตํ•ฉ

  • Confluent ๋กœ๊ณ 
  • Snowplow ๋กœ๊ณ 
  • Talend ๋กœ๊ณ 
  • Trifacta ๋กœ๊ณ 
  • Confluent ๋กœ๊ณ 
  • Snowplow ๋กœ๊ณ 
  • Talend ๋กœ๊ณ 
  • Trifacta ๋กœ๊ณ 

๋ชจ๋“  ๊ทœ๋ชจ์˜ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ ์ž‘์—…์„ ๊ฐ•๋ ฅํ•˜๊ณ  ์‰ฝ๊ณ  ๋น ๋ฅด๊ฒŒ ์ˆ˜ํ–‰ํ•  ์ˆ˜ ์žˆ๋„๋ก Google Cloud ํŒŒํŠธ๋„ˆ๊ฐ€ Dataflow์™€์˜ ํ†ตํ•ฉ ๊ธฐ์ˆ ์„ ๊ฐœ๋ฐœํ–ˆ์Šต๋‹ˆ๋‹ค. ์ง€๊ธˆ ์ŠคํŠธ๋ฆฌ๋ฐ ์—ฌ์ •์„ ์‹œ์ž‘ํ•˜๋ ค๋ฉด ๋ชจ๋“  ํŒŒํŠธ๋„ˆ๋ฅผ ํ™•์ธํ•˜์„ธ์š”.

  • ๋””์ง€ํ„ธ ํ˜์‹  ๊ฐ€์†ํ™”
  • ๋””์ง€ํ„ธ ํ˜์‹ ์„ ์ด์ œ ๋ง‰ ์‹œ์ž‘ํ•œ ๊ธฐ์—…์ด๋“  ์ด๋ฏธ ์ผ์ • ์ˆ˜์ค€์— ๋„๋‹ฌํ•œ ๊ธฐ์—…์ด๋“  Google Cloud๋ฅผ ์‚ฌ์šฉํ•˜๋ฉด ๊ฐ€์žฅ ๊นŒ๋‹ค๋กœ์šด ๋„์ „๊ณผ์ œ๋ฅผ ํ•ด๊ฒฐํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
  • ์ถ”์ฒœ ์ œํ’ˆ
  • ํˆฌ๋ช…ํ•œ ๊ฐ€๊ฒฉ ์ฑ…์ • ๋ฐฉ์‹์œผ๋กœ ๋น„์šฉ ์ ˆ๊ฐ
  • Google Cloud๋Š” ์‚ฌ์šฉํ•œ ๋งŒํผ๋งŒ ์ง€๋ถˆํ•˜๋Š” ๊ฐ€๊ฒฉ ์ฑ…์ • ๋ฐฉ์‹์œผ๋กœ ์›”๋ณ„ ์‚ฌ์šฉ๋Ÿ‰๊ณผ ์„ ๋ถˆ ๋ฆฌ์†Œ์Šค์˜ ํ• ์ธ์œจ์„ ๊ธฐ์ค€์œผ๋กœ ์ž๋™ ํ• ์ธ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ์ง€๊ธˆ Google์— ๋ฌธ์˜ํ•˜์—ฌ ๊ฒฌ์ ์„ ๋ฐ›์•„๋ณด์„ธ์š”.
Google Cloud