Kafka ๋ชจ์ž„ ์ž๋ฃŒ: CDC ์ปค๋„ฅํ„ฐ, ์„ฑ์žฅ ๋ฌธ์ œ, Kubernetes

์•ˆ๋…•ํ•˜์„ธ์š”! ์ตœ๊ทผ ์šฐ๋ฆฌ ์‚ฌ๋ฌด์‹ค์—์„œ Kafka์— ๊ด€ํ•œ ํšŒ์˜๊ฐ€ ์—ด๋ ธ์Šต๋‹ˆ๋‹ค. ๋ˆˆ์•ž์˜ ์žฅ์†Œ๋Š” ๋น›์˜ ์†๋„๋กœ ํฉ์–ด์กŒ๋‹ค. ์—ฐ์‚ฌ ์ค‘ ํ•œ ๋ช…์€ "์นดํ”„์นด๋Š” ์„น์‹œํ•˜๋‹ค"๊ณ  ๋งํ–ˆ์Šต๋‹ˆ๋‹ค.

Booking.com, Confluent ๋ฐ Avito์˜ ๋™๋ฃŒ๋“ค๊ณผ ํ•จ๊ป˜ Kafka์˜ ๋•Œ๋กœ๋Š” ์–ด๋ ค์šด ํ†ตํ•ฉ ๋ฐ ์ง€์›, Kafka์™€ Kubernetes์™€์˜ ๊ต์ฐจ ๊ฒฐ๊ณผ, ์ž˜ ์•Œ๋ ค์ ธ ์žˆ๊ณ  ๊ฐœ์ธ์ ์œผ๋กœ ์ž‘์„ฑ๋œ PostgreSQL์šฉ ์ปค๋„ฅํ„ฐ์— ๋Œ€ํ•ด ๋…ผ์˜ํ–ˆ์Šต๋‹ˆ๋‹ค.

์šฐ๋ฆฌ๋Š” ๋น„๋””์˜ค ๋ณด๊ณ ์„œ๋ฅผ ํŽธ์ง‘ํ•˜๊ณ , ์—ฐ์‚ฌ๋กœ๋ถ€ํ„ฐ ํ”„๋ ˆ์  ํ…Œ์ด์…˜์„ ์ˆ˜์ง‘ํ•˜๊ณ , ๋ชจ์ž„์—์„œ ์•„๋ฆ„๋‹ค์šด ์‚ฌ์ง„์„ ์„ ํƒํ–ˆ์Šต๋‹ˆ๋‹ค. ๋ณด๊ณ  ๋“ฃ๋Š” ๋ฐ ๊ด€์‹ฌ์ด ์žˆ๋‹ค๋ฉด ๊ณ ์–‘์ด์—๊ฒŒ ๊ฐ€๋ณด์„ธ์š”.

Kafka ๋ชจ์ž„ ์ž๋ฃŒ: CDC ์ปค๋„ฅํ„ฐ, ์„ฑ์žฅ ๋ฌธ์ œ, Kubernetes

๋ณด๊ณ ์„œ์˜ ๋น„๋””์˜ค ๋…นํ™”

์ปค๋„ฅํ„ฐ: ์™œ ๊ทธ๋ ‡๊ฒŒ ๋งŽ์€๊ฐ€์š”? - Anatoly Soldatov, Avito

Anatoly๋Š” ์ปค๋„ฅํ„ฐ๊ฐ€ ๋ฌด์—‡์ธ์ง€, JDBC์™€ Debezium์˜ ์žฅ์ ๊ณผ ๋‹จ์ , Avito์—์„œ ์–ด๋–ป๊ฒŒ ์ž์ฒด CDC ์ปค๋„ฅํ„ฐ๋ฅผ ์ž‘์„ฑํ•˜๋ ค๋Š” ์•„์ด๋””์–ด๋ฅผ ์ƒ๊ฐํ•ด ๋ƒˆ๋Š”์ง€ ์„ค๋ช…ํ–ˆ์Šต๋‹ˆ๋‹ค.

00:00 โ€” ์—ฐ์‚ฌ ์†Œ๊ฐœ
04:09 โ€” Kafka Connect๋ž€ ๋ฌด์—‡์ด๋ฉฐ, ์–ด๋–ค ์ปค๋„ฅํ„ฐ๊ฐ€ ์กด์žฌํ•ฉ๋‹ˆ๊นŒ?
18:10 โ€” Connect๋Š” ๋ณดํ†ต ์–ด๋–ค ์šฉ๋„๋กœ ์‚ฌ์šฉ๋˜๋‚˜์š”?
23:47 โ€” ์ฒซ ๋ฒˆ์งธ Avito ์‚ฌ๋ก€: ๋ฐ์ดํ„ฐ ๋ฒ„์Šค
28:20 โ€” ๋‘ ๋ฒˆ์งธ Avito ์‚ฌ๋ก€: ์ž์ฒด CDC ์ปค๋„ฅํ„ฐ๋ฅผ ๋งŒ๋“  ๋ฐฉ๋ฒ•
41:28 โ€” ์ฒญ์ทจ์ž์˜ ์งˆ๋ฌธ์— ๋Œ€ํ•œ ๋‹ต๋ณ€

โ†’ ์•„๋‚˜ํ†จ๋ฆฌ์˜ ํ”„๋ ˆ์  ํ…Œ์ด์…˜

์•„ํŒŒ์น˜ ์นดํ”„์นด๋ฅผ ๊ธธ๋“ค์ด๋Š” ๋ฐฉ๋ฒ•? Booking.com ๊ฒฝํ—˜ - Alexander Mironov, Booking.com

Alexander๋Š” Kafka์™€ ํ•จ๊ป˜ ์ž‘์—…ํ•˜๋ฉด์„œ ํŒ€์ด ๋ˆ„๊ตฌ์—๊ฒŒ, ์–ด๋–ค ์–ด๋ ค์›€์„ ๊ฒช์—ˆ๋Š”์ง€, ๊ทธ๋ฆฌ๊ณ  ์ด๋ฅผ ์–ด๋–ป๊ฒŒ ํ•ด๊ฒฐํ–ˆ๋Š”์ง€์— ๋Œ€ํ•œ ์ด์•ผ๊ธฐ๋ฅผ ๊ณต์œ ํ–ˆ์Šต๋‹ˆ๋‹ค.

00:00 โ€” ์—ฐ์‚ฌ ์†Œ๊ฐœ
06:22 โ€” Kafka ์‚ฌ์šฉ ์‚ฌ๋ก€๊ฐ€ ๋Š˜์–ด๋‚˜๋ฉด์„œ ์–ด๋–ค ๋ฌธ์ œ๊ฐ€ ๋ฐœ์ƒํ–ˆ๋‚˜์š”?
08:58 โ€” ์‚ฌ์šฉ์ž๋ฅผ ์œ„ํ•œ ์ถ”์ƒํ™” ์ƒ์„ฑ
14:15 โ€” ํด๋Ÿฌ์Šคํ„ฐ ์ธ์ฆ ๋ฐ ๋ณด์•ˆ
23:53 โ€” ๋ชจ๋“  ๊ฒƒ์„ ์—ฐ๊ฒฐํ•˜๋Š” ์ œ์–ด ํ‰๋ฉด
27:41 โ€” ์žฌ๋ฏธ ์žˆ๊ณ  ์‹ค์šฉ์ ์ด์ง€ ์•Š์€ ์ด์•ผ๊ธฐ
34:00 โ€” ์ฒญ์ทจ์ž์˜ ์งˆ๋ฌธ์— ๋Œ€ํ•œ ๋‹ต๋ณ€

โ†’ ์•Œ๋ ‰์‚ฐ๋”์˜ ํ”„๋ ˆ์  ํ…Œ์ด์…˜

Kubernetes์˜ Kafka: Juan์€ ์†œ๋ธŒ๋ ˆ๋กœ์ธ๊ฐ€์š”? โ€” Victor Gamov, Confluent

Victor๋Š” Kubernetes์—์„œ Apache Kafka ๋ฐ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ์ฒ˜๋ฆฌ ์Šค๋ ˆ๋“œ๋ฅผ ์‹คํ–‰ํ•  ๊ฐ€์น˜๊ฐ€ ์žˆ๋Š”์ง€์— ๋Œ€ํ•œ ์งˆ๋ฌธ์— ๋‹ตํ–ˆ์Šต๋‹ˆ๋‹ค.

00:00 โ€” ์—ฐ์‚ฌ ์†Œ๊ฐœ
05:19 โ€” Kubernetes์—์„œ ์ƒํƒœ ์ €์žฅ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์„ ์‹คํ–‰ํ•˜๋Š” ๋ฐ ๋ฌธ์ œ๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค.
17:52 - ์ฟ ๋ฒ„๋„คํ‹ฐ์Šค ํฌ๋“œ
22:33 โ€” ์Šคํ† ๋ฆฌ์ง€ ์ž‘์—…
28:24 - ๋งž์ถคํ˜• Kubernetes ์ปจํŠธ๋กค๋Ÿฌ
48:58 โ€” ๋กค๋ง ์—…๊ทธ๋ ˆ์ด๋“œ
58:05 โ€” ์ฒญ์ทจ์ž์˜ ์งˆ๋ฌธ์— ๋Œ€ํ•œ ๋‹ต๋ณ€

โ†’ ๋น…ํ„ฐ์˜ ํ”„๋ ˆ์  ํ…Œ์ด์…˜

๋ชจ๋“  ๋™์˜์ƒ์ด ํฌํ•จ๋œ ์žฌ์ƒ๋ชฉ๋ก์„ ์ฐพ์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์šฐ๋ฆฌ ์œ ํŠœ๋ธŒ ์ฑ„๋„์—์„œ.

์‚ฌ์ง„

๋ชจ์ž„ ์‚ฌ์ง„์„ ์˜ฌ๋ ธ์Šต๋‹ˆ๋‹ค ํŽ˜์ด์Šค ๋ถ์—์„œ ะธ ะ’ะšะพะฝั‚ะฐะบั‚ะต. ์ง„ํ–‰ ์ƒํ™ฉ์„ ํ™•์ธํ•˜๊ณ  ํšŒ์˜์— ์ฐธ์„ํ–ˆ๋‹ค๋ฉด ์ž์‹ ๊ณผ ์นœ๊ตฌ๋ฅผ ํƒœ๊ทธํ•˜์„ธ์š”.

Kafka ๋ชจ์ž„ ์ž๋ฃŒ: CDC ์ปค๋„ฅํ„ฐ, ์„ฑ์žฅ ๋ฌธ์ œ, Kubernetes

์šฐ๋ฆฌ๋Š” Avito ๋ชจ์Šคํฌ๋ฐ” ์‚ฌ๋ฌด์†Œ์—์„œ ์—ด๋ฆฌ๋Š” ์ƒˆ๋กœ์šด ์ด๋ฒคํŠธ์— ๋Œ€ํ•œ ๊ณต์ง€๋ฅผ ๊ฐ€์ง€๊ณ  ๊ณง ๋‹ค์‹œ ๋Œ์•„์˜ค๊ฒ ์Šต๋‹ˆ๋‹ค. ๋˜ ๋ณด์ž!

์ถœ์ฒ˜ : habr.com

์ฝ”๋ฉ˜ํŠธ๋ฅผ ์ถ”๊ฐ€