Slurm-3์˜ ๊ฒฐ๊ณผ

Slurm-3: Kubernetes ์ง‘์ค‘ ๊ต์œก์ด ์ผ์š”์ผ์— ์ข…๋ฃŒ๋˜์—ˆ์Šต๋‹ˆ๋‹ค.

์šฐ๋ฆฌ๋Š” ๊ฐœ์ธ ๊ธฐ๋ก์„ ์„ธ์› ์Šต๋‹ˆ๋‹ค: ์ฐธ๊ฐ€์ž 132๋ช…, ์˜จ๋ผ์ธ 65๋ช…, ํ™€ 67๋ช….
์ฒซ ๋ฒˆ์งธ Slurm์—๋Š” 50๋ช…, ๋‘ ๋ฒˆ์งธ Slurm์—๋Š” 87๋ช…์ด ์žˆ์—ˆ์Šต๋‹ˆ๋‹ค. ์šฐ๋ฆฌ๋Š” ์กฐ๊ธˆ์”ฉ ์„ฑ์žฅํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.

Slurm-3์˜ ๊ฒฐ๊ณผ

126๋ช…์ด ํด๋Ÿฌ์Šคํ„ฐ(์ฒซ๋‚  ๊ณผ์ œ)๋ฅผ ๋งŒ๋“ค์—ˆ๊ณ , 115๋ช…์ด ๋๊นŒ์ง€ ์—ฐ์Šต์„ ๋งˆ์ณค๋‹ค.
6๋ช…์€ ๊ด€ํ–‰์„ ์™„์ „ํžˆ ๋ฌด์‹œํ–ˆ์Šต๋‹ˆ๋‹ค. ๊ฐ•์˜๋งŒ ํ•„์š”ํ•˜๋‹ค๊ณ  ๊ฐ€์ •ํ•ด ๋ด…์‹œ๋‹ค.

์ด๋ฒˆ์˜ ์ฃผ์š” ๋ฒ„๊ทธ๋Š” ๋ฐฉ์†ก๊ณผ ๊ด€๋ จ๋œ ๊ฒƒ์ด์—ˆ์Šต๋‹ˆ๋‹ค. ๋•Œ๋กœ๋Š” ์Šคํ”ผ์ปค์˜ ๋งˆ์ดํฌ๊ฐ€ ๋Š์–ด์ง€๊ณ  ๋•Œ๋กœ๋Š” ์Œ์•…์„ ๋„๋Š” ๊ฒƒ์„ ์žŠ์—ˆ์Šต๋‹ˆ๋‹ค. ์ „๋ฌธ๊ฐ€๊ฐ€ ์ •๋ฆฌํ•ด์ค€๋‹ค๋Š” ์ง‘๋‹จ๋†์žฅ ๋ฐฉ์‹์—์„œ ๊ทœ์ œ๋กœ ์ „ํ™˜ํ•ด์•ผ ํ•  ๋•Œ๋‹ค.

Git๊ณผ ๊ด€๋ จ๋œ ๋‘ ๊ฐ€์ง€ ๋ฌธ์ œ๊ฐ€ ๋” ์žˆ์—ˆ์Šต๋‹ˆ๋‹ค. ๋จผ์ € ์ฐธ๊ฐ€์ž๋“ค์€ ๊ทธ๊ณณ์—์„œ ๊ณผ์ œ ์ž๋ฃŒ๋ฅผ ์ฐพ์•„ ๊ธฐ๊ด€์ฐจ ์•ž์—์„œ ์„œ๋‘˜๋Ÿฌ ์™„์„ฑํ–ˆ๋‹ค. ๊ฒฐ๊ณผ์ ์œผ๋กœ ์šฐ๋ฆฌ๋Š” ์—ฐ์Šต์„ ํ•˜๊ฒŒ ๋˜๋Š”๋ฐ, ๊ฑฐ๊ธฐ ์žˆ๋Š” ์‚ฌ๋žŒ์—๊ฒŒ๋Š” ์ด๋ฏธ ๋ชจ๋“  ๊ฒƒ์ด ๋ง๊ฐ€์ ธ ์žˆ์Šต๋‹ˆ๋‹ค. ๋‹ค์Œ์—๋Š” ํ•„์š”์— ๋”ฐ๋ผ ์ž๋ฃŒ๋ฅผ ํ‘ธ์‹œํ•˜๊ฒ ์Šต๋‹ˆ๋‹ค.

์šฐ๋ฆฌ๋Š” ๋˜ํ•œ ๋ช…๋ น์ด ํฌํ•จ๋œ ํŒŒ์ผ์„ ๋งŒ๋“ค์—ˆ์Šต๋‹ˆ๋‹ค. ์ง€๋‚œ๋ฒˆ์— ์‚ฌ๋žŒ๋“ค์ด ํ˜•์‹ ์ง€์ • ๊ธฐํ˜ธ์™€ ํ•จ๊ป˜ pdf์—์„œ ๋ช…๋ น์„ ๋ณต์‚ฌํ–ˆ์ง€๋งŒ ์•„๋ฌด๋Ÿฐ ํšจ๊ณผ๊ฐ€ ์—†์—ˆ๊ธฐ ๋•Œ๋ฌธ์ž…๋‹ˆ๋‹ค. ์ด๋Ÿฌํ•œ ํŒŒ์ผ์„ ๋ฐœ๊ฒฌํ•œ ์ผ๋ถ€ ์‚ฌ๋žŒ๋“ค์€ ์ด๋ฅผ ์ฝ˜์†”์— ๋ณต์‚ฌํ•˜๊ธฐ ์œ„ํ•ด ์œ ์พŒํ•˜๊ฒŒ ๋‹ฌ๋ ค๊ฐ”๊ณ , ๊ทธ๋Ÿฐ ๋‹ค์Œ ๊ด€ํ–‰์ด ๋ณต์‚ฌํ•˜์—ฌ ๋ถ™์—ฌ๋„ฃ๊ธฐ๋กœ ์ถ•์†Œ๋˜์—ˆ๋‹ค๊ณ  ๋ถˆํ‰ํ–ˆ์Šต๋‹ˆ๋‹ค. ์—ฐ์Šต์€ ์ž‘์—… ์™„๋ฃŒ๋กœ ์š”์•ฝ๋ฉ๋‹ˆ๋‹ค. ๊ตฌ์„ฑ๊ณผ ๋ช…๋ น์€ ์ˆ˜๋™์œผ๋กœ ์ž‘์„ฑํ•ด์•ผ ํ•˜๋ฉฐ ๋ˆ„๊ตฌ๋„ ๋ณต์‚ฌํ•˜์—ฌ ๋ถ™์—ฌ๋„ฃ๋„๋ก ๊ฐ•์š”ํ•˜์ง€ ์•Š์•˜์Šต๋‹ˆ๋‹ค.

Slurm-3์˜ ๊ฒฐ๊ณผ

46๋ช…์ด ํ”ผ๋“œ๋ฐฑ์„ ์ฃผ์…จ์Šต๋‹ˆ๋‹ค. ์ด๊ฒƒ์ด ๊ด€๊ฐ์˜ ๋Œ€ํ‘œ ๋‹จ๋ฉด์ด๋ผ๊ณ  ๊ฐ€์ •ํ•˜๊ฒ ์Šต๋‹ˆ๋‹ค.

Slurm์˜ ๊ฐ•๋„๋Š” ์–ด๋–ป์Šต๋‹ˆ๊นŒ?

33 : ๋ฐ”๋กœ.
10 : ๋„ˆ๋ฌด ๋‹จ์ˆœํ•˜๊ณ  ๋Š๋ฆฝ๋‹ˆ๋‹ค. ๋” ๋งŽ์€ ์ž๋ฃŒ๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.
3: ๋„ˆ๋ฌด ๋น ๋ฅด๊ณ  ๋ณต์žกํ•ด์„œ ์ž๋ฃŒ๊ฐ€ ๋œ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.

์šฐ๋ฆฌ๋Š” ์ผ๋ฐ˜์ ์œผ๋กœ ๋ช…์‹œ๋œ ์ฒญ์ค‘, ์ฆ‰ Kubernetes์— ์ต์ˆ™ํ•ด์ง€๊ณ  ์žˆ๋Š” ์‚ฌ๋žŒ๋“ค์— ์†ํ•ฉ๋‹ˆ๋‹ค.
์ผ๋ฐ˜ Slurm์ด ๋„ˆ๋ฌด ๋‹จ์ˆœํ•˜๋‹ค๊ณ  ์ƒ๊ฐํ•˜๋Š” ๋ถ„๋“ค์„ ์œ„ํ•ด MegaSlurm์ด 15์›” ์ดˆ์— ์—ด๋ฆด ์˜ˆ์ •์ž…๋‹ˆ๋‹ค. ์šฐ๋ฆฌ๋Š” ๊ธฐ๋ณธ Slurm์˜ ๋ชจ๋“  ์ฐธ๊ฐ€์ž์—๊ฒŒ 3์˜ ํ• ์ธ์„ ์ œ๊ณตํ•˜๋ฉฐ Slurm-XNUMX๋Š” ์ตœ์†Œํ•œ ์ž์ฒด ๋น„์šฉ์„ ์ง€๋ถˆํ•ฉ๋‹ˆ๋‹ค.

Kubernetes๊ฐ€ ๋ช…ํ™•ํ•ด์กŒ๋‚˜์š”?

16 : ๋‚˜๋Š” ์ด์ „์— k8์„ ์•Œ๊ณ  ์žˆ์—ˆ์ง€๋งŒ ์ง€๊ธˆ์€ ๋” ์ž˜ ์•Œ๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.
13 : ์˜ˆ์ „์—๋Š” k8์„ ๋ชฐ๋ž๋Š”๋ฐ ์ด์ œ ์•Œ์•˜์–ด์š”.
15 : ์•„์ง k8์„ ์ดํ•ดํ•˜์ง€ ๋ชปํ•˜์ง€๋งŒ ์–ด๋””๋ฅผ ํŒŒ์•ผํ• ์ง€ ์•Œ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
2: ๋‚˜๋Š” ์ƒˆ๋กœ์šด ๊ฒƒ์„ ๋ฐฐ์šฐ์ง€ ๋ชปํ–ˆ์Šต๋‹ˆ๋‹ค.
0: ๋‚˜๋Š” k8์— ๋Œ€ํ•ด ์•„๋ฌด๊ฒƒ๋„ ์ดํ•ดํ•˜์ง€ ๋ชปํ–ˆ์Šต๋‹ˆ๋‹ค.

์ƒ๊ฐ๋ณด๋‹ค ์ƒํ™ฉ์ด ํ›จ์”ฌ ์ข‹๋„ค์š”. ์ ์–ด๋„ ์ ˆ๋ฐ˜์€ โ€œk8์„ ์•„์ง ์ดํ•ดํ•˜์ง€ ๋ชปํ–ˆ๋Š”๋ฐ ์–ด๋””๋ฅผ ํŒŒ์•ผ ํ• ์ง€ ์•Œ๊ฒ ๋‹คโ€๊ณ  ๋Œ€๋‹ตํ•  ๊ฒƒ์ด๊ณ , โ€œk8์„ ๋ชฐ๋ž๋Š”๋ฐ ์ด์ œ ์•Œ๊ฒ ๋‹คโ€๋Š” ์‚ฌ๋žŒ์€ ๊ฑฐ์˜ ์—†์„ ๊ฒƒ์ด๋ผ๊ณ  ์ƒ๊ฐํ–ˆ์Šต๋‹ˆ๋‹ค.

Slurm-3์˜ ๊ฒฐ๊ณผ

๋‹ค์Œ์—๋Š” ์ƒํ™ฉ์ด ํฅ๋ฏธ๋กœ์›Œ์ง‘๋‹ˆ๋‹ค. 6๋ช…์€ Slurm์— ๋“ค์–ด๊ฐ€๋ ค๊ณ  ํ–ˆ๋˜ ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜์ง€ ๋ชปํ–ˆ์Šต๋‹ˆ๋‹ค. ๊ทธ ์ค‘ 4๊ฐœ์—๋Š” ํŠน์ • ์š”๊ตฌ ์‚ฌํ•ญ์ด ์žˆ์—ˆ์œผ๋ฉฐ MegaSlurm ํ”„๋กœ๊ทธ๋žจ์„ ๊ฐœ๋ฐœํ•  ๋•Œ ์ด๋ฅผ ๊ณ ๋ คํ–ˆ์Šต๋‹ˆ๋‹ค. ์ตœ์†Œํ•œ์˜ ํŽธ์ง‘์œผ๋กœ ์ „์ฒด ๋ฆฌ๋ทฐ ๋‘ ๊ฐœ๋ฅผ ์ œ๊ณตํ•˜๊ฒ ์Šต๋‹ˆ๋‹ค.

๋ฌผ์„ ๋งŽ์ด ์‚ฌ์šฉํ•œ ๋‹จ์กฐ๋กœ์šด ๋‚ด๋ ˆ์ด์…˜
์ „๋ฌธ ์šฉ์–ด๊ฐ€ ๋งŽ์ด ์‚ฌ์šฉ๋œ ๋ฌธ๋งนํ•œ ์—ฐ์„ค
3์ฐจ ์„ธ๋ถ€ ์‚ฌํ•ญ์— ์—„์ฒญ๋‚œ ์‹œ๊ฐ„์ด ์†Œ์š”๋ฉ๋‹ˆ๋‹ค(๊ตฌ์„ฑ์—์„œ ์ˆซ์ž๋ฅผ ๋ณ€๊ฒฝํ•˜๋Š” ๋ฐ 30๋ถ„? ์ง‘์ค‘์ ์ž…๋‹ˆ๋‹ค, ์˜ˆ).
ํ”„๋ ˆ์  ํ…Œ์ด์…˜์˜ ๋ถ€์ ํ•ฉ์„ฑ
์„ธํ”„๋Š” ํ•„์š”ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค
๋ชฉ๋ฐœ ์ œ์ž‘์ž์˜ ์ ‘๊ทผ ๋ฐฉ์‹์€ ๋ชจ๋“  ๊ฒƒ์—์„œ ๋ณผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค

์ด ์Šฌ๋Ÿผ์€ ์ดˆ๋ณด์ž๋‚˜ ์ˆ™๋ จ์ž๋ฅผ ์œ„ํ•œ ๊ฒƒ์ด ์•„๋‹™๋‹ˆ๋‹ค.
๋‚˜๋Š” ์†๋„๊ฐ€ ๋Š๋ฆฌ๊ณ  ์ •๋ณด๊ฐ€ ๋ถ€์กฑํ•˜์—ฌ ์งœ์ฆ์„ ๋ƒˆ์Šต๋‹ˆ๋‹ค.

  1. ์–ด๋–ค ์ด์œ ์—์„œ์ธ์ง€ ๋ฐœํ‘œ์ž๋“ค์€ ์„ธ๋ถ€ ์‚ฌํ•ญ๊ณผ ๋ณ€์ˆ˜์— ์ง‘์ค‘ํ–ˆ์Šต๋‹ˆ๋‹ค(์™œ ํ•„์š”ํ•œ์ง€ ๋ชจํ˜ธํ•˜๊ฒŒ ์„ค๋ช…ํ–ˆ์Šต๋‹ˆ๋‹ค).
  2. ๊ทธ๋“ค์€ ์‹ ์†ํ•˜๊ฒŒ ์—ฐ์Šต์„ ์ง„ํ–‰ํ–ˆ์Šต๋‹ˆ๋‹ค. "์—ฌ๊ธฐ ์žˆ์Šต๋‹ˆ๋‹ค... ํ™‰-ํ™‰-ํ™‰ ๊ทธ๋ฆฌ๊ณ  ๊ทธ๊ฒŒ ์ž‘๋™ํ•˜๋Š” ๋ฐฉ์‹์ž…๋‹ˆ๋‹ค."
  3. ์ด๋ก ์ ์œผ๋กœ๋Š” Pavel๋งŒ์ด ์งˆ๋ฌธ์ด ๊ฐ€์žฅ ์ ๊ณ  ๋‹ค๋ฅธ ๋ฐœํ‘œ์ž๋“ค์€ ์งˆ๋ฌธ์ด ๋„ˆ๋ฌด ์ง€๋ฃจํ•˜๊ณ  ํฅ๋ฏธ๋กญ์ง€ ์•Š์€๋ฐ ๋นจ๋ฆฌ ๋๋‚ด๊ธฐ๋ฅผ ๋ฐ”๋ž๋‹ˆ๋‹ค. ์•„์ง ๋ช…ํ™•ํ•œ ๊ฒƒ์€ ์—†์Šต๋‹ˆ๋‹ค.
    ๊ฐ€๋”์€ ์ด๋ ‡๊ฒŒ ํ•˜๊ณ  ์‹ถ์–ด์š”: ๋ญ??? ๋ฐฉ๊ธˆ ๊ทธ๊ฑฐ ๋ญ์˜€์ง€??? ์ด๊ฒŒ ๋‹ค ์™œ?? >์™œ ์„ค๋ช…๋„ ์—†์ด ๋‹ฌ๋ ค๊ฐ€์‹œ๋‚˜์š”??? ์ผ๋ถ€์—๊ฒŒ๋Š” ์ž‘๋™ํ•˜์ง€ ์•Š์ง€๋งŒ ๋ฐœํ‘œ์ž๋Š” ๊ณ„์† ์ง„ํ–‰๋ฉ๋‹ˆ๋‹ค... ์ž ๊น!!!
    ๊ฒฐ๊ตญ ์ผ์–ด๋‚˜์„œ ๋– ๋‚˜๊ณ  ์‹ถ์ง€๋งŒ 25 tr. ๊ทธ๋“ค์€ ๋‹น์‹ ์„ ๋’ค๋กœ ์•‰ํ˜€์ค๋‹ˆ๋‹ค.

๋‚˜๋Š” ์ด ์ฐธ๊ฐ€์ž๋“ค์ด ์ฒซ๋‚  ๋‚˜์—๊ฒŒ ํŽธ์ง€๋ฅผ ๋ณด๋‚ด์ง€ ์•Š์•˜๋‹ค๋Š” ์‚ฌ์‹ค์— ์†์ƒํ–ˆ์Šต๋‹ˆ๋‹ค. ๋‘ ๋ฒˆ์งธ Slurm์— ๋ถˆ๋งŒ์กฑ์Šค๋Ÿฌ์šด ์‚ฌ๋žŒ์ด ์žˆ์—ˆ๋Š”๋ฐ, ๊ทธ ์‚ฌ๋žŒ์ด ์ €์—๊ฒŒ ์ „ํ™”ํ•ด์„œ ํ™˜๋ถˆ์„ ์š”์ฒญํ–ˆ๊ณ  ์šฐ๋ฆฌ๋Š” ์ฆ‰์‹œ ๊ทธ ์‚ฌ๋žŒ์˜ ์•ก์„ธ์Šค๋ฅผ ๋น„ํ™œ์„ฑํ™”ํ•˜๊ณ  ๋ˆ์„ ๋Œ๋ ค์ฃผ์—ˆ์Šต๋‹ˆ๋‹ค.

๋‹ค์Œ ์Šฌ๋Ÿผ์—์„œ๋Š” ์Šฌ๋Ÿผ์„ ์ข‹์•„ํ•˜์ง€ ์•Š์œผ์…จ๋˜ ๋ถ„๋“ค์—๊ฒŒ ํ”ผํ•ด๊ฐ€ ๊ฐ€์ง€ ์•Š๋„๋ก ๋ฐ˜ํ’ˆ ์ •์ฑ…์„ ๋งˆ๋ จํ•˜๊ฒ ์Šต๋‹ˆ๋‹ค.

๊ทธ๋Ÿฌ๋‚˜ ์ „์ฒด์ ์œผ๋กœ ์‘๋‹ต์ž 2๋ช…(์ฐธ๊ฐ€์ž 46๋ช…)๋‹น ๋ถ€์ •์ ์ธ ๋ฆฌ๋ทฐ๊ฐ€ 132๊ฐœ ์žˆ๋Š” ๊ฒƒ์ด ์ด์ƒ์ ์— ๊ฐ€๊น์Šต๋‹ˆ๋‹ค.

Slurm-3์˜ ๊ฒฐ๊ณผ

๋งˆ์ง€๋ง‰์œผ๋กœ. Slurm-1์˜ ํ•œ ํšŒ์›์€ ์ตœ๊ทผ ๋‚˜์—๊ฒŒ ์ž์‹ ์ด ์—ฌ์ „ํžˆ ๋…น์Œ์„ ๊ฒ€ํ† ํ•˜๊ณ  ์žˆ์œผ๋ฉฐ ๊ทธ ์•ˆ์—์„œ ์ƒˆ๋กœ์šด ๊ฒƒ์„ ์ฐพ๊ณ  ์žˆ๋‹ค๊ณ  ํŽธ์ง€๋ฅผ ๋ณด๋ƒˆ์Šต๋‹ˆ๋‹ค. ๋”ฐ๋ผ์„œ Slurm์„ ์กธ์—…ํ•œ๋‹ค๊ณ  ํ•ด์„œ ์กธ์—…์„ ์˜๋ฏธํ•˜๋Š” ๊ฒƒ์€ ์•„๋‹™๋‹ˆ๋‹ค.

Slurm์— ์™€์ฃผ์‹  ๋ชจ๋“  ๋ถ„๋“ค๊ป˜ ๊ฐ์‚ฌ๋“œ๋ฆฝ๋‹ˆ๋‹ค!

์•ˆํ†ค ์Šค์ฝ”๋นˆ

์ถœ์ฒ˜ : habr.com

์ฝ”๋ฉ˜ํŠธ๋ฅผ ์ถ”๊ฐ€