kubectl exec เช•เซ‡เชตเซ€ เชฐเซ€เชคเซ‡ เช•เชพเชฎ เช•เชฐเซ‡ เช›เซ‡?

เชจเซ‰เซ…เชง. เช…เชจเซเชตเชพเชฆ: เชฒเซ‡เช–เชจเชพ เชฒเซ‡เช–เช• - เชเชฐเซเช•เชจ เชเชฐเซ‹เชฒ, เชเชธเชเชชเซ€เชจเชพ เชเชจเซเชœเชฟเชจเชฟเชฏเชฐ - เชŸเซ€เชฎเชจเซ€ เช•เชพเชฎเช—เซ€เชฐเซ€เชจเซ€ เชชเชฆเซเชงเชคเชฟเช“เชจเซ‹ เชคเซ‡เชฎเชจเซ‹ เช…เชญเซเชฏเชพเชธ เชถเซ‡เชฐ เช•เชฐเซ‡ เช›เซ‡ kubectl exec, เช•เซเชฌเชฐเชจเซ‡เชŸเซเชธ เชธเชพเชฅเซ‡ เช•เชพเชฎ เช•เชฐเชคเชพ เชฆเชฐเซ‡เช• เชฎเชพเชŸเซ‡ เช–เซ‚เชฌ เชœ เชชเชฐเชฟเชšเชฟเชค เช›เซ‡. เชคเซ‡ เช•เซเชฌเชฐเชจเซ‡เชŸเซเชธ เชธเซ‹เชฐเซเชธ เช•เซ‹เชก (เช…เชจเซ‡ เชธเช‚เชฌเช‚เชงเชฟเชค เชชเซเชฐเซ‹เชœเซ‡เช•เซเชŸเซเชธ) เชจเซ€ เชธเซ‚เชšเชฟเช“ เชธเชพเชฅเซ‡ เชธเชฎเช—เซเชฐ เช…เชฒเซเช—เซ‹เชฐเชฟเชงเชฎเชจเซ‹ เชธเชพเชฅ เช†เชชเซ‡ เช›เซ‡, เชœเซ‡ เชคเชฎเชจเซ‡ เชตเชฟเชทเชฏเชจเซ‡ เชœเชฐเซ‚เชฐเซ€ เชนเซ‹เชฏ เชคเซ‡เชŸเชฒเซ€ เชŠเช‚เชกเชพเชฃเชชเซ‚เชฐเซเชตเช• เชธเชฎเชœเชตเชพเชจเซ€ เชฎเช‚เชœเซ‚เชฐเซ€ เช†เชชเซ‡ เช›เซ‡.

kubectl exec เช•เซ‡เชตเซ€ เชฐเซ€เชคเซ‡ เช•เชพเชฎ เช•เชฐเซ‡ เช›เซ‡?

เชเช• เชถเซเช•เซเชฐเชตเชพเชฐเซ‡, เชเช• เชธเชพเชฅเซ€เชฆเชพเชฐ เชฎเชพเชฐเซ€ เชชเชพเชธเซ‡ เช†เชตเซเชฏเซ‹ เช…เชจเซ‡ เชชเซ‚เช›เซเชฏเซเช‚ เช•เซ‡ เชชเซ‹เชกเชจเซ‹ เช‰เชชเชฏเซ‹เช— เช•เชฐเซ€เชจเซ‡ เช†เชฆเซ‡เชถ เช•เซ‡เชตเซ€ เชฐเซ€เชคเซ‡ เชšเชฒเชพเชตเชตเซ‹ เช—เซเชฐเชพเชนเช•-เช—เซ‹. เชนเซเช‚ เชคเซ‡เชจเซ‡ เชœเชตเชพเชฌ เช†เชชเซ€ เชถเช•เซเชฏเซ‹ เชจเชนเซ€เช‚ เช…เชจเซ‡ เช…เชšเชพเชจเช• เชธเชฎเชœเชพเชฏเซเช‚ เช•เซ‡ เชฎเชจเซ‡ เช“เชชเชฐเซ‡เชถเชจเชจเซ€ เชชเชฆเซเชงเชคเชฟ เชตเชฟเชถเซ‡ เช•เช‚เชˆ เชœ เช–เชฌเชฐ เชจเชฅเซ€ kubectl exec. เชนเชพ, เชฎเชจเซ‡ เชคเซ‡เชจเซ€ เชฐเชšเชจเชพ เชตเชฟเชถเซ‡ เชšเซ‹เช•เซเช•เชธ เชตเชฟเชšเชพเชฐเซ‹ เชนเชคเชพ, เชชเชฐเช‚เชคเซ เชฎเชจเซ‡ เชคเซ‡เชฎเชจเซ€ เชธเชพเชšเซ€เชคเชพ เชตเชฟเชถเซ‡ 100% เช–เชพเชคเชฐเซ€ เชจเชนเซ‹เชคเซ€ เช…เชจเซ‡ เชคเซ‡เชฅเซ€ เช† เชธเชฎเชธเซเชฏเชพเชจเซ‹ เชธเชพเชฎเชจเซ‹ เช•เชฐเชตเชพเชจเซเช‚ เชจเช•เซเช•เซ€ เช•เชฐเซเชฏเซเช‚. เชฌเซเชฒเซ‹เช—เซเชธ, เชฆเชธเซเชคเชพเชตเซ‡เชœเซ€เช•เชฐเชฃ เช…เชจเซ‡ เชธเซเชฐเซ‹เชค เช•เซ‹เชกเชจเซ‹ เช…เชญเซเชฏเชพเชธ เช•เชฐเซเชฏเชพ เชชเช›เซ€, เชฎเซ‡เช‚ เช˜เชฃเซ€ เชฌเชงเซ€ เชจเชตเซ€ เชตเชธเซเชคเซเช“ เชถเซ€เช–เซ€, เช…เชจเซ‡ เช† เชฒเซ‡เช–เชฎเชพเช‚ เชนเซเช‚ เชฎเชพเชฐเซ€ เชถเซ‹เชงเซ‹ เช…เชจเซ‡ เชธเชฎเชœเชฃ เชถเซ‡เชฐ เช•เชฐเชตเชพ เชฎเชพเช‚เช—เซ เช›เซเช‚. เชœเซ‹ เช•เช‚เชˆเชชเชฃ เช–เซ‹เชŸเซเช‚ เชนเซ‹เชฏ, เชคเซ‹ เช•เซƒเชชเชพ เช•เชฐเซ€เชจเซ‡ เชฎเชจเซ‡ เชชเชฐ เชธเช‚เชชเชฐเซเช• เช•เชฐเซ‹ Twitter.

เชคเชพเชฒเซ€เชฎ

MacBook เชชเชฐ เช•เซเชฒเชธเซเชŸเชฐ เชฌเชจเชพเชตเชตเชพ เชฎเชพเชŸเซ‡, เชฎเซ‡เช‚ เช•เซเชฒเซ‹เชจ เช•เชฐเซเชฏเซเช‚ ecomm-integration-ballerina/kubernetes-cluster. เชชเช›เซ€ เชฎเซ‡เช‚ เช•เซเชฌเซ‡เชฒเซ‡เชŸ เชฐเซ‚เชชเชฐเซ‡เช–เชพเชฎเชพเช‚ เชจเซ‹เชกเซเชธเชจเชพ IP เชธเชฐเชจเชพเชฎเชพเช‚เช“เชจเซ‡ เชธเซเชงเชพเชฐเซเชฏเชพ, เช•เชพเชฐเชฃ เช•เซ‡ เชกเชฟเชซเซ‹เชฒเซเชŸ เชธเซ‡เชŸเชฟเช‚เช—เซเชธ เชฎเช‚เชœเซ‚เชฐเซ€ เช†เชชเชคเซ€ เชจเชฅเซ€ kubectl exec. เชคเชฎเซ‡ เช†เชจเชพ เชฎเซเช–เซเชฏ เช•เชพเชฐเชฃ เชตเชฟเชถเซ‡ เชตเชงเซ เชตเชพเช‚เชšเซ€ เชถเช•เซ‹ เช›เซ‹ เช…เชนเซ€เช‚.

  • เช•เซ‹เชˆเชชเชฃ เช•เชพเชฐ = เชฎเชพเชฐเซ€ เชฎเซ‡เช•เชฌเซเช•
  • เชฎเชพเชธเซเชŸเชฐ เชจเซ‹เชก IP = 192.168.205.10
  • เชตเชฐเซเช•เชฐ เชจเซ‹เชก IP = 192.168.205.11
  • API เชธเชฐเซเชตเชฐ เชชเซ‹เชฐเซเชŸ = 6443

เช˜เชŸเช•เซ‹

kubectl exec เช•เซ‡เชตเซ€ เชฐเซ€เชคเซ‡ เช•เชพเชฎ เช•เชฐเซ‡ เช›เซ‡?

  • kubectl exec เชชเซเชฐเช•เซเชฐเชฟเชฏเชพ: เชœเซเชฏเชพเชฐเซ‡ เช†เชชเชฃเซ‡ โ€œkubectl exec...โ€ เชšเชฒเชพเชตเซ€เช เช›เซ€เช เชคเซเชฏเชพเชฐเซ‡ เชชเซเชฐเช•เซเชฐเชฟเชฏเชพ เชถเชฐเซ‚ เชฅเชพเชฏ เช›เซ‡. เช† K8s API เชธเชฐเซเชตเชฐเชจเซ€ เชเช•เซเชธเซ‡เชธ เชธเชพเชฅเซ‡ เช•เซ‹เชˆเชชเชฃ เชฎเชถเซ€เชจ เชชเชฐ เช•เชฐเซ€ เชถเช•เชพเชฏ เช›เซ‡. เชจเซ‰เซ…เชง เช…เชจเซเชตเชพเชฆ.: เช†เช—เชณ เช•เชจเซเชธเซ‹เชฒ เชธเซ‚เชšเชฟเช“เชฎเชพเช‚, เชฒเซ‡เช–เช• "เช•เซ‹เชˆเชชเชฃ เชฎเชถเซ€เชจ" เชŸเชฟเชชเซเชชเชฃเซ€เชจเซ‹ เช‰เชชเชฏเซ‹เช— เช•เชฐเซ‡ เช›เซ‡, เชœเซ‡เชจเซ‹ เช…เชฐเซเชฅ เช เช›เซ‡ เช•เซ‡ เช…เชจเซเช—เชพเชฎเซ€ เช†เชฆเซ‡เชถเซ‹ เช•เซเชฌเชฐเชจเซ‡เชŸเซเชธเชจเซ€ เชเช•เซเชธเซ‡เชธ เชธเชพเชฅเซ‡ เช†เชตเชพ เช•เซ‹เชˆเชชเชฃ เชฎเชถเซ€เชจเซ‹ เชชเชฐ เชเช•เซเชเชฟเช•เซเชฏเซเชŸ เช•เชฐเซ€ เชถเช•เชพเชฏ เช›เซ‡.
  • api เชธเชฐเซเชตเชฐ: เชฎเชพเชธเซเชŸเชฐ เชจเซ‹เชก เชชเชฐเชจเซ‹ เชเช• เช˜เชŸเช• เชœเซ‡ เช•เซเชฌเชฐเชจเซ‡เชŸเซเชธ API เชจเซ‡ เชเช•เซเชธเซ‡เชธ เชชเซเชฐเชฆเชพเชจ เช•เชฐเซ‡ เช›เซ‡. เช•เซเชฌเชฐเชจเซ‡เชŸเซเชธเชฎเชพเช‚ เช•เช‚เชŸเซเชฐเซ‹เชฒ เชชเซเชฒเซ‡เชจ เชฎเชพเชŸเซ‡ เช† เช…เช—เซเชฐเชญเชพเช— เช›เซ‡.
  • เช•เซเชฌเซ‡เชฒเซ‡เชŸ: เชเช• เชเชœเชจเซเชŸ เชœเซ‡ เช•เซเชฒเชธเซเชŸเชฐเชฎเชพเช‚ เชฆเชฐเซ‡เช• เชจเซ‹เชก เชชเชฐ เชšเชพเชฒเซ‡ เช›เซ‡. เชคเซ‡ เชชเซ‹เชกเชฎเชพเช‚ เช•เชจเซเชŸเซ‡เชจเชฐเชจเซเช‚ เชธเช‚เชšเชพเชฒเชจ เชธเซเชจเชฟเชถเซเชšเชฟเชค เช•เชฐเซ‡ เช›เซ‡.
  • เช•เชจเซเชŸเซ‡เชจเชฐ เชฐเชจเชŸเชพเช‡เชฎ (เช•เชจเซเชŸเซ‡เชจเชฐ เชฐเชจเชŸเชพเชˆเชฎ): เช•เชจเซเชŸเซ‡เชจเชฐ เชšเชฒเชพเชตเชตเชพ เชฎเชพเชŸเซ‡ เชœเชตเชพเชฌเชฆเชพเชฐ เชธเซ‹เชซเซเชŸเชตเซ‡เชฐ. เช‰เชฆเชพเชนเชฐเชฃเซ‹: เชกเซ‹เช•เชฐ, CRI-O, เช•เชจเซเชŸเซ‡เชจเชฐ...
  • เช•เชฐเซเชจเชฒ: เชตเชฐเซเช•เชฐ เชจเซ‹เชก เชชเชฐ เช“เชเชธ เช•เชฐเซเชจเชฒ; เชชเซเชฐเช•เซเชฐเชฟเชฏเชพ เชธเช‚เชšเชพเชฒเชจ เชฎเชพเชŸเซ‡ เชœเชตเชพเชฌเชฆเชพเชฐ เช›เซ‡.
  • เชฒเช•เซเชทเซเชฏ (เชฒเช•เซเชทเซเชฏ) เช•เชจเซเชŸเซ‡เชจเชฐ: เชเช• เช•เชจเซเชŸเซ‡เชจเชฐ เชœเซ‡ เชชเซ‹เชกเชจเซ‹ เชญเชพเช— เช›เซ‡ เช…เชจเซ‡ เชตเชฐเซเช•เชฐ เชจเซ‹เชกเซเชธเชฎเชพเช‚เชฅเซ€ เชเช• เชชเชฐ เชšเชพเชฒเซ‡ เช›เซ‡.

เชฎเซ‡เช‚ เชœเซ‡ เชถเซ‹เชงเซเชฏเซเช‚

1. เช—เซเชฐเชพเชนเช• เชฌเชพเชœเซเชจเซ€ เชชเซเชฐเชตเซƒเชคเซเชคเชฟ

เชจเซ‡เชฎเชธเซเชชเซ‡เชธเชฎเชพเช‚ เชชเซ‹เชก เชฌเชจเชพเชตเซ‹ default:

// any machine
$ kubectl run exec-test-nginx --image=nginx

เชชเช›เซ€ เช…เชฎเซ‡ exec เช†เชฆเซ‡เชถ เชšเชฒเชพเชตเซ€เช เช›เซ€เช เช…เชจเซ‡ เชตเชงเซ เช…เชตเชฒเซ‹เช•เชจเซ‹ เชฎเชพเชŸเซ‡ 5000 เชธเซ‡เช•เชจเซเชก เชฐเชพเชน เชœเซเช“:

// any machine
$ kubectl exec -it exec-test-nginx-6558988d5-fgxgg -- sh
# sleep 5000

kubectl เชชเซเชฐเช•เซเชฐเชฟเชฏเชพ เชฆเซ‡เช–เชพเชฏ เช›เซ‡ (เช…เชฎเชพเชฐเชพ เช•เชฟเชธเซเชธเชพเชฎเชพเช‚ pid=8507 เชธเชพเชฅเซ‡):

// any machine
$ ps -ef |grep kubectl
501  8507  8409   0  7:19PM ttys000    0:00.13 kubectl exec -it exec-test-nginx-6558988d5-fgxgg -- sh

เชœเซ‹ เช†เชชเชฃเซ‡ เชชเซเชฐเช•เซเชฐเชฟเชฏเชพเชจเซ€ เชจเซ‡เชŸเชตเชฐเซเช• เชชเซเชฐเชตเซƒเชคเซเชคเชฟ เชคเชชเชพเชธเซ€เช, เชคเซ‹ เช…เชฎเซ‡ เชถเซ‹เชงเซ€เชถเซเช‚ เช•เซ‡ เชคเซ‡ api-เชธเชฐเซเชตเชฐ (192.168.205.10.6443) เชธเชพเชฅเซ‡ เชœเซ‹เชกเชพเชฃ เชงเชฐเชพเชตเซ‡ เช›เซ‡:

// any machine
$ netstat -atnv |grep 8507
tcp4       0      0  192.168.205.1.51673    192.168.205.10.6443    ESTABLISHED 131072 131768   8507      0 0x0102 0x00000020
tcp4       0      0  192.168.205.1.51672    192.168.205.10.6443    ESTABLISHED 131072 131768   8507      0 0x0102 0x00000028

เชšเชพเชฒเซ‹ เช•เซ‹เชก เชœเซ‹เชˆเช. Kubectl exec เชธเชฌ เชฐเชฟเชธเซ‹เชฐเซเชธ เชธเชพเชฅเซ‡ POST เชตเชฟเชจเช‚เชคเซ€ เชฌเชจเชพเชตเซ‡ เช›เซ‡ เช…เชจเซ‡ REST เชตเชฟเชจเช‚เชคเซ€ เชฎเซ‹เช•เชฒเซ‡ เช›เซ‡:

              req := restClient.Post().
                        Resource("pods").
                        Name(pod.Name).
                        Namespace(pod.Namespace).
                        SubResource("exec")
                req.VersionedParams(&corev1.PodExecOptions{
                        Container: containerName,
                        Command:   p.Command,
                        Stdin:     p.Stdin,
                        Stdout:    p.Out != nil,
                        Stderr:    p.ErrOut != nil,
                        TTY:       t.Raw,
                }, scheme.ParameterCodec)

                return p.Executor.Execute("POST", req.URL(), p.Config, p.In, p.Out, p.ErrOut, t.Raw, sizeQueue)

(kubectl/pkg/cmd/exec/exec.go)

kubectl exec เช•เซ‡เชตเซ€ เชฐเซ€เชคเซ‡ เช•เชพเชฎ เช•เชฐเซ‡ เช›เซ‡?

2. เชฎเชพเชธเซเชŸเชฐ เชจเซ‹เชก เชฌเชพเชœเซ เชชเชฐ เชชเซเชฐเชตเซƒเชคเซเชคเชฟ

เช…เชฎเซ‡ เชเชชเซ€เช†เชˆ-เชธเชฐเซเชตเชฐ เชฌเชพเชœเซ เชชเชฐ เชตเชฟเชจเช‚เชคเซ€เชจเซเช‚ เช…เชตเชฒเซ‹เช•เชจ เชชเชฃ เช•เชฐเซ€ เชถเช•เซ€เช เช›เซ€เช:

handler.go:143] kube-apiserver: POST "/api/v1/namespaces/default/pods/exec-test-nginx-6558988d5-fgxgg/exec" satisfied by gorestful with webservice /api/v1
upgradeaware.go:261] Connecting to backend proxy (intercepting redirects) https://192.168.205.11:10250/exec/default/exec-test-nginx-6558988d5-fgxgg/exec-test-nginx?command=sh&input=1&output=1&tty=1
Headers: map[Connection:[Upgrade] Content-Length:[0] Upgrade:[SPDY/3.1] User-Agent:[kubectl/v1.12.10 (darwin/amd64) kubernetes/e3c1340] X-Forwarded-For:[192.168.205.1] X-Stream-Protocol-Version:[v4.channel.k8s.io v3.channel.k8s.io v2.channel.k8s.io channel.k8s.io]]

เชจเซ‹เช‚เชง เช•เชฐเซ‹ เช•เซ‡ HTTP เชตเชฟเชจเช‚เชคเซ€เชฎเชพเช‚ เชชเซเชฐเซ‹เชŸเซ‹เช•เซ‹เชฒ เชฌเชฆเชฒเชตเชพเชจเซ€ เชตเชฟเชจเช‚เชคเซ€ เชถเชพเชฎเซ‡เชฒ เช›เซ‡. เชเชธเชชเซ€เชกเซ€เชตเชพเชฏ เชคเชฎเชจเซ‡ เชเช• TCP เช•เชจเซ‡เช•เซเชถเชจ เชชเชฐ เชตเซเชฏเช•เซเชคเชฟเช—เชค stdin/stdout/stderr/spdy-error "เชธเซเชŸเซเชฐเซ€เชฎเซเชธ" เชฎเชฒเซเชŸเชฟเชชเซเชฒเซ‡เช•เซเชธ เช•เชฐเชตเชพเชจเซ€ เชฎเช‚เชœเซ‚เชฐเซ€ เช†เชชเซ‡ เช›เซ‡.

API เชธเชฐเซเชตเชฐ เชตเชฟเชจเช‚เชคเซ€ เชชเซเชฐเชพเชชเซเชค เช•เชฐเซ‡ เช›เซ‡ เช…เชจเซ‡ เชคเซ‡เชจเซ‡ เชคเซ‡เชฎเชพเช‚ เชฐเซ‚เชชเชพเช‚เชคเชฐเชฟเชค เช•เชฐเซ‡ เช›เซ‡ PodExecOptions:

// PodExecOptions is the query options to a Pod's remote exec call
type PodExecOptions struct {
        metav1.TypeMeta

        // Stdin if true indicates that stdin is to be redirected for the exec call
        Stdin bool

        // Stdout if true indicates that stdout is to be redirected for the exec call
        Stdout bool

        // Stderr if true indicates that stderr is to be redirected for the exec call
        Stderr bool

        // TTY if true indicates that a tty will be allocated for the exec call
        TTY bool

        // Container in which to execute the command.
        Container string

        // Command is the remote command to execute; argv array; not executed within a shell.
        Command []string
}

(pkg/apis/core/types.go)

เชœเชฐเซ‚เชฐเซ€ เช•เซเชฐเชฟเชฏเชพเช“ เช•เชฐเชตเชพ เชฎเชพเชŸเซ‡, api-เชธเชฐเซเชตเชฐเชจเซ‡ เช–เชฌเชฐ เชนเซ‹เชตเซ€ เชœเซ‹เชˆเช เช•เซ‡ เชคเซ‡เชจเซ‡ เช•เชฏเชพ เชชเซ‹เชกเชจเซ‹ เชธเช‚เชชเชฐเซเช• เช•เชฐเชตเชพเชจเซ€ เชœเชฐเซ‚เชฐ เช›เซ‡:

// ExecLocation returns the exec URL for a pod container. If opts.Container is blank
// and only one container is present in the pod, that container is used.
func ExecLocation(
        getter ResourceGetter,
        connInfo client.ConnectionInfoGetter,
        ctx context.Context,
        name string,
        opts *api.PodExecOptions,
) (*url.URL, http.RoundTripper, error) {
        return streamLocation(getter, connInfo, ctx, name, opts, opts.Container, "exec")
}

(pkg/registry/core/pod/strategy.go)

เช…เชฒเชฌเชคเซเชค, เช…เช‚เชคเชฟเชฎ เชฌเชฟเช‚เชฆเซ เชตเชฟเชถเซ‡เชจเซ‹ เชกเซ‡เชŸเชพ เชจเซ‹เชก เชตเชฟเชถเซ‡เชจเซ€ เชฎเชพเชนเชฟเชคเซ€เชฎเชพเช‚เชฅเซ€ เชฒเซ‡เชตเชพเชฎเชพเช‚ เช†เชตเซเชฏเซ‹ เช›เซ‡:

        nodeName := types.NodeName(pod.Spec.NodeName)
        if len(nodeName) == 0 {
                // If pod has not been assigned a host, return an empty location
                return nil, nil, errors.NewBadRequest(fmt.Sprintf("pod %s does not have a host assigned", name))
        }
        nodeInfo, err := connInfo.GetConnectionInfo(ctx, nodeName)

(pkg/registry/core/pod/strategy.go)

เชนเซเชฐเซ‡! เช•เซเชฌเซ‡เชฒเซ‡เชŸ เชชเชพเชธเซ‡ เชนเชตเซ‡ เชฌเช‚เชฆเชฐ เช›เซ‡ (node.Status.DaemonEndpoints.KubeletEndpoint.Port), เชœเซ‡เชจเซ€ เชธเชพเชฅเซ‡ API เชธเชฐเซเชตเชฐ เช•เชจเซ‡เช•เซเชŸ เช•เชฐเซ€ เชถเช•เซ‡ เช›เซ‡:

// GetConnectionInfo retrieves connection info from the status of a Node API object.
func (k *NodeConnectionInfoGetter) GetConnectionInfo(ctx context.Context, nodeName types.NodeName) (*ConnectionInfo, error) {
        node, err := k.nodes.Get(ctx, string(nodeName), metav1.GetOptions{})
        if err != nil {
                return nil, err
        }

        // Find a kubelet-reported address, using preferred address type
        host, err := nodeutil.GetPreferredNodeAddress(node, k.preferredAddressTypes)
        if err != nil {
                return nil, err
        }

        // Use the kubelet-reported port, if present
        port := int(node.Status.DaemonEndpoints.KubeletEndpoint.Port)
        if port <= 0 {
                port = k.defaultPort
        }

        return &ConnectionInfo{
                Scheme:    k.scheme,
                Hostname:  host,
                Port:      strconv.Itoa(port),
                Transport: k.transport,
        }, nil
}

(pkg/kubelet/client/kubelet_client.go)

เชฆเชธเซเชคเชพเชตเซ‡เชœเซ€เช•เชฐเชฃเชฎเชพเช‚เชฅเซ€ เชฎเชพเชธเซเชŸเชฐ-เชจเซ‹เชก เช•เซ‹เชฎเซเชฏเซเชจเชฟเช•เซ‡เชถเชจ > เชฎเชพเชธเซเชŸเชฐ เชŸเซ เช•เซเชฒเชธเซเชŸเชฐ > apiserver เชฅเซ€ เช•เซเชฌเซ‡เชฒเซ‡เชŸ:

เช† เชœเซ‹เชกเชพเชฃเซ‹ เช•เซเชฌเซ‡เชฒเซ‡เชŸเชจเชพ HTTPS เชเชจเซเชกเชชเซ‹เช‡เชจเซเชŸ เชธเชพเชฅเซ‡ เช•เชฐเชตเชพเชฎเชพเช‚ เช†เชตเซ‡ เช›เซ‡. เชฎเซ‚เชณเชญเซ‚เชค เชฐเซ€เชคเซ‡, apiserver เช•เซเชฌเซ‡เชฒเซ‡เชŸเชจเชพ เชชเซเชฐเชฎเชพเชฃเชชเชคเซเชฐเชจเซ‡ เชšเช•เชพเชธเชคเซเช‚ เชจเชฅเซ€, เชœเซ‡ เช•เชจเซ‡เช•เซเชถเชจเชจเซ‡ เชฎเซ‡เชจ-เช‡เชจ-เชง-เชฎเชฟเชกเชฒ (MITM) เชนเซเชฎเชฒเชพเช“ เชฎเชพเชŸเซ‡ เชธเช‚เชตเซ‡เชฆเชจเชถเซ€เชฒ เชฌเชจเชพเชตเซ‡ เช›เซ‡ เช…เชจเซ‡ เช…เชธเซเชฐเช•เซเชทเชฟเชค เช…เชตเชฟเชถเซเชตเชธเชจเซ€เชฏ เช…เชจเซ‡/เช…เชฅเชตเชพ เชœเชพเชนเซ‡เชฐ เชจเซ‡เชŸเชตเชฐเซเช•เชฎเชพเช‚ เช•เชพเชฎ เช•เชฐเชตเชพ เชฎเชพเชŸเซ‡.

เชนเชตเซ‡ API เชธเชฐเซเชตเชฐ เช…เช‚เชคเชฟเชฎ เชฌเชฟเช‚เชฆเซ เชœเชพเชฃเซ‡ เช›เซ‡ เช…เชจเซ‡ เชœเซ‹เชกเชพเชฃ เชธเซเชฅเชพเชชเชฟเชค เช•เชฐเซ‡ เช›เซ‡:

// Connect returns a handler for the pod exec proxy
func (r *ExecREST) Connect(ctx context.Context, name string, opts runtime.Object, responder rest.Responder) (http.Handler, error) {
        execOpts, ok := opts.(*api.PodExecOptions)
        if !ok {
                return nil, fmt.Errorf("invalid options object: %#v", opts)
        }
        location, transport, err := pod.ExecLocation(r.Store, r.KubeletConn, ctx, name, execOpts)
        if err != nil {
                return nil, err
        }
        return newThrottledUpgradeAwareProxyHandler(location, transport, false, true, true, responder), nil
}

(pkg/registry/core/pod/rest/subresources.go)

เชšเชพเชฒเซ‹ เชœเซ‹เชˆเช เช•เซ‡ เชฎเชพเชธเซเชŸเชฐ เชจเซ‹เชก เชชเชฐ เชถเซเช‚ เชฅเชˆ เชฐเชนเซเชฏเซเช‚ เช›เซ‡.

เชชเซเชฐเชฅเชฎ, เช…เชฎเซ‡ เชตเชฐเซเช•เชฐ เชจเซ‹เชกเชจเซ‹ IP เชถเซ‹เชงเซ€เช เช›เซ€เช. เช…เชฎเชพเชฐเชพ เช•เชฟเชธเซเชธเชพเชฎเชพเช‚ เชคเซ‡ 192.168.205.11 เช›เซ‡:

// any machine
$ kubectl get nodes k8s-node-1 -o wide
NAME         STATUS   ROLES    AGE   VERSION   INTERNAL-IP      EXTERNAL-IP   OS-IMAGE             KERNEL-VERSION      CONTAINER-RUNTIME
k8s-node-1   Ready    <none>   9h    v1.15.3   192.168.205.11   <none>        Ubuntu 16.04.6 LTS   4.4.0-159-generic   docker://17.3.3

เชชเช›เซ€ เช•เซเชฌเซ‡เชฒเซ‡เชŸ เชชเซ‹เชฐเซเชŸ เชธเซ‡เชŸ เช•เชฐเซ‹ (เช…เชฎเชพเชฐเชพ เช•เชฟเชธเซเชธเชพเชฎเชพเช‚ 10250):

// any machine
$ kubectl get nodes k8s-node-1 -o jsonpath='{.status.daemonEndpoints.kubeletEndpoint}'
map[Port:10250]

เชนเชตเซ‡ เชจเซ‡เชŸเชตเชฐเซเช• เชคเชชเชพเชธเชตเชพเชจเซ‹ เชธเชฎเชฏ เช›เซ‡. เชถเซเช‚ เชตเชฐเซเช•เชฐ เชจเซ‹เชก (192.168.205.11) เชธเชพเชฅเซ‡ เช•เชจเซ‡เช•เซเชถเชจ เช›เซ‡? เชคเซ‡ เช›เซ‡! เชœเซ‹ เชคเชฎเซ‡ เชชเซเชฐเช•เซเชฐเชฟเชฏเชพเชจเซ‡ เชฎเชพเชฐเซ€ เชจเชพเช–เซ‹ เช›เซ‹ exec, เชคเซ‡ เช…เชฆเซƒเชถเซเชฏ เชฅเชˆ เชœเชถเซ‡, เชคเซ‡เชฅเซ€ เชนเซเช‚ เชœเชพเชฃเซเช‚ เช›เซเช‚ เช•เซ‡ เช•เชจเซ‡เช•เซเชถเชจ เชเชชเซ€เช†เชˆ-เชธเชฐเซเชตเชฐ เชฆเซเชตเชพเชฐเชพ exec เช†เชฆเซ‡เชถ เชšเชฒเชพเชตเชตเชพเชจเชพ เชชเชฐเชฟเชฃเชพเชฎเซ‡ เชธเซเชฅเชพเชชเชฟเชค เชฅเชฏเซเช‚ เชนเชคเซเช‚.

// master node
$ netstat -atn |grep 192.168.205.11
tcp        0      0 192.168.205.10:37870    192.168.205.11:10250    ESTABLISHED
โ€ฆ

kubectl exec เช•เซ‡เชตเซ€ เชฐเซ€เชคเซ‡ เช•เชพเชฎ เช•เชฐเซ‡ เช›เซ‡?

kubectl เช…เชจเซ‡ api-server เชตเชšเซเชšเซ‡เชจเซเช‚ เช•เชจเซ‡เช•เซเชถเชจ เชนเชœเซ เชชเชฃ เช–เซเชฒเซเชฒเซเช‚ เช›เซ‡. เชตเชงเซเชฎเชพเช‚, เชคเซเชฏเชพเช‚ เชฌเซ€เชœเซเช‚ เชœเซ‹เชกเชพเชฃ เช›เซ‡ เชœเซ‡ api-server เช…เชจเซ‡ kubelet เชจเซ‡ เชฒเชฟเช‚เช• เช•เชฐเซ‡ เช›เซ‡.

3. เช•เชพเชฐเซเชฏเช•เชฐ เชจเซ‹เชก เชชเชฐ เชชเซเชฐเชตเซƒเชคเซเชคเชฟ

เชนเชตเซ‡ เชšเชพเชฒเซ‹ เชตเชฐเซเช•เชฐ เชจเซ‹เชก เชธเชพเชฅเซ‡ เช•เชจเซ‡เช•เซเชŸ เช•เชฐเซ€เช เช…เชจเซ‡ เชคเซ‡เชจเชพ เชชเชฐ เชถเซเช‚ เชฅเชˆ เชฐเชนเซเชฏเซเช‚ เช›เซ‡ เชคเซ‡ เชœเซ‹เชˆเช.

เชธเซŒ เชชเซเชฐเชฅเชฎ, เช†เชชเชฃเซ‡ เชœเซ‹เชˆเช เช›เซ€เช เช•เซ‡ เชคเซ‡เชจเซ€ เชธเชพเชฅเซ‡ เชœเซ‹เชกเชพเชฃ เชชเชฃ เชธเซเชฅเชพเชชเชฟเชค เชฅเชฏเซ‡เชฒ เช›เซ‡ (เชฌเซ€เชœเซ€ เชฐเซ‡เช–เชพ); 192.168.205.10 เช เชฎเชพเชธเซเชŸเชฐ เชจเซ‹เชกเชจเซ‹ IP เช›เซ‡:

 // worker node
  $ netstat -atn |grep 10250
  tcp6       0      0 :::10250                :::*                    LISTEN
  tcp6       0      0 192.168.205.11:10250    192.168.205.10:37870    ESTABLISHED

เช…เชฎเชพเชฐเซ€ เชŸเซ€เชฎ เชตเชฟเชถเซ‡ เชถเซเช‚ sleep? เชนเซเชฐเซ‡, เชคเซ‡เชฃเซ€ เชชเชฃ เชคเซเชฏเชพเช‚ เช›เซ‡!

 // worker node
  $ ps -afx
  ...
  31463 ?        Sl     0:00      _ docker-containerd-shim 7d974065bbb3107074ce31c51f5ef40aea8dcd535ae11a7b8f2dd180b8ed583a /var/run/docker/libcontainerd/7d974065bbb3107074ce31c51
  31478 pts/0    Ss     0:00          _ sh
  31485 pts/0    S+     0:00              _ sleep 5000
  โ€ฆ

เชชเชฐเช‚เชคเซ เชฐเชพเชน เชœเซเช“: เช•เซเชฌเซ‡เชฒเซ‡เชŸเซ‡ เช† เช•เซ‡เชตเซ€ เชฐเซ€เชคเซ‡ เช–เซ‡เช‚เชšเซเชฏเซเช‚? เช•เซเชฌเซ‡เชฒเซ‡เชŸ เชชเชพเชธเซ‡ เชกเชฟเชฎเชจ เช›เซ‡ เชœเซ‡ API-เชธเชฐเซเชตเชฐ เชตเชฟเชจเช‚เชคเซ€เช“ เชฎเชพเชŸเซ‡ เชชเซ‹เชฐเซเชŸ เชฆเซเชตเชพเชฐเชพ API เชจเซ‡ เชเช•เซเชธเซ‡เชธ เชชเซเชฐเชฆเชพเชจ เช•เชฐเซ‡ เช›เซ‡:

// Server is the library interface to serve the stream requests.
type Server interface {
        http.Handler

        // Get the serving URL for the requests.
        // Requests must not be nil. Responses may be nil iff an error is returned.
        GetExec(*runtimeapi.ExecRequest) (*runtimeapi.ExecResponse, error)
        GetAttach(req *runtimeapi.AttachRequest) (*runtimeapi.AttachResponse, error)
        GetPortForward(*runtimeapi.PortForwardRequest) (*runtimeapi.PortForwardResponse, error)

        // Start the server.
        // addr is the address to serve on (address:port) stayUp indicates whether the server should
        // listen until Stop() is called, or automatically stop after all expected connections are
        // closed. Calling Get{Exec,Attach,PortForward} increments the expected connection count.
        // Function does not return until the server is stopped.
        Start(stayUp bool) error
        // Stop the server, and terminate any open connections.
        Stop() error
}

(pkg/kubelet/server/streaming/server.go)

เช•เซเชฌเซ‡เชฒเซ‡เชŸ exec เชตเชฟเชจเช‚เชคเซ€เช“ เชฎเชพเชŸเซ‡ เชชเซเชฐเชคเชฟเชญเชพเชต เช…เช‚เชคเชฟเชฎ เชฌเชฟเช‚เชฆเซเชจเซ€ เช—เชฃเชคเชฐเซ€ เช•เชฐเซ‡ เช›เซ‡:

func (s *server) GetExec(req *runtimeapi.ExecRequest) (*runtimeapi.ExecResponse, error) {
        if err := validateExecRequest(req); err != nil {
                return nil, err
        }
        token, err := s.cache.Insert(req)
        if err != nil {
                return nil, err
        }
        return &runtimeapi.ExecResponse{
                Url: s.buildURL("exec", token),
        }, nil
}

(pkg/kubelet/server/streaming/server.go)

เชฎเซ‚เช‚เชเชตเชฃเชฎเชพเช‚ เชจ เชชเชกเซ‹. เชคเซ‡ เช†เชฆเซ‡เชถเชจเซเช‚ เชชเชฐเชฟเชฃเชพเชฎ เชชเชฐเชค เช•เชฐเชคเซเช‚ เชจเชฅเซ€, เชชเชฐเช‚เชคเซ เชธเช‚เชšเชพเชฐ เชฎเชพเชŸเซ‡ เช…เช‚เชคเชฟเชฎ เชฌเชฟเช‚เชฆเซ:

type ExecResponse struct {
        // Fully qualified URL of the exec streaming server.
        Url                  string   `protobuf:"bytes,1,opt,name=url,proto3" json:"url,omitempty"`
        XXX_NoUnkeyedLiteral struct{} `json:"-"`
        XXX_sizecache        int32    `json:"-"`
}

(cri-api/pkg/apis/runtime/v1alpha2/api.pb.go)

เช•เซเชฌเซ‡เชฒเซ‡เชŸ เช‡เชจเซเชŸเชฐเชซเซ‡เชธเชจเซ‹ เช…เชฎเชฒ เช•เชฐเซ‡ เช›เซ‡ RuntimeServiceClient, เชœเซ‡ เช•เชจเซเชŸเซ‡เชจเชฐ เชฐเชจเชŸเชพเช‡เชฎ เช‡เชจเซเชŸเชฐเชซเซ‡เชธเชจเซ‹ เชญเชพเช— เช›เซ‡ (เช…เชฎเซ‡ เชคเซ‡เชจเชพ เชตเชฟเชถเซ‡ เชตเชงเซ เชฒเช–เซเชฏเซเช‚ เช›เซ‡, เช‰เชฆเชพเชนเชฐเชฃ เชคเชฐเซ€เช•เซ‡, เช…เชนเซ€เช‚ - เช†เชถเชฐเซ‡. เช…เชจเซเชตเชพเชฆ.):

kubernetes/kubernetes เชฎเชพเช‚ cri-api เชคเชฐเชซเชฅเซ€ เชฒเชพเช‚เชฌเซ€ เชธเซ‚เชšเชฟ

// For semantics around ctx use and closing/ending streaming RPCs, please refer to https://godoc.org/google.golang.org/grpc#ClientConn.NewStream.
type RuntimeServiceClient interface {
        // Version returns the runtime name, runtime version, and runtime API version.
        Version(ctx context.Context, in *VersionRequest, opts ...grpc.CallOption) (*VersionResponse, error)
        // RunPodSandbox creates and starts a pod-level sandbox. Runtimes must ensure
        // the sandbox is in the ready state on success.
        RunPodSandbox(ctx context.Context, in *RunPodSandboxRequest, opts ...grpc.CallOption) (*RunPodSandboxResponse, error)
        // StopPodSandbox stops any running process that is part of the sandbox and
        // reclaims network resources (e.g., IP addresses) allocated to the sandbox.
        // If there are any running containers in the sandbox, they must be forcibly
        // terminated.
        // This call is idempotent, and must not return an error if all relevant
        // resources have already been reclaimed. kubelet will call StopPodSandbox
        // at least once before calling RemovePodSandbox. It will also attempt to
        // reclaim resources eagerly, as soon as a sandbox is not needed. Hence,
        // multiple StopPodSandbox calls are expected.
        StopPodSandbox(ctx context.Context, in *StopPodSandboxRequest, opts ...grpc.CallOption) (*StopPodSandboxResponse, error)
        // RemovePodSandbox removes the sandbox. If there are any running containers
        // in the sandbox, they must be forcibly terminated and removed.
        // This call is idempotent, and must not return an error if the sandbox has
        // already been removed.
        RemovePodSandbox(ctx context.Context, in *RemovePodSandboxRequest, opts ...grpc.CallOption) (*RemovePodSandboxResponse, error)
        // PodSandboxStatus returns the status of the PodSandbox. If the PodSandbox is not
        // present, returns an error.
        PodSandboxStatus(ctx context.Context, in *PodSandboxStatusRequest, opts ...grpc.CallOption) (*PodSandboxStatusResponse, error)
        // ListPodSandbox returns a list of PodSandboxes.
        ListPodSandbox(ctx context.Context, in *ListPodSandboxRequest, opts ...grpc.CallOption) (*ListPodSandboxResponse, error)
        // CreateContainer creates a new container in specified PodSandbox
        CreateContainer(ctx context.Context, in *CreateContainerRequest, opts ...grpc.CallOption) (*CreateContainerResponse, error)
        // StartContainer starts the container.
        StartContainer(ctx context.Context, in *StartContainerRequest, opts ...grpc.CallOption) (*StartContainerResponse, error)
        // StopContainer stops a running container with a grace period (i.e., timeout).
        // This call is idempotent, and must not return an error if the container has
        // already been stopped.
        // TODO: what must the runtime do after the grace period is reached?
        StopContainer(ctx context.Context, in *StopContainerRequest, opts ...grpc.CallOption) (*StopContainerResponse, error)
        // RemoveContainer removes the container. If the container is running, the
        // container must be forcibly removed.
        // This call is idempotent, and must not return an error if the container has
        // already been removed.
        RemoveContainer(ctx context.Context, in *RemoveContainerRequest, opts ...grpc.CallOption) (*RemoveContainerResponse, error)
        // ListContainers lists all containers by filters.
        ListContainers(ctx context.Context, in *ListContainersRequest, opts ...grpc.CallOption) (*ListContainersResponse, error)
        // ContainerStatus returns status of the container. If the container is not
        // present, returns an error.
        ContainerStatus(ctx context.Context, in *ContainerStatusRequest, opts ...grpc.CallOption) (*ContainerStatusResponse, error)
        // UpdateContainerResources updates ContainerConfig of the container.
        UpdateContainerResources(ctx context.Context, in *UpdateContainerResourcesRequest, opts ...grpc.CallOption) (*UpdateContainerResourcesResponse, error)
        // ReopenContainerLog asks runtime to reopen the stdout/stderr log file
        // for the container. This is often called after the log file has been
        // rotated. If the container is not running, container runtime can choose
        // to either create a new log file and return nil, or return an error.
        // Once it returns error, new container log file MUST NOT be created.
        ReopenContainerLog(ctx context.Context, in *ReopenContainerLogRequest, opts ...grpc.CallOption) (*ReopenContainerLogResponse, error)
        // ExecSync runs a command in a container synchronously.
        ExecSync(ctx context.Context, in *ExecSyncRequest, opts ...grpc.CallOption) (*ExecSyncResponse, error)
        // Exec prepares a streaming endpoint to execute a command in the container.
        Exec(ctx context.Context, in *ExecRequest, opts ...grpc.CallOption) (*ExecResponse, error)
        // Attach prepares a streaming endpoint to attach to a running container.
        Attach(ctx context.Context, in *AttachRequest, opts ...grpc.CallOption) (*AttachResponse, error)
        // PortForward prepares a streaming endpoint to forward ports from a PodSandbox.
        PortForward(ctx context.Context, in *PortForwardRequest, opts ...grpc.CallOption) (*PortForwardResponse, error)
        // ContainerStats returns stats of the container. If the container does not
        // exist, the call returns an error.
        ContainerStats(ctx context.Context, in *ContainerStatsRequest, opts ...grpc.CallOption) (*ContainerStatsResponse, error)
        // ListContainerStats returns stats of all running containers.
        ListContainerStats(ctx context.Context, in *ListContainerStatsRequest, opts ...grpc.CallOption) (*ListContainerStatsResponse, error)
        // UpdateRuntimeConfig updates the runtime configuration based on the given request.
        UpdateRuntimeConfig(ctx context.Context, in *UpdateRuntimeConfigRequest, opts ...grpc.CallOption) (*UpdateRuntimeConfigResponse, error)
        // Status returns the status of the runtime.
        Status(ctx context.Context, in *StatusRequest, opts ...grpc.CallOption) (*StatusResponse, error)
}

(cri-api/pkg/apis/runtime/v1alpha2/api.pb.go)
เชคเซ‡ เช•เชจเซเชŸเซ‡เชจเชฐ เชฐเชจเชŸเชพเช‡เชฎ เช‡เชจเซเชŸเชฐเชซเซ‡เชธ เชฆเซเชตเชพเชฐเชพ เชชเชฆเซเชงเชคเชฟเชจเซ‡ เช•เซ‰เชฒ เช•เชฐเชตเชพ เชฎเชพเชŸเซ‡ เชธเชฐเชณ เชฐเซ€เชคเซ‡ gRPC เชจเซ‹ เช‰เชชเชฏเซ‹เช— เช•เชฐเซ‡ เช›เซ‡:

type runtimeServiceClient struct {
        cc *grpc.ClientConn
}

(cri-api/pkg/apis/runtime/v1alpha2/api.pb.go)

func (c *runtimeServiceClient) Exec(ctx context.Context, in *ExecRequest, opts ...grpc.CallOption) (*ExecResponse, error) {
        out := new(ExecResponse)
        err := c.cc.Invoke(ctx, "/runtime.v1alpha2.RuntimeService/Exec", in, out, opts...)
        if err != nil {
                return nil, err
        }
        return out, nil
}

(cri-api/pkg/apis/runtime/v1alpha2/api.pb.go)

เช•เชจเซเชŸเซ‡เชจเชฐ เชฐเชจเชŸเชพเช‡เชฎ เช…เชฎเชฒเซ€เช•เชฐเชฃ เชฎเชพเชŸเซ‡ เชœเชตเชพเชฌเชฆเชพเชฐ เช›เซ‡ RuntimeServiceServer:

kubernetes/kubernetes เชฎเชพเช‚ cri-api เชคเชฐเชซเชฅเซ€ เชฒเชพเช‚เชฌเซ€ เชธเซ‚เชšเชฟ

// RuntimeServiceServer is the server API for RuntimeService service.
type RuntimeServiceServer interface {
        // Version returns the runtime name, runtime version, and runtime API version.
        Version(context.Context, *VersionRequest) (*VersionResponse, error)
        // RunPodSandbox creates and starts a pod-level sandbox. Runtimes must ensure
        // the sandbox is in the ready state on success.
        RunPodSandbox(context.Context, *RunPodSandboxRequest) (*RunPodSandboxResponse, error)
        // StopPodSandbox stops any running process that is part of the sandbox and
        // reclaims network resources (e.g., IP addresses) allocated to the sandbox.
        // If there are any running containers in the sandbox, they must be forcibly
        // terminated.
        // This call is idempotent, and must not return an error if all relevant
        // resources have already been reclaimed. kubelet will call StopPodSandbox
        // at least once before calling RemovePodSandbox. It will also attempt to
        // reclaim resources eagerly, as soon as a sandbox is not needed. Hence,
        // multiple StopPodSandbox calls are expected.
        StopPodSandbox(context.Context, *StopPodSandboxRequest) (*StopPodSandboxResponse, error)
        // RemovePodSandbox removes the sandbox. If there are any running containers
        // in the sandbox, they must be forcibly terminated and removed.
        // This call is idempotent, and must not return an error if the sandbox has
        // already been removed.
        RemovePodSandbox(context.Context, *RemovePodSandboxRequest) (*RemovePodSandboxResponse, error)
        // PodSandboxStatus returns the status of the PodSandbox. If the PodSandbox is not
        // present, returns an error.
        PodSandboxStatus(context.Context, *PodSandboxStatusRequest) (*PodSandboxStatusResponse, error)
        // ListPodSandbox returns a list of PodSandboxes.
        ListPodSandbox(context.Context, *ListPodSandboxRequest) (*ListPodSandboxResponse, error)
        // CreateContainer creates a new container in specified PodSandbox
        CreateContainer(context.Context, *CreateContainerRequest) (*CreateContainerResponse, error)
        // StartContainer starts the container.
        StartContainer(context.Context, *StartContainerRequest) (*StartContainerResponse, error)
        // StopContainer stops a running container with a grace period (i.e., timeout).
        // This call is idempotent, and must not return an error if the container has
        // already been stopped.
        // TODO: what must the runtime do after the grace period is reached?
        StopContainer(context.Context, *StopContainerRequest) (*StopContainerResponse, error)
        // RemoveContainer removes the container. If the container is running, the
        // container must be forcibly removed.
        // This call is idempotent, and must not return an error if the container has
        // already been removed.
        RemoveContainer(context.Context, *RemoveContainerRequest) (*RemoveContainerResponse, error)
        // ListContainers lists all containers by filters.
        ListContainers(context.Context, *ListContainersRequest) (*ListContainersResponse, error)
        // ContainerStatus returns status of the container. If the container is not
        // present, returns an error.
        ContainerStatus(context.Context, *ContainerStatusRequest) (*ContainerStatusResponse, error)
        // UpdateContainerResources updates ContainerConfig of the container.
        UpdateContainerResources(context.Context, *UpdateContainerResourcesRequest) (*UpdateContainerResourcesResponse, error)
        // ReopenContainerLog asks runtime to reopen the stdout/stderr log file
        // for the container. This is often called after the log file has been
        // rotated. If the container is not running, container runtime can choose
        // to either create a new log file and return nil, or return an error.
        // Once it returns error, new container log file MUST NOT be created.
        ReopenContainerLog(context.Context, *ReopenContainerLogRequest) (*ReopenContainerLogResponse, error)
        // ExecSync runs a command in a container synchronously.
        ExecSync(context.Context, *ExecSyncRequest) (*ExecSyncResponse, error)
        // Exec prepares a streaming endpoint to execute a command in the container.
        Exec(context.Context, *ExecRequest) (*ExecResponse, error)
        // Attach prepares a streaming endpoint to attach to a running container.
        Attach(context.Context, *AttachRequest) (*AttachResponse, error)
        // PortForward prepares a streaming endpoint to forward ports from a PodSandbox.
        PortForward(context.Context, *PortForwardRequest) (*PortForwardResponse, error)
        // ContainerStats returns stats of the container. If the container does not
        // exist, the call returns an error.
        ContainerStats(context.Context, *ContainerStatsRequest) (*ContainerStatsResponse, error)
        // ListContainerStats returns stats of all running containers.
        ListContainerStats(context.Context, *ListContainerStatsRequest) (*ListContainerStatsResponse, error)
        // UpdateRuntimeConfig updates the runtime configuration based on the given request.
        UpdateRuntimeConfig(context.Context, *UpdateRuntimeConfigRequest) (*UpdateRuntimeConfigResponse, error)
        // Status returns the status of the runtime.
        Status(context.Context, *StatusRequest) (*StatusResponse, error)
}

(cri-api/pkg/apis/runtime/v1alpha2/api.pb.go)
kubectl exec เช•เซ‡เชตเซ€ เชฐเซ€เชคเซ‡ เช•เชพเชฎ เช•เชฐเซ‡ เช›เซ‡?

เชœเซ‹ เชเชฎ เชนเซ‹เชฏ เชคเซ‹, เช†เชชเชฃเซ‡ เช•เซเชฌเซ‡เชฒเซ‡เชŸ เช…เชจเซ‡ เช•เชจเซเชŸเซ‡เชจเชฐ เชฐเชจเชŸเชพเช‡เชฎ เชตเชšเซเชšเซ‡เชจเซเช‚ เชœเซ‹เชกเชพเชฃ เชœเซ‹เชตเซเช‚ เชœเซ‹เชˆเช, เชฌเชฐเชพเชฌเชฐ? เชšเชพเชฒเซ‹ เชคเชชเชพเชธเซ€เช.

exec เช†เชฆเซ‡เชถ เชชเชนเซ‡เชฒเชพเช‚ เช…เชจเซ‡ เชชเช›เซ€ เช† เช†เชฆเซ‡เชถ เชšเชฒเชพเชตเซ‹ เช…เชจเซ‡ เชคเชซเชพเชตเชคเซ‹ เชœเซเช“. เชฎเชพเชฐเชพ เช•เชฟเชธเซเชธเชพเชฎเชพเช‚ เชคเชซเชพเชตเชค เช›เซ‡:

// worker node
$ ss -a -p |grep kubelet
...
u_str  ESTAB      0      0       * 157937                * 157387                users:(("kubelet",pid=5714,fd=33))
...

เชนเชฎเซเชฎ... เช•เซเชฌเซ‡เชฒเซ‡เชŸ (pid=5714) เช…เชจเซ‡ เช•เช‚เชˆเช• เช…เชœเซเชžเชพเชค เชตเชšเซเชšเซ‡ เชฏเซเชจเชฟเช•เซเชธ เชธเซ‹เช•เซ‡เชŸเซเชธ เชฆเซเชตเชพเชฐเชพ เชจเชตเซเช‚ เชœเซ‹เชกเชพเชฃ. เชคเซ‡ เชถเซเช‚ เชนเซ‹เชˆ เชถเช•เซ‡? เชคเซ‡ เชธเชพเชšเซเช‚ เช›เซ‡, เชคเซ‡ เชกเซ‹เช•เชฐ เช›เซ‡ (pid=1186)!

// worker node
$ ss -a -p |grep 157387
...
u_str  ESTAB      0      0       * 157937                * 157387                users:(("kubelet",pid=5714,fd=33))
u_str  ESTAB      0      0      /var/run/docker.sock 157387                * 157937                users:(("dockerd",pid=1186,fd=14))
...

เชœเซ‡เชฎ เชคเชฎเชจเซ‡ เชฏเชพเชฆ เช›เซ‡, เช† เชกเซ‹เช•เชฐ เชกเชฟเชฎเชจ เชชเซเชฐเช•เซเชฐเชฟเชฏเชพ เช›เซ‡ (pid=1186) เชœเซ‡ เช…เชฎเชพเชฐเชพ เช†เชฆเซ‡เชถเชจเซ‡ เชšเชฒเชพเชตเซ‡ เช›เซ‡:

// worker node
$ ps -afx
...
 1186 ?        Ssl    0:55 /usr/bin/dockerd -H fd://
17784 ?        Sl     0:00      _ docker-containerd-shim 53a0a08547b2f95986402d7f3b3e78702516244df049ba6c5aa012e81264aa3c /var/run/docker/libcontainerd/53a0a08547b2f95986402d7f3
17801 pts/2    Ss     0:00          _ sh
17827 pts/2    S+     0:00              _ sleep 5000
...

4. เช•เชจเซเชŸเซ‡เชจเชฐ เชฐเชจเชŸเชพเช‡เชฎเชฎเชพเช‚ เชชเซเชฐเชตเซƒเชคเซเชคเชฟ

เชถเซเช‚ เชšเชพเชฒเซ€ เชฐเชนเซเชฏเซเช‚ เช›เซ‡ เชคเซ‡ เชธเชฎเชœเชตเชพ เชฎเชพเชŸเซ‡ เชšเชพเชฒเซ‹ CRI-O เชธเซเชคเซเชฐเซ‹เชค เช•เซ‹เชกเชจเซ€ เชคเชชเชพเชธ เช•เชฐเซ€เช. เชกเซ‹เช•เชฐเชฎเชพเช‚ เชคเชฐเซเช• เชธเชฎเชพเชจ เช›เซ‡.

เช…เชฎเชฒเซ€เช•เชฐเชฃ เชฎเชพเชŸเซ‡ เชœเชตเชพเชฌเชฆเชพเชฐ เชธเชฐเซเชตเชฐ เช›เซ‡ RuntimeServiceServer:

// Server implements the RuntimeService and ImageService
type Server struct {
        config          libconfig.Config
        seccompProfile  *seccomp.Seccomp
        stream          StreamService
        netPlugin       ocicni.CNIPlugin
        hostportManager hostport.HostPortManager

        appArmorProfile string
        hostIP          string
        bindAddress     string

        *lib.ContainerServer
        monitorsChan      chan struct{}
        defaultIDMappings *idtools.IDMappings
        systemContext     *types.SystemContext // Never nil

        updateLock sync.RWMutex

        seccompEnabled  bool
        appArmorEnabled bool
}

(cri-o/server/server.go)

// Exec prepares a streaming endpoint to execute a command in the container.
func (s *Server) Exec(ctx context.Context, req *pb.ExecRequest) (resp *pb.ExecResponse, err error) {
        const operation = "exec"
        defer func() {
                recordOperation(operation, time.Now())
                recordError(operation, err)
        }()

        resp, err = s.getExec(req)
        if err != nil {
                return nil, fmt.Errorf("unable to prepare exec endpoint: %v", err)
        }

        return resp, nil
}

(cri-o/erver/container_exec.go)

เชธเชพเช‚เช•เชณเชจเชพ เช…เช‚เชคเซ‡, เช•เชจเซเชŸเซ‡เชจเชฐ เชฐเชจเชŸเชพเชˆเชฎ เชตเชฐเซเช•เชฐ เชจเซ‹เชก เชชเชฐ เช†เชฆเซ‡เชถ เชšเชฒเชพเชตเซ‡ เช›เซ‡:

// ExecContainer prepares a streaming endpoint to execute a command in the container.
func (r *runtimeOCI) ExecContainer(c *Container, cmd []string, stdin io.Reader, stdout, stderr io.WriteCloser, tty bool, resize <-chan remotecommand.TerminalSize) error {
        processFile, err := prepareProcessExec(c, cmd, tty)
        if err != nil {
                return err
        }
        defer os.RemoveAll(processFile.Name())

        args := []string{rootFlag, r.root, "exec"}
        args = append(args, "--process", processFile.Name(), c.ID())
        execCmd := exec.Command(r.path, args...)
        if v, found := os.LookupEnv("XDG_RUNTIME_DIR"); found {
                execCmd.Env = append(execCmd.Env, fmt.Sprintf("XDG_RUNTIME_DIR=%s", v))
        }
        var cmdErr, copyError error
        if tty {
                cmdErr = ttyCmd(execCmd, stdin, stdout, resize)
        } else {
                if stdin != nil {
                        // Use an os.Pipe here as it returns true *os.File objects.
                        // This way, if you run 'kubectl exec <pod> -i bash' (no tty) and type 'exit',
                        // the call below to execCmd.Run() can unblock because its Stdin is the read half
                        // of the pipe.
                        r, w, err := os.Pipe()
                        if err != nil {
                                return err
                        }
                        go func() { _, copyError = pools.Copy(w, stdin) }()

                        execCmd.Stdin = r
                }
                if stdout != nil {
                        execCmd.Stdout = stdout
                }
                if stderr != nil {
                        execCmd.Stderr = stderr
                }

                cmdErr = execCmd.Run()
        }

        if copyError != nil {
                return copyError
        }
        if exitErr, ok := cmdErr.(*exec.ExitError); ok {
                return &utilexec.ExitErrorWrapper{ExitError: exitErr}
        }
        return cmdErr
}

(cri-o/internal/oci/runtime_oci.go)

kubectl exec เช•เซ‡เชตเซ€ เชฐเซ€เชคเซ‡ เช•เชพเชฎ เช•เชฐเซ‡ เช›เซ‡?

เช›เซ‡เชฒเซเชฒเซ‡, เช•เชฐเซเชจเชฒ เช†เชฆเซ‡เชถเซ‹ เชšเชฒเชพเชตเซ‡ เช›เซ‡:

kubectl exec เช•เซ‡เชตเซ€ เชฐเซ€เชคเซ‡ เช•เชพเชฎ เช•เชฐเซ‡ เช›เซ‡?

เชจเซ‡เชชเซ‹เชฎเชฟเชจเชพเชจเชฟเชฏเชพ

  • API เชธเชฐเซเชตเชฐ เช•เซเชฌเซ‡เชฒเซ‡เชŸ เชธเชพเชฅเซ‡ เช•เชจเซ‡เช•เซเชถเชจ เชชเชฃ เชถเชฐเซ‚ เช•เชฐเซ€ เชถเช•เซ‡ เช›เซ‡.
  • เช‡เชจเซเชŸเชฐเซ‡เช•เซเชŸเชฟเชต เชเช•เซเชเชฟเช•เซเชฏเซเชŸ เชธเชคเซเชฐ เชธเชฎเชพเชชเซเชค เชจ เชฅเชพเชฏ เชคเซเชฏเชพเช‚ เชธเซเชงเซ€ เชจเซ€เชšเซ‡เชจเชพ เชœเซ‹เชกเชพเชฃเซ‹ เชšเชพเชฒเซ เชฐเชนเซ‡ เช›เซ‡:
    • kubectl เช…เชจเซ‡ api-เชธเชฐเซเชตเชฐ เชตเชšเซเชšเซ‡;
    • api-เชธเชฐเซเชตเชฐ เช…เชจเซ‡ kubectl เชตเชšเซเชšเซ‡;
    • เช•เซเชฌเซ‡เชฒเซ‡เชŸ เช…เชจเซ‡ เช•เชจเซเชŸเซ‡เชจเชฐ เชฐเชจเชŸเชพเช‡เชฎ เชตเชšเซเชšเซ‡.
  • Kubectl เช…เชฅเชตเชพ api-server เชตเชฐเซเช•เชฐ เชจเซ‹เชกเซเชธ เชชเชฐ เช•เช‚เชˆเชชเชฃ เชšเชฒเชพเชตเซ€ เชถเช•เชคเชพ เชจเชฅเซ€. เช•เซเชฌเซ‡เชฒเซ‡เชŸ เชšเชพเชฒเซ€ เชถเช•เซ‡ เช›เซ‡, เชชเชฐเช‚เชคเซ เชคเซ‡ เชคเซ‡ เชตเชธเซเชคเซเช“ เช•เชฐเชตเชพ เชฎเชพเชŸเซ‡ เช•เชจเซเชŸเซ‡เชจเชฐ เชฐเชจเชŸเชพเช‡เชฎ เชธเชพเชฅเซ‡ เชชเชฃ เช•เซเชฐเชฟเชฏเชพเชชเซเชฐเชคเชฟเช•เซเชฐเชฟเชฏเชพ เช•เชฐเซ‡ เช›เซ‡.

เชธเช‚เชชเชคเซเชคเชฟ

เช…เชจเซเชตเชพเชฆเช• เชคเชฐเชซเชฅเซ€ เชชเซ€เชเชธ

เช…เชฎเชพเชฐเชพ เชฌเซเชฒเซ‹เช— เชชเชฐ เชชเชฃ เชตเชพเช‚เชšเซ‹:

เชธเซ‹เชฐเซเชธ: www.habr.com

เชเช• เชŸเชฟเชชเซเชชเชฃเซ€ เช‰เชฎเซ‡เชฐเซ‹