Абетка безпеки в Kubernetes: автентифікація, авторизація, аудит
Рано чи пізно в експлуатації будь-якої системи постає питання безпеки: забезпечення автентифікації, поділу прав, аудиту та інших завдань. Для Kubernetes вже створено безліч рішень, які дозволяють досягти відповідності стандартам навіть у дуже вимогливих оточеннях… Цей же матеріал присвячений базовим аспектам безпеки, реалізованим у рамках вбудованих механізмів K8s. Насамперед він буде корисним тим, хто починає знайомитися з Kubernetes, як відправна точка для вивчення питань, пов'язаних з безпекою.
аутентифікація
У Kubernetes є два типи користувачів:
Сервісні облікові записи - Облікові записи, керовані Kubernetes API;
Основна відмінність цих типів у тому, що для Service Accounts існують спеціальні об'єкти в Kubernetes API (вони так і називаються ServiceAccounts), які прив'язані до простору імен та набору авторизаційних даних, що зберігаються в кластері в об'єктах типу Secrets. Такі користувачі (Service Accounts) призначені переважно управління правами доступу до Kubernetes API процесів, які у кластері Kubernetes.
Звичайні ж Users не мають записів у Kubernetes API: керування ними має здійснюватись зовнішніми механізмами. Вони призначені для людей або процесів, які живуть поза кластером.
Кожен запит до API прив'язаний або до Service Account, або до User, або вважається анонімним.
Аутентифікаційні дані користувача включають:
ім'я користувача - Ім'я користувача (залежить від регістру!);
UID — машинно-читаний рядок ідентифікації користувача, який «консистентніший і унікальніший, ніж ім'я користувача»;
груп - Список груп, до яких належить користувач;
Extra - Додаткові поля, які можуть бути використані механізмом авторизації.
Kubernetes може використовувати велику кількість механізмів аутентифікації: сертифікати X509, Bearer-токени, аутентифікуючий проксі, HTTP Basic Auth. За допомогою цих механізмів можна реалізувати велику кількість схем авторизації від статичного файлу з паролями до OpenID OAuth2.
Понад те, допускається використання кількох схем авторизації одночасно. За замовчуванням у кластері використовуються:
service account tokens – для Service Accounts;
X509 – для Users.
Питання про управління ServiceAccounts виходить за рамки цієї статті, а бажаючим докладніше ознайомитися з цим питанням рекомендую почати з сторінки офіційної документації. Ми розглянемо докладніше питання роботи сертифікатів X509.
Сертифікати для користувачів (X.509)
Класичний спосіб роботи із сертифікатами передбачає:
обробку запиту на сертифікат за допомогою ключів CA кластера Kubernetes, отримання сертифіката користувача (для отримання сертифіката потрібно використовувати обліковий запис, що має доступ до ключа центру сертифікації кластера Kubernetes, який за замовчуванням знаходиться в /etc/kubernetes/pki/ca.key):
Для полегшення перенесення конфігу між обліковими записами та серверами корисно відредагувати такі ключі:
certificate-authority
client-certificate
client-key
Для цього можна закодувати вказані в них файли за допомогою base64 і прописати їх у конфізі, додавши у назву ключів суфікс -data, тобто. отримавши certificate-authority-data і т.п.
Сертифікати з kubeadm
З релізом Кубернети 1.15 робота з сертифікатами стала значно простішою завдяки альфа-версії її підтримки утиліть kubeadm. Наприклад, як тепер може виглядати генерація конфігураційного файлу з ключами користувача:
kubeadm alpha kubeconfig user --client-name=mynewuser --apiserver-advertise-address 192.168.100.200
NB: Необхідний advertise address можна подивитися в конфізі api-server, який за умовчанням розташований /etc/kubernetes/manifests/kube-apiserver.yaml.
Результуючий конфіг буде виведений у stdout. Його потрібно зберегти в ~/.kube/config облікового запису користувача або ж у файл, вказаний у змінному оточенні KUBECONFIG.
копнути глибше
Для тих, хто бажає ретельно розібратися в описаних питаннях:
окрема стаття по роботі із сертифікатами в офіційній документації Kubernetes;
Авторизований обліковий запис за умовчанням не має прав на дії у кластері. Для надання дозволів у Kubernetes реалізовано механізм авторизації.
До версії 1.6 Kubernetes застосовувався тип авторизації, званий ABAC (Attribute-based access control). Подробиці про нього можна знайти в офіційної документації. В даний час цей підхід вважається застарілим (legacy), проте ви все ще можете використовувати його одночасно з іншими типами авторизації.
Актуальний (і більш гнучкий) спосіб поділу прав доступу до кластера називається RBAC (Рольовий контроль доступу). Він був оголошений стабільним з версії Кубернети 1.8. RBAC реалізує модель прав, у якій заборонено все, що явно не дозволено. Щоб увімкнути RBACпотрібно запустити Kubernetes api-server з параметром --authorization-mode=RBAC. Параметри виставляються в маніфесті зі конфігурацією api-server, яка за умовчанням перебуває на шляху /etc/kubernetes/manifests/kube-apiserver.yamlу секції command. Втім, за замовчуванням RBAC і так увімкнено, тому швидше за все турбуватися про це не варто: переконатися в цьому можна за значенням authorization-mode (у вже згаданому kube-apiserver.yaml). Серед його значень можуть виявитися й інші типи авторизації (node, webhook, always allow), та їх розгляд залишимо поза рамками матеріалу.
До речі, ми вже публікували статтю з досить докладною розповіддю про принципи та особливості роботи з RBAC, тому далі обмежуся коротким перерахуванням основ та прикладів.
Для керування доступом у Kubernetes через RBAC використовуються такі сутності API:
Role и ClusterRole - ролі, які служать для опису прав доступу:
Role дозволяє описати права у межах простору імен;
ClusterRole — у рамках кластера, у тому числі до кластер-специфічних об'єктів типу вузлів, non-resources urls (тобто не пов'язаних із ресурсами Kubernetes — наприклад, /version, /logs, /api*);
RoleBinding и ClusterRoleBinding - служить для прив'язки Role и ClusterRole до користувача, групи користувачів або ServiceAccount.
Сутності Role і RoleBinding є обмеженими namespace'ом, тобто. повинні знаходитись у межах одного простору імен. Однак RoleBinding може посилатися на ClusterRole, що дозволяє створити набір типових дозволів та керувати доступом за їх допомогою.
Ролі описують права за допомогою наборів правил, що містять:
групи API - див. офіційну документацію по apiGroups та висновок kubectl api-resources;
ресурси (ресурси: pod, namespace, deployment і т.п.);
дієслова (Дієслова: set, update і т.п.).
імена ресурсів (resourceNames) — для випадку, коли потрібно надати доступ до певного ресурсу, а не до всіх ресурсів цього типу.
Більш детальний аналіз авторизації в Kubernetes можна знайти на сторінці офіційної документації. Натомість (а точніше — на додаток до цього) наведу приклади, що ілюструють її роботу.
Приклади сутностей RBAC
Проста Role, що дозволяє отримувати список та статус pod'ів та стежити за ними у просторі імен target-namespace:
Приклад ClusterRole, що дозволяє отримувати список та статус pod'ів та стежити за ними у всьому кластері:
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:
# секции "namespace" нет, так как ClusterRole задействует весь кластер
name: secret-reader
rules:
- apiGroups: [""]
resources: ["secrets"]
verbs: ["get", "watch", "list"]
Приклад RoleBindingщо дозволяє користувачеві mynewuser «читати» pod'и у просторі імен my-namespace:
apiVersion: rbac.authorization.k8s.io/v1
kind: RoleBinding
metadata:
name: read-pods
namespace: target-namespace
subjects:
- kind: User
name: mynewuser # имя пользователя зависимо от регистра!
apiGroup: rbac.authorization.k8s.io
roleRef:
kind: Role # здесь должно быть “Role” или “ClusterRole”
name: pod-reader # имя Role, что находится в том же namespace,
# или имя ClusterRole, использование которой
# хотим разрешить пользователю
apiGroup: rbac.authorization.k8s.io
Аудит подій
Схематично архітектуру Kubernetes можна представити так:
Ключовий компонент Kubernetes, що відповідає за обробку запитів, api-сервер. Усі операції над кластером проходять крізь нього. Докладніше про ці внутрішні механізми можна почитати у статті «Що відбувається в Kubernetes під час запуску kubectl run?».
Аудит системи – цікава фіча в Kubernetes, яка за умовчанням вимкнена. Вона дозволяє логувати усі звернення до Kubernetes API. Як легко здогадатися, через цей API виконуються всі дії, пов'язані з контролем та зміною стану кластера. Хороший опис її можливостей можна (як завжди) знайти в офіційної документації K8s. Далі я постараюся викласти тему більш простою мовою.
Отже, щоб увімкнути аудит, нам потрібно передати контейнеру в api-server три обов'язкові параметри, докладніше про які наведено нижче:
Крім цих трьох необхідних параметрів існує безліч додаткових налаштувань, що стосуються аудиту: від ротації логів до описів webhook. Приклад параметрів ротації логів:
Як уже згадувалося, всі параметри виставляються у маніфесті зі конфігурацією api-server (за умовчанням /etc/kubernetes/manifests/kube-apiserver.yaml), у секції command. Повернемося до 3 обов'язкових параметрів та розберемо їх:
audit-policy-file шлях до YAML-файлу з описом політики (policy) аудиту. До його вмісту ми ще повернемося, а поки зауважу, що файл має бути доступним для читання процесом api-server'а. Тому необхідно змонтувати його всередину контейнера, для чого можна додати наступний код у відповідні секції конфігу:
audit-log-format - Формат лога аудиту. За умовчанням це json, але доступний і застарілий текстовий формат (legacy).
Політика аудиту
Тепер про згаданий файл з описом політики логування. Перше поняття audit policy - це level, рівень логування. Вони бувають такими:
None - Не логувати;
Metadata - логувати метадані запиту: користувача, час запиту, цільовий ресурс (pod, namespace тощо), тип дії (verb) тощо;
Request - логувати метадані та тіло запиту;
RequestResponse - логувати метадані, тіло запиту та тіло відповіді.
Останні два рівні (Request и RequestResponse) не логують запити, які не зверталися до ресурсів (звернення до так званих non-resources urls).
Також усі запити проходять через кілька стадій:
RequestReceived — етап, коли запит отримано обробником і ще не передано далі ланцюжком обробників;
ResponseStarted - Заголовки відповіді відправлені, але перед відправкою тіла відповіді. Генерується для тривалих запитів (наприклад, watch);
ResponseComplete — тіло відповіді надіслано, більше інформації не надсилатиметься;
Panic — події генеруються, коли виявлено позаштатну ситуацію.
Для пропуску будь-яких стадій можна використовувати omitStages.
У файлі політики ми можемо описати кілька секцій із різними рівнями логування. Застосовуватиметься перше відповідне правило, знайдене в описі policy.
Демон kubelet відстежує зміну маніфесту з конфігурацією api-server і при виявленні таких перезапускає контейнер з api-server. Але є важлива деталь: зміни у файлі policy їм ігноруватимуться. Після внесення змін до файлу policy потрібно буде перезапустити api-server вручну. Оскільки api-server запущено як static pod, команда kubectl delete не призведе до його перезапуску. Прийде вручну зробити docker stop на kube-master'ах, де змінено політику аудиту:
При включенні аудиту важливо пам'ятати, що на kube-apiserver підвищується навантаження. Зокрема, збільшується споживання пам'яті збереження контексту запитів. Запис у лог починається тільки після надсилання заголовка відповіді. Також навантаження залежить від зміни політики аудиту.
Приклади політик
Розберемо структуру файлів policy на прикладах.
Ось простий файл policy, щоб логувати все на рівні Metadata:
У policy можна вказувати перелік користувачів (Users и ServiceAccounts) та груп користувачів. Наприклад, ось так ми проігноруватимемо системних користувачів, але логуватимемо все інше на рівні Request:
Для оперативного реагування на події аудиту є можливість описати webhook. Це питання розкрито в офіційної документації, Залишу його за рамками цієї статті.
Підсумки
У статті наведено огляд механізмів базового забезпечення безпеки в кластерах Kubernetes, які дозволяють створювати персоніфіковані облікові записи користувачам, розділяти їхні права, а також реєструвати їх дії. Сподіваюся, він стане у нагоді тим, хто зіткнувся з такими питаннями в теорії чи вже на практиці. Рекомендую також ознайомитися зі списком інших матеріалів з теми безпеки в Kubernetes, що наведено в «PS», — можливо, серед них ви знайдете потрібні подробиці щодо актуальних для вас проблем.