Прогулянки ЦОДами та телекомами Пітера

Перші дні літа відмінно підходять для поїздки в Пітер.
Ми відвідаємо Міран, linxdatacenter, RETN та Метротек.

5 ранку, Московський вокзал, KFC, набережна Мийки, Тарілка, голуби з дахів, Ісакій, Марсове поле, Каптюр яндексодрайвовий, і ось він - Міран.

Міран

У Мірані вже кілька років проживає наша лаба з Євою, сервер трансляції, віртуальний мікротіківський Роутерос, хостинг linkmeup з IPv6-доступністю і тепер хостинг подкастів.

Прогулянки ЦОДами та телекомами Пітера

Біля входу в Міран нас зустрів спочатку значних розмірів ДДУ.

Прогулянки ЦОДами та телекомами Пітера

Більшість Дизель-Генераторних Установок стоять на колесах із двох причин:

  • Мобільність – у парі сотень метрів є ще кілька модулів Мірану. У них свої генератори - але мало - доведеться катати.
  • Мобільність — їх не треба реєструвати як стаціонарні електростанції і, відповідно, не потрібна проектна документація.

ДДУ Мірана взимку та влітку стартує за кілька секунд. Протягом цього часу весь ЦОД живлять акумуляторні батареї.

І залізний HP у стійці Мірану та екскурсія стали можливі завдяки Федору Русакову.

Прогулянки ЦОДами та телекомами Пітера

Вся екскурсія пройшла у затишній домашній атмосфері. Кава з печінками, розмова за телекоми, за витоки компанії, про перевезення двохсот серверів вкшечки з Москви до Пітера під покровом ночі. Без поспіху ми прогулялися двома будинками ЦОДу. Обидва – BrownField – перероблені із заводських приміщень. У першому, що належить Мірану, з якого ми почали і де на другому поверсі заряджалися після чотиригодинної прогулянки Пітером, свого часу розташовувався завод дизельних установок, воістину гігантських дизельних установок. Власне другого поверху не було — була величезна брама, щоб туди-назад. Усі розібрали, другий поверх зробили, активне охолодження, резервоване електроживлення, газова система пожежогасіння.

Класичний гарячий коридор, звідки повітря подається в кондиціонери та під фальшпідлогою до закритого холодного коридору.

Також під фальшпідлогою заховані кабелі харчування.

Міран не народився як майданчик для одного якірного клієнта, а швидше за планомірно розвивав пропозицію на ринку, де є попит.

Свого часу тут розташовувався великий банк з усіма ґратами і СКУДами, але він уже з'їхав.

Прогулянки ЦОДами та телекомами Пітера

Попит продовжував зростати, Міран теж, з'явилася друга будівля — вже в оренду — також BrownField — за двісті метрів від першої. Дорога лежить уздовж набережної Великої Невки повз будинок Нобеля.

Прогулянки ЦОДами та телекомами Пітера

Новий будинок побудований за модульним принципом з можливістю перевезти повністю модуль у разі проблем з орендодавцем. Перші дві коробочки купили у виробника, третю вже зібрали з урахуванням старих помилок.

Модульна архітектура має мінуси — вони порівняно вузькі — гарячий коридор — 60 см — двом людям не розійтися. А найголовніше — вартість переїзду, як виявилося за першого ж розрахунку, можна порівняти з будівництвом нового.

Але виглядають вони як зовні, так і всередині свіженько та модно.

NOC у хлопців на православному Linux, стабільному дебіані.

Прогулянки ЦОДами та телекомами Пітера

Свою назву компанія, до речі, одержала від плати Система Meridian Integrated Recorded Announcement (MIRAN) у телефонному комутаторі Меридіан. А потім і ЦОД так назвали.

Прогулянки ЦОДами та телекомами Пітера

ЦОД вирішили будувати у складний 2008 рік.

З того часу хлопці надають дедік та дзвін. У спеціальних приміщеннях встановлено обладнання операторів.

І це накладає певні обмеження та особливості на роботу. Наприклад, у стійках стоїть максимально різношерстне обладнання, як у плані машин, так і в плані сітки. У Мірані я хіба що Аріст і Мелланокс не побачив. Все обладнання пред'являє різну вимогу до температури в холодному коридорі, тому доводиться підтримувати на дуже низькому рівні - близько 20 ° С, тобто про низькі PUE говорити не доводиться - у Мірану він 1,5.
Ще один нюанс - зі зміїними весіллями у стійках. Як тільки ви пускаєте в приміщення зовнішніх товаришів зі своїми комутаціями, пиши «зникла краса». Ніхто не має винятків.

Прогулянки ЦОДами та телекомами Пітера

На жаль, вводити драконівські заходи тут може бути на шкоду.

Прогулянки ЦОДами та телекомами ПітераПрогулянки ЦОДами та телекомами Пітера
Прогулянки ЦОДами та телекомами Пітера
Останні фото.

А потім мерч від нашого столу вашого та від вашого нашого. Завантажилися всім натовпом у таксо - і в лінкс.

linxdatacenter

Це серйозні хлопці, на тимчасовому перепустці яких навіть написано Security Matters. Це пройде лейтмотивом усієї екскурсії.

Після пряничного Мірану в linxdatacenter ти розумієш, що прийшов лакшері ДЦ. У свій вихідний 4 людини з'їхалися прямо скажемо не в центр міста, щоб розповісти про себе іншим п'ятьом особам, які навряд чи стануть їх клієнтами 🙂

Нас зустріла Марія Свистунова, проводила великий стіл переговорів. Трохи пустих розмов за гватемальською кавою і вперед.

Прогулянки ЦОДами та телекомами Пітера

Екскурсії тут поставлено на потік. Максим та Олег знають свою справу: розповідають по накатаній: чітко та із захопленням. Де треба, наголошують, а де ні — обходять стороною. З почуттям гумору теж повний порядок, тому дві з лишком години пролетіли непомітно.

Гордістю ЦОДу є аптайм у 100% починаючи із запуску у 2011-му році.

Впевненість настільки висока, що для десятих часток навіть не передбачено місце на табло.

Прогулянки ЦОДами та телекомами Пітера

Linx – приклад ДЦ у форматі GreenField. Будівлю спеціально будувалося під розміщення у ньому ДЦ. Тому висота стель, міцність перекриттів, введення електроживлення, його резервування, СКС було закладено в проект і враховано ще на етапі будівництва.

Прогулянки ЦОДами та телекомами Пітера

Так, по дефолту підлога витримує стійку 800 кг, але масу можна ще збільшити після додаткового зміцнення. Кажуть ораклові стійки вартістю Falcon9 вимагають до себе особливого відношення.

Сам ДЦ запитаний від газопоршневої установки, а міська електрика є лише резервом. За словами Максима — це було дуже правильним рішенням, тому що під час відомого Пітерського блекауту офіс і БЦ, що стоїть поруч, постраждали, а ЦОД продовжив роботу.

Дизель-генератор тут вже не причіп на колесах, а цілком стаціонарне приміщення з димовими трубами, що здіймаються високо над краєвидом.

Час запуску – не більше двох хвилин, а на батареях весь ЦОД може опрацювати близько години. Пропрацювати дизелі можуть 3 дні без довідправки.

Тут у всьому панує порядок та продуманість.

Ось це, наприклад, ключинця, де клієнти ЦОД можуть самі по відбитку пальця взяти ключі від своїх стійок.

Прогулянки ЦОДами та телекомами Пітера

А це приміщення, де клієнти можуть проводити будь-які необхідні їм інженерні роботи, навіщо на стіні висить шанцевий інструмент.

Прогулянки ЦОДами та телекомами Пітера

Прогулянки ЦОДами та телекомами Пітера

Це вже полички для місцевої експлуатації з усім життєво необхідним у повсякденній роботі:

Прогулянки ЦОДами та телекомами Пітера

Прогулянки ЦОДами та телекомами Пітера

Воно завжди заряджене та готове до роботи.

Бейсболка хіпхопера-початківця на фото вище врятувала голову не однієї людини. Вона тверда як натуральна каска — саме те лазити під півтораметровим фальшпідлогою, де ні-ні — та стирчить якась гостра залізяка.

Власне співробітники з експлуатації:

Прогулянки ЦОДами та телекомами Пітера

Ось цей нічим не примітний прилад дифманометр.

Прогулянки ЦОДами та телекомами Пітера

Він має вирішити просте завдання — підтримувати різницю тисків між коридором і машинним приміщенням. Наприклад, для того, щоб воно було всередині трохи вище і при відкритті дверей пил не залітав усередину, а навпаки відлітав від дверей.

Система пожежогасіння також газова — у разі лиха газ витісняє кисень і купує горіння.

Прогулянки ЦОДами та телекомами Пітера

У лінксі встають лише серйозні і дуже серйозні хлопці, які мають причини для параної величиною в Арарат.

Грати та окремий від датацентрового СКУД – це лише початок.

Ось коли на вирішення проблеми чи на нові комутації приїжджають дві людини — одна з матеріальним ключем, інша з електронною — це вже цікавіше. А коли від клієнта приїжджає аудитор в окулярах, спускається під фальшпідлогу, розсуває два аркуші ґрат і каже, що тут пролізе голова дитини, розумієш, що людина бачила деякі цікаві речі у своєму житті.

Були кумедні ситуації, коли при проектуванні клітини врахували все, що тільки можна, всі системи безпеки, всі розміри, які дозволяють завозити стійку і ставити в неї обладнання, але якось не подумали про габарити інженерів, які з ним працюватимуть. А вони ні в фас, ні в профіль не поміщаються між клітиною та стійкою.

Якби я був ФСБ, я поставив би своє залізо в linx 🙂

Після екскурсії ми ще довго сиділи, душевно бовтаючи під піцу.
З цього царства безпеки та порядку ми рушили до RETN.

RETN

З цими хлопцями ми знайомі вже давно та близько. Тому нічого дивного, що нарешті ми зібралися на їхньому даху, щоб посмажити шашликів і поцькувати байки.

Прогулянки ЦОДами та телекомами Пітера

У них ми теж уже бували, хоч, здається, не розповідали. Минулого року плани захоплення Пітерських дахів провалилися через Фіфу.

RETN - взагалі-то найбільший магістральний оператор з волокном по всій планеті. Їхню павутину позаздрить будь-який павук.

А ДЦ на обвідному — це такий домашній проект для душі, який знайшов свою нішу на ринку, що росте. Сюди встають ті, кому потрібна товста зв'язок зі світом та вихід на інших місцевих операторів.

Так, наприклад, у RETNі стоїть CDN Netflix'а.

Прогулянки ЦОДами та телекомами Пітера

Прогулянки ЦОДами та телекомами Пітера

Я з подивом дізнався, що кожна їхня нода індивідуально від руки підписана якоюсь фразою.
І ось такі святкові коробочки молотять у різних містах на POPах RETNу (і, очевидно, не тільки його), доставляючи до вас якнайшвидше «Чорне дзеркало» та «Гострі козирки».

Тут є і CDN гугла і купа операторів, як місцевого рівня, і федерального.

У RETN поряд з будівлею стоять два крихітних (порівняно з миранівським) дизель-генератора та машина з каністрами, щоб з'їздити на заправку. Звучить майже як сімейний бізнес.

Ну а вечірні переговори на даху довели нас до того, що RETN видасть нам віртуалочку для резервного майданчика під хостинг подкастів та картинок.
Світові хлопці, суперламповий ЦОД, що вражає своїми масштабами мережу.

Прогулянки ЦОДами та телекомами Пітера

Для когось цей день закінчився турніром з duke nukem, для когось довгоочікуваним сном у готелі.

Наступного дня ми мали не так багато планів: Метротек і подкаст живцем linkmeup IRL.

Метротек

Буквально місяць тому у гості телеком-підкасту приходили Мишко Соколов та Денис Габідуллін з НТЦ Метротек слеш Plumspace, і ми розбирали, що таке Smart SFP. А тепер ми змогли їх помацати живцем.

Денис, який проводив екскурсію Пітерським офісом Метротек (який до речі не змінився з останнього нашого походу до них), що з порога дав до рук один із зразків.
Я було спочатку здивувався, наскільки він незграбно зроблений — немов лобзиком і напилком виточений із ключа на 32.

Прогулянки ЦОДами та телекомами Пітера

Виявилося, що корпус дослідного екземпляра був надрукований на 3д-принтері з металевого порошку, що видно по шорсткої поверхні. Інші — ті, що готові до серії, — у повному порядку.

Прогулянки ЦОДами та телекомами Пітера

Але взагалі, дивлячись на них, дивуєшся, як вони все-таки примудрилися в майже стандартний корпус сховати таку кількість мізків.

Прогулянки ЦОДами та телекомами Пітера

Раджу послухати підкаст про Розу, Тозу та сестру їхню Бозу. Вийшло на мій смак цікаво.

Дизайн офісу є максимально звичайним. Порівняно невеликі прямокутні кабінети, витягнуті до вікна, досить темні, що трохи давило. Але атмосфера, незважаючи на вихідний, панувала робоча.

Прогулянки ЦОДами та телекомами Пітера

Оформлення за два роки не змінилося. Порадували деякі плакати та дошки.

Ми пройшлися кількома кімнатами: R&D, системників, FPGAшників, потримали в руках різні види SFP, програматори, побачили першу модель, в якій Smart було винесено з SFP на проводочці — один із перших експериментів — швидше, Proof of Concept, що воно взагалі працює .

Говорять, деяким клієнтам навіть зручно, щоб у них із заліза стирчав такий хвіст.
Найпершою метою два роки тому було зібрати звичайну оптичну SFP, яка хоча б передаватиме сигнал.

Потім окремо збирали Smart частину з чужою SFP (якраз на шнурку), щоб переконатися, що вони можуть скомпонувати чіпи.

Метротек провернув величезну роботу. Подумати тільки, що за 2 роки зібрали повністю робочий оптичний модуль, який вміє в інкапсуляції, телеметрії, сервері точного часу, конвертер інтерфейсів.

І при цьому налагодити до ідеалу (хоча це ще доведеться перевірити часом) базову функціональність передачі сигналу. Не повинно бути згасань, не повинно бути навіть рідкісних дропів з вини SFP. А ще воно не повинно грітися, незважаючи на пачку ASICів, FPGA та CPU усередині.
Браво!

Повноцінна обчислювальна система:

  • CPU: NXP i.MX6 ARM до 900 МГц
  • FPGA: Lattice ECP5 до 85K LUTs
  • RAM: DDR3 до 1 ГБ

Денис зазначив, що у компанії практикується та заохочується обмін знаннями, досвідом. І тут я подумав: А хіба буває інакше? 0_о». — Так, часто до них приходять люди, які на колишньому місці роботи варилися у власному соку, не спілкувалися, робили подвійну та потрійну роботу та загалом уникали спроб комунікації.

І тут я згадав, що, загалом не далі, ніж два роки тому, я працював в одній міжнародній широкозабаненій компанії, де конференції були під забороною, а knowledge exchange був відсутній як клас. І саме я був одним із євангелістів щотижневих зустрічей для обміну досвідом, які, здається, рятували самотніх інженерів у віддалених регіонах.

Загалом у Метротеці на регулярній основі проводяться внутрішні тренінги та лекції, чому вони та молодці.

А далі нас завели до дивовижного цеху монтажу. Скільки разів би я не бував у них, здається, моє дитяче захоплення не згасає.

У Метротек прямо в офісі стоїть обладнання для друку на платах.

Трафарет для нанесення котів припою, принтер SMD-компонентів (інакше я його назвати просто не можу), маленька печурка для запікання плат і робочі місця для ручного монтажу.

Прогулянки ЦОДами та телекомами Пітера

Прогулянки ЦОДами та телекомами Пітера

Прогулянки ЦОДами та телекомами Пітера

На свій подив дізнався, що мікрочіпи з сотнями ніг теж припаюються вручну. Денис каже, що їхні хлопці з дивовижною точністю і швидкістю напоюють найдрібніші деталі і часом немає сенсу запускати шайтан-машину — людина зробить швидше.

Прогулянки ЦОДами та телекомами Пітера

Ми між собою назвали виробничу лінію Метротек Елтекс-верилайт на хвилі порівняно недавньої екскурсії до них.

Крім того в офісі є 3d-принтер і фрезерувальний верстат для внутрішніх потреб, на якому, проте, вже гравірували медальки для минулорічного. Chaos Construction.

Прогулянки ЦОДами та телекомами Пітера

Звідти ми вирушили в приголомшливий за своєю ідейністю Krang Pizza, де вже повним складом linkmeup проковтнули мутантську і за розмірами і за змістом піцу-бургер і рушили до офісу IQ option, де й записали перший випуск linkmeup IRL.

Наступного дня ми ще завітали до Лазерного центру з наведення Мамонта, де з нами стався технократичний екстаз і трохи запалення жадібності, але про це буде окрема історія.

Насамкінець хочеться сказати, що всі екскурсії та зустрічі вийшли дуже різними, як за масштабом дії, так і за спрямованістю.

Міран який гостинно дав притулок у себе наш хостинг, що швидко зростає, але все ще по-дружньому простий.

Лінкс - воістину крутий ЦОД, з безпекою на чолі кута та досвідченими маркетологами.
RETN-молоді веселі хлопці «з гаражів», які роблять гігантську мережу і поки що маленький ЦОДик і не проти розвести вогнище на даху.

Метротек — порівняно невелика команда російських розробників заліза і ПЗ, яка робить майже «ось цими руками» купу вимірювального більш ніж конкурентоспроможного обладнання, а тепер виходить на новий для себе ринок з амбітним завданням.

І Лазерний Центр, який виходить за рамки інтересів linkmeup, але є об'єктом наших особистих інтересів. Залишив дуже приємне враження та гравіювання мікрофончика на диктофоні.

Джерело: habr.com

Додати коментар або відгук