Нормативная документация

Обслуживание СБГЭ. Здоровый ЦОД без особых хлопот

20 мая 2014 г. | Категория: Эксплуатация ЦОД

Безотказная работа системы ИБП в ЦОДе во многом определяет качество функционирования всей его системы электропитания. От того, кто отвечает в ЦОДе за эти вопросы и как организована эксплуатация источников бесперебойного питания (ИБП), зависит уровень отказоустойчивости всего дата-центра.

В эксплуатационной команде ЦОДа невозможно собрать узких специалистов по всем инженерным подсистемам, досконально знакомых со всеми категориями инженерного оборудования, — напротив, это чаще команда универсалов. Поэтому для ЦОДов рекомендация по заключению контракта на обслуживание ИБП и ДГУ обязательна. Рассмотрим подробнее нюансы этих договоров.

Обслуживание системы энергообеспечения дата-центра включает, помимо сервиса ИБП, еще и услуги по сопровождению дизель-генераторов (ДГУ) и щитового оборудования. В бригадах, которые обслуживают ИБП и дизель-генераторные установки, несмотря на то, что они, казалось бы, занимаются разным делом, чаще всего работают одни и те же люди, потому что комплекс ИБП, ДГУ, а также щитовое оборудование должны работать во взаимосвязи.

Одна из типичных ошибок — это заключение сервисного договора только на обслуживание дизель-генераторной установки или только на обслуживание источника бесперебойного питания. Самое неприятное для руководства службы эксплуатации ЦОДа  — когда заключены разные сервисные договоры. По времени одни работы с другими далеко не всегда хорошо стыкуются, потому что иногда во время произведения работ на ИБП имеет смысл превентивно запустить ДГУ для повышения надежности, а иногда вообще перевести питание на дизель. Если это делают разные организации, то у них графики могут не совпадать, либо эта сложнейшая административная задача ложится на плечи службы эксплуатации ЦОДа. А администрировать две совсем разные, не подчиняющиеся ЦОДу организации очень непросто.

На конкурсной основе

Для выбора сервисной компании следует провести конкурс и внимательно отнестись к составлению конкурсной документации: если в ней написали «дизель-генераторная установка», то эксплуатационная команда будет обслуживать именно ДГУ. Но для того чтобы ДГУ функционировала нормально, должны хорошо открываться и закрываться жалюзи для впуска-выпуска воздуха, функционировать насосы топливоподачи, подкачки. Если же договор составлен только на обслуживание ДГУ, то сервисная организация, с которой заключили договор, совершенно свое­временно, честно и грамотно меняет фильтры, масло, делает запуски и т. д. Но этой организации никто не платил, чтобы чинить, например, заклинившие жалюзи. Специалисты этой организации могут указать на этот недочет, а может быть, даже починить из уважения к заказчику, но могут не указать и не починить. И обвинять их в этом невозможно: этой услуги им никто не заказывал.

Точно так же следует помнить, что кроме самого ИБП на объекте обязательно присутствует большое батарейное хозяйство, входные и выходные щиты, к которым подключаются ИБП. Неотъемлемой частью в состав СБГЭ входят локальные системы технологического кондиционирования, зачастую не связанные с общей системой кондиционирования ЦОДа, но обеспечивающие климат в помещении ИБП и АКБ — и за всем этим тоже надо следить.

Кроме того, в зону ответственности правильной сервисной компании должна попадать система мониторинга, которая помогает сопровождать ИБП и ДГУ. Если при абсолютно исправных ИБП и ДГУ на экране монитора высвечиваются непонятные сообщения  — с точки зрения заказчика у него не работает вообще все, хотя на самом деле всего лишь нарушен мониторинг. К сожалению, об этой важной вещи часто забывают.

Не только «клиринговые» услуги

Сторонний наблюдатель, глядя на труд сервисников, чаще всего видит незамысловатую процедуру, которая проводится при обслуживании ИБП, — это работа с пылесосом или воздуходувкой. Работающий ИБП прогоняет сквозь свой корпус огромное количество воздуха, статическое электричество притягивает к себе пыль. Эта пыль может забить радиаторы и мешать теплообмену, длинные пылевые «сталагмиты» или «бороды» прорастают от одной платы до другой и иногда смыкаются. Это бывает нечасто, но в условиях повышенной влажности ситуация может привести к электрическим пробоям. Очень серьезное загрязнение внутренней поверхности ИБП может повлечь за собой выход из строя инвертора и выпрямителя.

У заказчика при этом часто возникает, казалось бы, совершено логичный вопрос: «За что платить деньги? За клиринговые услуги? Может, мне поручить эту работу уборщицам?» Внешне это так и происходит: рутинные выезды на обслуживание ИБП не выглядят впечатляюще, они не столь шумны, не столь заметны, как регламентные работы в отношении ДГУ.

Что же касается стандартных процедур по обслуживанию ДГУ, то здесь дело поставлено намного солиднее: приходят серьезные мужчины, одетые в фирменные комбинезоны, начинают громыхать гаечными ключами, менять фильтры, заливать масло. При этом видно, что люди действительно работают, и заказчик понимает, что деньги платит не зря.

Выскажем, может быть, парадоксальную мысль. Многолетний опыт работы в этой области позволяет утверждать, что если источник бесперебойного питания установлен так, как требует инструкция по эксплуатации производителя, то обслуживание ему не нужно вообще. Ну, или почти… Через 5–7 лет в источнике требуется замена ресурсных элементов — вентилятора и конденсатора. Остальные детали, да и, в общем-то, вентиляторы и конденсаторы, необслуживаемы.

Но инструкцию по эксплуатации редко кто выполняет со всей доскональностью. «Роскошь» не обслуживать ИБП могут себе позволить, пожалуй, только больницы и особо чистые спецпроизводства, в которых идет борьба с пылью и поддерживаются определенные параметры климата. Там внутренняя часть ИБП всегда находится в идеальном состоянии. Системы вентиляции и центрального кондиционирования на таких объектах установлены с фильтрами очень высокой очистки. Единственная причина, способная привести к отказу, — это заводской брак, например, вентиляторов.

Соблюдение регламентов

Нередко приходится сталкиваться с ситуацией: заказчик утверждает, что помещение абсолютно готово к инсталляции ИБП, а на деле ремонт не закончен, вокруг витает пыль, а установленный источник в лучшем случае накрыт ветошью. Очевидно, что в таких условиях продувы и промывки должны производиться обязательно и неоднократно. Потому что первый выдув лишь поднимает пыль, часть ее уйдет в кондиционер, а часть осядет вновь. Когда ИБП стоит в отдельном помещении или в тщательно убираемой серверной, то реальной потребности в его регулярном обслуживании нет.

Кроме визуального наблюдения, есть еще большое количество работ, которые, казалось бы, не видны, но важны и строго необходимы. В правильных обслуживающих организациях существует типовой чек-лист, который заполняется во время проведения ТO, чтобы инженер не забыл, на что следует обратить внимание. В этом журнале делаются отметки обо всем замеченном, вплоть до наличия необычных запахов и звуков. По уровню шума можно понять, клинит ли у вентилятора крыльчатку или возникли какие-то проблемы с трансформатором. Необычный шум или запах (изоляция подгорела или мышь завелась) — это уже повод к тому, чтобы выехать на более детальный осмотр.

Во время ТО ИБП выполняется группа функциональных проверок, т. е. проверяется, как работает ИБП в каждом из режимов — от батарей, при переходе на байпас, возврате с байпаса и т. д. Это короткий, рутинный процесс ТО, который рекомендуется делать ежеквартально, ну, или хотя бы раз в полгода. Кроме того, есть процедуры, «омолаживающие» ИБП, которые включают замену элементов с ограниченным ресурсным сроком эксплуатации — например, различного рода конденсаторов, которые имеют свойство со временем «усыхать». Несвое­временная конденсаторов — входных и выходных — может привести к очень серьезным последствиям, даже вплоть до возгорания.

Один из видов регламентных работ — проверка момента затяжки винтовых соединений — проводится не столь часто, как уборка и проверка работоспособности. По срокам эти работы примерно совпадают с заменой расходных материалов, т. е. механические проверки рекомендуется производить через 4–5 лет. Это делается при помощи динамометрического ключа, проверяется момент затяжки резьбовых соединений на шинах и т. п. Процедура эта почти всегда связана с остановом некоторой части оборудования. Эти работы крайне редко включаются в стандартные сервисные договоры, поэтому по ним заключают отдельные договоры.

Заказчик, который правильно построил свой ЦОД, со всем необходимым соблюдением предписаний TIA 942, рекомендаций Uptime и проч., ­ра­зумеется, спроектирует систему электропитания таким образом, что любой из щитов можно обесточить, провести на нем работы, проверить моменты затяжек и т. д. В некоторых случаях смазать специальной электропроводящей смазкой, заново закрутить гайки.

Важно, чтобы для обслуживания ИБП к нему был обеспечен удобный доступ. Помещение, в котором располагается источник питания, должно быть изолировано от неспециалистов, на нем должна быть табличка «для служебного пользования». Категорически не рекомендуем размещать ИБП в проходном помещении, например, в коридоре (хотя, увы, это не редкость). В таком случае выходом из положения могут стать какие-то спецрешения по установке ИБП в дополнительном отсеке.

В отличие от сервиса ИБП, заказчики охотнее заключают договоры на ТО ДГУ. Для ДГУ иногда выполняется внеочередное техобслуживание после аварийных запусков. Поэтому и структура сервисных договоров на ИБП и ДГУ бывает разная. Присмотр за ДГУ требует более частых выездов, чем присмотр за ИБП. И именно поэтому хорошо заключать договор с одной компанией. Специалисты приедут обслужить дизель, а заодно осмотрят источники, это удобно и всем выгодно. Самая настоятельная рекомендация управляющей компании ЦОДа — заключать сервисный договор не на обслуживание только ДГУ, а на обслуживание всей комплексной системы.

Слабое звено

Во время проведения ТО по ИБП отдельное внимание уделяется аккумуляторным батареям. Тестирование АКБ чаще всего включает кратковременный тест: переход ИБП на питание от батарей не дольше, чем на минуту. За это время специалисты отслеживают даже не то, насколько упало напряжение, а то, с какой скоростью оно падало. По этой характеристике можно судить — исправны ли батареи, насколько они качественные и есть ли смысл проводить какие-то работы. Кроме того, в помещении, где установлены батареи, отслеживается температура, влажность. Замечательно, когда на объекте ведется «Журнал регистрации событий». Такой журнал является «лакмусовой бумажкой»: его наличие означает, что на объекте правильно ведется эксплуатация.

Для возможного сокращения количества сервисных визитов по проверке батарей возможна установка системы их мониторинга. Такие системы позволяют четко отслеживать возникновение неисправностей, предупреждать о необходимости вмешательства. К сожалению, на рынке существуют две категории таких систем — малоинформативные бесполезные дешевые или очень дорогие. Промежуточных вариантов встретить не довелось. Поэтому есть смысл сопоставить стоимость сервисного контракта и системы мониторинга батарей. Особенно это очевидно, когда используется бюджетный вариант комплекса АКБ — установка системы мониторинга в этом случае может оказаться дороже в разы, чем сервисный контракт, в рамках которого инженер придет и проверит не только батареи, но и ИБП.

По этой причине системы мониторинга аккумуляторных батарей находят весьма небольшое применение. Они активно применяются в тех местах, где требуется сверхнадежность, или же на удаленных и закрытых объектах, где организация регулярного сервисного обслуживания квалифицированным персоналом затруднена.

Сервисная стратегия

В российской практике длинных сервисных договоров, которые заключались бы на 5–10 лет, не бывает. Сервисные договоры заключаются, как правило, на год, редко на два. На трехлетние сервисные договоры начали переходить только «голубые фишки». А чем длиннее сервисный договор, тем проще планировать работы. Возникает хорошая плановая загрузка у сервисных предприятий, они работают не в авральном режиме, а как часы, что позволяет им кроме обычных процедур оставлять время на проведение при необходимости ремонтов, аварийных выездов.

К сожалению, подавляющее большинство сервисных договоров заключается всего лишь на год. Заказчики тоже боятся — например, нестабильности сервисной компании. И если в Москве, Петербурге, Екатеринбурге, Казани почти всегда есть известные уважаемые сервисные компании, с которыми можно заключать надежные договоры и на три года, и на пять лет, то в регионах компания, которая выполняет сервисное обслуживание, может состоять из 5–7 человек, и в этом случае опасения могут быть оправданны.

Очень многое зависит и от политики вендоров в отношении проведения сервиса. При всей кажущейся внешней простоте сервис, в частности, ИБП, — по своей сути сложный технологический процесс. Поэтому все адекватные производители источников бесперебойного питания настаивают и рекомендуют, чтобы такие работы проводили только авторизованные сервисные центры, сотрудники которых прослушали курс, сдали экзамен, обладают навыками, умением, механическими и настроечными инструментами, соответствующим сервисным программным обеспечением.

Есть производители, которые на достаточно постоянной основе проводят такие обучения, в том числе и для маленьких компаний из регионов, которые не являются крупными дистрибьюторами. Но некоторые вендоры, ради того чтобы поддержать свои собственные сервисные центры, для небольших региональных сервис-партнеров ставят препоны, устанавливая, например, непреодолимо высокую планку продаж оборудования как условие проведения обучения. А сервисные компании в некоторых случаях вообще не занимаются продажами, у них только умелые руки и желание работать.

Такая политика некоторых вендоров делает непозволительно дорогим сервис, — во многом, как нам кажется, в нашей стране это возникает из-за бездумного копирования европейских бизнес-моделей. Но Россия — страна совсем другая. И дело даже не в протяженности территорий, а в пока плохо развитой транспортной инфраструктуре. У нас есть немало мест, куда в течение 24 часов попасть нереально. Это обстоятельство как раз должно стимулировать к тому, чтобы развивать сервисные сети на местах, повышать компетенцию компаний, в том числе небольших.

О качестве работы сервисной компании можно судить и по оснащению ее инструментами. Контроль, который проводится не по тактильным ощущениям и не по «мне показалось», а с применением тепловизоров, эндоскопов, шумомеров, анализаторов сети, свидетельствует в пользу сервисной компании.

Сервисный договор на ИБП почти всегда подразумевает и необходимые ремонты. Ремонт состоит из двух этапов — вначале диагностика, а потом непосредственно ремонт. И второй этап без первого невозможен. Для того чтобы диагноз поставить быстро, правильно и своевременно, у правильных производителей источников бесперебойного питания существуют сервисы удаленной диагностики (например, Life.Net), позволяющие посмотреть состояние ИБП, провести какие-то функциональные проверки удаленно, не выезжая на место. Благодаря этому в далекий регион поедут инженеры, уже имеющие поставленный диагноз, и повезут с собой необходимые запчасти.

Другие времена

В целом ситуация за последние 7–8 лет все больше меняется в лучшую сторону — заказчики начинают понимать, что обслуживание требуется покупать у профессионалов. Примерно с 2006–2007 гг. этот процесс стал набирать обороты, лет 10 тому назад ситуация была намного хуже.

Важно отметить, что с определенного срока эксплуатации очень сильно дорожают запчасти, которые необходимы для поддержания исправного состояния и функциональной готовности устройства. У ИБП (хотя он может при своевременной замене запчастей служить практически вечно) нет явно обозначенного срока эксплуатации. По истечении примерно 20–25 лет эксплуатации ИБП, с учетом стоимости запчастей, становится совершенно невыгодным производить ремонты и обновления. Но еще гораздо раньше физического износа — по прошествии 10 лет — ИБП устаревает морально.

Дизель-генераторы-долгожители встречаются чаще — несмотря на то, что их работа сопряжена с шумом, механическим вращением, вибрациями и высокой температурой. Моторная и генераторная индустрия более консервативны и технологически столь быстро не развиваются. Моторы или генераторы конструкции 60-х годов прошлого столетия до сих пор находят применение. На них устанавливаются только современнейшие панели управления (с тактильными цветными дисплеями). Сейчас некоторые производители ДГУ продолжают использовать достаточно старые двигатели, потому что эти модели хорошо отлажены, подогнаны и прекрасно себя зарекомендовали. Все, что часто приходило в негодность, было заменено узлами, которые имеют гораздо лучшие эксплуатационные характеристики, и используемые сейчас старые моторы близки к совершенству.

Вскользь коснемся эксплуатации динамических ИБП. Их неотъемлемой частью является генераторная установка, — совершенно очевидно, что регламенты для такого устройства совпадают с регламентами мотора. В целом обслуживание динамических ИБП в значительной степени зависит от используемой технологии. Есть в этой категории ИБП модели, которые, по заверениям поставщиков, могут обходиться совсем без обслуживания, а есть такие, для которых обслуживание или ремонт в условиях нашей страны вообще невозможны. Но это целая отдельная тема, которую осветить в рамках нашего краткого обзора не получится.

Подводя итог, можно сказать, что содержать в ЦОДе узкоспециализированных специалистов по всем системам нет необходимости. Задача службы эксплуатации ЦОДа — правильно интерпретировать сигналы системы мониторинга, которая должна собирать, накапливать и выдавать информацию в удобной для персонала форме. А сотрудники эксплуатационной службы ЦОДа должны вести журнал изменений и своевременно сигнализировать в соответствующую сервисную компанию.

Сергей Ермаков,
технический директор компании ИНЭЛТ

Максим Баканов,
заместитель технического директора Chloride RUS

Источник: журнал ЦОДы.РФ, февраль 2014, № 06

Теги: Эксплуатация, инженерия