Автор: Александр Тряпкин, DevOps компании Hostkey

Здравствуйте, уважаемые читатели Habr! В этой статье я хочу поделиться своим опытом решения задачи сбора логов при помощи Go. Как начинающий DevOps, я выбрал для изучения и решения рабочих задач язык программирования Go. Для отправки syslog-логов доступна библиотeка syslog, но увы, она нам не подходит, поскольку данный пакет недоступен на Windows, а задача — сделать мультиплатформенный отправщик логов установки системы на удаленный syslog-сервер. Дополнительно есть потребность отправлять логи в кастомном формате, а именно — в json, для упрощения их последующей обработки. При этом важно, чтобы программа выполнялась одинаково на Linux и на Windows, не требовала установки, выполняла свою задачу и удалялась из системы, поэтому придется изобрести небольшой велосипед. Приступим.

В качестве принимающей стороны мы будем использовать syslog-ng. Рассмотрим параметры, которые нам интересны в части сбора логов — от специфики параметров зависит, как мы будем их отправлять.

Сначала указываем новый source для приема логов с удаленных серверов, и тут есть варианты — в зависимости от наших потребностей можно собирать логи по UDP, TCP, а также использовать TLS для шифрования и аутентификации. Наиболее интересным вариантом является TLS, но мы рассмотрим и другие методы — от простого к более сложному.

1) UDP. Для сбора логов по UDP потребуется следующие параметры в конфигурации syslog-ng:

https://habr.com/ru/post/709220/?utm_source=habrahabr&utm_medium=rss&utm_campaign=709220

Автор: Senior Devops. Ведущий специалист по инфраструктуре Hostkey Никита Зубарев

В одной из прошлых статей мы рассказывали о нашем опыте по развертыванию операционных систем через Foreman. Наш подход позволяет решать проблемы поддержки оборудования и обновления ПО в образе и упрощает процедуру администрирования серверов, однако накладывает ряд ограничений при работе с ОС Windows — монтирование при установке происходит через autofs (Universal Disk Format (UDF)) на foreman-repo-серверах. Выглядит это так:

https://habr.com/ru/post/698940/?utm_source=habrahabr&utm_medium=rss&utm_campaign=698940

Компания Hostkey предоставляет серверы в аренду — это накладывает на нас, сотрудников компании, обязательства по контролю качества работы оборудования. Одним из ключевых элементов поддержания большой инфраструктуры является эффективная система мониторинга, позволяющая оперативно выявлять сбои в работе серверов. Мы хотим поделиться нашим опытом внедрения и использования различных инструментов, позволяющих отслеживать работу оборудования.

В этой статье мы кратко рассмотрим варианты установки федерации Prometheus, Alertmanager и Node Exporter, остановимся на некоторых особенностях и конфигурации. Можно использовать установку из docker-compose файла или же развернуть систему в Kubernetes-кластере. Наша задача — собирать метрики серверов и сервисов инфраструктуры компании, хранить их, реагировать на алерты. Для решения этих задач необходима база данных.

Мы выбрали Prometheus по ряду причин:

https://habr.com/ru/post/695726/?utm_source=habrahabr&utm_medium=rss&utm_campaign=695726

Разрабатываем и применяем удобную схему для перевода серверов со старой инфраструктуры oVirt Engine 4.2 на новую — oVirt Engine 4.5.

У нас в компании Hostkey возникла необходимость в переводе серверов со старой инфраструктуры oVirt Engine версии 4.2 на новую инфраструктуру oVirt Engine версии 4.5. Эта миграция не просто смена минорного релиза — изменилось очень многое:

• появились новые фичи и доработки в API;
• был осуществлен переход на EL8.

Из-за изменения платформы мы решили также обновить оборудование хостов виртуализации и провести обновление через миграцию машин на новую инсталляцию. О том, как проходил этот процесс, рассказываем в этой статье.

https://habr.com/ru/post/693468/?utm_source=habrahabr&utm_medium=rss&utm_campaign=693468

Как подобрать решение, которое обеспечит стабильную конфигурацию файлов на серверах и стабильный аллертинг в случае изменения этих файлов.

В этом году компании Hostkey понадобилось обеспечить мониторинг ключевых файлов и истории их изменения на серверах. Мы стремились подобрать решение, позволяющее обеспечить стабильную конфигурацию файлов на серверах и стабильный аллертинг в случае изменения этих файлов.

Мы рассматривали несколько сервисов, обеспечивающих мониторинг файлов и в итоге остановились на Wazuh. На то есть несколько причин:

1. Высокое качество клиента. Клиентская часть Wazuh оказалась наименее ресурсозатратной, но при этом стабильной и надежной. Механизм обнаружения, просмотра и сравнения соответствия безопасности с открытым исходным кодом важен, но вторичным ПО. Соответственно, он не должен нагружать сервер. Если 50% ресурса сервера идет на мониторинг, значит, что-то работает не так.

2. Развитость и поддержка клиента. Он работает на нескольких платформах, в том числе на Windows и Linux.

3. Итоговый интерфейс построен на Open Distro. У нас в инфраструктуре уже использовался логгер на Open Distro (со временем мы перешли на OpenSearch). Это решение показалось нам интересным и комфортным с точки зрения минимизации средств поддержки, поскольку используется платформа, с которой мы хорошо знакомы.

Изначально мы искали решение для ОС семейства Linux, но Wazuh оказался универсальным решением. Ниже будет описан опыт администратора Windows. О специфике использования Wazuh на ОС семейства Linux мы расскажем в отдельной статье.

https://habr.com/ru/post/692486/?utm_source=habrahabr&utm_medium=rss&utm_campaign=692486

Как с помощью брокера AMQP RabbitMQ создать отказоустойчивую архитектуру с минимальными потерями лог-данных при сбоях.

Потеря логов при управлении большой инфраструктурой компании-хостера может обернуться имиджевыми и финансовыми потерями. Вместе с тем большое количество управляемого оборудования не вызывает желания создавать системы, в которых логи будут дублироваться и превращаться в огромный и трудноуправляемый массив информации.

Мы в компании Hostkey не стали изобретать велосипед и построили нашу систему на базе Open Distro. В этой статье мы расскажем о варианте архитектуры этого решения, которое благодаря использованию брокера AMQP RabbitMQ обеспечивает отказоустойчивость и минимальные потери лог-данных при сбоях.

https://habr.com/ru/post/691246/?utm_source=habrahabr&utm_medium=rss&utm_campaign=691246

Мы в HOSTKEY сдаем клиентам в аренду вычислительные мощности на площадках в Амстердаме, Нью-Йорке и Москве, при этом набор инструментов (в т. ч. список доступных образов ISO) должен быть одинаковым во всех локациях. Рассказываем, как решить этот вопрос с помощью протокола BitTorrent.

https://habr.com/ru/post/686336/?utm_source=habrahabr&utm_medium=rss&utm_campaign=686336

Что делать, когда нужно обойти запреты регуляторов и сохранить приватность? Хорошим решением проблемы станет настройка на базе ПО Outline собственного недорогого сервера VPN. С нашей пошаговой инструкцией это займет считанные минуты и не потребует навыков системного администратора.

https://habr.com/ru/post/686202/?utm_source=habrahabr&utm_medium=rss&utm_campaign=686202

Обзор новых работ в области глубокого обучения: генерация видео по запросам и экологическое бремя белого че искусственного интеллекта.

https://habr.com/ru/post/685022/?utm_source=habrahabr&utm_medium=rss&utm_campaign=685022

Зачем нужен Mint, если есть Ubuntu? Аудитории требуется настольный Linux, который разработчики еще не превратили в неведомое чудище. В этом обзоре разберем, что нового появилось в версии 21 с точки зрения удобства использования.

https://habr.com/ru/post/682722/?utm_source=habrahabr&utm_medium=rss&utm_campaign=682722

Рассказываем о «пружинковых» компьютерах для тех, кто в детстве прищемлял пальцы, а сейчас ощутил ламповую ностальгию. И для тех, кто сейчас буркнул: «"Пружинных" же правильно!»

https://habr.com/ru/post/681514/?utm_source=habrahabr&utm_medium=rss&utm_campaign=681514

Кого боится Intel? Анализируем историю наследника VIA Technologies, китайского СП Zhaoxin и делаем ставки — заборет через 3-5 лет азиатский дракон американского орла или нет?

https://habr.com/ru/post/680328/?utm_source=habrahabr&utm_medium=rss&utm_campaign=680328

Путь инженера в телекоме часто начинается со службы технической поддержки. Чтобы вырастить из новичков высококлассных специалистов, нужно дать им возможность работать над выходящими за рамки служебных обязанностей задачами. Мы стараемся помогать активным коллегам в развитии — это один из главных принципов HOSTKEY с момента основания компании. Публикуем заметку о реализации проксирования административной панели FreeIPA через HAProxy, написанную нашим инженером техподдержки Александром Тряпкиным.

(А здесь можно прочесть, как синхронизировать FreeIPA с Active Directory).

https://habr.com/ru/post/679732/?utm_source=habrahabr&utm_medium=rss&utm_campaign=679732

1989 год. Я, одиннадцатилетний школьник, с родителями иду в магазин выбирать первый ПК. Я от корки до корки прочел всю доступную литературу и горел желанием собрать ЮТ-88 по схемам из «Левши». Выбор на тот момент был между клонами «Радио РК86»: «Микрошей» и «Апогеем», но в магазине нам сказали, что скоро ждут новый компьютер... (читаем ностальгии пост о знаменитом «Векторе»).

https://habr.com/ru/post/677412/?utm_source=habrahabr&utm_medium=rss&utm_campaign=677412