​​Хочу вас познакомить с отличной современной программой по передаче текстовых данных из одних источников в другие. Речь пойдёт про Vector и проект vector.dev. Это пример простой и качественной программы, которая решает одну задачу - взять данные в одном месте, преобразовать их или оставить в неизменном виде и передать в другое место. Мне она понравилась в первую очередь своим сайтом с подробной информацией обо всех возможностях и настройках. Буквально за несколько минут разобрался с настройками и запустил в работу. С помощью Vector можно взять данные из источников: File, Docker logs, JournalD, Kafka, Kubernetes logs, Logstash и ещё 40 различных программ и положить их в один из 50-ти типов поддерживаемых приёмников, среди которых: Console, Elasticsearch, File, HTTP, Loki, Prometheus и т.д.  По пути Vector может делать преобразования. Для каждого источника, преобразования и приёмника есть пример конфигурации, как это можно реализовать. В итоге по частям настраивается полный маршрут. Вот для примера конфиг для сбора логов JournalD и записи их в файл. Я прямо взял из документации конфиг для JournalD, конфиг для File и совместил их. Ставим Vector (есть и пакеты, и docker образ): # curl --proto '=https' --tlsv1.2 -sSf https://sh.vector.dev \ | bash Рисуем конфиг: [sources.journal_ntp] type = "journald" current_boot_only = true include_units = [ "ntp" ] [sinks.log_ntp] type = "file" inputs = [ "journal_ntp" ] path = "/tmp/ntp-%Y-%m-%d.log" [sinks.log_ntp.encoding] codec = "text" Всё просто и понятно - источник, приёмник, преобразование. Можно текст автоматом в json сконвертировать. Я оставил обычный формат. Создаём дефолтную директорию для Vector и запускаем его: # mkdir /var/lib/vector/ # vector --config /root/.vector/config/vector.toml В файле /tmp/ntp-%Y-%m-%d.log будет текстовый лог службы ntp, взятый из journald. По такому же принципу работают и другие направления. Программа очень простая и удобная. По сути она заменяет более именитых и старых товарищей - fluentd, filebeat и т.д. Частично и logstash. Я принял решение использовать её для сбора логов и отправки в ELK. ⇨ Сайт / Исходники / Документация #logs #devops