ETL/ELT-пайплайны
Airflow, Prefect, Dagster: расписание, мониторинг, retry, алерты. Источники: API, БД, файлы, 1С, маркетплейсы. Целевое хранилище: DWH, ClickHouse, BigQuery.
Разработка ETL-пайплайнов — сбор, трансформация, загрузка данных из любых источников. Airflow, dbt, Kafka, Python. MVP за 4 недели, расчёт стоимости — за 1 день. Замена ручных выгрузок из 1С, Excel и API.
Бесплатно · без звонков — ответим в переписке за 30 минут
Airflow, Prefect, Dagster: расписание, мониторинг, retry, алерты. Источники: API, БД, файлы, 1С, маркетплейсы. Целевое хранилище: DWH, ClickHouse, BigQuery.
Проектирование хранилища: star schema, dimensional modeling, SCD. dbt для трансформаций. Версионирование SQL, тесты, документация.
Kafka Connect, Kafka Streams, Flink. CDC (Change Data Capture) из PostgreSQL/MySQL. Обработка событий в реальном времени.
Подключение Metabase, Superset, Grafana к вашему DWH. Дашборды, отчёты, алерты. Замена ручных Excel-отчётов.
Инвентаризация источников, форматов, объёмов. Карта данных, требования к SLA. 3-5 дней.
Первый ETL: самый ценный источник → DWH → дашборд. Airflow + dbt + Metabase. Работает в проде.
Подключаем остальные источники: API, 1С, файлы, CDC. Каждый источник — отдельный DAG.
Алерты при сбоях, data quality checks, lineage. SLA на свежесть данных: 5 мин, 1 час, 1 день.
Стоимость зависит от объёма и интеграций. Точную сумму назовём после короткой переписки — напишите удобным способом, ответим за 30 минут, расчёт бесплатный.
Ответьте на 5 коротких вопросов — пришлём оценку сроков и бюджета в течение рабочего дня. Бесплатно и без обязательств.
Ручная выгрузка: 2-4 часа/день, ошибки, задержки. ETL: автоматически, по расписанию, с проверкой качества. Окупается за 1-2 месяца за счёт экономии времени аналитиков.
Любые: REST API (маркетплейсы, CRM, рекламные кабинеты), базы данных (PostgreSQL, MySQL, MongoDB, Oracle), файлы (CSV, Excel, XML), 1С, Google Sheets, S3. Пишем кастомные коннекторы.
Airflow — стандарт индустрии, максимальная гибкость. Prefect — проще для небольших проектов. Dagster — если нужен data lineage из коробки. Подберём под ваш масштаб.
Стоимость зависит от числа источников, объёма данных, требований к DWH, BI и real-time. MVP (1-3 источника, дашборд) — 4-6 недель. Data Platform (10+ источников, DWH, BI) — 2-4 месяца. Enterprise — 4-8 месяцев. Точную сумму назовём после короткой переписки: напишите в WhatsApp, Telegram или на info@novacom.ru — ответим за 30 минут, расчёт бесплатный.
Расскажите, откуда и куда нужно гонять данные — предложим архитектуру за 3 дня.
Бесплатно · без звонков — ответим в переписке за 30 минут