Devki: курс apache kafka для инженеров данных

Лекции · 18+ · Пн, 12 октября 2026, 14:00–18:00

О событии

ПРОГРАММА КУРСА “APACHE KAFKA ДЛЯ ИНЖЕНЕРОВ ДАННЫХ”

1. Основные концепции и архитектура Apache Kafka

Архитектура и история возникновения Kafka

Основные абстракции и понятия

Основные API

Изучим основные компоненты и API Kafka, принципы их взаимодействия и killer features.

2. Topic, partition и offset в Apache Kafka

Понятие топика, раздела и смещения

Управление Topic-ами из консоли

Отслеживание последнего прочитанного сообщения

Семантики доставки сообщений (at least once, at most once, exactly once)

Разберемся в анатомии топика, использовании механизмов партиционирования и consumer групп.

3. Producer API

Публикация сообщений с помощью кода

Погрузимся в детальную настройку и использование Kafka Producer-а и best practices на стороне производителя сообщений.

4. Consumer API

Прием сообщений point-to-point

Kafka Broadcasting и группы. Гибкий процесс приема сообщений.

Научимся принимать сообщения и на практике реализуем минимальное приложение, работающее с Kafka.

Познакомимся с концепцией групп (consumer groups) и научимся настраивать группы для работы с сообщениями в режиме broadcasting.

5. Потоковая обработка в Kafka

Архитектура Kafka Streams

Потоковая обработка в Apache Kafka. Основные абстракции Kafka Streams

Изучим общие принципы и приемы в процессе работы с Kafka Streams.

6. Kafka Streams DSL

Kafka Streams DSL – теория и практика

Создание Kafka Streams приложения

Изучим специализированный язык описания (DSL) потоков данных в Kafka и научимся его использовать.

Напишем базовое Kafka Streams приложение.

7. Processor API

Использование Processor API

Научимся работать на “низком” уровне – создавать топологии и перенаправлять по ним сообщения, использовать расписание (punctuator).

Напишем приложение с использованием Processor API.

8. Kafka Connect

Архитектура Kafka Connect

Виды Kafka Connector-ов

Готовые Connector и Confluent HUB

Connect API

Разберемся в том, какие готовые Connector-ы есть для Kafka, создадим собственные Source и Sink коннекторы.

9. Inside Kafka

Особенности хранения данных

Сериализация и десериализация данных и Confluent Registry

Компактируемые топики и retension

Конфигурация и производительность процесса работы с данными в Kafka

ksqlDB как способ создания не сложных потоковых приложений

использование Producer и Consumer API с другими языками программирования

Данные предоставлены: TimePad

Devki: курс apache kafka для инженеров данных

О событии

Похожие события