Závěrečná práce: Lucie Nováková: Spolehlivé zpracování dat ve streamové archituktuře
Bakalářská práce
Získaná ocenění:
Cena děkana FI za vynikající závěrečnou práci
Spolehlivé zpracování dat ve streamové archituktuře
Reliable data processing in streaming architecture
Lucie Nováková
Anotace
Bakalářská práce se zabývá streamovým zpracováním dat využívajícím technologii Apache Kafka. Popisuje výpadky v systému a postupy, jak na ně reagovat. Dále se zabývá rizikovými situacemi, které by mohly nastat v běžném provozu a které by také mohly přesné zpracování ohrozit. V závěru se věnuje monitorování správného chodu systému.
Abstract
The bachelor thesis deals with data stream processing using Apache Kafka. It describes system failures and recommended reactions to them. It also deals with situations that could occur during the normal service and could endanger accurate processing. The last part of the thesis deals with the system monitoring.
Klíčová slova
Apache Kafka broker topic partition replikace Seznam.cz MirrorMaker Prometheus metrika GrafanaZadání práce
Sklik.cz je reklamní systém společnosti Seznam.cz, který zpracovává řádově miliardy události za den. Tento systém aktuálně přechází na technologie zajišťující zpracování událostí v reálném čase, takzvané streamové zpracování. Pro tyto účely používá technologii Apache Kafka. V tomto kontextu je úloha této práce následující:
1. Prostudujte a popište způsoby zajištění spolehlivého zpracování streamových dat v reálném čase. Zaměřte se hlouběji na řešení pro dvě serverovny a pro technologii Apache Kafka.
2. Popište podrobněji scénáře možných výpadků a selhání různých částí systému (hardwarové i softwarové) a uveďte postupy jak na ně reagovat.
3. Vybrané scénáře otestujte nad reálnými instancemi Apache Kafka. Můžete k tomu využít kontejnerizované instance v testovacím prostředí.
4. Celý systém musí garantovat přesné zpracování všech události, takže je třeba prostudovat možná rizika, která by tuto klíčovou vlastnost mohla ohrozit.
1. Prostudujte a popište způsoby zajištění spolehlivého zpracování streamových dat v reálném čase. Zaměřte se hlouběji na řešení pro dvě serverovny a pro technologii Apache Kafka.
2. Popište podrobněji scénáře možných výpadků a selhání různých částí systému (hardwarové i softwarové) a uveďte postupy jak na ně reagovat.
3. Vybrané scénáře otestujte nad reálnými instancemi Apache Kafka. Můžete k tomu využít kontejnerizované instance v testovacím prostředí.
4. Celý systém musí garantovat přesné zpracování všech události, takže je třeba prostudovat možná rizika, která by tuto klíčovou vlastnost mohla ohrozit.
Práce zkontrolována:
24. 5. 2019 07:11, doc. Ing. RNDr. Barbora Bühnová, Ph.D.
24. 5. 2019 07:11, doc. Ing. RNDr. Barbora Bühnová, Ph.D.
- Zadáno/změněno 28. 6. 2019 16:50, Helena Kryštofová
- Záznam založen 2. 5. 2019 13:39, Jana Zemanová, učo 9619
- Zveřejnit od 23. 5. 2019 09:59, Alena Dvořáková
- Práce převzata 23. 5. 2019 09:59, Alena Dvořáková
Jazyk práce
Termín obhajoby
28. 6. 2019
Práce byla úspěšně obhájena
Konzultant
Ing. Miroslav Kvasnica
Seznam
Seznam
Studijní program
Informatika
Práce na příbuzné téma
Seznam prací, které mají shodná klíčová slova.
-
Logging and Monitoring for Kubernetes Infrastructure
Mgr. Tomáš Zvoník -
Uživatelské administrativní rozhraní pro fast/stream data platformu
Mgr. Jozef Krcho -
Analýza ETFs a možnosti jejich využití při investování
Ing. Robert Weclewski -
Příprava žáků a zpracování praktické maturitní zkoušky oboru kosmetické služby
Bc. Petra Malinovská -
Iva Procházková und ihre jugendliterarischen Werke
Mgr. Eliška Zemánková -
Kurzwörter in Pressetexten
Mgr. Miroslav Kubík -
Dokumentární film Výpad do Ria
Mgr. Ondřej Šimeček -
Dokumentární film - Hilde
Bc. Diana Dulínková
Název
Vložil
Vloženo
Práva
Složky
Soubory
Nováková, L.
23. 5. 2019
Bühnová, B.
14. 6. 2019




