Discovering actionable insights from event sequences

Abstract

This thesis explores how to extract actionable insights from event sequences. Event sequences are fundamental across a wide range of domains, from diagnosing chains of failures to analyzing workflow traces in production systems. Instead of assuming that all events stem from a single underlying process, we allow for the possibility of multiple, potentially concurrent mechanisms — resulting in interleaved and complex structures. We aim to identify and represent these structures using sequential patterns that capture the temporal dependencies between events. We develop methods that yield succinct and easy-to-understand summaries of event sequences. We start by proposing a method to discover predictive patterns that not only predict that a target event is imminent but also when it will occur. For example, which sequence of events predicts an upcoming failure. Next, we explore how to discover patterns characterized by consistent time delays between events; unlike existing methods that penalize gaps uniformly, our approach focuses on identifying and modelling these delays. Beyond co-occurrence, we explore conditional structures in the form of rules. Furthermore, we study summarization of event sequences in terms of patterns that include generalized events — events that can match multiple observed events. To demonstrate the practical relevance of this line of work, we tackle a domain-specific challenge, modeling network flows and generating synthetic data from the learned model. Lastly, we investigate causal relationships between events by introducing a novel causal discovery method that infers a complete causal graph over all event types. We empirically evaluate all methods and show that they uncover meaningful insights from real-world data. We conclude this thesis by reflecting on the limitations of our approaches and the broader challenges in evaluating pattern discovery methods.

Diese Dissertation erforscht, wie man aussagekräftige Erkenntnisse aus Event Sequenzen extrahieren kann. Event Sequenzen sind in vielen Bereichen von grundlegender Bedeutung, vom Aufdecken von Fehlerketten bis hin zur Analyse von Arbeitsabläufen. Anstatt davon auszugehen, dass alle Ereignisse von einem einzigen Prozess erzeugt werden, lassen wir die Möglichkeit mehrerer, potenziell parallelen, Prozessen zu. Dies kann zu verschachtelten und komplizierten Strukturen führen. Unser Ziel ist es diese Strukturen zu identifizieren und mithilfe von sequenziellen Mustern abzubilden. In dieser Dissertation entwickeln wir Methoden, welche Event Sequenzen leicht verständlich und kurz zusammenfassen. Zunächst schlagen wir eine Methode zur Entdeckung prädiktiver Muster vor, die nicht nur vorhersagen, dass ein Zielereignis bevorsteht, sondern auch, wann es eintreten wird. Zum Beispiel, welche Abfolge von Ereignissen einen bevorstehenden Ausfall vorhersagt. Als Nächstes untersuchen wir wie sich Muster mit gleichmäßigen Zeitverzögerungen zwischen Ereignissen entdecken lassen. Im Gegensatz zu bestehenden Methoden, die Lücken gleichmäßig bestrafen, konzentriert sich unser Ansatz auf die Identifizierung und Modellierung dieser Verzögerungen. Wir untersuchen nicht nur Muster in Event Sequenzen, sondern auch Regeln, um bedingte Strukturen zu finden. Darüber hinaus untersuchen wir wie Event Sequenzen anhand von abstrahiertem Muster zusammengefasst werden können. Abstrahierte Muster beschreiben ein allgemeines Verhalten, das mit unterschiedlichen Ereignissen auftritt. Um die praktische Relevanz dieser Arbeit zu demonstrieren, befassen wir uns mit einem domänenspezifischen Problem: der Modellierung von aufgezeichneten Netzwerkverbindung und der Generierung synthetischer Daten aus dem erlernten Modell. Schließlich untersuchen wir die kausalen Beziehungen zwischen Events, wir schlagen eine Methode vor, welche einen kausalen Graphen über alle Eventtypen lernt. Wir evaluieren alle Methoden empirisch und zeigen, dass sie aussagekräftige Erkenntnisse in realen Daten finden. Zum Abschluss dieser Arbeit, diskutieren wir die Grenzen unserer Ansätze.