Causal Inference of Networked Dynamical Systems under Partial Observability and Structured Noise: A Feature Based Approach

Abstract

Sistemas complexos evoluem ao longo do tempo impulsionados pelas interaçõesentre os seus elementos ou nós. Exemplos incluem a atividade cerebral, pan-demias, redes sociais e redes de regulação genética. Estas são aplicações emque o padrão de conectividade subjacente entre os elementos fundamentalmentecaracteriza o destino de longo prazo do sistema ou explica padrões emergentesdistintos, como convulsões epilépticas, comportamento de longo prazo de pan-demias ou auxilia no desenvolvimento de políticas de mitigação em uma pan-demia. No entanto, em todas essas aplicações, a geometria causal não está trans-parentemente disponível e deve ser inferida a partir de dados observados (sériestemporais) com garantias técnicas de consistência estrutural. Esta tese estuda oproblema de identificar a estrutura causal de Sistemas Dinâmicos em Rede lin-eares. Devido à natureza intrinseca de grande escala dos sistemas complexos,só podemos sondar a atividade de séries temporais em um subconjunto de nós.Além disso, em geral, esses Sistemas Dinâmicos em Rede são excitados por ruído(possivelmente adversarial) ou um input controlado que exibe uma estrutura es-tatística não trivial. Oferecemos duas contribuições principais no tema desafiadorda inferência causal na presença de nós latentes e ruído de excitação estruturado:i) Uma nova condição sobre a estrutura de ruído na qual a rede pode ser con-sistentemente inferida a partir dos dados observados (Capítulo 4); ii) Um novoalgoritmo de inferência causal com desempenho competitivo (Capítulo 4). NoCapítulo 5, apresentamos uma coleção abrangente de resultados numéricos com-parando a nossa abordagem com métodos populares de última geração, comoGranger ou matriz de precisão (ou Grafo de Lasso). Os experimentos numéricossão realizados em regimes distintos de conectividade, observabilidade e corre-lação de ruído. O trabalho desenvolvido foi submetido para publicação [Santoset al., 2023].

Complex systems evolve over time driven by the interactions among its units ornodes. Examples are Brain activity, pandemics, social networks, Gene RegulatoryNetworks. These are applications whereby the underlying connectivity patternbetween its comprising units fundamentally characterize the long term faith ofthe system or explains distinct emergent patterns, e.g., epileptic seizures, longterm behavior of a pandemics, or aid in the design of mitigation policies in apandemics. However, in all these applications, the causal geometry is not trans-parently available and should be inferred from observed data (time series) withtechnical guarantees of structural consistency. This Thesis studies the problemof identifying the causal structure of linear Networked Dynamical Systems. Ow-ing to the intrinsic large scale nature of complex systems, we can only probe thetime series activity at a subset of nodes. Further, in general, these Networked Dy-namical Systems are excited by (possibly adversarial) noise or control input thatexhibit nontrivial statistical structure. We offer two main contributions withinthe challenging scope of causal inference under the presence of latent nodes andstructured excitation noise: i) A novel condition over the noise structure whereinthe network can be consistently inferred from observed data (Chapter 4); ii) Anovel causal inference algorithm with competitive performance (Chapter 4). InChapter 5, we present a comprehensive collection of numerical results bench-marking our approach against popular state-of-the-art methods like Granger orPrecision matrix (or Graphical Lasso). The numerical experiments are performedacross distinct regimes of connectivity, observability and noise correlation. Thework developed has been submitted for publication [Santos et al., 2023].