Structure Identification of Networked Dynamical Systems under Partial Observability and Colored Noise via Machine Learning tools

Abstract

Recently, the study of Networked Dynamical Systems (NDS) has become increasingly popular due to its ability to model complex interactions within a wide range of fields, including social networks, biological systems, and engineering applications. Furthermore, understanding the topology of interactions underlying an NDS is essential for predicting and controlling their evolution. The underlying network structure plays a pivotal role in shaping the behavior, dynamics, and emergent properties of the system and can be effective in various different tasks, such as mitigation policies in pandemics, diagnosis of brain diseases, and many others. However, it is hardly the case that we have access to the topology of the network in a transparent manner. On the other hand, time series data is widely available across a variety of distinct domains. The objective of this Dissertation is the implementation and assessment of a solution that consistently recovers the undirected network of interactions underlying a linear NDS from the available time series. We assume partial observability, where we only have access to the time series over a subset of nodes in the network – which is the case in large scale or complex systems. Further, we assume that the system is excited by colored noise, i.e., the noise signal is correlated across the nodes in the system. In addition, from this Dissertation rise two major contributions. First, we establish a novel regime of parameters where we guarantee feasibility of the structure identification problem, or structural consistency of a particular estimator. Second, we devise a structure identification algorithm, that builds on a recently proposed feature based approach. Namely, to each pair of nodes, we assign a feature vector, and under the feasible regime of parameters, this set of features is linearly separable. We propose a novel set of features and train Feed Forward Neural Networks (FFNNs) to cluster the features and thus, classify whether a pair is connected or disconnected. The performance assessment shows very significant improvement in accuracy when inferring the network structure regarding other state-of-the-art estimators across distinct regimes of observability, noise correlation and distinct networks, including densely or sparsely connected, small world and real world ones.

Recentemente, o estudo de Sistemas Dinâmicos em Rede (SDR) tornou-se cada vez mais popular devido à capacidade destes sistemas em modelar interações complexas dentro de uma ampla variedade de domínios, incluindo redes sociais, sistemas biológicos e aplicações de engenharia. Além disso, compreender a topologia de SDR é essencial para prever e controlar a sua evolução temporal. A estrutura subjacente desempenha um papel fundamental no comportamento,na dinâmica e nas propriedades emergentes destes sistemas e pode ser eficaz em várias tarefas, tais como políticas de mitigação em pandemias, diagnóstico de doenças cerebrais e muito mais. Porém, dificilmente temos acesso à topologia da rede de forma transparente. Por outro lado, os dados de séries temporais estão disponíveis numa variedade de domínios distintos.O objetivo desta Dissertação é a implementação e avaliação de uma solução que recupere consistentemente a rede (não direccionada) de interações subjacente a um SDR linear, a partir das séries temporais disponíveis. Assumimos a observabilidade parcial, onde só temos acesso à série temporal em um subconjunto de nós na rede - o que é o caso em sistemas complexos ou de grande escala. Alémd isso, assumimos que o sistema é excitado por ruído colorido, ou seja, o sinal de ruído está correlacionado entre os nós do sistema. Desta Dissertação nascem duas contribuições importantes. Primeiramente, estabelecemos um novo regime de parâmetros onde garantimos a viabilidade do problema da recuperação da estrutura, ou a consistência estrutural de um estimator. Em segundo, propomos um algoritmo de identificação da estrutura construído sobre uma nova abordagem que utiliza features. Nomeadamente, para cada par de nós, atribuímos um feature-vector e, sob o regime de parâmetros viáveis, este conjunto de features é linearmente separável. A solução proposta é uma FFNN, construída sobre um novo conjunto de features. A avaliação do desempenho mostra um aumento significativo na performance do modelo a inferir a estrutura da rede, comparativamente a outros estimators utilizados na literatura, em diferentes regimes de observabilidade, de correlação do ruído e de redes, incluindo redes esparsas e densas, e redes reais.