Evolution of Data Augmentation Strategies Applied to Medical Imaging

Abstract

Algoritmos de aprendizagem profunda são vastamente utilizados e têm alcançado os melhores resultados em diversas investigações científicas. No domínio das imagens médicas e em sistemas de diagnóstico auxiliado por computador, as redes neurais convolucionais são a arquitetura de rede profunda preferida. Apesar de se obter bons resultados, ainda existem alguns obstáculos a ultrapassar, nomeadamente o problema de sobreajuste. Para mitigar estes problemas, o aumento de dados (AD) tem vindo a integrar o fluxo de treino de redes neuronais profundas. O AD é uma técnica que permite aumentar a diversidade e o tamanho dos conjuntos de dados. Tal é conseguido através da geração de amostras sintéticas a partir das amostras de treino disponíveis.As transformações clássicas de imagens, como as transformações geométricas e de cores, são as técnicas mais populares de AD. A principal desvantagem desta técnica reside na forma como a estratégia de AD mais adequada para cada tarefa é delineada. Normalmente, as estratégias são combinações de funções de transformação com os seus respetivos parâmetros. Atualmente, a procura pela estratégia de AD mais adequada é conseguida através de métodos de tentativa e erro e depende da experiência e do tempo dos investigadores.Tendo isto em consideração, é proposta uma nova abordagem de AD capaz de definir automaticamente estratégias de AD otimizadas para cada tarefa de classificação de imagens médicas. A abordagem combina dois algoritmos, um de aprendizagem profunda e um evolucionário. Um conjunto de experiências e testes preliminares foram realizados para avaliar configurações e arquiteturas dos algoritmos. Os resultados obtidos demonstram que o mesmo nível de desempenho é atingido quer sejam aplicadas funções de transformação sem parâmetros pré-definidos como funções de transformação com parâmetros fixos. Portanto, uma abordagem de AD automática que não necessita da definição prévia das diferentes funções de transformação e parâmetros a aplicar é introduzida.

Deep Learning Algorithms are widely implemented and have reached state-of-the-art results in several scientific investigations. In medical images domain and Computer-Assisted Diagnosis (CAD) systems, Convolutional Neural Network (CNN) are the preferred deep network architecture. Despite getting good results, there are still some obstacles to overcome, namely the problem of overfitting. Lately, the Data Augmentation (DA) has been integrating the training pipeline of Deep Neural Networks (DNNs) to mitigate those issues. DA is a technique that contributes to increasing the diversity and size of training data sets. This is achieved by applying some transformations on the available training samples to generate new synthetic samples.Classical image transformations, such as geometric and colour transformations, are the most popular techniques among data augmentation. The main drawback of this technique lies in the method used to define the most adequate DA strategy for each task. Strategies are usually defined by a combination of Transformation Functions (TFs) with their respective parameters. Currently, the search for the most suitable augmentation strategy is mainly done through trial-and-error processes and depends on the experience and time of the researchers.Taking this into account, a novel data augmentation approach is proposed. This approach is able to automatically define an optimised DA strategy for each medical image classification task. The approach combines two algorithms, a deep learning algorithm and an evolutionary algorithm. A series of experiments and preliminary tests were carried out to evaluate algorithms configurations and architectures. The results obtained demonstrate that the same level of performance is achieved whether TFs without predefined parameters or TFs with fixed parameters are provided. Therefore, an automatic DA approach that does not need the previous definition of the different transformation functions and parameters is introduced.