Unsupervised retinal vascular segmentation

Abstract

Retinal vascular segmentation is a crucial task in clinical practice for the early diagnosis ofophthalmological, cardiovascular, and systemic diseases such as diabetic retinopathy, glaucoma, and stroke. Colour Fundus Photography (CFP) uses a fundus camera to illuminate and image the retina, capable of displaying retinal structures such as the fovea, optic disc, and large retinal vessels. However, this retinal imaging modality is increasingly being surpassed by Optical CoherenceTomography Angiography (OCTA), which allows visualization of the retinal vasculature at different depths, revealing various retinal vascular plexuses and enhancing vascular detail, especially in small vessels and capillaries. Nevertheless, manual segmentation of OCTA images posessignificant challenges—it is time-consuming, requires high expertise, and is affected by severalsources of variability including different scanning depths, devices, protocols, and resolutions. Consequently, public OCTA databases offer different types of unrealistic and unreliable manual annotations, making the supervised approaches impractical and increasing the need to explore unsupervised methodologies. In this project, an unsupervised Deep Learning (DL)-based method was developed comprising a Convolutional Neural Network (CNN) to extract and learn the retinal vasculature, aiming to reduce variability across OCTA images. Subsequently, a k -means clustering algorithm with k =2 was applied to the feature map of the trained CNN to segment the retinal vasculature. This model was also applied to the CFP vascular segmentation. The primary findings of this project indicate that while the developed framework did not perform well in CFP vessel segmentation—achieving a Dice Similarity Coefficient (DSC) of0.463 ± 0.033 on the DRIVE database, which is not competitive with state-of-the-art results—it achieved promising results in OCTA vessel segmentation. Specifically, when trained with all databases employed in this project and using data augmentation operations during the training, the model achieved a DSC of 0.779 ± 0.029 on the PREVENT database, closely aligning with literature methodologies. Furthermore, the model demonstrated superior performance in OCTA images depicting the superficial vascular plexus (SVC) compared to a simple k-means clustering algorithm applied directly to the original images. However, future work is necessary to enhancethe model’s performance, particularly in OCTA images showing all retinal vasculature, where the model tends to oversegment.

A segmentação vascular da retina ́e uma tarefa crucial na prática clínica para o diagnóstico precoce de doenças oftalmológicas, cardiovasculares e sistémicas como a retinopatia diabética, oglaucoma e o acidente vascular cerebral (AVC). A ”Colour Fundus Photography” (CFP) usa uma câmera de fundo para iluminar e produzir imagens da retina, capaz de mostrar estruturas da retina como a fóvea, o disco ́otico e os grandes vasos da retina. No entanto, este tipo de modalidade de imagem da retina tem vindo a ser ultrapassado pela Angiografia por Tomografia de Coerência ́Otica (OCTA), que permite uma visualização da vasculatura da retina a diferentes profundidades, revelando vários complexos vasculares e melhorando o detalhe vascular, especialmente dos pequenos vasos e capilares. Contudo, a segmentação manual de imagens OCTA apresenta desafios significantes: requer bastante tempo, exige experiência na ́area e ́e afetada por várias fontes de variabilidade, incluindo diferentes profundidades de aquisição, dispositivos, protocolos e resoluções. Além disso, as bases dedados de imagens OCTA disponíveis possuem diferentes tipos de segmentações manuais que não representam a vasculatura real/total da retina e que não são fidedignos, tornando impraticável uma abordagem supervisionada e aumentando a necessidade de exploração de métodos não-supervisionados. Neste projeto foi desenvolvido um método não-supervisionado de Deep Learning (DL) constituído por uma Rede Neuronal Convolucional (CNN) capaz de extrair e aprender features como a vasculatura da retina, com o objetivo de reduzir a variabilidade nas diferentes imagens OCTA. De seguida, um algoritmo k -means clustering com k = 2 foi aplicado ao feature map da CNN treinada, para segmentar os vasos sanguíneos da retina. O modelo foi também usado para segmentar os vasos de imagens CFP. Os principais resultados deste projeto indicam que embora o modelo desenvolvido não atinja uma boa performance na segmentação dos vasos de imagens CFP - obtendo um Coeficiente de Similaridade de Dice (DSC) de 0.463±0.033 na base de dados DRIVE, que não ́e comparável com os resultados obtidos no estado da arte - o modelo atinge resultados promissores na segmentação vascular de imagens OCTA. Especificamente, quando o modelo ́e treinado com todas as bases de dados de OCTA usadas neste projeto e usando operações de ”data augmentation” durante o treino, o modelo atinge um DSC igual a 0.779 ± 0.029 na bases de dados PREVENT, alinhando-se com os resultados obtidos nas metodologias descritas na literatura. Além disso, o modelo demonstra uma performance superior em imagens OCTA que mostram o plexus vascular superior (SVC), quando comparado com um simples algoritmo de k-means clustering diretamente aplicado às imagens OCTA originais. No entanto, ́e necessário desenvolver trabalho futuro para melhorar a performance do modelo, particularmente em imagens OCTA que mostram toda a vasculatura da retina, uma vez que o modelo tende a a realizar uma segmentação excessiva neste tipo de imagens.