Redes Neurais Convolucionais profundas (Deep CNNs) revolucionaram o reconhecimento de imagens. Diferentemente de redes rasas, elas possuem muitas camadas escondidas. Cada camada aprende características cada vez mais abstratas da imagem. Primeiramente, camadas iniciais detectam bordas e texturas simples. Em seguida, camadas intermediárias reconhecem partes de objetos, como olhos ou rodas. Finalmente, as camadas finais combinam estas partes em conceitos complexos. Este aprendizado hierárquico é a grande força das CNNs profundas. Elas dispensam a engenharia manual de características. Consequentemente, alcançam desempenho superior em tarefas desafiadoras. A escolha da arquitetura certa depende do problema específico. Fatores como tamanho do conjunto de dados e poder computacional influenciam esta decisão.
lenet-5: a arquitetura pioneira para dígitos
A LeNet-5 foi desenvolvida por Yann LeCun nos anos 1990. Ela se tornou famosa pelo reconhecimento de dígitos manuscritos. Esta arquitetura possui duas camadas convolucionais intercaladas com pooling. Primeiramente, ela usa kernels pequenos de tamanho 5×5. Em seguida, aplica camadas totalmente conectadas ao final. A ativação utilizada é a tangente hiperbólica ou sigmoide. Por exemplo, a LeNet-5 processava imagens de 32×32 pixels da base MNIST. Seu uso é recomendado para problemas simples com poucas classes. Ademais, ela serve como excelente ponto de partida para iniciantes. Portanto, a LeNet-5 é uma prova de conceito fundamental na área.
alexnet: o marco da revolução do deep learning
A AlexNet venceu o desafio ImageNet em 2012. Ela foi um divisor de águas na visão computacional. Primeiramente, sua arquitetura é muito mais profunda que a LeNet-5. Ela possui oito camadas com pesos treináveis. Inovações importantes incluem o uso da ReLU como ativação. Além disso, ela introduziu o dropout para evitar overfitting. A AlexNet também utilizou aumento de dados (data augmentation) extensivamente. Por exemplo, ela classificava imagens em 1000 categorias diferentes. Recomenda-se a AlexNet para problemas com grande variabilidade de objetos. Seu uso em imagens naturais complexas é particularmente eficaz.
resnet: resolvendo o problema do gradiente vanishing
A ResNet (Residual Network) introduziu conexões residuais inovadoras. O problema do gradiente vanishing afligia redes muito profundas. Basicamente, a ResNet permite que a informação flua diretamente por atalhos. A cada duas camadas convolucionais, ela soma a entrada original à saída. Este mecanismo é chamado de “bloco residual”. Consequentemente, é possível treinar redes com mais de 100 camadas. A ResNet-50 e a ResNet-101 são versões muito populares. Por exemplo, ela é amplamente usada como base para transfer learning. Recomenda-se a ResNet quando a precisão máxima é necessária. Seu uso é ideal para conjuntos de dados grandes e diversos.
vision transformer (vit): a alternativa aos convnets
O Vision Transformer (ViT) adaptou o mecanismo de atenção aos dados visuais. Diferentemente das CNNs, ele não usa convoluções. Primeiramente, a imagem é dividida em pequenos patches quadrados. Estes patches são linearmente projetados em sequências de vetores. Em seguida, um transformer padrão processa estas sequências. A grande vantagem é capturar relações globais na imagem. Por exemplo, o ViT supera CNNs em conjuntos de dados gigantes (ImageNet-21k). Contudo, ele necessita de muito mais dados para generalizar bem. Recomenda-se o ViT quando há disponibilidade massiva de dados. Portanto, ele representa uma alternativa promissora às arquiteturas tradicionais.