Redes de Hopfield

memória associativa inspirada no cérebro

Redes de Hopfield são modelos de memória associativa que armazenam e recuperam padrões completos. Desenvolvidas por John Hopfield em 1982, elas revolucionaram o estudo de redes neurais recorrentes. Diferente de redes feedforward, elas possuem conexões simétricas e retroalimentação entre neurônios. Primeiramente, cada neurônio conecta-se a todos os outros, formando uma rede totalmente recorrente. Além disso, os pesos são simétricos (w_ij = w_ji) e não possuem autoconectividade. Por exemplo, armazenar imagens binárias e recuperá-las a partir de versões corrompidas.

dinâmica de convergência e energia

As redes de Hopfield evoluem para minimizar uma função de energia associada ao estado atual. Primeiramente, cada atualização reduz a energia até atingir um mínimo local estável. Além disso, os padrões armazenados correspondem a esses mínimos de energia no sistema. Por exemplo, uma imagem parcial atrai o sistema para o padrão completo mais próximo. O processo é determinístico e converge para estados atratores. A rede atua como um sistema de memória recuperando padrões completos a partir de pistas.

aplicações e limitações

Redes de Hopfield são usadas em otimização, reconhecimento de padrões e memória associativa. Primeiramente, podem resolver problemas de otimização combinatória como o caixeiro viajante. Além disso, recuperam imagens corrompidas como memória de conteúdo endereçável. Por exemplo, restaurar letras manuscritas com ruído para suas formas originais. No entanto, a capacidade de armazenamento é limitada (cerca de 0.14N padrões para N neurônios). Redes modernas como Hopfield contínuas e modelos de atenção expandiram essas capacidades. Para iniciantes, mostram como redes recorrentes podem implementar memória e recuperação. São a base conceitual para modelos modernos de atenção.