Deep Mind Apresenta Raciocínio Algorítmico Neural: A Arte de Fundir Redes Neurais Com Computação Algorítmica

https://syncedreview.com/

Uma equipe de pesquisa da Deep Mind explora como as redes neurais podem ser fundidas com computação algorítmica e demonstra um pipeline neural elegante de ponta a ponta que vai direto das entradas brutas às saídas gerais enquanto emula um algoritmo internamente.

Os algoritmos estão por toda parte, eles detalham as instruções específicas de que os computadores precisam para realizar tarefas, desde veículos autônomos até sistemas de recomendação e até mesmo em seu forno de micro-ondas. 

A capacidade dos algoritmos de automatizar e projetar sistemas que raciocinam os tornou a pedra angular da sociedade contemporânea

Embora os modelos de rede neural completos também possam servir como solucionadores de tarefas e utilizar informações adicionais dos dados para adaptar os algoritmos existentes aos problemas do mundo real, uma compensação é que esses sistemas sacrificam a capacidade de generalização.

Em um novo artigo, uma equipe de pesquisa da Deep Mind explora como as redes neurais podem ser fundidas com computação algorítmica e demonstra um pipeline neural elegante de ponta a ponta que vai direto das entradas brutas às saídas gerais enquanto emula um algoritmo internamente.

Os algoritmos normalmente vêm com fortes garantias gerais e são a base para a engenharia de software em inúmeros domínios. As invariâncias de um algoritmo podem ser declaradas como uma pré-condição (especifique que tipo de entrada ele espera) e uma pós-condição (o que o algoritmo pode garantir sobre suas saídas após a execução). Apesar de suas garantias, os algoritmos são inflexíveis em relação ao problema que está sendo enfrentado

  • Por outro lado, as redes neurais que funcionam em uma determinada instância do problema não podem garantir a generalização para algumas instâncias maiores, mas podem se adaptar a uma gama mais ampla de problemas.

    Para obter o melhor dos dois mundos, estudos anteriores tentaram combinar algoritmos e aprendizado profundo.As abordagens incluem o treinamento de modelos de aprendizagem profunda usando algoritmos existentes como ferramentas externas fixas; ensinar redes neurais profundas a imitar o funcionamento de um algoritmo existente, produzindo a mesma saída; e usando vários algoritmos conhecidos e as semelhanças abstratas entre eles para permitir que os algoritmos sejam derivados.

    Normalmente, um problema do mundo real será primeiro ajustado a uma classe de problema conhecida e, em seguida, um algoritmo apropriado será escolhido para resolver o problema. 

  • Algoritmos são usados ​​para raciocinar sobre problemas em um espaço abstrato para tornar mais fácil construir coleções teóricas entre o problema alvo e a classe de problema conhecida. 
  • No entanto, esse tipo de abstração geralmente envolve perda drástica de informações, reduzindo a capacidade do sistema de retratar com precisão a dinâmica do mundo real. 
  • Para contornar esse problema, os pesquisadores da Deep Mind aplicaram o aprendizado profundo para substituir a extração manual de recursos de dados brutos, resultando em ganhos de desempenho significativos.

A ideia por trás do raciocínio algorítmico é construir redes neurais inspiradas em algoritmos que podem executar um algoritmo a partir de entradas abstratas. Seguindo esse esquema, o pipeline neural de ponta a ponta proposto é projetado para emular um algoritmo internamente e ir direto das entradas brutas às saídas gerais. 

Mais especificamente, dadas as entradas naturais que costumam ser altamente dimensionais, barulhentas e sujeitas a mudanças rápidas, o método proposto primeiro treina um raciocinador algorítmico para imitar o algoritmo. Isso produz funções de codificador e decodificador que podem transportar dados de e para o espaço latente da rede do processador. Redes neurais codificadoras e decodificadoras apropriadas são então configuradas para processar dados brutos e produzir os resultados esperados. Finalmente.

Os pesquisadores dizem que seu pipeline de raciocínio algorítmico neural oferece uma abordagem forte para a aplicação de algoritmos em entradas naturais. 

Esse modelo de raciocínio algorítmico neural já se provou útil em uma variedade de domínios, incluindo aprendizagem por reforço e montagem do genoma. 

A equipe acredita que o raciocínio algorítmico neural proposto tem um potencial transformador para executar algoritmos clássicos em entradas anteriormente consideradas inacessíveis.

O artigo Neural Algorithmic Reasoning está no arXiv.

Autor: Hecate He | Editor: Michael Sarazen

 

 

Compartilhe em suas Redes Sociais