web-dev-qa-db-fra.com

Quelle est la différence entre les réseaux de neurones convolutifs et récurrents?

Je suis nouveau sur le sujet des réseaux de neurones. Je suis tombé sur les deux termes réseau neuronal convolutionnel et réseau neuronal récurrent.

Je me demande si ces deux termes font référence à la même chose ou, sinon, quelle serait la différence entre eux?

55
Tal_

Les différences entre CNN et RNN sont les suivantes:

CNN:

  1. CNN prend des entrées de taille fixe et génère des sorties de taille fixe.

  2. CNN est un type de réseau de neurones artificiels à action directe - sont des variantes de perceptrons multicouches qui sont conçus pour utiliser des quantités minimales de prétraitement.

  3. Les CNN utilisent un modèle de connectivité entre ses neurones et s'inspirent de l'organisation du cortex visuel animal, dont les neurones individuels sont disposés de manière à répondre aux régions qui se chevauchent et qui recouvrent le champ visuel.

  4. Les CNN sont idéaux pour les images et le traitement vidéo.

RNN:

  1. RNN peut gérer des longueurs d'entrée/sortie arbitraires.

  2. RNN contrairement aux réseaux de neurones à action directe - peut utiliser sa mémoire interne pour traiter des séquences arbitraires d'entrées.

  3. Les réseaux de neurones récurrents utilisent des informations chronologiques. c'est-à-dire que ce que j'ai dit en dernier aura un impact sur ce que je vais dire ensuite.

  4. Les RNN sont idéaux pour l'analyse de texte et de parole.

44
Biranchi

Les réseaux de neurones convolutifs (CNN) sont conçus pour reconnaître les images. Il a des circonvolutions à l'intérieur, qui voient les bords d'un objet reconnu sur l'image. Les réseaux de neurones récurrents (RNN) sont conçus pour reconnaître des séquences, par exemple, un signal vocal ou un texte. Le réseau récurrent a des cycles à l'intérieur qui impliquent la présence d'une mémoire courte dans le réseau. Nous avons appliqué CNN ainsi que RNN en choisissant un algorithme d'apprentissage automatique approprié pour classer les signaux EEG pour BCI: http://rnd.azoft.com/classification-eeg-signals-brain-computer-interface/

14
ice.cube

Évidemment, je suis un peu en retard ici, mais je voudrais signaler à toute personne intéressée par les réseaux neuronaux cet article . Non seulement il explique assez bien les bases, mais il vous donne également les articles originaux si vous voulez creuser plus profondément, tout en abordant toutes les architectures Neural Net les plus courantes aujourd'hui.

ice.cube a très bien répondu concernant les principales utilisations de chacun

10
ibreznik

Ces architectures sont complètement différentes, il est donc assez difficile de dire "quelle est la différence", car la seule chose en commun est le fait qu'elles sont toutes deux des réseaux de neurones.

Réseaux convolutionnels sont des réseaux avec des "champs de réception" se chevauchant effectuant des tâches de convolution.

Réseaux récurrents sont des réseaux avec des connexions récurrentes (allant dans la direction opposée du flux de signal "normal") qui forment des cycles en la topologie du réseau.

5
lejlot

En dehors des autres, dans CNN, nous utilisons généralement une fenêtre coulissante au carré 2d le long d'un axe et convolutons (avec l'image d'entrée 2D d'origine) pour identifier les motifs.

Dans RNN, nous utilisons la mémoire précédemment calculée. Si vous êtes intéressé, vous pouvez voir, LSTM (Long Short-Term Memory) qui est un type spécial de RNN.

CNN et RNN ont un point commun, car ils détectent les modèles et les séquences, c'est-à-dire que vous ne pouvez pas mélanger vos bits de données d'entrée uniques.

1
soul_departed

Tout d'abord, nous devons savoir que le NN récursif est différent du NN récurrent. Par définition du wiki,

Un réseau neuronal récursif (RNN) est une sorte de réseau neuronal profond créé en appliquant récursivement le même ensemble de poids sur une structure

En ce sens, CNN est un type de NN récursif. En revanche, le NN récurrent est un type de NN récursif basé sur la différence de temps. Par conséquent, à mon avis, le CNN et le NN récurrent sont différents, mais tous deux sont dérivés du NN récursif.

0
user2422512

Réseaux de neurones convolutifs (CNN) pour la vision par ordinateur et réseaux de neurones récurrents (RNN) pour le traitement du langage naturel.

Bien que cela puisse être appliqué dans d'autres domaines, les RNN ont l'avantage de réseaux qui peuvent faire passer des signaux dans les deux sens en introduisant des boucles dans le réseau.

Les réseaux de rétroaction sont puissants et peuvent devenir extrêmement compliqués. Les calculs dérivés de l'entrée précédente sont réinjectés dans le réseau, ce qui leur donne une sorte de mémoire. Les réseaux de rétroaction sont dynamiques: leur état change continuellement jusqu'à ce qu'ils atteignent un point d'équilibre.

0
Rk1