2008-11-20 18 views
10

Estoy buscando tareas computacionalmente pesadas para implementar con CUDA y me pregunto si se pueden aplicar redes neuronales o redes bayesianas. Esta no es mi pregunta, sin embargo, sino cuál es la relación entre los dos tipos de redes. Parecen muy relacionados, especialmente si observa redes bayesianas con una capacidad de aprendizaje (que menciona el artículo sobre wikipedia). De un vistazo, las redes bayesianas se parecen un tipo específico de redes neuronales. ¿Alguien puede resumir su relación, y si hay alguna conexión más allá de la aparente similitud?¿Cuál es la relación entre las redes bayesianas y neuronales?

+1

debería migrar a http://stats.stackexchange.com/questions –

+0

http://stats.stackexchange.com/questions/94511/difference-between-bayes-network-neural-network-petri-nets-and- Árbol de decisiones –

Respuesta

7

Las redes bayesianas representan relaciones de independencia (y dependencia) entre variables. Por lo tanto, los enlaces representan relaciones condicionales en el sentido probabilístico. Las redes neuronales, en general, no tienen una interpretación tan directa, y de hecho, los nodos intermedios de la mayoría de las redes neuronales son características descubiertas, en lugar de tener un predicado asociado a ellas por derecho propio.

+1

Hmmm ... Siempre tuve la impresión de que las estadísticas bayesianas tenían que ver con descubrir que no se asignaban relaciones. – dkretz

+1

Correcto, hasta cierto punto, y por lo tanto hay una diferencia entre aprender la estructura de una red bayesiana y aprender los parámetros de una red determinada. Resulta que puede aprender varias estructuras plausibles, pero es difícil saber si le faltan variables. Ver "Causalidad" por Judea Pearl –

+1

En realidad, cuanto más lo pienso, el punto clave para enfatizar es que los nodos y los enlaces están conectados a través de la regla de Bayes, y como tales están sujetos a actualizaciones Bayesianas con más datos. Más allá de esto, no estoy seguro de qué se puede atribuir apropiadamente como bayesiano. –

1

De hecho, lo son. Veo una red bayesiana como una red neuronal que aplica el Teorema de Baye a gran escala, pero no recuerdo los detalles. Sé dónde puedes encontrarlos y te recomiendo el libro this para eso.

2

Es is reported que las redes bayesianas son más resistentes al "sobreentrenamiento" que se ve en algunas redes neuronales. En otras palabras, algunas redes neuronales se vuelven tan "entrenadas" a las mediciones observadas que se usan en el entrenamiento que no son útiles para los casos generales.

Cuestiones relacionadas