Red neuronal 0 vs -1

He visto algunas veces personas usando -1 en comparación con 0 cuando se trabaja con redes neuronales para los datos de entrada. ¿Cómo es esto mejor y afecta a alguna de las matemáticas para implementarlo?Red neuronal 0 vs -1

Editar: Uso de alimentación directa y la espalda prop

Edición 2: me dio una oportunidad pero la red dejado de aprender así que asumir las matemáticas tendrían que cambiar alguna parte?

Editar 3: Finalmente encontré la respuesta. La matemática para binario es diferente al bipolar. Ver mi respuesta a continuación.

Fuente

2010-02-02 Louis

Recientemente se encontró que la fórmula sigmoidea y derivada sigmoidea debe cambiarse si se usa bipolar sobre binario.

función sigmoide bipolar: f(x) = -1 + 2/(1 + e^-x)

bipolar sigmoide Derivado: f’(x) = 0.5 * (1 + f(x)) * (1 – f(x))

Fuente

2010-03-09 05:49:34 Louis

gracias justo lo que estaba buscando :) – rflood89

Mire este enlace como referencia: http://www.aforgenet.com/framework/docs/html/c4a0095a-0465-4931-63e7-4c0cdbe2eacc.htm – Goaler444

gracias fue tring a Por qué mi red no se entrenaría con objetivos bipolares, darse cuenta de que el signoid no era bipolar, pero no podía encontrar la derivada, funcionaba bien ahora. – Dampsquid

Ha sido un tiempo largo, pero según recuerdo, no tiene ningún efecto en las matemáticas necesarias para implementar la red (suponiendo que no esté trabajando con un tipo de red que por alguna razón limita cualquier parte del proceso a valores no negativos). Una de las ventajas es que hace una distinción más grande entre las entradas y ayuda a amplificar la señal de aprendizaje. Del mismo modo para las salidas.

Alguien que ha hecho esto más recientemente probablemente tenga más para decir (como si el cruce 0 hace la diferencia, creo que sí). Y, en realidad, parte de esto depende exactamente del tipo de red neuronal que esté utilizando. Supongo que estás hablando de backprop o una variante de eso.

Fuente

2010-02-02 16:14:34

Sí utilizando Backprop. Puedo entender que la entrada ponderada sería diferente (es decir, si el peso fuera 1.84, la entrada de 0 daría como resultado 0 y -1 daría como resultado -1.84) pero no sé si es mejor o no, o por qué. – Louis

Tiene un efecto en las matemáticas. – Louis

-1

La red aprende rápidamente usando -1/1 entradas en comparación con 0/1. Además, si usa -1/1 entradas, 0 significa "entrada/ruido desconocido/no importa". Usaría -1/1 como entrada de mi red neuronal.

Fuente

2010-02-03 06:50:50 botismarius

Pero, ¿tengo que cambiar algo o debería funcionar simplemente reemplazando 0 por -1? Como dije, lo intenté, pero obtuve resultados extraños. El MSE siguió produciendo el mismo número a través de cada época. – Louis

Respuesta

Cuestiones relacionadas