¿Cuál es la diferencia entre el algoritmo de avance hacia atrás en el modelo de n-gramas y el algoritmo de Viterbi en el modelo de Hidden Markov (HMM)?¿Cuál es la diferencia entre el algoritmo de avance hacia atrás y el algoritmo de Viterbi?
Cuando reviso la implementación de estos dos algoritmos, lo único que encontré es que la probabilidad de transacción proviene de diferentes modelos probabilísticos.
¿Hay alguna diferencia entre estos 2 algoritmos?
El algoritmo Forward-Backward combina el paso adelante y el paso hacia atrás para obtener la probabilidad de estar en cada estado en un momento específico. Hacer esto para todos los pasos de tiempo puede darnos una secuencia de los estados individuales más probables en cada momento (aunque no garantiza ser una secuencia válida, ya que considera el estado individual en cada paso, y puede ocurrir que la probabilidad p(q_i -> q_j)=0 en el modelo de transición), en otras palabras:
, donde 
por otro lado, el algoritmo de Viterbi encuentra la secuencia de estados más probable dada una secuencia de observación, mediante la maximización de un diferente optimalidad criterio:
que sugieren que se refieren a este documento conocido para una explicación detallada (véase el problema # 2):
Lawrence R. Rabiner, un tutorial sobre Modelos Ocultos de Markov y seleccionados Aplicaciones en el Habla reconocimiento
sucintamente:
adelante-atrás se utiliza si sólo quieren predecir lo que el testigo es más probable en un momento dado. Tomará todas las secuencias posibles en cuenta y medirá sobre ellas para encontrar el token más probable en ese momento. Entonces, la secuencia que obtendrás no será una secuencia verdadera, sino un conjunto de los tokens más probables cuando consideres todas las secuencias posibles.
Viterbi se utiliza para encontrar la secuencia de eventos más probable. Esto verá cada secuencia y simplemente seleccionará la secuencia que sea más probable.
Eche un vistazo a las páginas 262 - 264 de Rabiner's paper y todo debe quedar claro. Aquí es una respuesta directa -desde citado este papel- a su pregunta:
" ... Cabe señalar que el algoritmo de Viterbi es similar (excepto para el paso de marcha atrás) en la aplicación al delantero cálculo del algoritmo de avance-retroceso (Ecuaciones 19-21). La diferencia principal de es la maximización en (Ecuación 33a) sobre los estados previos , que se usa en lugar del procedimiento de suma en (Ecuación 20).