La esencia de la Transformada Hough Generalizada es que los "lados" del acumulador son la respuesta que está buscando. Si está intentando hacer coincidir las elipses o las curvas arbitrarias, en su caso a, b, c, los parámetros deben construir el acumulador 3D y buscar el máximo allí. Google "detección de elipse utilizando transformada de Hough" o "detección de forma arbitraria utilizando transformada de Hough".
Hay muchas maneras de optimizar su búsqueda en acumuladores multidimensionales, por lo que no tenga miedo de crear un espacio con parámetros HT multidimensional; puede darle una buena visión general de su problema.
Es posible que desee dividir su búsqueda en dos etapas; por ejemplo, cree un 2D clásico para sus parámetros a y b, luego use un acumulador 1D muy simple para buscar c, esto se ha hecho en detección de bordes, pero tenga en cuenta esta división puede introducir grandes errores si a, b, c interdependientes.
Formas de optimizar Transformada Hough multidimensional: (Probabilística) Transformada Hough aleatoria, Transformada Hough híbrida y Multidimensional.
También la Transformada de Hough generalizada y la Transformada de radón son casi sinónimos, por lo que para la detección de formas arbitrarias "Transformación de radón" puede brindarle mejores ideas: Hough Transform es una versión discreta de Radon Transform continuo.
Gracias a todos: voy a leer todo esto cuando tenga la oportunidad y seleccionar una solución. – ale