Me interesaría una comparación entre Hotspot JIT y optimización guiada por perfil optimizada en C++.
El problema que veo con el Hotspot JIT (y cualquier compilador JIT optimizado para el perfil de tiempo de ejecución) es que las estadísticas deben mantenerse y modificarse el código. Si bien hay casos aislados, esto dará como resultado un código de ejecución más rápida, dudo que los compiladores JIT optimizados para el perfil se ejecuten más rápido que el código C o C++ optimizado en la mayoría de los casos. (Por supuesto que podría estar equivocado.)
De todos modos, generalmente estarás a merced del proyecto más grande, usando el mismo lenguaje en el que está escrito. O estarás a merced del conocimiento base de tus compañeros de trabajo. O estará a merced de la plataforma a la que se dirige (¿hay una JVM disponible en la arquitectura a la que se dirige?). En el raro caso de que tenga total libertad y esté familiarizado con ambos idiomas, haga algunas comparaciones con las herramientas que tiene a su disposición. Esa es realmente la única forma de determinar qué es lo mejor.
Antes de responder esta pregunta, recuerde que está preguntando por las redes neuronales. Creo que podemos eludir todo el debate sobre el código nativo frente al intérprete si todavía nos ocupamos del tema en cuestión. –
Buena suerte gastando 10 veces más para resolver el mismo problema en C++. –