Déjenme ayudar a explicar esto un poco.
jQuery es la base básica para jQuery Mobile y jQueryUI, algo así como el sótano es para el resto de una casa. jQuery tiene muchas herramientas geniales para manipular una página web y agregar interactividad a una página, así como muchas otras características sofisticadas que no pueden ser logradas únicamente con HTML y CSS. Aquí está su sitio para todas las cosas diferentes que se pueden hacer con jQuery solo: http://api.jquery.com/.
jQueryUI está construido sobre jQuery, muy parecido a cómo se construye el primer nivel de una casa en la parte superior de un sótano. jQuery UI contiene una serie de widgets interactivos preconstruidos que se pueden integrar fácilmente en un sitio web. Tenga en cuenta que toda la interfaz de usuario jQuery se creó utilizando simplemente jQuery, JavaScript y CSS. Es posible (y realmente fácil) replicar estos widgets usando solo jQuery. Estos muchachos fueron lo suficientemente amables para escribirlos para ti. :) Aquí hay un sitio donde puedes ver todos sus widgets: http://jqueryui.com/demos/.
La última vez que llegamos a jQuery Mobile. Esto también se basa en jQuery, pero no en la parte superior de jQuery UI. Usando mis analogías anteriores, puedes pensar que es un garaje. No está en la parte superior de un primer piso, pero se encuentra justo al lado, con un propósito diferente al de la vivienda principal de una casa. jQuery Mobile es como una combinación de jQuery y una versión ligera y alterada de jQuery UI, optimizada para usar en dispositivos móviles. En esencia, es un marco de códigos y widgets que agrega funciones y widgets similares a las aplicaciones a una página web para uso móvil. Puede hacer una demostración de jQuery Mobile aquí: http://jquerymobile.com/demos/1.1.0-rc.2/, o puede crear rápidamente su propia página jQuery Mobile usando esta herramienta de arrastrar y soltar: http://codiqa.com/.
Espero que haya sido útil para distinguir entre ellos.
jQuery Mobile es un poco inapropiado. A diferencia de jQuery, que es solo una biblioteca de JavaScript, jQuery Mobile es una especie de marco de desarrollo: viene con la estructura HTML requerida, CSS, temas, imágenes, etc. – ceejayoz
¿Cómo lo llamarías si pudieras nombrarlo? No puedo pensar en otro nombre que lo describa mejor de primera mano. –