Este es un error en jquery-ui v1.9.1 y se corrigió en v1.10.3. Sucede para IE10 y no 11 como se indica en el jquery-ui defect report (8844).
La solución cross-browser (Probado en IE6 - 10, Firefox, Chrome, Safari y Opera) es aplicar el siguiente CSS:
.ui-menu-item
{
/* IE10 fix to remove bullets from showing outside of div*/
list-style-image: url(data:0);
}
o simplemente utilizar una versión posterior de jQuery después v1.9.1.
NOTA: esto es diferente a la respuesta de chrisvillanueva utilizar list-style: none;
al igual que un usuario publicado de manera similar en el informe de defectos, sin embargo, que solución no fue aceptado como multi-navegador y parecería que list-style-image: url(data:0);
es una mejor alternativa de acuerdo con la defecto.
¿podría mostrarnos su código ...? – user1409289