según http://java.sun.com/javase/6/webnotes/trouble/TSG-VM/html/clopts.html debe ser posible habilitar -XX: + HeapDumpOnOutOfMemoryError utilizando JConsole en tiempo de ejecución. ¿Cómo?habilita HeapDumpOnOutOfMemoryError en tiempo de ejecución
Supongo que está en algún lugar en la pestaña MBeans y com.sun.management -> HotSpotDiagnostic -> Operations -> setVMOptions?