Todo esto se explica en la documentación de MATLAB aquí: http://www.mathworks.nl/help/techdoc/ref/matlabunix.html.
-nodisplay: Inicie el software Sun Microsystems JVM, pero no inicie el escritorio MATLAB. No muestre ningún comando X e ignore la variable de entorno DISPLAY,
-nodesktop: inicie MATLAB sin abrir el escritorio de MATLAB. El software JVM se inicia. Use la ventana actual en el sistema operativo para ingresar comandos. Utilice esta opción para ejecutar sin una ventana X, por ejemplo, en el modo VT100 o en modo de procesamiento por lotes. Tenga en cuenta que si canaliza a MATLAB utilizando el constructor>, la opción nodesktop se usa automáticamente. Con nodesktop, MATLAB no guarda las declaraciones en el historial de comandos. Con nodesktop, aún puede usar la mayoría de las herramientas del entorno de desarrollo al iniciarlas a través de una función. Por ejemplo, use las preferencias para abrir el cuadro de diálogo Preferencias y el documento para abrir el navegador de Ayuda. No use nodesktop para proporcionar una interfaz de solo ventana de comando; en su lugar, seleccione Escritorio> Diseño de escritorio> Solo ventana de comandos.
-nojvm: Inicie MATLAB sin el software JVM. Use la ventana actual para ingresar comandos. El escritorio de MATLAB no se abre. No se puede usar ninguna herramienta que requiera software de Java, como las herramientas de escritorio. Los Gráficos de control y la funcionalidad relacionada no son compatibles; MATLAB produce una advertencia cuando los usa.
-nosplash: inicia MATLAB pero no muestra la pantalla de presentación durante el inicio.
puede encontrar esta discusión relevante: http://stackoverflow.com/a/6776191 – Amro